Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Татьяна Липская: «Устойчивое будущее не так далеко, как кажется» Татьяна Липская: «Устойчивое будущее не так далеко, как кажется»

Почему бизнес-сообщество должно нести ответственность за будущее планеты

РБК
Несколько страниц из жизни… пня Несколько страниц из жизни… пня

Пень многолик. Присмотримся к нему повнимательнее

Наука и жизнь
Слово редактора Слово редактора

На самом деле, нет более открытых миру людей, чем яхтсмены

Y Magazine
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Елки-палки Елки-палки

Что пошло не так с стартапом по озеленению леса Maraquia

Forbes
«Черкизово». Наследники. Алтай «Черкизово». Наследники. Алтай

Почему Игорь Бабаев отдал весь свой бизнес сыновьям

Forbes
Кость даю Кость даю

Семейная коллекция северного косторезного искусства Михаила Карисалова

Forbes
Экономика на высоких технологиях Экономика на высоких технологиях

Развитие ИТ-индустрии в Москвоской области стимулируется дополнительно

РБК
Пляшем от печки Пляшем от печки

Мансарда в районе Старого Арбата с дизайнерской голландкой посередине

AD
Город без нагромождений Город без нагромождений

Новое оборудование для сотовых сетей не портит городских пейзажей

РБК
Новая домашняя подъемная машина Новая домашняя подъемная машина

Наши города и здания часто напоминают полосу препятствий

Наука и жизнь
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Умная почка Умная почка

Почки создают условия для высокой эффективности работы клеток всех органов

Наука и жизнь
Как вспышка на солнце «объяснила» происхождение заброшенной крепости Как вспышка на солнце «объяснила» происхождение заброшенной крепости

Дендрохронология помогла установить дату строительства древней крепости

Наука и жизнь
Три десятилетия Игнобеля: от памяти воды до чистящей слюны Три десятилетия Игнобеля: от памяти воды до чистящей слюны

Открытия, за которые в разные годы присуждали Игнобелевскую премию

Наука и жизнь
Как живётся в Арктике белым медведям и людям Как живётся в Арктике белым медведям и людям

Каково это — работать на Крайнем Севере, и как ведется изучение белых медведей?

Наука и жизнь
Тайны брянского Лас-Вегаса Тайны брянского Лас-Вегаса

Кто стоит за самым загадочным букмекером на российском рынке

Forbes
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
Новое изобретение для телефона Новое изобретение для телефона

С момента изобретения телефона техника для связи успела сильно измениться

Наука и жизнь
Поимка «тихого убийцы» Поимка «тихого убийцы»

Нобелевская премия 2020 года присуждена за открытие вируса гепатита C

Наука и жизнь
Дождь не помеха: 6 веселых игр для детей осенью Дождь не помеха: 6 веселых игр для детей осенью

Осадки — не повод прекращать веселиться, и наши дети знают это лучше всех

Seasons of life
Какая-то трава вместо чая Какая-то трава вместо чая

Каркаде и ройбуш — конкуренты традиционного чая

Наука и жизнь
Пациенты новой ориентации Пациенты новой ориентации

Объемы предоставления платных медуслуг в России снижаются

РБК
Медная река Медная река

Как работает брутальный бизнес Игоря Алтушкина

Forbes
Китайская династия Китайская династия

Мария Брагинская оформила интерьер квартиры для ценителя китайского антиквариата

AD
Свои парни Свои парни

Ставка на прорабов сделала «Петровича» крупнейшим продавцом стройматериалов

Forbes
Открыть в приложении