Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Креатив, минимализм и экологичность Креатив, минимализм и экологичность

Как тренды в дизайне упаковки меняют наше представление о привычных товарах

РБК
Поимка «тихого убийцы» Поимка «тихого убийцы»

Нобелевская премия 2020 года присуждена за открытие вируса гепатита C

Наука и жизнь
Она вышивает мечты Она вышивает мечты

Самая яркая звезда на небосклоне высокой моды Поднебесной — талантливая Гуо Пей

Y Magazine
Безотходная пшеница для космического огорода Безотходная пшеница для космического огорода

Как работают биолого-технические замкнутые системы жизнеобеспечения человека

Наука и жизнь
Какая-то трава вместо чая Какая-то трава вместо чая

Каркаде и ройбуш — конкуренты традиционного чая

Наука и жизнь
«Пандемия сорвала маски: стало очевидно, кто на что способен» «Пандемия сорвала маски: стало очевидно, кто на что способен»

Почему пандемия повысит спрос на позитивный менеджмент в российских компаниях?

РБК
В свете полной луны… В свете полной луны…

...происходят странные вещи с поведением животных

Вокруг света
Сыр, пир и мир в медицинской маске Сыр, пир и мир в медицинской маске

Почему гостей истринского сырного фестиваля пугали цены на вино

Forbes
«Здоровое питание человека начинается со здорового питания животных» «Здоровое питание человека начинается со здорового питания животных»

Иоганн-Каспар Гаммелин — о новых технологиях, которые повышают экологичность

РБК
«Положительные эмоции клиента — самое ценное в премиальном сегменте» «Положительные эмоции клиента — самое ценное в премиальном сегменте»

Какие банковские продукты и решения предпочитают премиальные клиенты банков?

РБК
Медная река Медная река

Как работает брутальный бизнес Игоря Алтушкина

Forbes
Путешествие на выходные: Русский Версаль Путешествие на выходные: Русский Версаль

Путешествие в прошлое

Seasons of life
Кто в тереме живет? Кто в тереме живет?

Жостовские шкатулки и русские терема подсказали дизайнерам интерьер квартиры

AD
Вокруг да около Лувра Вокруг да около Лувра

Все, что вы хотели бы узнать о самом знаменитом музее мира, под одним переплетом

Forbes
Приключения Электроника Приключения Электроника

Фабрика «цифровых сотрудников» позволяет людям не чувствовать себя роботами

Forbes
С зубром лицом к лицу С зубром лицом к лицу

Единственный из видов диких быков Европы, уцелевший до наших дней

Наука и жизнь
С упорством трактора С упорством трактора

Металлургия занимает одно из главных мест в российской экономике

РБК
Пациенты новой ориентации Пациенты новой ориентации

Объемы предоставления платных медуслуг в России снижаются

РБК
На одной ноте На одной ноте

Что помогло Майклу Джексону 5 раз получить премию «Грэмми»

Вокруг света
О чём тот дуб молчит красноречиво… О чём тот дуб молчит красноречиво…

Ириновский дуб — памятник живой природы

Наука и жизнь
Без возрастных ограничений Без возрастных ограничений

Декоратор Натела Манкаева сделала интерьер, отвечающий вкусам двух поколений

AD
Дом для современного человека Дом для современного человека

Вернулся к жизни дом Наркомфина — главный шедевр эпохи конструктивизма в Москве

AD
Ветви одного дерева Ветви одного дерева

Этот герой родился в джунглях, работает в Джакарте и рассказывает о об асматах

Вокруг света
DANYA #6 DANYA #6

Как 18-летний сирота из Оренбурга стал кумиром зумеров

Forbes
Франчайзи отвечают сиюминутным запросам потребителей Франчайзи отвечают сиюминутным запросам потребителей

Пандемия стала драйвером роста для отдельных сегментов рынка франчайзинга

РБК
Высыпаемся: правила сна для мам Высыпаемся: правила сна для мам

Ничего лучше для восстановления сил, чем сон, пока не придумали!

Seasons of life
Электрический аммиак Электрический аммиак

Растворённые в воде нитраты можно превращать в полезный аммиак

Наука и жизнь
Жизнь в кислотных облаках Жизнь в кислотных облаках

Как могла бы выглядеть венерианская жизнь?

Наука и жизнь
Под крышей дома твоего Под крышей дома твоего

Архитектор Наталия Мольбо оформила в Воронеже квартиру с мансардой

AD
Больной человек Европы Больной человек Европы

История прокладки Багдадской железной дороги, приблизившей Первую мировую войну

Forbes
Открыть в приложении