Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Вино в кино на все времена Вино в кино на все времена

Кинокартины, которые помогут погрузиться в эномир и узнать больше о виноделии

РБК
Этан, метан, азот и Титан Этан, метан, азот и Титан

Титан можно было бы даже сравнить с Землёй, если бы не одно «но»

Наука и жизнь
Слово редактора Слово редактора

На самом деле, нет более открытых миру людей, чем яхтсмены

Y Magazine
Типично псковские дали Типично псковские дали

Едем на длинные выходные в Псковскую область

Seasons of life
Новое изобретение для телефона Новое изобретение для телефона

С момента изобретения телефона техника для связи успела сильно измениться

Наука и жизнь
Как вспышка на солнце «объяснила» происхождение заброшенной крепости Как вспышка на солнце «объяснила» происхождение заброшенной крепости

Дендрохронология помогла установить дату строительства древней крепости

Наука и жизнь
Напустил туман Напустил туман

Георгианский особняк в Лондоне и традиционный английский интерьер

AD
Город без нагромождений Город без нагромождений

Новое оборудование для сотовых сетей не портит городских пейзажей

РБК
Пляшем от печки Пляшем от печки

Мансарда в районе Старого Арбата с дизайнерской голландкой посередине

AD
Пазл сложился Пазл сложился

Квартира мечты в сталинском доме близ Тимирязевского лесопарка

AD
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Медленное чтение: семь книг о художественной жизни начала XX века Медленное чтение: семь книг о художественной жизни начала XX века

Семь книг о художественной жизни начала XX века

Seasons of life
Ананасы в шампанском — это пульс вечеров! Ананасы в шампанском — это пульс вечеров!

О литературном и гастрономическом вкусе Серебряного века

Наука и жизнь
«Черкизово». Наследники. Алтай «Черкизово». Наследники. Алтай

Почему Игорь Бабаев отдал весь свой бизнес сыновьям

Forbes
Сказки на ночь: 19 книг, которые помогут ребенку уснуть Сказки на ночь: 19 книг, которые помогут ребенку уснуть

Любимые книги, которые стоит читать перед сном

Seasons of life
По течению реки По течению реки

Небольшой домик на берегу Волги в соответствии с философией ваби‑саби

AD
Кто в тереме живет? Кто в тереме живет?

Жостовские шкатулки и русские терема подсказали дизайнерам интерьер квартиры

AD
Пока огонь горит Пока огонь горит

Африка — колыбель человечества, а ЮАР — многонациональная и разнородная страны

Вокруг света
Остров тишины Остров тишины

Брутальная пятидесятишестиметровая квартира по проекту Марии Петровой

AD
Из России с дизайном Из России с дизайном

Российские дизайнеры рассказывают, как им удалось открыть “окно в Европу”

AD
Премьерный показ Премьерный показ

Новая квартира танцоров Мариинского театра Владимира и Марии Шкляровых

AD
Под крышей дома твоего Под крышей дома твоего

Архитектор Наталия Мольбо оформила в Воронеже квартиру с мансардой

AD
Приватный арсенал Приватный арсенал

Из чего состоит оружейная коллекция миллиардера Игоря Алтушкина

Forbes
Пациенты новой ориентации Пациенты новой ориентации

Объемы предоставления платных медуслуг в России снижаются

РБК
Приключения Электроника Приключения Электроника

Фабрика «цифровых сотрудников» позволяет людям не чувствовать себя роботами

Forbes
Свои парни Свои парни

Ставка на прорабов сделала «Петровича» крупнейшим продавцом стройматериалов

Forbes
«Положительные эмоции клиента — самое ценное в премиальном сегменте» «Положительные эмоции клиента — самое ценное в премиальном сегменте»

Какие банковские продукты и решения предпочитают премиальные клиенты банков?

РБК
В области балета В области балета

Сергей Дягилев — феномен русского балета и создатель легендарных русских сезонов

Вокруг света
«Здоровое питание человека начинается со здорового питания животных» «Здоровое питание человека начинается со здорового питания животных»

Иоганн-Каспар Гаммелин — о новых технологиях, которые повышают экологичность

РБК
Что нам стоит дом построить Что нам стоит дом построить

Что можно построить из дерева и почему стоит полюбить этот натуральный материал

AD
Открыть в приложении