Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Необычные пейринги к вину: мнения сомелье Необычные пейринги к вину: мнения сомелье

Какие можно попробовать неожиданные и необычные пары к вину?

РБК
Медленное чтение: семь книг о художественной жизни начала XX века Медленное чтение: семь книг о художественной жизни начала XX века

Семь книг о художественной жизни начала XX века

Seasons of life
«Двойка» за хорошее поведение «Двойка» за хорошее поведение

BMW M2 Gran Coupe: баварское купе, которое на самом деле седан

Автопилот
Любимые рецепты Лали Чочия. Маффины из тыквы Любимые рецепты Лали Чочия. Маффины из тыквы

Лали Чочия делится рецептом сытных и полезных тыквенных маффинов

Seasons of life
Медузомицет или комбуча? Медузомицет или комбуча?

Чайный гриб вновь стал популярным. Полезен ли он и чем отличается от комбучи?

Наука и жизнь
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Отпуск по обмену Отпуск по обмену

Восстановление дома 1485 года постройки

AD
Радуга над мысом Горн Радуга над мысом Горн

История одного морского круиза

Наука и жизнь
Типично псковские дали Типично псковские дали

Едем на длинные выходные в Псковскую область

Seasons of life
Как живётся в Арктике белым медведям и людям Как живётся в Арктике белым медведям и людям

Каково это — работать на Крайнем Севере, и как ведется изучение белых медведей?

Наука и жизнь
Напустил туман Напустил туман

Георгианский особняк в Лондоне и традиционный английский интерьер

AD
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Этан, метан, азот и Титан Этан, метан, азот и Титан

Титан можно было бы даже сравнить с Землёй, если бы не одно «но»

Наука и жизнь
Как вспышка на солнце «объяснила» происхождение заброшенной крепости Как вспышка на солнце «объяснила» происхождение заброшенной крепости

Дендрохронология помогла установить дату строительства древней крепости

Наука и жизнь
Три десятилетия Игнобеля: от памяти воды до чистящей слюны Три десятилетия Игнобеля: от памяти воды до чистящей слюны

Открытия, за которые в разные годы присуждали Игнобелевскую премию

Наука и жизнь
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Сказки на ночь: 19 книг, которые помогут ребенку уснуть Сказки на ночь: 19 книг, которые помогут ребенку уснуть

Любимые книги, которые стоит читать перед сном

Seasons of life
Авторская кухня Авторская кухня

Ресторатор Илья Тютенков за девять лет запустил шесть модных заведений в Москве

Forbes
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Систему предсказания цвета глаз и волос по ДНК уточнили Систему предсказания цвета глаз и волос по ДНК уточнили

Генетики создали панель SNP маркеров для помощи криминалистам и палеогенетикам

Наука и жизнь
Жизнь в кислотных облаках Жизнь в кислотных облаках

Как могла бы выглядеть венерианская жизнь?

Наука и жизнь
«Пандемия сорвала маски: стало очевидно, кто на что способен» «Пандемия сорвала маски: стало очевидно, кто на что способен»

Почему пандемия повысит спрос на позитивный менеджмент в российских компаниях?

РБК
Приватный арсенал Приватный арсенал

Из чего состоит оружейная коллекция миллиардера Игоря Алтушкина

Forbes
Светлана Чупшева: «Создателем трендов может быть любой человек» Светлана Чупшева: «Создателем трендов может быть любой человек»

Светлана Чупшева возглавляет Агентство стратегических инициатив с 2017 года

РБК
Сообразим на троих Сообразим на троих

Сергей Студенников в одиночку создал гигантскую сеть «Красное & Белое»

Forbes
Заповедники: «Умный дом» для природы Заповедники: «Умный дом» для природы

Уйдут ли заповедники в прошлое или, наоборот, станут более востребованными?

Наука и жизнь
«Положительные эмоции клиента — самое ценное в премиальном сегменте» «Положительные эмоции клиента — самое ценное в премиальном сегменте»

Какие банковские продукты и решения предпочитают премиальные клиенты банков?

РБК
С упорством трактора С упорством трактора

Металлургия занимает одно из главных мест в российской экономике

РБК
На одной ноте На одной ноте

Что помогло Майклу Джексону 5 раз получить премию «Грэмми»

Вокруг света
Беспокойная ночь Беспокойная ночь

Как мексиканцы отмечают День мертвых

Вокруг света
Открыть в приложении