Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБКHi-Tech

Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха Максим Федоров рассказал РБК, к чему может привести неконтролируемое использование искусственного интеллекта и почему вполне реально повторение сюжета фантастических фильмов про любовь человека к машине.

Подготовила Людмила Клейменова

0:00 /
512.415
Фото: из личного архива

1Что такое искусственный интеллект (ИИ)?

Существует более 100 определений ИИ. Для меня ИИ — это система из нескольких компонентов, анализ, сбор и обработка данных, принятие решений на их основе и выполнение таких решений. Подобные системы могут называться ИИ.

Изначально термин произошел от английского слова intelligence, в котором заключены два смысла. Первый смысл — это сбор и обработка данных. Второй — непосредственно интеллект.

В 1950-х годах термин был введен именно в значении «искусственная система сбора и обработки данных». Не подразумевалось ничего, связанного с сознанием или когнитивными функциями человека.

2Сильный и слабый ИИ: в чем разница?

Сильный ИИ — это системы, которые могут воспроизводить и превышать весь спектр когнитивных способностей человека.

Слабый ИИ — это простые алгоритмы, с которыми мы сталкиваемся ежедневно: голосовые помощники, распознавание лиц, шахматные программы и т.д. В основном весь хайп, который мы сейчас наблюдаем, связан со слабым ИИ.

Сильного ИИ пока нет, и вряд ли он появится в обозримом будущем.

3Что такое этика ИИ?

Этики ИИ как таковой быть не может. Этика — это человеческая характеристика. Скорее, мы говорим про этику использования ИИ. То есть как люди должны правильно использовать ИИ.

4ИИ — субъект или объект?

От ряда стран поступают предложения о придании ИИ статуса квазичлена общества. Я считаю, что это очень вредное направление. Оно может привести к технорасизму, так как за каждой вещью стоит ее создатель или обладатель. То есть если я стукну кого-то молотком, будет однозначно понятно, что виноват я? Но если придать молотку субъектность, то начинается простор для размышлений: может, молоток сам ударил — давайте накажем молоток, разберем его и так далее. А я вроде как и не виноват уже, хотя стукнул-то я. То же самое в плане сложных систем.

5Кому выгодно наделять машины правами?

Есть группы заинтересованных лиц, которым хочется получать выгоду, но не хочется получать негативные рекламации. Поэтому они пытаются сделать хитрый ход — дать ИИ права и законно его поощрять или наказывать.

Техническим специалистам это кажется бредом, но идея активно продвигается на международных площадках. Потому что производитель получает прибыль от продажи устройства, обладатель может получать прибыль от использования, а если устройство наносит какой-то вред, то человек не виноват. История очень непростая и, я бы сказал, политизированная. В ней крутится много денег.

6Что такое цифровое неравенство?

Это неравный доступ к технологиям на уровне отдельных лиц, компаний или государств. Эта проблема касается не только ИИ. Подобные вопросы можно поднять и в технологиях аграрной области. Известно, что во многих странах сельскохозяйственные корпорации вытеснили локальных производителей, что привело к большому количеству экологических, социальных и других проблем.

7Главные отличия ИИ от других технологий?

Первое отличие ИИ от ряда других технологий — его распределенность. ИИ делокализован по определению. Это целый стек технологий, комбинация из наборов программных продуктов и железа, который распределен по всему миру через интернет. Поэтому ИИ может практически мгновенно распространять решения по всей планете. И человек может просто не отреагировать.

Скорости, на которых работают технологии ИИ, существенно выше скоростей человеческого мозга. Человек просто не в состоянии контролировать ряд процессов, которые ИИ выполняет за малые доли секунды.

Но насколько мы готовы к тому, что все больше и больше функций будет передано ИИ? Это достаточно опасный тренд.

Наконец, ИИ — это денационализация. В случае с ИИ сложно понять его принадлежность, какие интересы преследует технология.

8Человек способен полюбить робота?

Есть масса этических проблем, связанных с эмпатией, которую вызывают новые системы социальных роботов — это роботы, которые разработаны специально для ухода за престарелыми, больными. Насколько они должны быть близки к человеку по характеристикам и вызывать эмпатию? Или, наоборот, они должны быть специально сделаны нечеловекоподобными, чтобы не вызывать симпатию? Для многих людей это личностная трагедия. В моей практике был такой случай. Человек общался с ИИ в диалоговой системе, они «подружились». Но роботы не умеют дружить, они просто отвечают на запросы. А потом пришел хозяин и забрал робота, закрыл аккаунт. А у человека словно друг исчез.

9Почему чувства к машине — это неестественно?

Есть такое профессиональное понятие «липкие технологии» — когда человек к ним привыкает. Потому что там и голос, и интонации — полная иллюзия. Понимаете, в чем проблема? Все — иллюзия, у технологий нет сознания, они не умеют страдать и любить, но могут вызывать какие-то эмоции у людей. И владельцы технологий могут манипулировать людьми. Уже есть случаи вымогательства денег за продолжение пользования машиной. На этом должны быть сфокусированы разговоры об этике ИИ. Технологии не должны быть «липкими». Они должны четко демонстрировать, что вы разговариваете не с человеком.

10Есть ли предел в развитии ИИ?

Развитие ИИ ограничено из-за большого количества электроэнергии, которое потребляют эти системы. Некоторые надежды возлагаются на квантовые технологии, но если мы говорим о полупроводниках, то на плато развития мы уже почти пришли. И дальше энергии для развития уже не хватит. То есть мы очень близки к пределу. Я бы сказал, что скоро мы увидим замедление развития технологий в текущей парадигме, но это не значит, что нет рисков.

Максим Федоров — вице-президент Сколтеха в области искусственного интеллекта и математического моделирования, профессор, член экспертной группы ЮНЕСКО по выработке рекомендаций этических принципов разработки и использования искусственного интеллекта.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Наука инвестировать Наука инвестировать

В каких областях и в каких объемах финансируются исследования малого бизнеса

РБК
Медузомицет или комбуча? Медузомицет или комбуча?

Чайный гриб вновь стал популярным. Полезен ли он и чем отличается от комбучи?

Наука и жизнь
«Двойка» за хорошее поведение «Двойка» за хорошее поведение

BMW M2 Gran Coupe: баварское купе, которое на самом деле седан

Автопилот
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Экономика на высоких технологиях Экономика на высоких технологиях

Развитие ИТ-индустрии в Москвоской области стимулируется дополнительно

РБК
Умная почка Умная почка

Почки создают условия для высокой эффективности работы клеток всех органов

Наука и жизнь
Елки-палки Елки-палки

Что пошло не так с стартапом по озеленению леса Maraquia

Forbes
Девичьи грезы Девичьи грезы

Хозяйка этой квартиры мечтала воссоздать обстановку своего детства

AD
Несколько страниц из жизни… пня Несколько страниц из жизни… пня

Пень многолик. Присмотримся к нему повнимательнее

Наука и жизнь
Типично псковские дали Типично псковские дали

Едем на длинные выходные в Псковскую область

Seasons of life
Приключения Электроника Приключения Электроника

Фабрика «цифровых сотрудников» позволяет людям не чувствовать себя роботами

Forbes
Франчайзи отвечают сиюминутным запросам потребителей Франчайзи отвечают сиюминутным запросам потребителей

Пандемия стала драйвером роста для отдельных сегментов рынка франчайзинга

РБК
Сыр, пир и мир в медицинской маске Сыр, пир и мир в медицинской маске

Почему гостей истринского сырного фестиваля пугали цены на вино

Forbes
С зубром лицом к лицу С зубром лицом к лицу

Единственный из видов диких быков Европы, уцелевший до наших дней

Наука и жизнь
Заповедники: «Умный дом» для природы Заповедники: «Умный дом» для природы

Уйдут ли заповедники в прошлое или, наоборот, станут более востребованными?

Наука и жизнь
Премьерный показ Премьерный показ

Новая квартира танцоров Мариинского театра Владимира и Марии Шкляровых

AD
Трагическое наследство Трагическое наследство

Как Катерина Босов оказалась втянутой в борьбу за активы мужа

Forbes
Электрический аммиак Электрический аммиак

Растворённые в воде нитраты можно превращать в полезный аммиак

Наука и жизнь
Жизнь в кислотных облаках Жизнь в кислотных облаках

Как могла бы выглядеть венерианская жизнь?

Наука и жизнь
«Эндаумент — это не про деньги, а про возможность одних людей помогать другим» «Эндаумент — это не про деньги, а про возможность одних людей помогать другим»

Как российские эндаументы зарабатывают на добрые дела и что им мешает это делать

РБК
Вокруг да около Лувра Вокруг да около Лувра

Все, что вы хотели бы узнать о самом знаменитом музее мира, под одним переплетом

Forbes
Беспокойная ночь Беспокойная ночь

Как мексиканцы отмечают День мертвых

Вокруг света
Без возрастных ограничений Без возрастных ограничений

Декоратор Натела Манкаева сделала интерьер, отвечающий вкусам двух поколений

AD
Что нам стоит дом построить Что нам стоит дом построить

Что можно построить из дерева и почему стоит полюбить этот натуральный материал

AD
«Жар-птица» Арктики «Жар-птица» Арктики

Самая редкая птица Арктики — розовая чайка

Наука и жизнь
На одной ноте На одной ноте

Что помогло Майклу Джексону 5 раз получить премию «Грэмми»

Вокруг света
«Положительные эмоции клиента — самое ценное в премиальном сегменте» «Положительные эмоции клиента — самое ценное в премиальном сегменте»

Какие банковские продукты и решения предпочитают премиальные клиенты банков?

РБК
Эти странные силы инерции Эти странные силы инерции

Силы инерции — очень необычны

Наука и жизнь
Жуки-навозники: 70 миллионов лет эволюции Жуки-навозники: 70 миллионов лет эволюции

Деятельность жуков-навозников имеет воистину планетарное значение

Наука и жизнь
Престо, модерато, адажио Престо, модерато, адажио

Фантастическая повесть Игоря Вереснева

Наука и жизнь
Открыть в приложении