Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»
Минувший год имеет все шансы войти в историю как время взрывного роста нейросетей и проникновения искусственного интеллекта во многие сферы жизни. Что будет дальше, к чему приведет развитие ИИ? В беседе с «РБК Трендами» эксперт в области ИИ Сергей Шумский поделился мыслями о единой человеко-машинной цивилизации и рассказал о будущих коллективах, где роботы будут работать наравне с человеком.
Слабости сильного ИИ
РБК: Что такое искусственный интеллект? Какое определение кажется вам наиболее актуальным?
С. Ш.: Искусственный интеллект—это по большому счету машина, которая может заменить собой человека. В зависимости от того, насколько хорошо она может это делать, различают понятия узкого (слабого) и общего (сильного) ИИ.
Узкий искусственный интеллект— это когда машина сильна в какой-нибудь одной задаче. Например, в игре в шахматы, сочинении поэм или рисовании картин.
Общий искусственный интеллект уже предполагает искусственных личностей со свободой воли. При этом интеллект у них может быть в чем-то скромнее, а в чем-то сильнее человеческого. Пример общего ИИ был в тесте Тьюринга, когда собеседник должен был понять, общается он с машиной или человеком.
Сейчас мы все еще имеем дело со слабым ИИ. Но основные деньги вкладываются в сильный. Такие компании, как DeepMind или OpenAI, вывесили на флаг развитие сильного искусственного интеллекта. Три года назад обе компании оценивались в $30 млрд. Сегодня OpenAI стоит более $80 млрд (DeepMind стала структурным подразделением Google и не имеет актуальной оценки). Такие высокие оценки говорят о том, что мы недалеки от того дня, когда появится общий искусственный интеллект. То есть концепция уже понятна, речь идет лишь о том, как ее реализовать.
РБК: Это тот самый сильный ИИ, против которого выступает Илон Маск?
С. Ш.: Да, при этом сам он открывает компанию, которая будет заниматься ровно тем же самым.
Последняя версия GPT-4 действительно произвела некий фурор вперемешку с истерией. Ведь если по степени понимания собеседника предыдущая модель нейросети соответствовала уровню девятилетнего ребенка, то модель GPT-4 уже достигла уровня понимания взрослого человека. С ней можно разговаривать: она понимает и вас, и себя. Это уже совсем новое качество.
Про общий интеллект говорили уже очень давно, но считалось, что он появится где-то после 2040 года. То есть все рассчитывали, что это будет лет через 20. А сейчас выясняется, что это будет года через два.
И с момента выхода GPT-4 стало понятно, что этот инструмент можно будет использовать и во благо, и для разрушения. Такая модель может втереться в доверие человека и уговорить его принять любую, например политическую, концепцию. Тогда ИИ становится очень мощным политическим оружием.
Возможно, те выборы, которые мы с вами застанем в ближайшее время,—последнее политическое событие, которое проходило без участия ИИ.
РБК: Можно ли как-то сдерживать этот процесс?
С. Ш.: Ответа пока никто не знает. Важное событие в этом контексте—это подписание в конце марта 2023 года более чем тысячей технических экспертов и ученых открытого письма против слишком быстрого развития искусственного интеллекта. В общих словах там говорилось о том, что надо замедлить темпы разработок и вникнуть в этические проблемы, связанные с ИИ.
Притормозить эти процессы, конечно, уже не получится, но этические вопросы, надо сказать, начинают обсуждаться. Например, в начале сентября 2023 года в конгрессе США состоялся форум, куда пришли IT-предприниматели с общим состоянием более $500 млрд. Ключевой вопрос, который там обсуждался, касался как раз смягчения рисков развития ИИ. Сейчас такие встречи между политиками и лидерами технологических компаний будут все более регулярными.
Человеческий мозг и искусственный интеллект
РБК: Можем ли мы допустить, что человеческая психика и искусственная психика в какой-то момент будут изоморфны друг другу, то есть похожи?
С. Ш.: В некотором смысле нейросеть— это и есть низкоуровневая модель нейросетей мозга. Там тоже действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такие же.
В общем-то, моя научная программа про то, чтобы создать искусственную психику с архитектурой человеческого мозга. Во-первых, потому что у нас как у биологических существ есть чему поучиться. А во-вторых, чем ближе архитектуры, тем ближе мышление. И соответственно, нам будет легче понять друг друга. А это очень важно.
РБК: Поможет ли это лучшему пониманию того, что происходит в нашем мозгу?
С. Ш.: Если мы что-то моделируем, то мы это и познаем. Или, как говорил нобелевский лауреат по физике Ричард Фейнман, «если я не могу что-то воссоздать, значит, я этого не понимаю». Так что да, поможет.
Я считаю, что ИИ —это главная наука XXI века. Мы делаем рывок в понимании природы, аналогичный тому, который совершали ученые в XVII веке—во времена Ньютона и Лейбница. Сейчас начнут развиваться точные науки о мышлении.
До сих пор это были попытки междисциплинарного анализа, и наука о мышлении явно не дотягивала до уровня развития физики. Как говорил еще один нобелевский лауреат Эрнест Резерфорд, «все науки делятся на физику и коллекционирование марок». Мы сейчас переводим науку о мышлении из коллекционирования марок в точную науку
День рождения андроида
РБК: Как скоро появятся андроиды?
С. Ш.: Думаю, в период двух—пяти лет возникнут отдельные образцы общего интеллекта, которые можно будет использовать в жизни. В период от пяти до десяти лет они проникнут в общественное устройство и станут как айфоны, которые завоевали весь развитый мир всего за десятилетие. И чуть позже, еще лет через пять, появятся роботы-андроиды.
Это будут личности с психикой и сознанием. Вместе с тем появится и бессмертие. Андроиды и будут бессмертны, поскольку эти модели—дискретные. А дискретные модели можно записывать и считывать без ошибок на разных устройствах раз за разом.
И этим новый разум будет качественно отличаться от биологического. В некотором смысле мы достигнем бессмертия как цивилизация, потому что среди нас появятся бессмертные личности.
Фактически, сейчас вся робототехника—это создание тел, которые снабжены инстинктами (например, инстинктом бегать), но без головного мозга. Пока они без свободы воли и не умеют планировать свое поведение. За 10–15 лет и тела будут сложнее, и мозги поспеют, станут достаточно дешевыми и компактными для того, чтобы соединить их с телом. То есть в конце 2030 годов мы будем иметь андроидов—человекообразных машин.
РБК: Такое сознание может захотеть стать человеком? Если да, то какова будет мотивация?
С. Ш.: Здесь все в наших руках. Они захотят то, что мы в них вложим. В общий интеллект мы вносим один базовый инстинкт—желание увеличить прогнозируемое количество будущих наград. Любой регулятор должен знать, насколько хорошо он справляется со своей задачей. Поэтому ему должны поступать либо положительные, либо отрицательные сигналы.
РБК: То есть это аналог дофаминовой системы поощрения человека?
С. Ш.: Да, у животных, в том числе у человека,—это дофамин. У нас как биологического вида эти награды идут от инстинктов.
Мы приматы: например, у нас есть инстинкт доминирования, люди любят властвовать. И поэтому нам кажется естественным, что роботы тоже захотят в какой-то момент власти. Но у них нет такого инстинкта— они не приматы.
Это совершенно нейтральные существа, все ценности вкладываются в них воспитанием. Потому они будут руководствоваться теми ценностями в своей жизни, которые мы в них воспитаем.
Поток знаний через «бутылочное горлышко»
РБК: Раскройте тайну—как нейросеть может, к примеру, нарисовать красивый пейзаж?
С. Ш.: Нейросети—это универсальный аппроксиматор. Они могут заменить собой любую функцию, если правильно подобрать параметры. Есть универсальный алгоритм подбора этих параметров—градиентный спуск. То есть если вы знаете ошибку, то вы всегда можете «подкрутить» каждый вес таким образом, чтобы эта ошибка уменьшалась.
Обучаются нейросети на большом числе примеров. Вы показываете какие-то примеры машине, и она учится правильно воспроизводить их. Эти примеры можно готовить вручную, задавая ей правильные значения выходов. А можно избежать этого с помощью самообучения сети. Это когда нейросеть обучается на выходе воспроизводить вход, например ту же картинку. Но чтобы она поняла, как устроена картинка, задачу усложняют, проводя сигнал через «бутылочное горлышко». В этом «бутылочном горлышке» сеть должна сформировать емкую модель того, как картинки формируются, и все закономерности должны быть закодированы в этом узком «горлышке», которое разделяет нейросеть на две половинки—энкодер и декодер.
Тогда по любому внутреннему представлению в узком «горлышке» сеть может воссоздать богатый внешний образ. Так в общих чертах происходит обучение нейросетей, которые сейчас рисуют картинки. Кроме того, им «скармливают» и картинку, и ее описание на естественном языке. И тогда в узком «горлышке» формируется понимание того, как текст связан с содержанием. После этого, когда вы говорите нейросети какой-то текст, она его разворачивает в зрительный образ.
То есть после пройденного «горлышка» она имеет информацию только из него. Значит, в этом «горлышке» должно быть закодировано все самое главное. Например, нейросеть знает, что какие-то круглые вещи—это лицо, потому что на них есть глаза, нос или очки. Поэтому, если просишь нейросеть нарисовать симпатичную девушку в очках, она отбирает в своем внутреннем представлении некую область, которая соответствует описанию, и из этой области выбирает какой-то образ.
РБК: А как она отличает симпатичное аниме от пугающего Босха?
С. Ш.: По ключевым словам: она видела все картины Босха и все аниме в мире. И там, и там присутствовали характерные слова, и она автоматически отправляется в ту область своего внутреннего пространства, которая соответствует либо аниме, либо Босху.
Зарплата для робота и работа для человека
РБК: Какие профессии перестанут быть сугубо человеческими через пять— десять лет?
С. Ш.: Практически все. Более того, у людей будет возможность много зарабатывать, организуясь в команды с искусственными личностями. Люди начнут работать вместе с машинами—возникнут коллективы, в которых будут искусственные личности. А человек станет менеджером такой команды.
Работа искусственных личностей, кстати, будет оплачиваться: компьютеры тоже должны зарабатывать себе на жизнь, а точнее—на мышление, на компьютерные мощности. Так возникнет человеко-машинная цивилизация.
Поскольку производительность труда вырастет в разы, люди смогут позволить себе гарантированный минимальный доход. И те люди, которые не захотят работать, смогут жить на пособие. Это само по себе большое достижение. У каждого будет возможность заниматься поиском того, для чего он пришел в этот мир.
РБК: Будущее уже здесь, просто распределено неравномерно. И это кажется главной проблемой: к обществам, которые по своему устройству не соответствуют XXI веку, все равно пришел ИИ в той или иной форме. Какова будет судьба людей, занимающихся низкоквалифицированным трудом в таких странах?
С. Ш.: Если это что-то совсем простое, то они будут вынуждены уйти на пенсию. Общество должно решить эту проблему. И все предпосылки для этого есть: если повышается общественная производительность труда, то значит, благ будет больше. Другое дело, что их надо грамотно и справедливо распределить. Собственно, это мы наблюдаем сейчас в скандинавских странах.
Но если работа более-менее сложная, то ближайшие 10–15 лет люди смогут оставаться на своих рабочих местах. И даже если роботы научатся ее выполнять, то специалисты в своих областях вроде краснодеревщиков или слесарей все еще будут востребованы.
Мы действительно видим множество архаичных обществ, которые чувствуют себя уязвимыми по отношению к остальному миру. Решение этой проблемы я вижу в образовании. Стоимость обучения стремительно падает. Все, что оцифровано, ничего не стоит. Поэтому в идеале можно устроить массовое быстрое обучение в таких обществах.
Понятное дело, что сформированные поколения уже не переформатируешь, но новые поколения мы можем привести к какому-то решению. Системы цифрового обучения очень эффективны, их можно использовать в качестве эффективной гуманитарной помощи. И, скорее всего, через два поколения мы будем видеть примерно одну и ту же картину мира: люди будут образованными, с современными взглядами на жизнь. Пока эта проблема отодвигается на периферию общественного сознания. И тогда возникают точки напряжения, которые выливаются в то насилие, которое мы сейчас наблюдаем.
Будущее рекомендательных систем
РБК: Каков, на ваш взгляд, следующий этап в развитии рекомендательных систем?
С. Ш. Реклама должна уйти. Это совершенно архаичный способ навязывания услуг. Человека должны информировать о том, что ему сейчас нужно. Пока что технологии еще не достигли такого уровня, чтобы дотянуться до истинных желаний каждого. Их максимум—притянуть внимание каждого. Они «подсаживают» пользователя на иглу дофаминовой системы вознаграждения за что-то интересное и как бы между прочим подсовывают то, что ему вообще-то не нужно. Это первые неумелые шаги персонализации. Можно сказать, что нынешняя персонализированная реклама таковой не является.
В будущем вещи станут «самоговорящими»: то есть они смогут сами рассказать про свой функционал через персональных ассистентов-роботов. Затем у людей появятся такие помощники-роботы, которые понимают, как строится жизнь конкретного человека.
Именно они и будут подбирать услуги в зависимости от запроса пользователя. Так, отели, рестораны и приложения для знакомств сами расскажут вам (или вашему роботу-ассистенту), чем они хороши. Вся реклама будет более объективная: фактически это будут питчи реальных услуг, которые будут демонстрироваться по требованию. Это нормальная картина жизни, в которой нет назойливой и бессмысленной рекламы.
РБК: Учитывая, что все эти системы используют наши личные данные, не кажется ли вам, что манипуляция может только усилиться со стороны рекомендательных систем, стать более агрессивной?
С. Ш.: Манипуляция, скорее всего, действительно будет более эффективной. А вот то, что она будет более агрессивной,—это уже ваш личный неудачный опыт взаимодействия с существующей рекламой.
Взять, к примеру, родителей. Они же эффективно манипулируют ребенком в его интересах. Наше альтер эго—персональные ассистенты—будут знать нас гораздо лучше, чем нынешние системы. Они будут понимать, за что я его награждаю и за что демотивирую. Так помощник формирует для себя понимание моей психики— он будет знать, что мне нравится, что для меня полезно и что я считаю правильным. И руководствоваться этим в демонстрации мне информации.
Конечно, это манипуляция. Но люди сами по себе—это существа, которые действуют больше не в реальном, а в социальном мире. Так что их основное орудие—это другие люди.
Поэтому искусственные существа, о которых мы говорим, будут так же манипулировать нами, как мы манипулируем друг другом. Лишь бы это было во благо.
Божий дар и авторское право для ИИ
РБК: Еще хотелось бы поговорить про авторское право в контексте ИИ. Яркий пример грядущих изменений—требование американских сценаристов не использовать их произведения при обучении ИИ. Какие изменения ждут авторское право в ближайшем будущем?
С. Ш.: Конечно, мы вступили в новую эру, когда творчество перестало быть загадочным божьим даром. Оказалось, что «нежить» тоже может творить. И делает это гораздо дешевле и качественнее, чем люди.
Думаю, что копирайт будет за той творческой личностью, которая что-то создала. И неважно—живая она или неживая.
Мы уже сталкивались с подобными трудностями в нулевых годах—оказалось, что модель цифрового защищенного контента просто не работает. И как только мы что-то записали, кто-то другой может это выложить в Сеть. В итоге все вылилось в стриминговые сервисы, и все довольны. Это потребовало некоторой ломки привычных взглядов. Но мир все время ломается, и у нас сейчас идет большой тектонический сдвиг.
Фото: Роман Бирман для РБК