Футуролог Евгений Кузнецов — о неизбежном сосуществовании людей и разумных машин

РБКFan

Евгений Кузнецов: «Лет через 20 люди перестанут быть вершиной эволюции»

Беседовала Анна Заброда Журнальную версию подготовила Мария Решетникова

Евгений Кузнецов, футуролог, представитель Singularity University, сооснователь венчурного фонда Orbita Capital Partners

Развитие искусственного интеллекта радикально изменит не только окружающий мир, но и взаимоотношения между людьми и готовиться к этому следует уже сейчас, считает футуролог Евгений Кузнецов. В ходе вебинара РБК Pro он поделился своим прогнозом относительно сосуществования людей и разумных машин, назвал профессии, из которых роботы вытеснят человека, и объяснил, почему мы уже живем в матрице.

«О будущем можно договориться»

РБК: Как футурологи прогнозируют будущее, какие технологии есть для этого?

Е. К.: Футурология — это не столько наука, сколько область деятельности. Как наука она еще только зарождается. Я занимаюсь венчурными инвестициями. Это инвестиции в те компании, которые сейчас еще маленькие, но имеют все шансы лет через десять вырасти в глобальные компании, как в свое время случилось с Google, Amazon или Tesla. Когда ты вкладываешься в компании, которые растут на будущих рынках, то смотришь как бы в будущую реальность: приблизительно понимаешь, как будут выглядеть экономика, общество, потребление и т.д. Далеко не все прогнозы венчурных инвесторов сбываются, но в сумме они оправдываются. Можно сказать, что мировое сообщество венчурных инвесторов и создает эту повестку. Таким образом, есть и математические, и практические модели, которые позволяют делать более или менее уверенные предсказания.

РБК: Насколько футурологи в своих прогнозах опираются на геополитическую ситуацию?

Е. К.: Одна точка зрения предполагает, что в основе всех фундаментальных изменений в человеческом обществе лежат технологические революции и изменения, вслед за которыми приходит трансформация экономики и военного дела, а затем — политики, геополитики и общества. Есть и другой взгляд, в соответствии с которым в основе лежат крупные социальные процессы, например религиозные или революционные.

В разрезе моей профессиональной деятельности мне ближе анализ технологических процессов.

РБК: Можете привести какой-то пример из своего сценария?

Е. К.: Мой основной сценарий я назвал инквизицией, так как подозревал, что появятся мощные силы, тормозящие взрывное технологическое развитие. Ведь если его не тормозить, то мы в принципе уже сейчас можем влететь в мир с искусственным интеллектом, матрицей или генной коррекцией человека — технологии позволяют. Но это слишком страшно, потому что мы не знаем даже, как контролировать такое общество. Поэтому уже много лет мы наблюдаем системные процессы, которые тормозят развитие в наиболее опасных сферах.

Также можно отметить концентрацию на вопросах трансформации энергетики, например, транспорта и экономики. В итоге возникают крупные блоки, силы глобального масштаба, которые начинают соревноваться за повестку.

РБК: Вы говорите о принудительном торможении взрывного развития технологий?

Е. К.: Да. У нас были такие прецеденты. Когда было изобретено клонирование, то на него наложили запрет. Потом была попытка запретить технологии редактирования генома. Но китайцы независимо от США и Европы начали эксперименты. Если Европа и США тормозят эту работу, то Китай начинает их обгонять.

Сейчас главный волнующий всех вопрос — это поиск инструментов балансировки технологического развития и социальных процессов. Если не регулировать создание роботизированных инструментов, то без работы может оказаться три четверти трудоспособного населения Земли.

РБК: При этом независимо происходят процессы, которые могут тормозить развитие этих технологий. Например, пандемия коронавируса.

Е. К. Коронавирусная инфекция очень сильно продвинула человечество. С одной стороны, стали массово применяться технологии создания искусственных вирусов для вакцин, что еще пять лет назад боялись использовать. С другой стороны, коронавирус продвинул все, что связано с дистанционной работой, доставкой еды и т.д. Другое дело, что он вызвал глобальный сбой цепочек поставок и во многом поколебал традиционные индустрии — скажем, автопром. В этом смысле мы находимся сейчас в стадии пересборки глобальной экономики. Она тормозит, потому что происходит переход на новые рельсы, например от бензиновых автомобилей к электрическим.

РБК: По поводу электромобилей: любопытно, переходим ли мы на них? Переходит ли Европа?

Е. К.: В Европе процесс перехода стал необратимым — это во-первых. Например, в Норвегии в прошлом году почти 100% продаваемых машин были электрическими. Во-вторых, перебои с нефтью и газом только усиливают желание Европы поскорее перейти на электричество. При этом в России недооценивают тот факт, что основным локомотивом энергоперехода является вовсе не Европа, а Китай. В этой области он потратил больше денег, чем Европа, а также является мировым лидером по производству и электромобилей, и солнечных батарей. И Китаю это выгодно, так как нефти и газа у него нет. Я думаю, что Россия тоже в стороне не останется — придет китайский автопроизводитель и начнет строить заводы электромобилей, затем появятся электрозаправки, и энергопереход в стране станет новой экономической реальностью.

РБК: Каким образом футурологи абстрагируются от личных эмоций и субъективных оценок, чтобы оставаться беспристрастными?

Е. К.: Наиболее эффективный способ изобрели еще 50–60 лет назад: нужно собрать некую группу экспертов и внутри нее подискутировать. Будущее — это не математический объект, его практически невозможно вычислить. Была одно время популярная теория о том, что будущее — это предмет договора, а не прогноза. То есть чем больше людей договорятся о будущем, тем больше вероятность, что это будущее наступит. Ну, самый наглядный пример — это тот же самый энергопереход. Он был объективно необходим давно, но начался только тогда, когда люди стали об этом договариваться… В свое время в США проверили, насколько верны прогнозы аналитиков ЦРУ в сравнении с общественными ресурсами, на которых множество людей высказывают свои прогнозы. Оказалось, что прогнозисты на этом сайте работают лучше, чем в ЦРУ.

РБК: Получается, что нет никакого смысла проводить исторические параллели?

Е. К.: С одной стороны — да, в одну и ту же воду невозможно войти дважды. С другой стороны, в истории есть свои циклы и воспроизводящиеся процессы. В сознании человека множество функций и моделей поведения заложены как предустановленные программы. И в каком-то смысле человеческая эволюция — это борьба таких программ против нового понимания с точки зрения более совершенной науки, более чистой этической позиции.

«Нас ждет симбиоз ИИ и человека»

РБК: Если людям достаточно тяжело сдерживать развитие технологий, насколько легко это будет даваться ИИ?

Е. К.: Смысл искусственного интеллекта состоит в том, что многие функции и возможности, ограниченные самой способностью человеческого мозга, можно развить почти неограниченно. ИИ не может быть устроен так же сложно, как человеческий мозг, но в решении конкретных задач он научился превосходить человека. Скорость развития ИИ подчиняется закону Мура, это экспоненциальный рост, то есть чем дальше — тем больше. ИИ не будет таким же, как человек, он будет устроен по-другому. И мы пока можем только догадываться о том, как он будет устроен.

Пару лет назад британские математики доказали, что если появится так называемый суперинтеллект, способный к самообучению и самопознанию, то он сумеет гарантированно выйти из-под человеческого контроля. Это станет действительно эпохальным переходом. Как когда-то люди выделились из животного мира как разумные существа, так и тут из мира биологических мыслительных систем появляется небиологическая мыслительная система и начинает развиваться самостоятельно.

Мы помним гипотезу о Терминаторе, когда появляется страшный ИИ, который решает, что люди плохие. Я лично уверен, что этого не произойдет. Практически всегда новая форма мышления или разума влияла на предыдущие формы, но она их никогда не истребляла, а переделывала. Поэтому человек найдет себе место в будущем, в котором будет искусственный интеллект.

РБК: В ближайшем будущем останутся какие-то сферы, где машина даже гипотетически не сможет заменить человека?

Е. К.: Да. Я думаю, что за человеком останутся какие-то фундаментальные функции. И первая из них заключается в сверхвысокой адаптации. Похоже, что освоение космоса станет площадкой для лидерства людей. Почему? Потому что роботы обучаются на известных данных, им нужно проглатывать терабайты информации. И вдруг такой робот попадает в абсолютно новую реальность — другая гравитация, другая поверхность, другое окружение, ему надо учиться, а учиться некогда, надо уже начинать что-то делать. Вот человек на мизерных данных обычно учится быстрее, значительно быстрее…

При существующем знании об ИИ нас ждет, скорее, человеко-машинное будущее, я его еще называю «роботечество». Это симбиоз, когда машины прекрасно делают то, что им объяснили люди, но именно человек осваивает принципиально новое.

В каких-то аспектах, возможно, жизнь станет хуже, но в целом человечество станет значительно более сильным и способным к решению и планетарных, и космических задач.

«Мы уже живем в чем-то похожем на матрицу»

РБК: Сможет ли ИИ помочь нам в самопознании?

Е. К.: Мы подходим к тому моменту, когда человечество совершает глубинный масштабный переход в новое состояние. Эти радикальные изменения по скорости развития приходятся буквально на 2040-е, максимум на границу 40–50-х годов. Вероятнее всего, это будет как раз та граница, когда ИИ станет настолько сильным, что факт его присутствия будет влиять на само человечество, то есть люди уже перестанут быть вершиной эволюции. Как минимум им придется делиться с другим субъектом своим правом принимать решения.

РБК: Прогнозисты еще в середине XX века говорили, что ИИ получит такое развитие, что уже в 80–90‑х годах мог бы в какой-то степени управлять нашей жизнью. Это случилось, но сильно позже.

Е. К.: Нейросети действительно показали в последние годы настолько феноменальный результат, что теперь мы переживаем даже эйфорию от их внедрения. При этом я не исключаю, что мы дойдем в ближайшие лет десять до некоего тупика развития в сфере ИИ, а потом будут откат и разочарование. Но я абсолютно уверен, что еще через десять лет появится новая технологическая сборка или более сложная архитектура и этот прорыв начнется снова. Так устроены технологии. Есть такая поговорка: мы всегда переоцениваем скорость появления новой технологии, но всегда недооцениваем ее масштаб.

РБК: Возможна ли жизнь в матрице? И как она может быть организована с учетом текущего уровня развития технологий?

Е. К.: Мы уже живем в чем-то похожем на матрицу. Вся цифровая система вокруг — социальные сети, поисковые технологии, торговые сети, цифровые банки — окружает нас очень плотным коконом, это называется «цифровой пузырь». И он знает нас лучше, чем мы себя сами: что мы хотим, о чем думаем, что читаем. И этот «пузырь» начинает подсовывать нужную нам информацию. В американской литературе появился термин «неотрайбализм». В традиционном смысле трайбализм — это когда одно племя смотрит на другое только как на еду. И в социальных сетях возникает подобная история, когда одни люди просто не понимают других. Это очень опасный социальный эффект, потому что он провоцирует рост агрессии и социальных конфликтов. Так что в каком-то смысле все элементы матрицы уже есть, осталось интерфейсы доработать. Думаю, что через пять—десять лет что-то такое появится.

РБК: Получается, что ИИ в какой-то степени провоцирует еще большее социальное расслоение и разобщение?

Е. К.: Да. Цифровая среда радикализует и усиливает противоречия. И нам придется договариваться друг с другом заново в мире очень высоких противоречий. Но люди научатся. Главная особенность людей в том, что они адаптируются.

РБК: Станет ли цифровая душа единственно эффективным инструментом для космических путешествий и колонизации других планет?

Е. К.: Можно ли наше биологическое тело переместить на другую планету — огромный вопрос. Значительно проще придумать что-то трансгуманистическое: запихнуть сознание в космическую железку и послать ее изучать другую планету. Некая с научной точки зрения значимая фактура появится в ближайшие пять—десять лет, когда могут возникнуть первые постоянные поселения на Луне и на Марсе. Вот тогда мы поймем, достаточно ли адаптивно тело к тому, чтобы пережить даже небольшое космическое путешествие. Ко мне уже приходили стартапы, которые разрабатывают лекарства по защите ДНК от разрушения космическими лучами.

«Людям придется осваивать новые профессии»

РБК: Чьи возможности все-таки безграничны — человека или ИИ?

Е. К.: Исчерпан ли потенциал развития разума биологической формы человека, мы не знаем. На протяжении всей истории человек развивается не как индивидуальное существо, а как коллективное. Вполне возможно, что человечество как коллективное существо в своей эволюции не ограничено. С другой стороны, что-то намекает, что без ИИ эволюция человека тоже не может осуществляться эффективно. Я верю в коэволюцию. То есть и человечество будет развиваться, и искусственный разум, и мы будем создавать некий интегративный конгломерат.

РБК: Какие профессии будущего следует осваивать уже сейчас, чтобы не проиграть самообучающемуся искусственному интеллекту в борьбе за трудовые места?

Е. К.: ИИ будет занимать прежде всего сферы деятельности средней квалификации — это вождение автомобиля, полет на самолете, функции обслуживания машин. В результате человек будет вытесняться в высокоинтеллектуальные, творческие и социальные сферы. Робот будет ставить диагнозы и назначать лечение лучше человека, но он не будет способен сочувствовать. Поэтому врач будущего — это не столько специалист, который досконально знает медицину, сколько специалист, который досконально знает человека. Думаю, что люди с «человеческими» специальностями — врачи, учителя, управленцы — найдут себе место, а вот тем, кто занимается механической работой, нужно будет осваивать цифровые специальности.

Чтобы работать с роботами, надо понимать робота, то есть надо уметь мыслить уже цифровым образом. Можно остаться в своих сферах, но придется осваивать цифровую грамотность.

РБК: Способна ли роботизация стать первопричиной потери человечеством своей идентичности?

Е. К.: Я склоняюсь к тому, что нет. Дело в том, что идентичность — это основа эволюции знания. Именно разнообразие и уникальность являются наибольшей ценностью. Раньше людей ценили за то, что они действуют как все, а сейчас их больше ценят за то, что они говорят что-то новое. Я думаю, что чем больше будет развиваться ИИ, тем больше люди будут разными.

РБК: Но при этом станет еще сложнее договариваться.

Е. К.: Да. Это тот цивилизационный вызов, который нам надо преодолеть. Как только люди начнут расти в принятии прав других на иную позицию и интересы, наш собственный мир станет многообразнее.

РБК: ИИ способен быть креативным?

Е. К.: Смотря в каком понимании. Он способен создавать культурные объекты, мы в этом уже убедились. Но создавать культурные явления, ломающие шаблон, наверное, может только человек.

РБК: Что будет происходить, когда искусственный интеллект научится не только предугадывать наши желания, но и формировать их?

Е. К.: Это уже тоже частично происходит. В каком-то смысле эта гиперактивная среда со считыванием запросов создает и влияние на них. Опасность состоит в том, что человек будет терять субъектность. Но я уверен, что люди очень сильны в плане свободы воли. То, что создало нас как вид и как цивилизацию, — это именно свобода воли. ИИ будет нас интеллектуально ограничивать, а мы будем этому сопротивляться и двигаться вперед.

РБК: Как будет развиваться ИИ в мире и в России в ближайшие 20, 30, 50 лет?

Е. К.: Почти невозможно заглянуть за горизонт двадцатилетия, потому что это будет другой мир и в социальном плане, и в технологическом, и в экономическом. Возможно, через три года не останется ни одного сервиса, бизнес-услуги или процесса, где бы не был внедрен тот или иной ИИ. А вот через 20 лет мы можем дойти до появления саморазвивающегося искусственного интеллекта, столкновение с которым радикально поменяет человечество.

Фото: Михаил Гребенщиков для РБК

Смотрите полную версию беседы на РБК Pro

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

11 друзей Кандинского 11 друзей Кандинского

Какие игроки доминируют на глобальном рынке нейросетей, каковы их планы?

РБК
Чтобы изучать Вселенную, надо выходить в космос Чтобы изучать Вселенную, надо выходить в космос

Институт астрономии РАН запустит УФ-обсерваторию и создаст лунную базу

Наука и жизнь
Она вышивает мечты Она вышивает мечты

Самая яркая звезда на небосклоне высокой моды Поднебесной — талантливая Гуо Пей

Y Magazine
Что скрывается за модным словом «роялти» ? Что скрывается за модным словом «роялти» ?

Пассивный доход на интеллектуальной собственности: как работает роялти?

Наука и техника
«Дом А. Ф. Лосева» «Дом А. Ф. Лосева»

О том, как создавалась уникальная структура Дома Лосева

Знание – сила
Убить Лумумбу Убить Лумумбу

Патрис Лумумба был одним из самых мужественных лидеров своего поколения

Знание – сила
Мускулы крылатой машины – система управления Мускулы крылатой машины – система управления

Как пилот заставляет слушаться машину в десятки тонн, контролируя ее в воздухе?

Наука и техника
Полет Fram2 Полет Fram2

Командиром этого полета был Ван Чунь – миллионер, оплативший полет участников

Наука и техника
Мост – это мир со своими законами Мост – это мир со своими законами

Наш сегодняшний разговор – не о фантастике, а о фантастических мостах

Знание – сила
Жабрей и зябра, они же пикульники Жабрей и зябра, они же пикульники

Пикульники — настоящие джентльмены среди растения, хотя и каждый со своим нравом

Наука и жизнь
Есть ли жизнь на Марсе? Есть ли жизнь на Марсе?

Пройдемся по имеющимся фактам в вопросе о жизни на Марсе

Наука и техника
Мост в небесах Мост в небесах

Некоторые современные мосты сооружают только для того, чтобы заинтриговать

Знание – сила
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Сказочная повесть — фантастика с просветительской задачей

Наука и жизнь
Молодой Цезарь Молодой Цезарь

Карьера Цезаря могла бы оборваться, едва начавшись, равно как и его жизнь...

Знание – сила
Социология утопии, или Почему у Стругацких в их «Мире Полудня» нет котиков и попугайчиков Социология утопии, или Почему у Стругацких в их «Мире Полудня» нет котиков и попугайчиков

Почему на Прекрасной Земле Будущего полностью отсутствуют домашние питомцы

Знание – сила
Безмолвный пациент, или вакцинация в аквакультуре Безмолвный пациент, или вакцинация в аквакультуре

Кто, как и зачем вакцинирует рыб в аквахозяйствах?

Наука и жизнь
Современные подводные лодки постройки Швеции и Нидерландов Современные подводные лодки постройки Швеции и Нидерландов

Швеция и Нидерланды: как изменилась отечественная школа подводного судостроения

Наука и техника
Космическая пыль в междупланетном пространстве Космическая пыль в междупланетном пространстве

Наука в годы войны: астроном Фесенков об астероидах и космической пыли

Наука и жизнь
Мир экзопланет: что для космоса «норма»? Мир экзопланет: что для космоса «норма»?

Уже можно говорить о планетах необычных. Как выглядят «обычные» – установлено

Наука и техника
Дрофа – степной реликт Дрофа – степной реликт

Все ли знают о самой крупной птице России? Это дрофа

Знание – сила
Рассказ солдата Рассказ солдата

Воспоминания Георгия Немчинова о войне на передовой

Знание – сила
Масляное коварство Масляное коварство

Как масло для дерева может стать причиной пожара?

Наука и жизнь
Причудливая лилия кардиокринум Причудливая лилия кардиокринум

Что помогает садоводам-любителям выращивать редкий кардиокринум?

Наука и жизнь
Когда ещё был лес… Когда ещё был лес…

Рассказ Саши Тэмлейн «Когда ещё был лес…»

Наука и жизнь
Жизнь и открытия Степана Куторги: от классиков до звероящеров Жизнь и открытия Степана Куторги: от классиков до звероящеров

«Удивительные ошибки» гения: как российский ученый открыл звероящеров

Наука и техника
Устричный гриб, его собратья и однофамильцы Устричный гриб, его собратья и однофамильцы

Где растёт вёшенка и кто её лесные «однофамильцы»

Наука и жизнь
Не всякая поганка — гриб Не всякая поганка — гриб

Почему красивых и изящных водоплавающих птиц назвали поганками?

Наука и жизнь
Под ливнем наград Под ливнем наград

История создания кастомной яхты Benetti Kasper 7

Y Magazine
Okean в океане Okean в океане

Актуальная модельная линейка Okean интересного бренда Okean Yachts

Y Magazine
Про пропан Про пропан

Если газ сжиженный, то он всё-таки ещё газ или уже жидкость?

Наука и жизнь
Открыть в приложении