Футуролог Евгений Кузнецов — о неизбежном сосуществовании людей и разумных машин

РБКFan

Евгений Кузнецов: «Лет через 20 люди перестанут быть вершиной эволюции»

Беседовала Анна Заброда Журнальную версию подготовила Мария Решетникова

Евгений Кузнецов, футуролог, представитель Singularity University, сооснователь венчурного фонда Orbita Capital Partners

Развитие искусственного интеллекта радикально изменит не только окружающий мир, но и взаимоотношения между людьми и готовиться к этому следует уже сейчас, считает футуролог Евгений Кузнецов. В ходе вебинара РБК Pro он поделился своим прогнозом относительно сосуществования людей и разумных машин, назвал профессии, из которых роботы вытеснят человека, и объяснил, почему мы уже живем в матрице.

«О будущем можно договориться»

РБК: Как футурологи прогнозируют будущее, какие технологии есть для этого?

Е. К.: Футурология — это не столько наука, сколько область деятельности. Как наука она еще только зарождается. Я занимаюсь венчурными инвестициями. Это инвестиции в те компании, которые сейчас еще маленькие, но имеют все шансы лет через десять вырасти в глобальные компании, как в свое время случилось с Google, Amazon или Tesla. Когда ты вкладываешься в компании, которые растут на будущих рынках, то смотришь как бы в будущую реальность: приблизительно понимаешь, как будут выглядеть экономика, общество, потребление и т.д. Далеко не все прогнозы венчурных инвесторов сбываются, но в сумме они оправдываются. Можно сказать, что мировое сообщество венчурных инвесторов и создает эту повестку. Таким образом, есть и математические, и практические модели, которые позволяют делать более или менее уверенные предсказания.

РБК: Насколько футурологи в своих прогнозах опираются на геополитическую ситуацию?

Е. К.: Одна точка зрения предполагает, что в основе всех фундаментальных изменений в человеческом обществе лежат технологические революции и изменения, вслед за которыми приходит трансформация экономики и военного дела, а затем — политики, геополитики и общества. Есть и другой взгляд, в соответствии с которым в основе лежат крупные социальные процессы, например религиозные или революционные.

В разрезе моей профессиональной деятельности мне ближе анализ технологических процессов.

РБК: Можете привести какой-то пример из своего сценария?

Е. К.: Мой основной сценарий я назвал инквизицией, так как подозревал, что появятся мощные силы, тормозящие взрывное технологическое развитие. Ведь если его не тормозить, то мы в принципе уже сейчас можем влететь в мир с искусственным интеллектом, матрицей или генной коррекцией человека — технологии позволяют. Но это слишком страшно, потому что мы не знаем даже, как контролировать такое общество. Поэтому уже много лет мы наблюдаем системные процессы, которые тормозят развитие в наиболее опасных сферах.

Также можно отметить концентрацию на вопросах трансформации энергетики, например, транспорта и экономики. В итоге возникают крупные блоки, силы глобального масштаба, которые начинают соревноваться за повестку.

РБК: Вы говорите о принудительном торможении взрывного развития технологий?

Е. К.: Да. У нас были такие прецеденты. Когда было изобретено клонирование, то на него наложили запрет. Потом была попытка запретить технологии редактирования генома. Но китайцы независимо от США и Европы начали эксперименты. Если Европа и США тормозят эту работу, то Китай начинает их обгонять.

Сейчас главный волнующий всех вопрос — это поиск инструментов балансировки технологического развития и социальных процессов. Если не регулировать создание роботизированных инструментов, то без работы может оказаться три четверти трудоспособного населения Земли.

РБК: При этом независимо происходят процессы, которые могут тормозить развитие этих технологий. Например, пандемия коронавируса.

Е. К. Коронавирусная инфекция очень сильно продвинула человечество. С одной стороны, стали массово применяться технологии создания искусственных вирусов для вакцин, что еще пять лет назад боялись использовать. С другой стороны, коронавирус продвинул все, что связано с дистанционной работой, доставкой еды и т.д. Другое дело, что он вызвал глобальный сбой цепочек поставок и во многом поколебал традиционные индустрии — скажем, автопром. В этом смысле мы находимся сейчас в стадии пересборки глобальной экономики. Она тормозит, потому что происходит переход на новые рельсы, например от бензиновых автомобилей к электрическим.

РБК: По поводу электромобилей: любопытно, переходим ли мы на них? Переходит ли Европа?

Е. К.: В Европе процесс перехода стал необратимым — это во-первых. Например, в Норвегии в прошлом году почти 100% продаваемых машин были электрическими. Во-вторых, перебои с нефтью и газом только усиливают желание Европы поскорее перейти на электричество. При этом в России недооценивают тот факт, что основным локомотивом энергоперехода является вовсе не Европа, а Китай. В этой области он потратил больше денег, чем Европа, а также является мировым лидером по производству и электромобилей, и солнечных батарей. И Китаю это выгодно, так как нефти и газа у него нет. Я думаю, что Россия тоже в стороне не останется — придет китайский автопроизводитель и начнет строить заводы электромобилей, затем появятся электрозаправки, и энергопереход в стране станет новой экономической реальностью.

РБК: Каким образом футурологи абстрагируются от личных эмоций и субъективных оценок, чтобы оставаться беспристрастными?

Е. К.: Наиболее эффективный способ изобрели еще 50–60 лет назад: нужно собрать некую группу экспертов и внутри нее подискутировать. Будущее — это не математический объект, его практически невозможно вычислить. Была одно время популярная теория о том, что будущее — это предмет договора, а не прогноза. То есть чем больше людей договорятся о будущем, тем больше вероятность, что это будущее наступит. Ну, самый наглядный пример — это тот же самый энергопереход. Он был объективно необходим давно, но начался только тогда, когда люди стали об этом договариваться… В свое время в США проверили, насколько верны прогнозы аналитиков ЦРУ в сравнении с общественными ресурсами, на которых множество людей высказывают свои прогнозы. Оказалось, что прогнозисты на этом сайте работают лучше, чем в ЦРУ.

РБК: Получается, что нет никакого смысла проводить исторические параллели?

Е. К.: С одной стороны — да, в одну и ту же воду невозможно войти дважды. С другой стороны, в истории есть свои циклы и воспроизводящиеся процессы. В сознании человека множество функций и моделей поведения заложены как предустановленные программы. И в каком-то смысле человеческая эволюция — это борьба таких программ против нового понимания с точки зрения более совершенной науки, более чистой этической позиции.

«Нас ждет симбиоз ИИ и человека»

РБК: Если людям достаточно тяжело сдерживать развитие технологий, насколько легко это будет даваться ИИ?

Е. К.: Смысл искусственного интеллекта состоит в том, что многие функции и возможности, ограниченные самой способностью человеческого мозга, можно развить почти неограниченно. ИИ не может быть устроен так же сложно, как человеческий мозг, но в решении конкретных задач он научился превосходить человека. Скорость развития ИИ подчиняется закону Мура, это экспоненциальный рост, то есть чем дальше — тем больше. ИИ не будет таким же, как человек, он будет устроен по-другому. И мы пока можем только догадываться о том, как он будет устроен.

Пару лет назад британские математики доказали, что если появится так называемый суперинтеллект, способный к самообучению и самопознанию, то он сумеет гарантированно выйти из-под человеческого контроля. Это станет действительно эпохальным переходом. Как когда-то люди выделились из животного мира как разумные существа, так и тут из мира биологических мыслительных систем появляется небиологическая мыслительная система и начинает развиваться самостоятельно.

Мы помним гипотезу о Терминаторе, когда появляется страшный ИИ, который решает, что люди плохие. Я лично уверен, что этого не произойдет. Практически всегда новая форма мышления или разума влияла на предыдущие формы, но она их никогда не истребляла, а переделывала. Поэтому человек найдет себе место в будущем, в котором будет искусственный интеллект.

РБК: В ближайшем будущем останутся какие-то сферы, где машина даже гипотетически не сможет заменить человека?

Е. К.: Да. Я думаю, что за человеком останутся какие-то фундаментальные функции. И первая из них заключается в сверхвысокой адаптации. Похоже, что освоение космоса станет площадкой для лидерства людей. Почему? Потому что роботы обучаются на известных данных, им нужно проглатывать терабайты информации. И вдруг такой робот попадает в абсолютно новую реальность — другая гравитация, другая поверхность, другое окружение, ему надо учиться, а учиться некогда, надо уже начинать что-то делать. Вот человек на мизерных данных обычно учится быстрее, значительно быстрее…

При существующем знании об ИИ нас ждет, скорее, человеко-машинное будущее, я его еще называю «роботечество». Это симбиоз, когда машины прекрасно делают то, что им объяснили люди, но именно человек осваивает принципиально новое.

В каких-то аспектах, возможно, жизнь станет хуже, но в целом человечество станет значительно более сильным и способным к решению и планетарных, и космических задач.

«Мы уже живем в чем-то похожем на матрицу»

РБК: Сможет ли ИИ помочь нам в самопознании?

Е. К.: Мы подходим к тому моменту, когда человечество совершает глубинный масштабный переход в новое состояние. Эти радикальные изменения по скорости развития приходятся буквально на 2040-е, максимум на границу 40–50-х годов. Вероятнее всего, это будет как раз та граница, когда ИИ станет настолько сильным, что факт его присутствия будет влиять на само человечество, то есть люди уже перестанут быть вершиной эволюции. Как минимум им придется делиться с другим субъектом своим правом принимать решения.

РБК: Прогнозисты еще в середине XX века говорили, что ИИ получит такое развитие, что уже в 80–90‑х годах мог бы в какой-то степени управлять нашей жизнью. Это случилось, но сильно позже.

Е. К.: Нейросети действительно показали в последние годы настолько феноменальный результат, что теперь мы переживаем даже эйфорию от их внедрения. При этом я не исключаю, что мы дойдем в ближайшие лет десять до некоего тупика развития в сфере ИИ, а потом будут откат и разочарование. Но я абсолютно уверен, что еще через десять лет появится новая технологическая сборка или более сложная архитектура и этот прорыв начнется снова. Так устроены технологии. Есть такая поговорка: мы всегда переоцениваем скорость появления новой технологии, но всегда недооцениваем ее масштаб.

РБК: Возможна ли жизнь в матрице? И как она может быть организована с учетом текущего уровня развития технологий?

Е. К.: Мы уже живем в чем-то похожем на матрицу. Вся цифровая система вокруг — социальные сети, поисковые технологии, торговые сети, цифровые банки — окружает нас очень плотным коконом, это называется «цифровой пузырь». И он знает нас лучше, чем мы себя сами: что мы хотим, о чем думаем, что читаем. И этот «пузырь» начинает подсовывать нужную нам информацию. В американской литературе появился термин «неотрайбализм». В традиционном смысле трайбализм — это когда одно племя смотрит на другое только как на еду. И в социальных сетях возникает подобная история, когда одни люди просто не понимают других. Это очень опасный социальный эффект, потому что он провоцирует рост агрессии и социальных конфликтов. Так что в каком-то смысле все элементы матрицы уже есть, осталось интерфейсы доработать. Думаю, что через пять—десять лет что-то такое появится.

РБК: Получается, что ИИ в какой-то степени провоцирует еще большее социальное расслоение и разобщение?

Е. К.: Да. Цифровая среда радикализует и усиливает противоречия. И нам придется договариваться друг с другом заново в мире очень высоких противоречий. Но люди научатся. Главная особенность людей в том, что они адаптируются.

РБК: Станет ли цифровая душа единственно эффективным инструментом для космических путешествий и колонизации других планет?

Е. К.: Можно ли наше биологическое тело переместить на другую планету — огромный вопрос. Значительно проще придумать что-то трансгуманистическое: запихнуть сознание в космическую железку и послать ее изучать другую планету. Некая с научной точки зрения значимая фактура появится в ближайшие пять—десять лет, когда могут возникнуть первые постоянные поселения на Луне и на Марсе. Вот тогда мы поймем, достаточно ли адаптивно тело к тому, чтобы пережить даже небольшое космическое путешествие. Ко мне уже приходили стартапы, которые разрабатывают лекарства по защите ДНК от разрушения космическими лучами.

«Людям придется осваивать новые профессии»

РБК: Чьи возможности все-таки безграничны — человека или ИИ?

Е. К.: Исчерпан ли потенциал развития разума биологической формы человека, мы не знаем. На протяжении всей истории человек развивается не как индивидуальное существо, а как коллективное. Вполне возможно, что человечество как коллективное существо в своей эволюции не ограничено. С другой стороны, что-то намекает, что без ИИ эволюция человека тоже не может осуществляться эффективно. Я верю в коэволюцию. То есть и человечество будет развиваться, и искусственный разум, и мы будем создавать некий интегративный конгломерат.

РБК: Какие профессии будущего следует осваивать уже сейчас, чтобы не проиграть самообучающемуся искусственному интеллекту в борьбе за трудовые места?

Е. К.: ИИ будет занимать прежде всего сферы деятельности средней квалификации — это вождение автомобиля, полет на самолете, функции обслуживания машин. В результате человек будет вытесняться в высокоинтеллектуальные, творческие и социальные сферы. Робот будет ставить диагнозы и назначать лечение лучше человека, но он не будет способен сочувствовать. Поэтому врач будущего — это не столько специалист, который досконально знает медицину, сколько специалист, который досконально знает человека. Думаю, что люди с «человеческими» специальностями — врачи, учителя, управленцы — найдут себе место, а вот тем, кто занимается механической работой, нужно будет осваивать цифровые специальности.

Чтобы работать с роботами, надо понимать робота, то есть надо уметь мыслить уже цифровым образом. Можно остаться в своих сферах, но придется осваивать цифровую грамотность.

РБК: Способна ли роботизация стать первопричиной потери человечеством своей идентичности?

Е. К.: Я склоняюсь к тому, что нет. Дело в том, что идентичность — это основа эволюции знания. Именно разнообразие и уникальность являются наибольшей ценностью. Раньше людей ценили за то, что они действуют как все, а сейчас их больше ценят за то, что они говорят что-то новое. Я думаю, что чем больше будет развиваться ИИ, тем больше люди будут разными.

РБК: Но при этом станет еще сложнее договариваться.

Е. К.: Да. Это тот цивилизационный вызов, который нам надо преодолеть. Как только люди начнут расти в принятии прав других на иную позицию и интересы, наш собственный мир станет многообразнее.

РБК: ИИ способен быть креативным?

Е. К.: Смотря в каком понимании. Он способен создавать культурные объекты, мы в этом уже убедились. Но создавать культурные явления, ломающие шаблон, наверное, может только человек.

РБК: Что будет происходить, когда искусственный интеллект научится не только предугадывать наши желания, но и формировать их?

Е. К.: Это уже тоже частично происходит. В каком-то смысле эта гиперактивная среда со считыванием запросов создает и влияние на них. Опасность состоит в том, что человек будет терять субъектность. Но я уверен, что люди очень сильны в плане свободы воли. То, что создало нас как вид и как цивилизацию, — это именно свобода воли. ИИ будет нас интеллектуально ограничивать, а мы будем этому сопротивляться и двигаться вперед.

РБК: Как будет развиваться ИИ в мире и в России в ближайшие 20, 30, 50 лет?

Е. К.: Почти невозможно заглянуть за горизонт двадцатилетия, потому что это будет другой мир и в социальном плане, и в технологическом, и в экономическом. Возможно, через три года не останется ни одного сервиса, бизнес-услуги или процесса, где бы не был внедрен тот или иной ИИ. А вот через 20 лет мы можем дойти до появления саморазвивающегося искусственного интеллекта, столкновение с которым радикально поменяет человечество.

Фото: Михаил Гребенщиков для РБК

Смотрите полную версию беседы на РБК Pro

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Николай Колпаков: «Корпорации не готовы инвестировать в несуществующие решения» Николай Колпаков: «Корпорации не готовы инвестировать в несуществующие решения»

Почему буксует переход бизнеса на отечественные технологии

РБК
Любовь к животным и санкции Любовь к животным и санкции

Почему рынок кормов — перспективное направление для инвестиций

Агроинвестор
Слово редактора Слово редактора

На самом деле, нет более открытых миру людей, чем яхтсмены

Y Magazine
Компьютерное зрение: когда роботы перестали тыкать пальцем в небо? Компьютерное зрение: когда роботы перестали тыкать пальцем в небо?

Зачем нужно компьютерное зрение и какие задачи оно решает в разных сферах

Наука и техника
Художники Художники

Рассказ Александра Маркова «Художники»

Знание – сила
Мир экзопланет: как на орбитах у других солнц были открыты «непланеты» Мир экзопланет: как на орбитах у других солнц были открыты «непланеты»

О том, как обнаруживаются экзопланеты и какими они бывают

Наука и техника
Композиты в судостроении Композиты в судостроении

Что же такое композиционные материалы (композиты)?

Наука и техника
Палеонтологи СПбГУ проследили эволюцию мозга крокодилов Палеонтологи СПбГУ проследили эволюцию мозга крокодилов

Ученые создали 3D-модель мозга древних параллигаторов

Знание – сила
Легендарный Понтий Пилат Легендарный Понтий Пилат

Так кто же он был, этот римлянин, взявшийся судить Иисуса?

Знание – сила
Бизнес на энтузиазме Бизнес на энтузиазме

Перспективы мясного скотоводства в России неоднозначные

Агроинвестор
Самое древнее чувство Самое древнее чувство

Как у животных представлено чувства обоняния и вкуса

Наука и жизнь
Каким ты будешь, городской бус? Каким ты будешь, городской бус?

Ждать ли нам завтра электробусов в каждом городе?

Наука и жизнь
«Мои счастливейшие дни…» «Мои счастливейшие дни…»

Понятие гения места, «genius loci» – к Остафьево применимо как нельзя более

Знание – сила
Что «видели» астероиды? Что «видели» астероиды?

Чем астероиды интересны астрономам?

Наука и жизнь
«Позеленение» Арктики: как его оценить и о чём оно свидетельствует «Позеленение» Арктики: как его оценить и о чём оно свидетельствует

Как арктические экосистемы приспосабливаются к изменениям климатических условий

Наука и жизнь
«Кузнец – это в первую очередь инженер» «Кузнец – это в первую очередь инженер»

Как ученые исследуют магнитное поле Земли? Влияют ли на нас магнитные бури?

Знание – сила
Долгий путь от «учебки» к Победе Долгий путь от «учебки» к Победе

В минометной роте любили песни: о поэтах на фронте Отечественной войны

Знание – сила
Наука под знаком «Аненербе» Наука под знаком «Аненербе»

Наука может прекрасно себя чувствовать и в тиранических режимах

Знание – сила
На «зеленой» волне На «зеленой» волне

Какие экологические технологии внедряют отечественные аграрии

Агроинвестор
Коварный удар из-под земли Коварный удар из-под земли

«Холодная война» стала стимулом для неумеренных планов создателей оружия

Наука и техника
Динозавры за Полярным кругом Динозавры за Полярным кругом

Как жили динозавры и их соседи в условиях крайнего Севера или Юга

Наука и техника
Последняя загадка Пушкина Последняя загадка Пушкина

«Пушкин и Погорелое Городище» – тема, вынесенная на периферию пушкинистики

Знание – сила
Болотные семафоры Болотные семафоры

Дупеля летят к нам из жарких поясов экваториальной Африки...

Наука и жизнь
Тихая гавань русских литераторов Тихая гавань русских литераторов

Усадьбе Остафьево повезло, в ее облике с давних времен мало что менялось

Знание – сила
Перелет–2023 «Байкальская кругосветка» Перелет–2023 «Байкальская кругосветка»

«Байкальская кругосветка» – воздушное путешествие вокруг знаменитого озера

Наука и техника
Наука и жизнь. Архив: 1941—1945 годы Наука и жизнь. Архив: 1941—1945 годы

О чем писали в журнале «Наука и жизнь» в годы Великой Отечественной войны?

Наука и жизнь
Июньская метель снежноцвета Июньская метель снежноцвета

Снежноцветы считаются красивейшими деревьями, и с этим трудно не согласиться

Наука и жизнь
Поговорим о космологии Поговорим о космологии

Пять работ, посвященных космологии, с комментариями специалиста

Знание – сила
Недолгий триумф «арийской физики» Недолгий триумф «арийской физики»

В какой тупик может завести себя наука, если станет служанкой нацизма

Знание – сила
Он пережил и многое, и многих… Он пережил и многое, и многих…

Петр Вяземский, князь. О нем вспоминают обычно в связи с А. С. Пушкиным

Знание – сила
Открыть в приложении