Константин Синюшин — об инвестициях в искусственный интеллект и нормах этики

РБКHi-Tech

Сохранить лицо

Константин Синюшин — об инвестициях в искусственный интеллект и нормах этики.

0:00 /
511.478
Фото: Юлия Спиридонова для РБК

Правильно ли оценивать технологию лишь в разрезе ее возможной монетизации или же нужно подумать о моральной составляющей дела? Венчурный инвестор Константин Синюшин рассказал, как найти баланс между практическими и этическими соображениями при инвестировании в технологии распознавания лиц.

Моральная дилемма

Пандемия подлила масла в неутихающую дискуссию об этической стороне разработки систем искусственного интеллекта. Использование ИИ-технологий для отслеживания контактов заразившихся коронавирусом, обнаружения новых случаев и анализа данных массового тестирования вызвало новую волну вопросов о приватности личных данных. Большинство из них сводятся к тому, сможет ли вклад ИИ в борьбу с вирусом перевесить ограничение прав человека на частную жизнь.

Печально известный кейс: алгоритм канадского ИИ-стартапа BlueDot обнаружил вспышку вируса в Ухане примерно за десять дней до того, как китайские власти объявили о ней. А китайская интернет-компания Alibaba заявила о разработке ИИ-системы, идентифицирующей коронавирус на снимках компьютерной томографии за 20 секунд и с 96-процентной точностью. Нужно ли разрабатывать такие системы? Думаю, да.

В то же время, чтобы сдержать распространение вируса и мониторить соблюдение карантина, Китай мобилизовал различные ИИ-системы слежения за населением — от дронов до CCTV-камер (камеры видеонаблюдения. — РБК). Другие страны, включая Израиль, Сингапур, Южную Корею и Германию, используют комбинации геолокационных данных, видео с CCTV-камер, данных кредитных карт и других источников, чтобы отслеживать распространение вируса.

Этично ли следить за людьми в этом контексте? Кажется, общество уже нашло свой ответ. Проблема не в разработанной технологии, а в том, кем она используется и какой цели служит. Большинство населения упомянутых стран может одобрять слежение через CCTV-камеры и системы распознавания лиц, но лишь временно, пока вирус не взят под контроль. Однако поддержат ли они использование таких систем на постоянной основе, в «мирное» время? И как будут храниться и защищаться данные, собранные во время пандемии? На эти вопросы ответов пока нет, равно как и на опасения, что усиленный видеомониторинг станет новой нормой.

И из этого рождается еще один вопрос: как именно такие данные будут использоваться после пандемии и о чем они будут информировать власти? К примеру, в сенате США уже не первый год обсуждается вопрос о том, как именно ФБР использует многомиллионную базу данных изображений и водительских удостоверений. Одна из главных претензий — ошибки при идентификации личности и задержании людей на основе данных системы. А власти Великобритании пытаются разобраться, как лучше использовать обновленные CCTV-камеры со встроенной технологией распознавания лиц и не навлечь на себя гнев налогоплательщиков. Безопасность и защита прав и свобод человека, к слову, указываются как основные принципы развития искусственного интеллекта в России — по крайней мере, в тексте Национальной стратегии развития искусственного интеллекта на период до 2030 года.

В целом машинное зрение, на котором строятся технологии распознавания лиц, отлично работает для множества прикладных задач — от разблокировки телефона и осуществления платежей до пограничного контроля и медицинских исследований. Но только если у человека есть возможность дать или не дать согласие на обработку своих данных. И здесь мы подходим к ключу моральной дилеммы — проблемы возникают тогда, когда этого согласия не спрашивают.

Выбор инвесторов

Венчурные инвесторы, для которых ИИ — один из наиболее освоенных сегментов, тоже стоят перед дилеммой. С одной стороны, искусственный интеллект прокладывает себе путь в здравоохранении и финансах. С другой — правительства заинтересованы в другом его приложении — автономном оружии.

Семь ключевых игроков — США, Китай, Россия, Великобритания, Франция, Израиль и Южная Корея — уже вступили в так называемую гонку ИИ-вооружений. Однако, по аналогии с гонкой ядерных вооружений, инвестиции в такое приложение искусственного интеллекта создают угрозу человечеству. В этой «гонке» скорость разработки имеет приоритет над безопасностью и этическими соображениями и в конечном счете вредит самой индустрии. ИИ-стартапы и инвестирующие в них фонды в массовом сознании ассоциируются с пособниками Большого Брата, которые прикрывают реальные цели своих разработок мирными приложениями.

С другой стороны, не инвестировать в искусственный интеллект — значит, оставаться за бортом мирового технологического рынка. Несмотря на снижение активности во втором квартале 2020 года (объем сделок с ИИ-стартапами достиг трехлетнего минимума в $7,2 млрд), это по-прежнему один из крупнейших сегментов венчурных инвестиций. За последние десять лет $61 млрд венчурных денег, причем центры притяжения инвестиционной активности довольно разнообразны: Европа, Китай, США.

На разработках в сфере искусственного интеллекта фокусируется и фонд the Untitled Ventures. В нашем портфолио — ИИ-проекты из Восточной Европы, включая разработчика маркетинговых решений Sarafan, сервис для подбора размерного ряда Sizolution, система персонализированного контента Adnetic, AI-генератор модных образов SuitApp. Эти проекты имеют конкретное коммерческое приложение и обрабатывают данные лишь после согласия пользователя.

С точки зрения венчурного инвестора, новые технологии хороши сами по себе, потому что они открывают целый спектр новых возможностей. Крупные сделки последних лет — когда Toyota вложила $400 млн в китайского разработчика беспилотных автомобилей Pony.ai в феврале 2020 года или раунд на $319 млн в туристический стартап Vacasa — лишь доказывают это.

Если инвестор сталкивается с моральной дилеммой, решая, инвестировать ли в искусственный интеллект, рекомендую ответить на следующие вопросы. Они помогут расставить приоритеты.

  • Это конкретное приложение ИИ способствует свободе человека или скорее ограничивает ее?
  • Разработчики технологии предусмотрели, как получить согласие пользователя на сбор и обработку личных данных?
  • Не противоречит ли применение технологии вашим личным моральным принципам?

Если уж речь зашла о приоритетах, наиболее интересно сейчас выглядит применение ИИ, интернета вещей (IoT) и машинного зрения для построения «умных» технологических линий на производстве. Промышленная робототехника развивается в сторону компоновки производственных линий под малую серию или даже индивидуальные заказы. Такие линии из автономных универсальных роботов могут обслуживать кастомизированные заказы и сокращать затраты на логистику. Стартапы, разрабатывающие такие системы, потенциально могут принести больше пользы обществу, чем те, что работают над распознаванием лиц с камер видеонаблюдения.

Константин Синюшин — серийный ИТ-предприниматель, бизнес-ангел в области интернет- и мобильных решений, управляющий партнер фонда the Untitled Ventures, специализирующегося на инвестициях в стартапы на посевных стадиях.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Как превратить регион в перспективное туристическое направление Как превратить регион в перспективное туристическое направление

Как в России возникают новые точки притяжения для путешественников

РБК
Компьютерное зрение: когда роботы перестали тыкать пальцем в небо? Компьютерное зрение: когда роботы перестали тыкать пальцем в небо?

Зачем нужно компьютерное зрение и какие задачи оно решает в разных сферах

Наука и техника
Слово редактора Слово редактора

На самом деле, нет более открытых миру людей, чем яхтсмены

Y Magazine
Любовь к животным и санкции Любовь к животным и санкции

Почему рынок кормов — перспективное направление для инвестиций

Агроинвестор
Болотные семафоры Болотные семафоры

Дупеля летят к нам из жарких поясов экваториальной Африки...

Наука и жизнь
Долгий путь от «учебки» к Победе Долгий путь от «учебки» к Победе

В минометной роте любили песни: о поэтах на фронте Отечественной войны

Знание – сила
Июньская метель снежноцвета Июньская метель снежноцвета

Снежноцветы считаются красивейшими деревьями, и с этим трудно не согласиться

Наука и жизнь
«Кузнец – это в первую очередь инженер» «Кузнец – это в первую очередь инженер»

Как ученые исследуют магнитное поле Земли? Влияют ли на нас магнитные бури?

Знание – сила
Недолгий триумф «арийской физики» Недолгий триумф «арийской физики»

В какой тупик может завести себя наука, если станет служанкой нацизма

Знание – сила
Легендарный Понтий Пилат Легендарный Понтий Пилат

Так кто же он был, этот римлянин, взявшийся судить Иисуса?

Знание – сила
Наука под знаком «Аненербе» Наука под знаком «Аненербе»

Наука может прекрасно себя чувствовать и в тиранических режимах

Знание – сила
Книга как искусство Книга как искусство

На протяжении долгих веков книга являлась главным хранителем информации

Знание – сила
Перелет–2023 «Байкальская кругосветка» Перелет–2023 «Байкальская кругосветка»

«Байкальская кругосветка» – воздушное путешествие вокруг знаменитого озера

Наука и техника
Что «видели» астероиды? Что «видели» астероиды?

Чем астероиды интересны астрономам?

Наука и жизнь
Будет не жирно? Будет не жирно?

Какой вклад в борьбу с ожирением могут внести производители продуктов питания

Агроинвестор
Мир экзопланет: как на орбитах у других солнц были открыты «непланеты» Мир экзопланет: как на орбитах у других солнц были открыты «непланеты»

О том, как обнаруживаются экзопланеты и какими они бывают

Наука и техника
«Нечестная» игра Баше «Нечестная» игра Баше

Как найти выигрышную стратегию в игре Баше?

Наука и жизнь
Наука и жизнь. Архив: 1941—1945 годы Наука и жизнь. Архив: 1941—1945 годы

О чем писали в журнале «Наука и жизнь» в годы Великой Отечественной войны?

Наука и жизнь
Бизнес на энтузиазме Бизнес на энтузиазме

Перспективы мясного скотоводства в России неоднозначные

Агроинвестор
Самое древнее чувство Самое древнее чувство

Как у животных представлено чувства обоняния и вкуса

Наука и жизнь
Палеонтологи СПбГУ проследили эволюцию мозга крокодилов Палеонтологи СПбГУ проследили эволюцию мозга крокодилов

Ученые создали 3D-модель мозга древних параллигаторов

Знание – сила
Тихая гавань русских литераторов Тихая гавань русских литераторов

Усадьбе Остафьево повезло, в ее облике с давних времен мало что менялось

Знание – сила
«Мои счастливейшие дни…» «Мои счастливейшие дни…»

Понятие гения места, «genius loci» – к Остафьево применимо как нельзя более

Знание – сила
Экологическая модернизация Экологическая модернизация

Как разные страны переосмысливают управление органическими отходами

Агроинвестор
Динозавры за Полярным кругом Динозавры за Полярным кругом

Как жили динозавры и их соседи в условиях крайнего Севера или Юга

Наука и техника
«Позеленение» Арктики: как его оценить и о чём оно свидетельствует «Позеленение» Арктики: как его оценить и о чём оно свидетельствует

Как арктические экосистемы приспосабливаются к изменениям климатических условий

Наука и жизнь
Он пережил и многое, и многих… Он пережил и многое, и многих…

Петр Вяземский, князь. О нем вспоминают обычно в связи с А. С. Пушкиным

Знание – сила
Последняя загадка Пушкина Последняя загадка Пушкина

«Пушкин и Погорелое Городище» – тема, вынесенная на периферию пушкинистики

Знание – сила
Поговорим о космологии Поговорим о космологии

Пять работ, посвященных космологии, с комментариями специалиста

Знание – сила
Удивительный трубкозуб Удивительный трубкозуб

Ожившей химерой с прошедших веков трубкозуба, шутя, обзывают

Знание – сила
Открыть в приложении