Константин Синюшин — об инвестициях в искусственный интеллект и нормах этики

РБКHi-Tech

Сохранить лицо

Константин Синюшин — об инвестициях в искусственный интеллект и нормах этики.

0:00 /
511.478
Фото: Юлия Спиридонова для РБК

Правильно ли оценивать технологию лишь в разрезе ее возможной монетизации или же нужно подумать о моральной составляющей дела? Венчурный инвестор Константин Синюшин рассказал, как найти баланс между практическими и этическими соображениями при инвестировании в технологии распознавания лиц.

Моральная дилемма

Пандемия подлила масла в неутихающую дискуссию об этической стороне разработки систем искусственного интеллекта. Использование ИИ-технологий для отслеживания контактов заразившихся коронавирусом, обнаружения новых случаев и анализа данных массового тестирования вызвало новую волну вопросов о приватности личных данных. Большинство из них сводятся к тому, сможет ли вклад ИИ в борьбу с вирусом перевесить ограничение прав человека на частную жизнь.

Печально известный кейс: алгоритм канадского ИИ-стартапа BlueDot обнаружил вспышку вируса в Ухане примерно за десять дней до того, как китайские власти объявили о ней. А китайская интернет-компания Alibaba заявила о разработке ИИ-системы, идентифицирующей коронавирус на снимках компьютерной томографии за 20 секунд и с 96-процентной точностью. Нужно ли разрабатывать такие системы? Думаю, да.

В то же время, чтобы сдержать распространение вируса и мониторить соблюдение карантина, Китай мобилизовал различные ИИ-системы слежения за населением — от дронов до CCTV-камер (камеры видеонаблюдения. — РБК). Другие страны, включая Израиль, Сингапур, Южную Корею и Германию, используют комбинации геолокационных данных, видео с CCTV-камер, данных кредитных карт и других источников, чтобы отслеживать распространение вируса.

Этично ли следить за людьми в этом контексте? Кажется, общество уже нашло свой ответ. Проблема не в разработанной технологии, а в том, кем она используется и какой цели служит. Большинство населения упомянутых стран может одобрять слежение через CCTV-камеры и системы распознавания лиц, но лишь временно, пока вирус не взят под контроль. Однако поддержат ли они использование таких систем на постоянной основе, в «мирное» время? И как будут храниться и защищаться данные, собранные во время пандемии? На эти вопросы ответов пока нет, равно как и на опасения, что усиленный видеомониторинг станет новой нормой.

И из этого рождается еще один вопрос: как именно такие данные будут использоваться после пандемии и о чем они будут информировать власти? К примеру, в сенате США уже не первый год обсуждается вопрос о том, как именно ФБР использует многомиллионную базу данных изображений и водительских удостоверений. Одна из главных претензий — ошибки при идентификации личности и задержании людей на основе данных системы. А власти Великобритании пытаются разобраться, как лучше использовать обновленные CCTV-камеры со встроенной технологией распознавания лиц и не навлечь на себя гнев налогоплательщиков. Безопасность и защита прав и свобод человека, к слову, указываются как основные принципы развития искусственного интеллекта в России — по крайней мере, в тексте Национальной стратегии развития искусственного интеллекта на период до 2030 года.

В целом машинное зрение, на котором строятся технологии распознавания лиц, отлично работает для множества прикладных задач — от разблокировки телефона и осуществления платежей до пограничного контроля и медицинских исследований. Но только если у человека есть возможность дать или не дать согласие на обработку своих данных. И здесь мы подходим к ключу моральной дилеммы — проблемы возникают тогда, когда этого согласия не спрашивают.

Выбор инвесторов

Венчурные инвесторы, для которых ИИ — один из наиболее освоенных сегментов, тоже стоят перед дилеммой. С одной стороны, искусственный интеллект прокладывает себе путь в здравоохранении и финансах. С другой — правительства заинтересованы в другом его приложении — автономном оружии.

Семь ключевых игроков — США, Китай, Россия, Великобритания, Франция, Израиль и Южная Корея — уже вступили в так называемую гонку ИИ-вооружений. Однако, по аналогии с гонкой ядерных вооружений, инвестиции в такое приложение искусственного интеллекта создают угрозу человечеству. В этой «гонке» скорость разработки имеет приоритет над безопасностью и этическими соображениями и в конечном счете вредит самой индустрии. ИИ-стартапы и инвестирующие в них фонды в массовом сознании ассоциируются с пособниками Большого Брата, которые прикрывают реальные цели своих разработок мирными приложениями.

С другой стороны, не инвестировать в искусственный интеллект — значит, оставаться за бортом мирового технологического рынка. Несмотря на снижение активности во втором квартале 2020 года (объем сделок с ИИ-стартапами достиг трехлетнего минимума в $7,2 млрд), это по-прежнему один из крупнейших сегментов венчурных инвестиций. За последние десять лет $61 млрд венчурных денег, причем центры притяжения инвестиционной активности довольно разнообразны: Европа, Китай, США.

На разработках в сфере искусственного интеллекта фокусируется и фонд the Untitled Ventures. В нашем портфолио — ИИ-проекты из Восточной Европы, включая разработчика маркетинговых решений Sarafan, сервис для подбора размерного ряда Sizolution, система персонализированного контента Adnetic, AI-генератор модных образов SuitApp. Эти проекты имеют конкретное коммерческое приложение и обрабатывают данные лишь после согласия пользователя.

С точки зрения венчурного инвестора, новые технологии хороши сами по себе, потому что они открывают целый спектр новых возможностей. Крупные сделки последних лет — когда Toyota вложила $400 млн в китайского разработчика беспилотных автомобилей Pony.ai в феврале 2020 года или раунд на $319 млн в туристический стартап Vacasa — лишь доказывают это.

Если инвестор сталкивается с моральной дилеммой, решая, инвестировать ли в искусственный интеллект, рекомендую ответить на следующие вопросы. Они помогут расставить приоритеты.

  • Это конкретное приложение ИИ способствует свободе человека или скорее ограничивает ее?
  • Разработчики технологии предусмотрели, как получить согласие пользователя на сбор и обработку личных данных?
  • Не противоречит ли применение технологии вашим личным моральным принципам?

Если уж речь зашла о приоритетах, наиболее интересно сейчас выглядит применение ИИ, интернета вещей (IoT) и машинного зрения для построения «умных» технологических линий на производстве. Промышленная робототехника развивается в сторону компоновки производственных линий под малую серию или даже индивидуальные заказы. Такие линии из автономных универсальных роботов могут обслуживать кастомизированные заказы и сокращать затраты на логистику. Стартапы, разрабатывающие такие системы, потенциально могут принести больше пользы обществу, чем те, что работают над распознаванием лиц с камер видеонаблюдения.

Константин Синюшин — серийный ИТ-предприниматель, бизнес-ангел в области интернет- и мобильных решений, управляющий партнер фонда the Untitled Ventures, специализирующегося на инвестициях в стартапы на посевных стадиях.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Необычные пейринги к вину: мнения сомелье Необычные пейринги к вину: мнения сомелье

Какие можно попробовать неожиданные и необычные пары к вину?

РБК
Академик Петр Чумаков: вирусы позволяют увидеть раковые клетки и сформировать иммунный ответ Академик Петр Чумаков: вирусы позволяют увидеть раковые клетки и сформировать иммунный ответ

Вирусы дают надежду в лечении самых злокачественных видов рака

Наука
Причудливая лилия кардиокринум Причудливая лилия кардиокринум

Что помогает садоводам-любителям выращивать редкий кардиокринум?

Наука и жизнь
Масляное коварство Масляное коварство

Как масло для дерева может стать причиной пожара?

Наука и жизнь
Не всякая поганка — гриб Не всякая поганка — гриб

Почему красивых и изящных водоплавающих птиц назвали поганками?

Наука и жизнь
Генеральная уборка Генеральная уборка

Как РГО старается уменьшить следы антропогенного воздействия

Вокруг света
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Сказочная повесть — фантастика с просветительской задачей

Наука и жизнь
Жизнь и открытия Степана Куторги: от классиков до звероящеров Жизнь и открытия Степана Куторги: от классиков до звероящеров

«Удивительные ошибки» гения: как российский ученый открыл звероящеров

Наука и техника
Чтобы изучать Вселенную, надо выходить в космос Чтобы изучать Вселенную, надо выходить в космос

Институт астрономии РАН запустит УФ-обсерваторию и создаст лунную базу

Наука и жизнь
Филология, история и богослужебная практика Филология, история и богослужебная практика

Работу по правкам богослужебных книг будут ругать: и за трусость, и за дерзость

Наука
В зоне степей и полупустынь В зоне степей и полупустынь

Сергей Богун о проблемах защиты редких степных видов

Знание – сила
Дрофа – степной реликт Дрофа – степной реликт

Все ли знают о самой крупной птице России? Это дрофа

Знание – сила
Геометрия роскоши Геометрия роскоши

Как художник Эрте сформировал стиль Harper’s Bazaar и отточил каноны ар-деко

Вокруг света
Большие надежды Большие надежды

Как дух эпохи беби-бума отражается в предметах

Вокруг света
Мысль как вечное движение, – или «Что такое интеллигенция»… Мысль как вечное движение, – или «Что такое интеллигенция»…

Беседа с Константином Кедровым о немецком философе Гегеле

Знание – сила
Евпатория Евпатория

Евпатория — город, существующий во многих измерениях

Знание – сила
Человек и мир агентов искусственного интеллекта Человек и мир агентов искусственного интеллекта

Три сценария для поддержания человеческой уникальности в мире ИИ

Наука
Атлас будущего Атлас будущего

Кто станет «человеческим паркетом» и кого ИИ оставит без работы?

Вокруг света
Рассказ солдата Рассказ солдата

Воспоминания Георгия Немчинова о войне на передовой

Знание – сила
Теория поколений Теория поколений

Как появились люди X, Y, Z, альфа и чем они отличаются в разных странах?

Вокруг света
«Прорыв» в будущее «Прорыв» в будущее

Ядерное топливо можно и нужно использовать многократно

Наука
Мускулы крылатой машины – система управления Мускулы крылатой машины – система управления

Как пилот заставляет слушаться машину в десятки тонн, контролируя ее в воздухе?

Наука и техника
На Сахалине бамбук не курят На Сахалине бамбук не курят

Аккумуляторные батареи можно собрать из водорослей и высокорослых злаков

Наука
Есть ли жизнь на Марсе? Есть ли жизнь на Марсе?

Пройдемся по имеющимся фактам в вопросе о жизни на Марсе

Наука и техника
Жабрей и зябра, они же пикульники Жабрей и зябра, они же пикульники

Пикульники — настоящие джентльмены среди растения, хотя и каждый со своим нравом

Наука и жизнь
Мост – это мир со своими законами Мост – это мир со своими законами

Наш сегодняшний разговор – не о фантастике, а о фантастических мостах

Знание – сила
От него мы впервые узнали об антропогенном потеплении От него мы впервые узнали об антропогенном потеплении

Михаил Будыко понял, что льды Арктики будут стремительно таять, еще 55 лет назад

Наука
Семь крапив Семь крапив

В России окультуривают ценное, полезное, но очень жгучее растение

Наука
Что скрывается за модным словом «роялти» ? Что скрывается за модным словом «роялти» ?

Пассивный доход на интеллектуальной собственности: как работает роялти?

Наука и техника
Мир экзопланет: что для космоса «норма»? Мир экзопланет: что для космоса «норма»?

Уже можно говорить о планетах необычных. Как выглядят «обычные» – установлено

Наука и техника
Открыть в приложении