Двойная игра
Иван Бегтин — о больших данных и мире без секретов
Данные — это топливо современной экономики. С одной стороны, без них работа индустрий невозможна. С другой — использование данных может нарушить этические принципы существования общества. Как найти золотую середину и возможна ли она, рассказывает директор АНО «Инфокультура» Иван Бегтин.
Цифровая «нефть»
Профессор Гарварда Шошанна Зубофф в своей книге Surveillance Capitalism («Надзорный капитализм») называет крупнейшие дата-корпорации корпорациями слежки. Экспоненциальный рост компаний-единорогов продолжается не только благодаря развитию технологий и качеству ПО, но и огромным объемам данных, которые эти компании собирают по всему миру.
Кроме технологических гигантов данные использует и «классический бизнес». Компании-поставщики альтернативных данных для фондового рынка эксплуатируют системы «умных» алгоритмов. Например, искусственный интеллект помогает принять решение о выходе из инвестиций до того, как произойдет событие, негативно влияющее на акции. Событие успевают «разглядеть» спутники или иные инструменты корпоративной слежки.
Корпорации используют огромные объемы данных для моделирования и реорганизации маркетинговых кампаний, оптимизации работы и формирования роботизированных алгоритмов для освобождения сотрудников от наиболее рутинных обязанностей. Одновременно эти же организации создают алгоритмы и системы сбора данных для контроля за работниками.
В этих задачах очень много составляющих, которые могут приводить к манипуляциям потребителями, нарушению приватности и созданию среды с когнитивными искажениями по отношению к действительности.
Информационные технологии и данные пронзают сейчас все: от промышленности до ретейла, все чаще применяются в системах предупреждения и предсказания преступлений. Хорошо это или плохо? Хотим ли мы жить в мире, где нет никаких секретов? И есть ли у нас выбор?
Конечно, современный мир основан на данных. Именно данные являются тем «бесплатным топливом», на котором построены крупнейшие мировые корпорации, такие как Google. Экономика данных рассматривается как основа цифровой экономики.
Беспристрастный регулятор
Существуют две роли, в которых может выступать государство в контексте обращения с данными. Первая роль — беспристрастный регулятор, как поощряющий, так и ограничивающий работу с данными в тех случаях, когда их использование и продукты на их основе могут навредить обществу.
Вторая роль — монополист в работе с данными в важных областях жизни общества, где у государства есть свои особые задачи и функции. Эта роль накладывает на органы власти ответственность за утечки данных, за ущерб от «умных» алгоритмов.
Все это формирует этический вопрос использования данных и применения искусственного интеллекта. Нет другого способа решить его, кроме как вести общественный диалог с вовлечением экспертов, граждан и всех заинтересованных лиц.
За гонкой технологических решений и парадными речами многих деятелей, принимающих решения в России, о рисках, опасениях и этике нет ни слова. Некоторые российские разработчики систем искусственного интеллекта ведут себя как создатели оружия массового поражения, отрицающие, что они создают опасную вещь.
Да, применять ли, например, системы социального скоринга для поощрения граждан или их дискриминации, решать, казалось бы, должны не разработчики, а заказчики ИИ-систем. Да, создатели систем мониторинга транспортных потоков, вполне возможно, руководствуются благими принципами и желанием помочь городам с насыщенной транспортной инфраструктурой. Но система социального скоринга легко превращается в систему полицейского контроля, а система мониторинга транспортных потоков — в систему тотальной слежки.
Этические вопросы первичны. ИТ-проекты на данных и ИИ давно перестали быть нейтральными. Саморегулирование в этой области не только необходимо, но и неизбежно. Впрочем, неизбежно и государственное регулирование. Чем раньше осознание этой неизбежности к нам придет, тем больше шансов, что оно принесет больше пользы людям и меньше ущерба создателям алгоритмических систем.
Иван Бегтин — директор АНО «Информационная культура», руководитель Ассоциации участников рынка данных, член экспертного совета при Счетной палате РФ, руководитель проектного направления «Открытые данные» в Счетной палате. Ранее — председатель экспертного совета по цифровой трансформации Генеральной прокуратуры, член экспертного совета при правительстве РФ.