ПРО ДАН НЫЕ
Алена Попова — о потере человеком его цифровых прав
Внедрение новых технологических решений происходит с огромной скоростью и не всегда во благо человека. Общество не успевает ни обнаружить, ни распознать угрозы. Тем более не успевает сформировать запрос на создание защитных мер. Законодательство тоже отстает и не может обеспечить граждан необходимой защитой. Известный общественный деятель Алена Попова рассказала, как люди превращаются в товар, которым торгуют корпорации, и в объект слежки для государства, а также объяснила, почему это ведет к эрозии прав человека
Технооптимисты против техноскептиков
В сфере этики и технологий существует два лагеря экспертов: технооптимисты и скептики. Первые видят огромные плюсы в том, что технологии отнимают у личности часть автономности и почти полностью приватность. Вторые указывают на угрозы, которые разрушают основу государства — права человека. Любимая фраза скептиков, к которым отношусь и я, — «мы должны понимать последствия использования этой технологии».
Например, в октябре этого года стало известно о скандале с утечкой персональных данных гражданина России Рафаэля Халилова, воспользовавшегося ранее каршерингом. Злоумышленники оформили на Рафаэля банковский кредит. Но это не самое плохое: мошенники стали вымогать у мужчины деньги, чтобы его данные не утекли в Сеть вместе с «разоблачением» в том, что он является педофилом. Деньги Рафаэль платить не стал, а потому по базе из 26 тыс. адресов полетела фейковая информация с реальными персональными данными Рафаэля: фото, паспортом, пропиской и его социальными сетями.
Избыточный сбор персональных сведений — это вопрос, который идеологически разделяет скептиков и технооптимистов. Последние утверждают, что история Халилова — скорее исключение, и нам давно стоит забыть про права человека в том виде, какими мы их знаем. Нужно жить в новой реальности, потому что прогресс не остановить, а этика и излишнее внимание к защите цифровых прав человека будут тормозить развитие технологий. Однако права не могут испариться только потому, что есть прогресс.
Искусство манипуляции
Футуролог и историк Юваль Ной Харари утверждает, что психологический взлом человека — самое страшное, что может случиться в XXI веке. Представьте, что будет, если ваш недруг или государство в лице бюрократического аппарата решат взломать вас как биологический алгоритм? В России скандал с британской Cambridge Analytica до сих пор не считается чем-то диким. Многие просто не понимают, что в этом ужасного, если человека с помощью микротаргетинга можно заставить считать, что правда — это ложь, а сила — это слабость.
В марте 2018 года стало известно, что британская аналитическая компания Cambridge Analytica собирала данные пользователей через свое приложение в Facebook (соцсеть признана в РФ экстремистской и запрещена) и использовала их для размещения политической рекламы, в частности во время президентской кампании в США и референдума о выходе Великобритании из Евросоюза в 2016 году. Вмешательство могло коснуться в общей сложности 87 млн пользователей соцсети. Скандал обернулся для Facebook (соцсеть признана в РФ экстремистской и запрещена) крупнейшим в истории штрафом $5 млрд, а для Cambridge Analytica — потерей всех клиентов и банкротством.
В недавно вышедшем документальном фильме Netflix «Социальная дилемма» бывшие инженеры и топ-менеджеры ведущих мировых ИТ-корпораций рассуждают о том, что плохого в потере человеком его цифровых прав. На вопрос «Чего вы боитесь больше всего с учетом тотального сбора персональных данных людей?» один из них ответил: «Гражданской войны». Мы живем в реальности, где люди утратили автономность, ими манипулируют с помощью четко подобранной под каждую личность информации. Люди легко начинают верить в ложь — например, в то, что коронавирус — вымысел.
Опасна потеря автономности и с точки зрения отношения граждан и государства. Глобальный контроль информационных потоков, внедрение систем распознавания лиц, объединение персональных данных в единые базы, взятие под контроль баз данных ключевых частных корпораций, создание социального рейтинга, препятствие регулированию в сфере персональных данных — все это лишь часть действий, предпринимаемых правящими режимами для ужесточения контроля над автономностью граждан. То есть над способностью критически мыслить и самостоятельно, не под влиянием искусных манипуляций, принимать решения. Одни и те же технологии можно использовать по-разному. Все зависит от людей, принимающих решения.
При отсутствии должного регулирования и контроля со стороны общества руководство страны будет стремиться укреплять свой режим, а руководство частных компаний — извлекать больше прибыли. В итоге, например, технологии искусственного интеллекта будут использоваться не столько для увеличения продолжительности жизни и улучшения качества образования, сколько для развития технологий слежки за гражданами. При этом руководители государств и корпораций будут прикрывать свои истинные намерения благими целями. Без систем тотальной слежки государство, оказывается, не может эффективно бороться с преступностью. А сбор огромных массивов персональных данных частными компаниями объясняется лишь заботой об угадывании желаний клиентов и персонализацией сервисов.
Уже сейчас многие государства тратят огромные средства на разработку и производство полностью автономных систем вооружения, а могли бы направить эти средства на создание автономного транспорта, который ежегодно сохранял бы жизни огромному числу граждан. Но функция новых методов убийства людей часто оказывается важнее функции сохранения жизни. В рамках кампании против полностью автономных систем вооружения (Campaign to Stop Killer Robots) мы уже много лет призываем в ООН подписать запрет на разработку и использование таких машин убийств. Однако наиболее милитаризованные страны не хотят даже слышать об этом.
Не взирая на лица
Контроль со стороны общества на фоне отсутствия регулирования — критический элемент сдерживания государства и частных компаний от использования технологий во вред гражданам. Ключевую роль приобретает гражданская самоорганизация. Инициативные сотрудники крупных корпораций объединяются и заставляют своих работодателей не только менять политику по отношению к тому или иному вопросу, но и отказываться от выгодных контрактов. Например, сотрудники Google добились разрыва контракта компании с Пентагоном на сумму $10 млрд, подразумевавшего разработку искусственного интеллекта для анализа больших данных Министерством обороны США. Теперь от подобных контрактов отказываются и другие компании.
Во многих городах общественные кампании и организации заставили местные власти отказаться от чрезмерного использования технологий слежки. В итоге системы распознавания лиц людей (то есть тотальная слежка) были запрещены в таких городах США, как Сан-Франциско, Окленд, Сомервилль, Портленд. В Москве сейчас, наоборот, все активнее действует система распознавания лиц. В сентябре 2020 года, например, было возбуждено уголовное дело в отношении полицейских, которые, по версии следствия, торговали данными граждан из базы системы.
При ограничении доступа госорганов и частных компаний к персональным данным можно избежать многих проблем. В Европе на этот вызов ответили принятием жесткого регулирования оборота персональных данных — General Data Protection Regulation (Общий регламент по защите данных). Однако большинство стран в мире не стали следовать примеру Европы: слишком заманчивые возможности открываются для правящих режимов и частных компаний при бесконтрольном использовании данных о гражданах.
Сейчас обществу крайне необходим моральный фундамент, который станет компасом при ускоряющихся технологических изменениях. Нельзя полагаться только на законы — в лучшем случае они будут приниматься со значительным опозданием. Гражданское общество должно само стать контролирующим органом. Это осуществимо в демократических государствах, где мнение граждан учитывается при принятии решений и где уже развиты институты гражданского общества. В авторитарных режимах возможности общества остаются сильно ограниченными. Вероятно, нас ждет появление первых цифровых диктатур. Их прообраз, как уверяют международные правозащитники, сложился в Синьцзян-Уйгурском автономном районе Китая. Именно здесь для уйгуров — мусульманского меньшинства Поднебесной — существует режим тотальной слежки за целым народом лишь из-за его религии.
Поэтому та этика, за которую бьются скептики, — это на самом деле правила и нормы по защите прав человека: права на неприкосновенность частной жизни и автономность в принятии решений. Приватность и автономность — это то, что делает нас личностями, которые могут самостоятельно жить именно своей жизнью, принимать решения самостоятельно, а не под влиянием контроля или манипуляций.
В каких странах используются системы распознавания лиц на основе ИИ
Алена Попова — юрист, правозащитник, основатель аналитического центра «Этика и технологии» (создан при поддержке научного совета по методологии искусственного интеллекта РАН РФ). Одна из авторов закона против домашнего насилия.