Почему нейросети иногда лгут и чем мы из-за этого рискуем

Вокруг светаHi-Tech

Генераторы заблуждений

Отличить правду от вымысла всегда было трудно, а в эпоху искусственного интеллекта эта задача многократно усложняется. Рассказываем, почему нейросети иногда лгут, чем мы из-за этого рискуем и как жить в эпоху «ИИстины».

Текст: Сергей Марков

Не верь глазам своим

Картина «Theatre D’opéra Spatial» изображает фантастический оперный театр в космическом пространстве, люди, одетые в стиле барокко, спускаются на сцену сквозь круглый портал. В августе 2022 года эта работа заняла первое место в категории «Цифровое искусство» на ярмарке штата Колорадо. Пикантная деталь: жюри не знало, что изображение создано системой искусственного интеллекта (ИИ) Midjourney. За этой историей последовала череда других. Папа римский в модном пуховике, Илон Маск, целующий робожену, пожар в Пентагоне, заваленный кучами мусора Париж – отличить реальный контент от сгенерированного стало очень сложно. К изображениям прибавилось видео. В 2025 году публика приняла за чистую монету видео бушующих в Лос-Анджелесе пожаров. Не помог даже поставленный в оригинальном посте тэг #aiart.

В интернете все больше сгенерированных машинами изображений, видео и текстов. Они влияют на наши представления о реальности, а значит, и на решения, которые мы принимаем.

Знает ли ИИ, чего он не знает?

Стать жертвой преднамеренной фальсификации – лишь одна из опасностей, подстерегающих нас в эпоху ИИ. Другая – «добросовестные ошибки» нейросетей. В последнее время стало модным консультироваться по разным вопросам с генеративными языковыми моделями, то есть системами ИИ, предназначенными для написания текстов.

В 2023 году газета «Нью-Йорк Таймс» сообщила о курьезном случае. В США два адвоката предоставили судье документ, полный ссылок на несуществующие судебные решения. Адвокаты воспользовались сервисом ChatGPT, в основе которого – генеративные языковые модели семейства GPT. Судья оштрафовал незадачливых юристов на 5000 долларов и предписал отправить копию этого «литературного произведения» каждому из реальных судей, чьи имена в нем фигурировали.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Между войной и Великой депрессией Между войной и Великой депрессией

Мир после Первой мировой войны продолжал меняться с непривычной людям скоростью

Вокруг света
Как платформенная занятость влияет на российский рынок труда Как платформенная занятость влияет на российский рынок труда

Как платформенная экономика трансформирует рынок труда и развивает регионы

РБК
Жизнь и открытия Степана Куторги: от классиков до звероящеров Жизнь и открытия Степана Куторги: от классиков до звероящеров

«Удивительные ошибки» гения: как российский ученый открыл звероящеров

Наука и техника
Учимся и программируем с ИИ: эпоха нейросетей и вайб-кодинга Учимся и программируем с ИИ: эпоха нейросетей и вайб-кодинга

Что такое вайб-кодинг и как нейросети меняют образование?

Наука и техника
Большие надежды Большие надежды

Как дух эпохи беби-бума отражается в предметах

Вокруг света
Человек и мир агентов искусственного интеллекта Человек и мир агентов искусственного интеллекта

Три сценария для поддержания человеческой уникальности в мире ИИ

Наука
Семь крапив Семь крапив

В России окультуривают ценное, полезное, но очень жгучее растение

Наука
Китайский с нуля Китайский с нуля

Сложно ли выучить новый язык и как это сделать самостоятельно

РБК
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Сказочная повесть — фантастика с просветительской задачей

Наука и жизнь
Какие технологии позволяют соблюдать ESG-принципы Какие технологии позволяют соблюдать ESG-принципы

Как ESG-технологии помогают повышать производительность бизнес-процессов

РБК
Человек уже не тот Человек уже не тот

Как эволюция продолжает нас менять, и нужно ли это человечеству

Вокруг света
Дрофа – степной реликт Дрофа – степной реликт

Все ли знают о самой крупной птице России? Это дрофа

Знание – сила
Устричный гриб, его собратья и однофамильцы Устричный гриб, его собратья и однофамильцы

Где растёт вёшенка и кто её лесные «однофамильцы»

Наука и жизнь
Молодой Цезарь Молодой Цезарь

Карьера Цезаря могла бы оборваться, едва начавшись, равно как и его жизнь...

Знание – сила
Космическая пыль в междупланетном пространстве Космическая пыль в междупланетном пространстве

Наука в годы войны: астроном Фесенков об астероидах и космической пыли

Наука и жизнь
Гипотеза бабушек Гипотеза бабушек

Зачем животным старшие поколения и как они передают опыт

Вокруг света
Рассказ солдата Рассказ солдата

Воспоминания Георгия Немчинова о войне на передовой

Знание – сила
Прямоточные двигатели будущего Прямоточные двигатели будущего

Сложнейшая задача гиперзвукового движения решается с нескольких направлений

Наука
Будет ли у России атомный авианосец? Будет ли у России атомный авианосец?

Каким будет облик российского авианосца будущего?

Наука и техника
Учебная тревога Учебная тревога

Как устроена система образования в странах Азии и почему она вызывает опасения

РБК
Рельсы стратегического направления Рельсы стратегического направления

Байкало-Амурская магистраль — детище русско-японской и последующих войн

Наука
Наталья Зубаревич: «Массовый переезд россиян на Дальний Восток пока нечем мотивировать» Наталья Зубаревич: «Массовый переезд россиян на Дальний Восток пока нечем мотивировать»

Какие барьеры сильнее всего удерживают российский экспорт и импорт

РБК
Морские, древесные и прочие удивительные крокодилы Морские, древесные и прочие удивительные крокодилы

От крокосвиньи, этозавра и попозавроида к крокодилу: путь в 200 млн лет

Наука и техника
Биология эльфов Биология эльфов

Чем эльфам пришлось бы «пожертвовать» в обмен на вечную жизнь?

Вокруг света
Мост – это мир со своими законами Мост – это мир со своими законами

Наш сегодняшний разговор – не о фантастике, а о фантастических мостах

Знание – сила
Генеральная уборка Генеральная уборка

Как РГО старается уменьшить следы антропогенного воздействия

Вокруг света
Атлас будущего Атлас будущего

Кто станет «человеческим паркетом» и кого ИИ оставит без работы?

Вокруг света
Когда ещё был лес… Когда ещё был лес…

Рассказ Саши Тэмлейн «Когда ещё был лес…»

Наука и жизнь
Багуловое сердце Багуловое сердце

Рассказы Забайкалья о том, как был сотворен их мир

Вокруг света
Мускулы крылатой машины – система управления Мускулы крылатой машины – система управления

Как пилот заставляет слушаться машину в десятки тонн, контролируя ее в воздухе?

Наука и техника
Открыть в приложении