Почему нейросети иногда лгут и чем мы из-за этого рискуем

Вокруг светаHi-Tech

Генераторы заблуждений

Отличить правду от вымысла всегда было трудно, а в эпоху искусственного интеллекта эта задача многократно усложняется. Рассказываем, почему нейросети иногда лгут, чем мы из-за этого рискуем и как жить в эпоху «ИИстины».

Текст: Сергей Марков

Не верь глазам своим

Картина «Theatre D’opéra Spatial» изображает фантастический оперный театр в космическом пространстве, люди, одетые в стиле барокко, спускаются на сцену сквозь круглый портал. В августе 2022 года эта работа заняла первое место в категории «Цифровое искусство» на ярмарке штата Колорадо. Пикантная деталь: жюри не знало, что изображение создано системой искусственного интеллекта (ИИ) Midjourney. За этой историей последовала череда других. Папа римский в модном пуховике, Илон Маск, целующий робожену, пожар в Пентагоне, заваленный кучами мусора Париж – отличить реальный контент от сгенерированного стало очень сложно. К изображениям прибавилось видео. В 2025 году публика приняла за чистую монету видео бушующих в Лос-Анджелесе пожаров. Не помог даже поставленный в оригинальном посте тэг #aiart.

В интернете все больше сгенерированных машинами изображений, видео и текстов. Они влияют на наши представления о реальности, а значит, и на решения, которые мы принимаем.

Знает ли ИИ, чего он не знает?

Стать жертвой преднамеренной фальсификации – лишь одна из опасностей, подстерегающих нас в эпоху ИИ. Другая – «добросовестные ошибки» нейросетей. В последнее время стало модным консультироваться по разным вопросам с генеративными языковыми моделями, то есть системами ИИ, предназначенными для написания текстов.

В 2023 году газета «Нью-Йорк Таймс» сообщила о курьезном случае. В США два адвоката предоставили судье документ, полный ссылок на несуществующие судебные решения. Адвокаты воспользовались сервисом ChatGPT, в основе которого – генеративные языковые модели семейства GPT. Судья оштрафовал незадачливых юристов на 5000 долларов и предписал отправить копию этого «литературного произведения» каждому из реальных судей, чьи имена в нем фигурировали.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Гипотеза бабушек Гипотеза бабушек

Зачем животным старшие поколения и как они передают опыт

Вокруг света
Мерзлота не вечная: прошлое и настоящее Мерзлота не вечная: прошлое и настоящее

Чем может угрожать таяние вечной мерзлоты, к каким последствиям это приведет?

Знание – сила
Огненная саламандра Огненная саламандра

Мифический «дух огня» с точки зрения биологии

Вокруг света
Львинохвостые макаки, или Вандеру Львинохвостые макаки, или Вандеру

Львинохвостые макаки – очень капризные и не желающие быть фотомоделями

Знание – сила
Природная палитра Природная палитра

Интерьер ванной комнаты выдержан в спокойной природной гамме

Идеи Вашего Дома
Другая история Другая история

Человеческому терпению нет предела, но это явно не тот случай!

Знание – сила
Попасть в точку Попасть в точку

Дизайнерам удалось превратить стандартный санузел в выразительное пространство

Идеи Вашего Дома
Свежий взгляд Свежий взгляд

Основательница компании Trinity Yachts Анна Гончарук о том, как начался ее путь

Y Magazine
Место пермской силы, или Пять веков деревянного Урала Место пермской силы, или Пять веков деревянного Урала

Культурные традиции Пермского края известны далеко за пределами его границ

Знание – сила
Современный баланс Современный баланс

Проект этой квартиры призван воплотить идею уютного и функционального жилья

Идеи Вашего Дома
Яркие акценты Яркие акценты

Заказчик хотел интерьер спокойной цветовой палитры, но с яркими акцентами

Идеи Вашего Дома
Путь к свободе Путь к свободе

Ferretti Yachts 940 заменила 920 и при всем сходстве заметно от нее отличается

Y Magazine
Тбилисские гости Тбилисские гости

«Наша жизнь состоит из моментов, когда ты встречаешься с друзьями»

Seasons of life
«Всегда» уже заканчивается «Всегда» уже заканчивается

Что может исчезнуть из нашей жизни раньше, чем мы успеем это осознать?

Вокруг света
Отправь меня на Луну Отправь меня на Луну

Цифра «три», похоже, стала для яхты Orion символом

Y Magazine
Здесь и сейчас Здесь и сейчас

Пространство квартиры с глубокими, насыщенными оттенками, тёплыми фактурами

Идеи Вашего Дома
По одежде встречают По одежде встречают

Что носят тибетцы и почему им не нужна европейская одежда

Вокруг света
Заполярная одиссея Заполярная одиссея

Путешествие под парусом в Арктике

Вокруг света
Простор для творчества Простор для творчества

Верфь Bilgin Yachts продолжает успешную серию 50‑метровых яхт Bilgin 163

Y Magazine
Многофакторность климата Многофакторность климата

Факторы, которые способствуют росту средней температуры в полярных областях

Знание – сила
Cпасибо, что живой Cпасибо, что живой

Парадокс Crosstrek

Автопилот
Элегантная роскошь Элегантная роскошь

В цветовое решение интерьера решили заложить приглушённые естественные оттенки

Идеи Вашего Дома
Флагман дальнего плавания Флагман дальнего плавания

Bering 165 — это судно с отвесным форштевнем и высоким бортом до миделя

Y Magazine
У вас такие перья! У вас такие перья!

Как викторианская мода и мужские увлечения уничтожали дикую природу

Вокруг света
Образование в Российской империи было доступнее, чем кажется Образование в Российской империи было доступнее, чем кажется

Каким было образование в Российской империи начала XX века?

Знание – сила
Тут как тут Тут как тут

Дорога из Дербента в Махачкалу на страницах скетчбука

Seasons of life
ESG-принципы российских агрохолдингов ESG-принципы российских агрохолдингов

Что поможет привлечь инвестиции в устойчивое сельское хозяйство?

Агроинвестор
Обратная связь планеты Обратная связь планеты

Почему Арктика — самое «горячее» место на планете?

Наука и жизнь
Лофт для гедониста Лофт для гедониста

Элементы экстерьера получили продолжение в оформлении интерьера в стиле лофт

Идеи Вашего Дома
Тимофеев-Ресовский, зоология и век информации Тимофеев-Ресовский, зоология и век информации

Об отношениях Тимофеева-Ресовского с зоологией

Знание – сила
Открыть в приложении