Почему нейросети иногда лгут и чем мы из-за этого рискуем

Вокруг светаHi-Tech

Генераторы заблуждений

Отличить правду от вымысла всегда было трудно, а в эпоху искусственного интеллекта эта задача многократно усложняется. Рассказываем, почему нейросети иногда лгут, чем мы из-за этого рискуем и как жить в эпоху «ИИстины».

Текст: Сергей Марков

Не верь глазам своим

Картина «Theatre D’opéra Spatial» изображает фантастический оперный театр в космическом пространстве, люди, одетые в стиле барокко, спускаются на сцену сквозь круглый портал. В августе 2022 года эта работа заняла первое место в категории «Цифровое искусство» на ярмарке штата Колорадо. Пикантная деталь: жюри не знало, что изображение создано системой искусственного интеллекта (ИИ) Midjourney. За этой историей последовала череда других. Папа римский в модном пуховике, Илон Маск, целующий робожену, пожар в Пентагоне, заваленный кучами мусора Париж – отличить реальный контент от сгенерированного стало очень сложно. К изображениям прибавилось видео. В 2025 году публика приняла за чистую монету видео бушующих в Лос-Анджелесе пожаров. Не помог даже поставленный в оригинальном посте тэг #aiart.

В интернете все больше сгенерированных машинами изображений, видео и текстов. Они влияют на наши представления о реальности, а значит, и на решения, которые мы принимаем.

Знает ли ИИ, чего он не знает?

Стать жертвой преднамеренной фальсификации – лишь одна из опасностей, подстерегающих нас в эпоху ИИ. Другая – «добросовестные ошибки» нейросетей. В последнее время стало модным консультироваться по разным вопросам с генеративными языковыми моделями, то есть системами ИИ, предназначенными для написания текстов.

В 2023 году газета «Нью-Йорк Таймс» сообщила о курьезном случае. В США два адвоката предоставили судье документ, полный ссылок на несуществующие судебные решения. Адвокаты воспользовались сервисом ChatGPT, в основе которого – генеративные языковые модели семейства GPT. Судья оштрафовал незадачливых юристов на 5000 долларов и предписал отправить копию этого «литературного произведения» каждому из реальных судей, чьи имена в нем фигурировали.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Сохранить и приумножить Сохранить и приумножить

Как музеи с гражданами спасали ее культурное наследие во время войны

Вокруг света
Санчо Панса языка Санчо Панса языка

На курсах литературного мастерства учат не разводить словесные кружева

Seasons of life
День, когда родился новый мир День, когда родился новый мир

2 сентября – день, когда победа не завершила войну, а изменила ее форму

Знание – сила
У вас такие перья! У вас такие перья!

Как викторианская мода и мужские увлечения уничтожали дикую природу

Вокруг света
Наша стратегия — помогать повышать прибыльность аграрного производства Наша стратегия — помогать повышать прибыльность аграрного производства

Гендиректор фирмы «Август» — о развитии и планах компании

Агроинвестор
Пена Атлантиды Пена Атлантиды

Ну какое пиво без Рыбинска?

Автопилот
Современный баланс Современный баланс

Проект этой квартиры призван воплотить идею уютного и функционального жилья

Идеи Вашего Дома
По одежде встречают По одежде встречают

Что носят тибетцы и почему им не нужна европейская одежда

Вокруг света
Дорогой лапши Дорогой лапши

Китайская лапша давно свернула с Великого шелкового пути

Seasons of life
«Нет ничего прекраснее антарктических льдов» «Нет ничего прекраснее антарктических льдов»

Почему важна наука гляциология и что она изучает?

Знание – сила
Неприметные живые фабрики Неприметные живые фабрики

Как живые организмы синтезируют токсичные вещества

Наука и жизнь
Самый быстрый медведь Самый быстрый медведь

Skoda Kodiaq RS стала нам ближе

Автопилот
Путь к свободе Путь к свободе

Ferretti Yachts 940 заменила 920 и при всем сходстве заметно от нее отличается

Y Magazine
Кофе, яблоки, алыча Кофе, яблоки, алыча

Дина Рубина — мастерица передавать в тексте вкусы, текстуры и запахи

Seasons of life
Заполярная одиссея Заполярная одиссея

Путешествие под парусом в Арктике

Вокруг света
Сто грамм с прицепом Сто грамм с прицепом

Собираем осколки пивной империи

Автопилот
Фрагмент истории Фрагмент истории

Интерьер, в котором сохранили стену с аутентичной кирпичной кладкой

Идеи Вашего Дома
Тимофеев-Ресовский, зоология и век информации Тимофеев-Ресовский, зоология и век информации

Об отношениях Тимофеева-Ресовского с зоологией

Знание – сила
Нарядный лаконизм Нарядный лаконизм

Автор проекта полностью переосмыслила пространство этой квартиры

Идеи Вашего Дома
Очищают ли растения воздух в доме? Очищают ли растения воздух в доме?

Как комнатные растения могут избавить нас от избытка углекислого газа

Наука и жизнь
«Холодный мир – это наше достояние» «Холодный мир – это наше достояние»

Что такое криосфера? Можно ли использовать знания о ней в повседневной жизни?

Знание – сила
Тут как тут Тут как тут

Дорога из Дербента в Махачкалу на страницах скетчбука

Seasons of life
Почему «неправильный» язык становится нормой? Почему «неправильный» язык становится нормой?

Почему пиджины — интересное лингвистическое явление?

Наука и жизнь
Прогулка в облаках Прогулка в облаках

Эта кухня — очень нежная, гармоничная и в то же время функциональная

Идеи Вашего Дома
Мягкая сила Мягкая сила

Искусствовед — о дарах и уроках Великого шелкового пути

Seasons of life
Завтрак в мансарде Завтрак в мансарде

Почему романтиков и творческих личностей привлекает жизнь в мансарде?

Идеи Вашего Дома
Только в путь Только в путь

Jetour T1 без границ

Автопилот
Огненная саламандра Огненная саламандра

Мифический «дух огня» с точки зрения биологии

Вокруг света
Нейросети в «стране городов» Нейросети в «стране городов»

Как ученые изучали «Страну городов» с помощью нейросетей

Наука и жизнь
Урожаи вырастут на поливе Урожаи вырастут на поливе

Что сдерживает распространение ирригационных технологий

Агроинвестор
Открыть в приложении