Создание ИИ следующих поколений столкнулось с неожиданным препятствием

ТехИнсайдерHi-Tech

Ненасытный интеллект

Создание искусственных интеллектов следующих поколений, еще более масштабных, сложных и точных, столкнулось с неожиданным препятствием: их работа требует так много электричества, что существующие мощности могут просто не справиться с генерацией.

Текст: Федор Соннов

Узкое горлышко

Чем крупнее, тем «умнее» становятся нейросети. При обучении они перерабатывают огромные массивы данных, настраивая миллиарды, а то и триллионы своих внутренних переменных. Чем больше у модели таких параметров, тем проще ей находить закономерности и связи. Вышедшая в 2018 году GPT-1 использовала 117 млн переменных, GPT-2 – около 1,5 млрд, а в GPT-4, по некоторым данным, их более 1,7 трлн. Однако по мере увеличения размеров нейросети оказываются все более «прожорливыми»: если обучение GPT-2 обошлось компании OpenAI всего в 50 тыс. долл., то на GPT-4 пришлось потратить уже более 100 млн.

Деньги нужны на инфраструктуру и работу дата-центров, питание и охлаждение десятков и сотен тысяч графических процессоров. Энергетические затраты, как и финансовые, растут экспоненциально. Эксперты подсчитали, что для подготовки GPT-4 было затрачено 51–62 ГВт·ч – такого количества электроэнергии мегаполису Сан-Франциско хватило бы на несколько дней.

По данным Международного энергетического агентства (МЭА), на вычисление и хранение данных сегодня уходит до 1,5% всей мировой электроэнергии. В США эта цифра уже достигла 4,4%; ожидается, что к 2028 году она вырастет до 12%. Однако новые огромные дата-центры для будущих нейросетей грозят сделать ситуацию куда более напряженной. В Вайоминге запланировано строительство дата-центра, который будет поглощать до 87,6 ТВт·ч в год – в пять раз больше, чем все жители штата, вместе взятые, и вдвое больше текущих возможностей генерации. «Ненасытный спрос ИИ на электроэнергию опережает десятилетние циклы развития энергосистемы, создавая критическое "узкое горлышко"», – отмечается в недавнем докладе агентства Goldman Sachs.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Шаг за шагом до Европы Шаг за шагом до Европы

Как на спутнике Юпитера Европе будут искать внеземные организмы

ТехИнсайдер
Учимся понимать наши растения Учимся понимать наши растения

Кажется, чего уж проще: полить цветы. Но и здесь есть ряд тонкостей...

Наука и жизнь
Свежий взгляд Свежий взгляд

Основательница компании Trinity Yachts Анна Гончарук о том, как начался ее путь

Y Magazine
Восточное путешествие с Агатой Кристи Восточное путешествие с Агатой Кристи

Детективы, Восток и археология – всё это сошлось вместе в судьбе Агаты Кристи

Знание – сила
Искусственный интеллект смотрит в небо Искусственный интеллект смотрит в небо

Как технологии ИИ стали единственным средством для изучения космических глубин

Наука и жизнь
В борьбе за экологию В борьбе за экологию

Чем станет повышение ставок экосбора на упаковку

Агроинвестор
Окаменелости — у порога Окаменелости — у порога

Мы привыкли думать, что научные чудеса происходят где-то далеко...

Наука и жизнь
Жизнь с начала времён Жизнь с начала времён

Как «каменные страницы» отражает биографию планеты Земля

Наука и жизнь
Переход на отечественный софт: комфорт превыше всего Переход на отечественный софт: комфорт превыше всего

Как осуществлялось импортозамещение в сфере кадастра и геодезии

Наука и техника
Масложировая отрасль снова идет на рекорд Масложировая отрасль снова идет на рекорд

Валовой сбор масличных может превысить 34 млн т

Агроинвестор
Золотая жила для агроинвестора Золотая жила для агроинвестора

Сколько стоит зайти на рынок готовой еды

Агроинвестор
Беременные андроиды Беременные андроиды

В последнее время идет прогресс в работах над искусственной маткой

ТехИнсайдер
Убийство в Гилее Убийство в Гилее

Как братоубийство Савлия изменило судьбу Скифии

Знание – сила
Как искусственный интеллект переписывает правила медиарынка Как искусственный интеллект переписывает правила медиарынка

О том, где проходит граница между помощником человека и его заменой

ТехИнсайдер
Первые шаги стратегической авиации Первые шаги стратегической авиации

О том, ценой какого труда, в каких муках рождалась стратегическая авиация

Наука и техника
Всем пригож песец Всем пригож песец

Песец – полярный кочевник с удивительной выносливостью

Знание – сила
Мы длинной вереницей идём за Синей птицей… Мы длинной вереницей идём за Синей птицей…

Синяя Птица — символ счастья, которое ищут все люди, но находят лишь немногие

Наука и жизнь
Код будущего Код будущего

Умные очки для плавания, роботы-сварщики и другие технологии будущего

ТехИнсайдер
«Красный» чай в «Бирюзовой чайхане» «Красный» чай в «Бирюзовой чайхане»

Ташкентец Ширяевец стал проводником поэта Есенина в мир Туркестана

Знание – сила
ИИ — иллюзия интеллекта? ИИ — иллюзия интеллекта?

Что же такое искусственный интеллект? Какие опасности он может таить?

Наука и жизнь
Тучерезы Тучерезы

Какие современные здания имеют шансы пережить столетия?

ТехИнсайдер
Боспор: царство греков и варваров Боспор: царство греков и варваров

Почему события, происходившие в Боспоре, имели для Афин большое значение?

Наука и жизнь
Одна маленькая лягушка и 10 000 мышей Одна маленькая лягушка и 10 000 мышей

Почему батрахотоксин смертелен для человека, но безвреден для маленькой лягушки?

Наука и жизнь
Тувинская «долина царей» – кладбище вождей азиатской Скифии Тувинская «долина царей» – кладбище вождей азиатской Скифии

Археология постепенно заставляет тувинскую «долину царей» открывать свои тайны

Знание – сила
День… суслика День… суслика

Я протёр глаза и приподнялся на локте: да это же суслик!

Наука и жизнь
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Смельчаки, которые предлагали читателям космооперу с коммунистическим колоритом

Наука и жизнь
Будьте здоровы Будьте здоровы

Наночастицы для борьбы с раком и уникальная операция в Казани

Знание – сила
Новости науки Новости науки

Самый яркий квазар, рекордный гамма-квант и другие новости науки

Знание – сила
Суда-ветераны Суда-ветераны

Возраст большинства речных судов в России превышает 50 лет

Наука и техника
Есенин: божественный бросок вперед Есенин: божественный бросок вперед

Почему творчество Есенина до сих пор вызывает отклик у читателей?

Знание – сила
Открыть в приложении