Как устроены малые языковые модели и в чем их преимущества перед большими?

РБКHi-Tech

SLM схватывают на лету

Как устроены малые языковые модели и в чем их преимущества перед большими моделями

Автор: Сергей Лукашкин, к. ф.-м. н., эксперт по цифровой трансформации, ранее работал в научно-образовательном центре «Цифровые технологии в образовании» ВШМ СПбГУ

Справка от ChatGPT

SLM (Small Language Model) — в сфере ИИ это языковая модель с ограниченным числом параметров, предназначенная для обработки и предсказания слов или фраз в контексте предыдущих слов. Основная цель SLM — предсказать следующее слово или последовательность слов, исходя из предыдущего контекста. Такие модели используют методы машинного обучения для анализа текста и могут быть обучены на больших корпусах данных для повышения точности предсказаний. SLM широко применяются в задачах обработки естественного языка, например в системах автозамены, автодополнения, в машинном переводе, распознавании речи и генерации текста.

Что такое SLM и LLM

Малые языковые модели, в отличие от больших языковых моделей (LLM), обученных на огромных массивах данных, используют небольшие объемы информации, но лучшего качества, поэтому работают точнее.

Четкого разделения между LLM и SLM пока что нет. Одни относят к большим языковым моделям те, что работают с 100 млн и более параметров, а к малым — от 1 млн до 10 млн. Другие называют цифры 100+ млрд и 10 млрд соответственно. Но речь идет не только о числе параметров, но и объеме данных, физических размерах и нейронной архитектуре. Если упростить, то малая языковая модель — это та, что требует в разы меньше ресурсов при обучении и анализе данных, чем большая.

O'qishni davom ettirish uchun tizimga kiring. Bu tez va bepul.

Roʻyxatdan oʻtish orqali men foydalanish shartlari 

Tavsiya etilgan maqolalar

Почему в тренде узкоспециализированные выставки Почему в тренде узкоспециализированные выставки

Есть ли перспективы у выставочной индустрии?

РБК
Император железных дорог Император железных дорог

Двенадцать лет назад за этой железнодорожной историей следил весь мир

ТехИнсайдер
Свежий взгляд Свежий взгляд

Основательница компании Trinity Yachts Анна Гончарук о том, как начался ее путь

Y Magazine
В «Зеленой Долине» разместится 40 тыс. голов КРС В «Зеленой Долине» разместится 40 тыс. голов КРС

Агрохолдинг «Зеленая Долина» возведет крупнейший в Европе молочный комплекс

Агроинвестор
Спинной мозг самолета – автопилот Спинной мозг самолета – автопилот

Пока человек толком не понимал, что такое полет, автопилот был не нужен

Наука и техника
«Красный» чай в «Бирюзовой чайхане» «Красный» чай в «Бирюзовой чайхане»

Ташкентец Ширяевец стал проводником поэта Есенина в мир Туркестана

Знание – сила
Достоевский и раненая самость Достоевский и раненая самость

Психологическая анатомия духовного напряжения

Знание – сила
Скифы: наследие, не расшифрованное до конца Скифы: наследие, не расшифрованное до конца

Скифы – народ, о которых мы знаем многое, но почти ничего не понимаем

Знание – сила
Биосигнатуры и их разоблачение: жизненно важные улики Биосигнатуры и их разоблачение: жизненно важные улики

Судить о возможном существовании иной жизни приходится по косвенным признакам

ТехИнсайдер
Рихард Зорге: Самый успешный разведчик по версии Эдгара Гувера Рихард Зорге: Самый успешный разведчик по версии Эдгара Гувера

Легендарный Рихард Зорге: «”Висбаден” всегда на связи»

Знание – сила
Ненасытный интеллект Ненасытный интеллект

Создание ИИ следующих поколений столкнулось с неожиданным препятствием

ТехИнсайдер
Новости науки Новости науки

Самый яркий квазар, рекордный гамма-квант и другие новости науки

Знание – сила
Три кита пивной отрасли Три кита пивной отрасли

Как идет импортозамещение солода, хмеля и пивоваренного ячменя

Агроинвестор
Самые быстрые Самые быстрые

Когда речь заходит о скорости, победитель может быть только один

ТехИнсайдер
Ежевичный холм и его обитатели Ежевичный холм и его обитатели

Выход жизни на сушу – вопрос, интересующий не только специалистов

Наука и техника
Одна маленькая лягушка и 10 000 мышей Одна маленькая лягушка и 10 000 мышей

Почему батрахотоксин смертелен для человека, но безвреден для маленькой лягушки?

Наука и жизнь
Суда-ветераны Суда-ветераны

Возраст большинства речных судов в России превышает 50 лет

Наука и техника
Будьте здоровы Будьте здоровы

Наночастицы для борьбы с раком и уникальная операция в Казани

Знание – сила
Окаменелости — у порога Окаменелости — у порога

Мы привыкли думать, что научные чудеса происходят где-то далеко...

Наука и жизнь
В борьбе за экологию В борьбе за экологию

Чем станет повышение ставок экосбора на упаковку

Агроинвестор
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Смельчаки, которые предлагали читателям космооперу с коммунистическим колоритом

Наука и жизнь
Тувинская «долина царей» – кладбище вождей азиатской Скифии Тувинская «долина царей» – кладбище вождей азиатской Скифии

Археология постепенно заставляет тувинскую «долину царей» открывать свои тайны

Знание – сила
Золотая жила для агроинвестора Золотая жила для агроинвестора

Сколько стоит зайти на рынок готовой еды

Агроинвестор
Устаревшие технологии Устаревшие технологии

Вахта на Европе длится долго. Всё приедается

Наука и жизнь
Переход на отечественный софт: комфорт превыше всего Переход на отечественный софт: комфорт превыше всего

Как осуществлялось импортозамещение в сфере кадастра и геодезии

Наука и техника
Всем пригож песец Всем пригож песец

Песец – полярный кочевник с удивительной выносливостью

Знание – сила
Биосфера и пластик Биосфера и пластик

Когда-нибудь ученые, наверное, будут выделять пластиковый век

Наука и техника
Убийство в Гилее Убийство в Гилее

Как братоубийство Савлия изменило судьбу Скифии

Знание – сила
Скифы Северного Причерноморья: легенды и реальность Скифы Северного Причерноморья: легенды и реальность

Как греки превратили скифов в символ воинской чести и простоты

Знание – сила
Беременные андроиды Беременные андроиды

В последнее время идет прогресс в работах над искусственной маткой

ТехИнсайдер
Открыть в приложении