Перейти к основному содержанию
Реклама
Прямой эфир
Спорт
Бывший глава МОК Бах выступил за возвращение России на чемпионат мира по хоккею
Происшествия
Четыре человека пострадали в результате атаки ВСУ в Запорожской области
Общество
Жителя Махачкалы задержали по подозрению в убийстве самбиста Давудова
Общество
Убитый на свадьбе в Дагестане самбист Давудов умер от выстрела в висок
Армия
Средства ПВО за день сбили 39 дронов ВСУ над регионами России
Мир
Экс-депутат рады связал частые поездки Зеленского в Европу со страхом протестов
Мир
Филиппо призвал возобновить диалог с Россией по энергоресурсам
Общество
Москвича задержали по подозрению в попытке убийства бывшей жены с помощью поджога
Мир
Что произошло за день 14 ноября. Главное
Мир
Принц Саудовской Аравии посетил район имени Путина в Чечне
Армия
Военные рассказали о ключевой роли операторов дронов при освобождении Шиловки
Мир
Противники АдГ согласовали коалицию в Мекленбурге — Передней Померании
Мир
Маск назвал блестящей деятельность Хуанга во главе Nvidia
Происшествия
Посетителя стрелкового клуба в Москве реанимируют после ранения в тире
Мир
В Париже прошла массовая акция против роста цен и насилия полиции
Армия
Российские военнослужащие вывели шестерых мирных жителей из Константиновки
Мир
FT указала на уязвимость Nvidia к судебным искам после увольнения Хуанга
Мир
Захарова диагностировала у Европы больной зуб в лице НАТО

Размер меняет значение

Эксперт по ИИ Алексей Нейман — о новом этапе развития фундаментальных моделей ИИ и перспективах отечественных решений
0
Озвучить текст
Выделить главное
Вкл
Выкл

В развитии искусственного интеллекта происходит важный поворот: самая крупная модель уже необязательно оказывается самой сильной или эффективной. Все чаще преимущество получают системы, которые обеспечивают сопоставимое или более высокое качество на конкретных задачах при меньшем объеме активных вычислений. Это тренд, способный изменить экономику внедрения ИИ.

Долгое время прогресс в этой отрасли связывали с масштабом: разработчики увеличивали число параметров, объем данных и вычислительные мощности. Такой подход дал мощный импульс, но сделал передовые модели чрезвычайно дорогими. Теперь конкуренция идет не только за размер, но и за эффективность архитектуры, обучения и использования вычислительных ресурсов.

Эффективность вычислений становится самостоятельным фактором конкуренции. Так, Google сообщала, что ее открытая модель Gemma 2 с 27 млрд параметров обеспечивает результаты, сопоставимые с моделями более чем вдвое большего размера, при этом способна работать на одном ускорителе.

Другой показательный пример — Ox Alpha, которую в августе анонимно разместили на платформе OpenRouter для тестирования. Позднее стало известно, что за ней стоит компания Z.ai, а сама модель представляет собой GLM-5.3-Flash. По данным разработчика, она содержит 320 млрд параметров, однако при обработке одного токена активирует около 18 млрд. Модель ориентирована в том числе на программирование и длительные агентные задачи. За первые шесть дней тестирования она обработала более 62 трлн токенов. В сентябре она занимала первое место в ежедневном рейтинге OpenRouter по этому показателю. Это отражает прежде всего фактический объем использования модели, а не ее качество как таковое.

В основе многих подобных решений лежит архитектура «смесь экспертов» (Mixture of Experts). Они могут содержать сотни миллиардов параметров, но при обработке каждого токена задействуется только часть. Создать такую модель сложнее, чем просто сократить число параметров: необходимо правильно распределять запросы между экспертами, сбалансировать их загрузку и сохранить устойчивость обучения. Все веса большой MoE-модели по-прежнему необходимо хранить и обслуживать, поэтому преимущество архитектуры заключается прежде всего в снижении объема вычислений на конкретный токен.

В этот мировой тренд вписывается и новая российская открытая модель Alice AI Foundation от «Яндекса». Она содержит 80 млрд параметров, однако при обработке каждого токена активирует только 3 млрд. По опубликованным результатам тестирования, в русскоязычных заданиях на проверку фактических знаний модель опережает DeepSeek-V4-Flash-Base, содержащую 284 млрд параметров, из которых активны 13 млрд. На ряде тестов по программированию Alice AI Foundation также превосходит Nemotron-3-Super-120B-Base от NVIDIA, используя в четыре раза меньше активных параметров.

Для оценки знаний, актуальных для отечественных пользователей, разработаны два собственных бенчмарка — WikiWebFacts и HardMultiQA. Они ориентированы на проверку фактических знаний в русскоязычном контексте. При этом результаты следует рассматривать с учетом методики конкретного теста и источника оценки: показатели, опубликованные разработчиком модели, не считаются универсальным измерением качества во всех сценариях.

Подобные сравнения не означают абсолютного превосходства одной модели над другой. Результат зависит от языка, теста, типа задачи и сценария применения, а крупные модели сохраняют преимущества на ряде задач. Но Google, Z.ai и «Яндекс» на разных примерах показывают общий принцип: количество параметров само по себе перестает быть достаточным показателем качества и эффективности модели.

Для бизнеса это имеет практическое значение. Компании оценивают ИИ не только по качеству результатов, но и по скорости работы, стоимости запросов и требованиям к вычислительной инфраструктуре. Даже небольшое снижение затрат на один запрос становится существенным при миллионах операций. Более эффективные модели позволяют использовать ИИ в задачах, где применение более ресурсоемких систем ранее было экономически нецелесообразным.

Особенно важен этот эффект для ИИ-агентов. Выполнение одного поручения может включать десятки действий: составление плана, обращение к внешним инструментам, изучение документов, проверку результатов и исправление ошибок. Вычислительные ресурсы расходуются на каждом этапе, поэтому преимущество более эффективной модели может накапливаться на протяжении всей цепочки. То же относится к корпоративному поиску, анализу документов, инструментам для программистов и образовательным сервисам.

Для российского рынка технология «Яндекса» важна еще и потому, что, судя по открытым данным, это заметный пример создания с нуля и публикации базовой MoE-модели такого масштаба. Компания самостоятельно разработала архитектуру, сформировала обучающий корпус и провела обучение. В документации указано, что ключевые архитектурные решения проверялись в отдельных циклах обучения объемом по 2 трлн токенов каждый.

Отечественная бигтех-компания продолжает развивать свои модели, сохраняя контроль над ключевыми технологиями, и одновременно тестирует различные, в том числе внешние, решения, которые затем могут интегрироваться в общую продуктовую архитектуру. Собственная технологическая база обеспечивает независимость при разработке, а открытость к экспериментам позволяет проверять новые подходы.

Переход от гонки параметров к гонке эффективности отражает изменение логики конкуренции в индустрии ИИ. Передовые возможности становятся доступнее не только за счет увеличения масштаба моделей, но и благодаря архитектуре, качеству данных и инженерным решениям, позволяющим получать больше результата из каждой единицы вычислительного ресурса.

Автор — исполнительный директор Ассоциации больших данных (АБД)

Позиция редакции может не совпадать с мнением автора

Читайте также
Прямой эфир