Яндекс открыл исходный код собственной языковой модели Alice AI Search Pretrain, которая стала основой быстрых ИИ-ответов в Поиске. Модель обучена с нуля и уже доступна разработчикам и исследователям на Hugging Face.
Alice AI Search Pretrain рассчитана на обработку большого количества документов и запросов. При этом ей не требуются значительные вычислительные мощности. Модель использует гибридную архитектуру Encoder-Decoder и MoE. Первая технология помогает отдельно обрабатывать информацию и формировать итоговый ответ, а вторая задействует только необходимые части нейросети.
Всего модель содержит 35 млрд параметров, но при обработке одного токена используется около 600 млн. Это позволяет заметно снизить нагрузку на вычислительные ресурсы. По результатам слепых тестов Alice AI Search Pretrain показывает более высокое качество ответов на русском языке, чем компактные Qwen 3.5 2B и 4B и T5 Gemma 2 4B-4B Base. При этом по качеству она сопоставима с Qwen 3.5 35B-A3B, которая требует больше ресурсов.
Дообученная версия модели работает в Поиске Яндекса с июля. Alice AI Search формирует короткие ответы прямо под поисковой строкой и помогает быстрее разобраться с запросом. Ею ежемесячно пользуются более 49 млн человек.
