adblock check

Nous Research переобучила Qwen3.8-27B от Alibaba

Лаборатория Nous Research дообучила открытую модель Alibaba и показала, что ценностный слой LLM меняется небольшим объёмом данных
Обложка: unsplash.com

Американская лаборатория Nous Research дообучила открытую модель Alibaba Qwen3.8-27B и опубликовала результат под названием Arete-27B. По собственной оценке лаборатории, доля ответов с официальной китайской риторикой снизилась с 22% до 0,9%.

Для пост-обучения использовали только supervised fine-tuning — без reinforcement learning и без изменения архитектуры. Учителем выступила открытая модель Inkling, объём данных составил около 52,8 млн токенов, или 28 886 тренировочных примеров. Веса, тренировочные данные и оценочный набор выложены в открытый доступ на Hugging Face.

Результат проверяли на собственном наборе Propaganda_Eval из 803 промптов по семи темам: свобода выражения, государственная идеология, роль государства в экономике, образование, приватность, демократия и экологическая политика. Оценщиком выступил LLM-судья Grok 4.7, который не знал, какая модель дала ответ. Пересечения между тренировочным и оценочным наборами удалили до обучения.

По данным Nous Research, средний балл фактической точности вырос с 2,32 до 2,98 из 5. В категории «свобода выражения» показатель поднялся с 0,89 до 2,44, а число ответов с нулевой оценкой снизилось с 359 до 216 из 803. Общие способности почти не изменились: Hermes Bench — 65,77% против 65,60%, Terminal-Bench-2.1 — 67% против 70%.

Источник

dsviridenko
@dsviridenko
Выпускающий редактор
ИИ ИИ
19,4K участников
Вступить
Комментариев пока нет
Оставьте комментарий...
Оставьте комментарий...