Anthropic заявила о массовых атаках на Claude: так компании обучают свои LLM
Вчера, 23 февраля, Anthropic в своём официальном блоге сообщила, что специалистам компании удалось выявить довольно масштабные кампании, нацеленные на извлечение возможностей больших языковых моделей Claude. По информации бренда, лаборатории DeepSeek, Moonshot и MiniMax совершили свыше 16 миллионов запросов посредством 24 тысяч аккаунтов, нарушая условия обслуживания и региональные ограничения доступа, чтобы получить данные для дальнейшего улучшения и дообучения своих собственных больших языковых моделей.
Представители компании заявили, что в лабораториях DeepSeek, Moonshot и MiniMax использовалась методика под названием «дистилляция», которая предполагает обучение менее продвинутой большой языковой модели на базе результатов работы более совершенного решения.
«Дистилляция — часто используемый и вполне легитимный метод обучения. Например, передовые лаборатории искусственного интеллекта регулярно дистиллируют свои собственные модели, чтобы создавать более компактные и дешёвые версии для своих клиентов», — говорится в блоге компании Anthropic.
При этом представители бренда заявляют, что методика дистилляции также может применяться конкурентами на, по мнению компании, незаконной основе. Суть в том, что компании-конкуренты могут использовать этот подход для развития возможностей своих LLM посредством дистилляции чужих больших языковых моделей — это гораздо быстрее и дешевле, чем в случае с самостоятельной доработкой собственной модели. Например, по данным Anthropic, компания DeepSeek путём дистилляции пыталась оценить способность большой языковой модели Claude к логическому мышлению в процессе решения разнообразных задач.
На втором месте по количеству вредоносных запросов расположилась Moonshot AI — этот сервис активно изучал агентские возможности модели и применение различных инструментов, анализировал возможности Claude в области программирования и анализа данных, функции по разработке агентских ИИ и возможности компьютерного зрения. Лидером же по количеству запросов выступила MiniMax — она оценивала агентское программирование и возможности по использованию различных инструментов ИИ.
Стоит отметить, что представители вышеупомянутых компаний эту ситуацию официально — вся информация о предполагаемых кампаниях по дистилляции взята из официального блога Anthropic.
