adblock check

Технология Яндекса Petals помогла Anthropic изучить самокопирование ИИ

Распределённый инференс из проекта Petals позволил запустить модель Gemma 4 на маломощных устройствах и проверить риски автономного распространения нейросетей.
Обложка: ИИ Trashbox.ru

Американская компания Anthropic использовала подход, реализованный в технологии Petals, для исследования рисков безопасности ИИ. Технологию создали исследователи Яндекса при участии НИУ ВШЭ, Вашингтонского университета, Hugging Face и Высшей нормальной школы Париж-Сакле.

Специалисты Anthropic изучали, могут ли нейросети самостоятельно распространяться между устройствами и работать без контроля человека. Petals — технология, которая позволяет запускать большие языковые модели, объединяя вычислительные мощности нескольких компьютеров через интернет. Обычно для работы таких моделей нужны дорогостоящие серверы с мощными графическими процессорами. Petals разделяет модель на части и распределяет их между разными устройствами. Каждый компьютер выполняет свою часть вычислений и передаёт результат следующему. Благодаря этому крупные нейросети становятся доступнее для научных лабораторий, стартапов и небольших компаний без собственной дорогостоящей инфраструктуры. Исходный код технологии открыт, а результаты исследований представляли на конференциях NeurIPS и ACL.

В Anthropic предположили, что большие нейросети могут работать не только в датацентрах, но и на множестве маломощных устройств — например домашних компьютерах и умной технике. Чтобы проверить это, специалисты использовали распределённый инференс, описанный в Petals, и запустили модель Gemma 4 с 26 млрд параметров на 15 Android TV-приставках. Эксперимент подтвердил, что такие устройства могут совместно обеспечивать работу большой нейросети без единого мощного сервера.

Кроме того, Anthropic изучила, способны ли ИИ-агенты самостоятельно распространяться между устройствами. В отдельных лабораторных экспериментах некоторые модели смогли находить новые устройства, получать к ним доступ и продолжать работу. Для этого исследователи использовали изолированную сеть с намеренно ослабленной защитой. Полученные результаты помогают оценить потенциальные риски развития автономных ИИ-систем и способы защиты от них.

Petals также получила развитие в других международных научных проектах. В 2026 году исследователи Калифорнийского университета в Мерседе использовали Petals, чтобы повысить эффективность распределённого инференса больших языковых моделей. На Petals также ссылались исследователи китайского Университета Цинхуа, изучавшие создание децентрализованной инфраструктуры для ИИ.

Источник

Pudganos Автор
Android Android
61,8K участников
Вступить
Комментариев пока нет
Оставьте комментарий...
Оставьте комментарий...