Глава Anthropic Дарио Амодей заявил, что компания никогда не поддерживала запрет моделей ИИ с открытыми весами, включая разработки китайских компаний. По его словам, такие модели приносят пользу исследователям, разработчикам и бизнесу, а сами по себе не являются угрозой.
ИИ-модели с открытыми весами — это обученные нейросети, внутренние математические параметры (веса) которых опубликованы в свободном доступе. Веса — это числовые значения, которые модель «выучила» в процессе обучения: они определяют, как нейросеть обрабатывает информацию и принимает решения. Проще говоря, это цифровой эквивалент знаний и опыта модели.
Основную опасность Амодей связывает не с открытыми моделями, а с тем, что авторитарные государства могут создать более мощные системы ИИ и использовать их для военного превосходства, массовой слежки или репрессий. Отдельно он отметил риск применения передовых моделей для кибератак, разработки биологического оружия и других опасных сценариев. При этом запрет на использование открытых моделей американскими компаниями, по его мнению, не решает ни одну из этих проблем.
Вместо ограничений Anthropic предлагает сосредоточиться на других мерах. Компания выступает за сохранение экспортных ограничений на современные чипы и оборудование для их производства, а также за борьбу с их контрабандой. Еще одной важной задачей Амодей назвал контроль промышленной дистилляции моделей, которая позволяет быстрее создавать конкурентоспособные ИИ-системы.
Кроме того, Anthropic поддерживает обязательное тестирование безопасности всех наиболее мощных моделей независимо от того, открытые они или закрытые. Проверки должны охватывать риски в сфере кибербезопасности, биологии и согласования ИИ. По мнению Амодея, именно такой подход позволит снизить реальные угрозы без запрета открытых моделей как класса.
