Глава Anthropic Дарио Амодеи выступает за более жесткий государственный контроль над развитием наиболее мощных систем искусственного интеллекта. В июне 2026 года он предложил ввести обязательное независимое тестирование передовых ИИ-моделей и предоставить государству возможность ограничивать их развертывание, если независимая оценка выявит неприемлемые риски.

В предложении Амодеи речь идет о моделях, превышающих определенный порог вычислительных ресурсов. Такие системы, по его мнению, должны проходить проверку по четырем направлениям: кибербезопасность, создание биологического оружия, риск потери контроля над ИИ и автоматизированные исследования, способные ускорить развитие остальных угроз. При выявлении неприемлемого уровня риска правительство, согласно его концепции, должно иметь право заблокировать или ограничить запуск модели. 

Амодеи также предложил ориентироваться на принципы регулирования таких отраслей, как авиация и фармацевтика: перед выпуском потенциально опасные технологии должны проходить технические испытания и аудит независимыми организациями.

В сентябре глава Anthropic вновь призвал замедлить развитие наиболее мощных ИИ-моделей. По данным Bloomberg, Амодеи предложил ведущим разработчикам совместно выработать стандарты безопасности и выступил за более строгие правила для компаний, которые не готовы соблюдать их добровольно. 

Позиция Амодеи заметно расходится с подходом Дональда Трампа. Президент США выступает против замедления развития ИИ и связывает необходимость сохранять высокие темпы отрасли с конкуренцией с Китаем. В сентябре Трамп также публично отвергал часть наиболее жестких предупреждений об угрозах искусственного интеллекта, называя подобные опасения преувеличенными. 

При этом уже 29 сентября Трамп провел встречу с руководителями крупнейших ИИ-компаний, включая Дарио Амодеи, и объявил о добровольном соглашении по повышению безопасности передовых моделей. Компании договорились сотрудничать с независимыми аудиторами, которые должны проверять работу ИИ-систем и оценивать защиту от несанкционированного доступа и взломов. 

Таким образом, дискуссия в США постепенно смещается от вопроса о том, нужно ли вообще контролировать развитие ИИ, к обсуждению конкретных механизмов такого контроля — от добровольных стандартов и независимого аудита до возможного государственного ограничения наиболее рискованных систем.

Если хочешь, могу следующим блоком сделать «Трамп против Амодеи: два подхода к регулированию ИИ» — в более цепляющем стиле для CNews/Dzen, но без политической оценки.