Google, OpenAI, Meta, Anthropic, Nvidia и xAI подписали с администрацией Дональда Трампа добровольное соглашение о безопасности передовых систем искусственного интеллекта. Компании обязались усилить внутренний контроль, привлекать независимых аудиторов и создать специальные комитеты при советах директоров.

Соглашение было заключено после встречи руководителей крупнейших технологических компаний с Трампом в Белом доме. Документ предусматривает несколько уровней контроля за наиболее мощными ИИ-моделями — от внутренних проверок до независимого внешнего аудита.

Компании будут контролировать ИИ самостоятельно

Согласно договоренности, технологические корпорации должны создать внутренние механизмы контроля за своими моделями и назначить команды, которые будут следить за соблюдением установленных мер безопасности.

Кроме того, компании планируют привлекать независимых аудиторов. Результаты таких проверок должны рассматриваться специальными комитетами при советах директоров, которые будут контролировать устранение выявленных проблем. 

При этом соглашение пока остается добровольным. В нем нет штрафов или других юридических санкций за невыполнение обязательств, а компании самостоятельно определяют аудиторов и порядок реализации предусмотренных  мер. В документе, однако, допускается возможность того, что отдельные положения в будущем могут получить силу закона или нормативных актов. 

Что будут проверять

Особое внимание планируется уделять возможностям передовых ИИ-моделей и потенциальным угрозам, связанным с их использованием. Среди рисков — несанкционированный доступ к компьютерным системам, кибератаки, а также применение технологий для создания биологических или химических угроз.

Таким образом, речь идет не только о тестировании самих алгоритмов, но и о контроле за тем, какие возможности получают наиболее современные модели и насколько надежно они защищены от неправильного использования. 

Трамп меняет терминологию

Параллельно администрация президента США решила пересмотреть даже официальное обозначение технологии. Согласно указу Трампа от 29 сентября, федеральные ведомства должны использовать термин «Super Intelligence» (SI) вместо «Artificial Intelligence» (AI) в официальной переписке, документах, отчетах и публичных коммуникациях.

При этом юридическое определение технологии пока остается прежним: указ временно распространяет на термин «Super Intelligence» существующее в законодательстве определение искусственного интеллекта. В течение 60 дней администрация должна представить предложения по формированию отдельного федерального определения SI. 

Кто будет отвечать за ИИ в Белом доме

На фоне этих решений Трамп также готовится назначить нового советника по вопросам искусственного интеллекта, которого ранее называли «царем ИИ». Среди главных кандидатов — директор национальной разведки США Джей Клейтон. По данным Reuters, он может совмещать новую функцию с руководством разведывательным сообществом. 

Ранее эту роль занимал венчурный инвестор Дэвид Сакс. После ухода с официальной должности он продолжил консультировать администрацию по вопросам технологий.

Таким образом, Вашингтон одновременно усиливает внимание к безопасности передовых ИИ-систем и сохраняет ставку на развитие отрасли. Пока американская администрация делает основной акцент на добровольном контроле со стороны самих технологических компаний, оставляя возможность для последующего закрепления этих правил на законодательном уровне.