Трамп и IT-гиганты США договорились о четырех уровнях контроля над ИИ

Президент США Дональд Трамп и руководители шести технологических компаний подписали соглашение о совместных обязательствах в сфере контроля над искусственным интеллектом. Документ опубликован в соцсети Truth Social и называется «Соглашение Белого дома о суперинтеллекте».

Подписи под соглашением поставили главы Google, Anthropic, OpenAI, xAI и Nvidia, а также руководство Meta, которая признана в России экстремистской организацией и запрещена. Компании договорились внедрить четыре уровня контроля и аудита для тех, кто создает передовые ИИ-модели.

Первый уровень предполагает создание внутренних механизмов мониторинга возможностей моделей во время обучения и развертывания. Отслеживать будут кибербезопасность, биологические и химические угрозы, а также попытки взлома технических систем.

Второй уровень обязывает компании содержать внутреннюю команду, которая проверяет, что все механизмы контроля, мониторинга и обнаружения работают как задумано. Эта команда должна оперативно устранять выявленные проблемы.

Третий уровень требует привлечения независимого внешнего аудитора или оценщика. Он будет проводить проверки того, насколько корректно функционируют внутренние системы контроля и обнаружения.

Четвертый уровень предусматривает создание независимого комитета при совете директоров. Комитет станет следить за командами, управляющими механизмами контроля, получать отчеты от внутренних и внешних аудиторов и добиваться устранения найденных проблем.

В документе указано, что компании будут регулярно встречаться для выработки стандартов и лучших практик повышения безопасности своих систем. Отдельно отмечается, что со временем эти шаги, возможно, потребуется закрепить в законах или нормативных актах, но компании обязуются выполнять их независимо от этого.

В тот же день, 29 сентября, Трамп подписал указ, который поручает органам исполнительной власти США использовать термин «суперинтеллект» вместо «искусственный интеллект». Ранее, 20 сентября, он заявил о создании в стране Сил искусственного интеллекта.

Трамп подчеркнул, что США не будут мешать развитию ИИ-отрасли, но станут выявлять нарушения через существующую систему уголовного и гражданского правосудия. Ранее в сентябре он отклонил призывы замедлить развитие ИИ-моделей, заявив, что победитель в гонке ИИ-технологий «победит в целом».

Американские разработчики ранее призывали замедлить развитие ИИ-моделей из-за угрозы захвата ими всего интернета. Трамп же настаивает, что США опережают Китай в этом соперничестве, и хочет сохранить такое положение.

Читайте также

Россия и США убрали из проекта ООН требование о контроле человека над военным ИИ

США и Китай договорились создать механизм оповещения об инцидентах с ИИ

Расходы на блокировку сайтов в России вырастут почти до 60 млрд рублей за три года

Глава OpenAI предложил смириться с рисками ради пользы от искусственного интеллекта

Массажер Redmond BM7204: интенсивный шиацу для шеи и плеч без розетки