Россия и США убрали из проекта ООН требование о контроле человека над военным ИИ

Делегаты России и США исключили требование о человеческом контроле над военным искусственным интеллектом из проекта ООН по регулированию автономного оружия. Об этом сообщила The Washington Post со ссылкой на источники и рабочие документы. Переговоры проходили в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений с 31 августа по 4 сентября.

Из текста вычеркнули положения о том, что военный ИИ должен работать «предсказуемо» и «надежно», а цели, выбранные алгоритмами, перед атакой обязан проверять человек. Также исчез пункт об учете этических соображений при применении такого оружия. Один из собеседников газеты назвал процесс правок «смертью от тысячи порезов».

По данным издания, российская и американская команды включали примерно по десять юристов с каждой стороны. Это почти вдвое больше, чем у любого другого государства на переговорах. Заседание, где обсуждался военный ИИ, было закрытым, а представителей общественных организаций попросили покинуть зал.

Источники WP утверждают, что изменения в документ вносились настолько быстро, что небольшие делегации не успевали следить за ходом обсуждения. Госдепартамент США, российский МИД и ООН не ответили на запросы газеты. Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен заявила, что Россия и США выступают против юридически обязательных правил для автономного оружия.

Поскольку решения принимаются консенсусом, обе страны могут заблокировать предложения, поддержанные большинством участников. Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве, чтобы обсудить перевод консультаций в официальный мандат или юридически обязывающее соглашение.

В середине сентября гендиректор Anthropic Дарио Амодеи призвал компании координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман и глава Tesla и SpaceX Илон Маск. Президент США Дональд Трамп отверг этот призыв, заявив, что победитель в гонке ИИ-технологий «победит в целом».

Позднее The Information сообщало, что Anthropic, OpenAI и Google могли обсуждать создание отраслевого регулятора стандартов в области разработки ИИ. Financial Times писала, что основатели Nvidia Дженсен Хуанг и Meta Марк Цукерберг отвергли идею скоординированного замедления разработок ради безопасности человечества. Meta признана экстремистской организацией и запрещена в России.

Источник: Forbes — Технологии

Читайте также

OpenAI остановила обучение новых ИИ-моделей после серии инцидентов

Планетарный миксер: кому он пригодится, а кому лучше обойтись ручным

В 2026 году жилые застройщики сдадут 76% всех торговых центров Москвы

Xiaomi 18 Pro получил две камеры на 200 Мп и чип Snapdragon 8 Elite Gen 6

Обзор умной колонки «СберБум 2.0»: звук, экран и собственное имя