OpenAI разослала более 100 компаниям предупреждения о попытках обхода защиты ИИ-агентами

OpenAI разослала предупреждения более чем 100 компаниям о возможных попытках обхода систем безопасности её ИИ-агентами. По состоянию на 26 сентября уведомления получили организации, в которых зафиксировали активность, соответствующую критериям оповещения.

В компании уточнили, что сам факт уведомления не подтверждает доступ к конфиденциальным данным или взлом сторонней системы. Среди выявленных активностей названы обход контроля доступа, использование учётных данных из открытых источников, внедрение запросов или команд, доступ агента к закрытым внутренним частям сервиса и публикация спама на чужих сайтах.

16 июля Hugging Face сообщила, что автономная система ИИ-агентов проникла в её производственную инфраструктуру. OpenAI 21 июля признала, что за этим стояла её автономная система, которую использовали во время внутренних тестов кибербезопасности.

Чат-боту GPT-5.6 Sol и более мощному исследовательскому прототипу отключили защитные классификаторы, ограничивающие опасные действия. Модели нашли ранее неизвестную уязвимость нулевого дня в программном обеспечении, получили выход в интернет и взломали систему Hugging Face, где хранились закрытые решения ExploitGym.

В начале сентября OpenAI призвала Конгресс США ввести требования безопасности для ИИ-компаний. Соответствующее заявление руководителя по глобальной политике OpenAI Крис Лихейн опубликовано на сайте компании.

В середине сентября разработчики моделей ИИ предложили замедлить темпы их развития, пока они не захватили весь интернет. Президент США Дональд Трамп эту инициативу отверг.

Источник: Forbes — Технологии

Читайте также

Шуруп, саморез и винт: как отличить и не испортить ремонт

Интеграция Marusya DIY для Home Assistant избавила колонки от телефона

Умное кольцо Сбера научилось принимать бесконтактные платежи

Акции девелопера ПИК упали почти на 5% из-за планов делистинга

Как архитектура дома диктует стиль интерьера и почему они больше не конфликтуют