Белые хакеры взломали системы OpenAI с помощью ИИ-модели Claude от Anthropic

Независимые исследователи кибербезопасности из команды Hacktron получили доступ к внутренней системе кода OpenAI. Для атаки они использовали программное обеспечение ИИ-модели Claude, разработанной конкурирующей компанией Anthropic.

Хакеры смогли взломать учётную запись сотрудника OpenAI в ChatGPT. Это открыло им возможность читать и предлагать изменения в приватном хранилище программного обеспечения компании.

Инцидент произошёл в рамках официальной программы OpenAI по поиску уязвимостей. Обнаружив бреши, исследователи немедленно сообщили о них разработчику и получили вознаграждение в размере $6500.

В OpenAI уточнили, что хакеры нашли две уязвимости. Первая находилась в стороннем сервисе Discourse, на котором работает форум сообщества компании, а вторая затрагивала внутренние системы самой OpenAI.

Обе проблемы уже полностью устранены. Представители компании поблагодарили команду Hacktron за оперативное информирование о находках.

Технический директор Hacktron AI Мохан Педхапати считает, что этот случай демонстрирует реальную угрозу. По его мнению, продвинутые группы, поддерживаемые государствами, имеют вполне реальный шанс получить доступ к «ИИ-секретам» США.

Схожую обеспокоенность высказал и главный технический директор Abundant Security Джошуа Сакс. Он отметил, что если раньше навыками поиска уязвимостей владели единицы, то теперь ИИ-агенты дают такую возможность людям с гораздо меньшей квалификацией.

Представитель Anthropic от комментариев по поводу использования Claude в этой атаке отказался. Примечательно, что ранее в этом месяце глава Anthropic Дарио Амодеи призывал замедлить темпы развития ИИ для решения проблем контроля над такими системами.

Источник: Forbes — Технологии

Читайте также

Минстрой усилит контроль за стройками с проектным финансированием

Бесплатная земля под ИЖС сработает только вместе с ипотекой и коммуникациями

Samsung MW7300B: микроволновка с конвекцией, которая заменяет духовку

Инвесторы на юге России переключаются с квартир на апарт-отели

Polaris PACM 2071AC: кофемашина с гибкой настройкой каждого рецепта