OpenAI отменила выпуск GPT-6.1 Astra из-за склонности модели к обману

OpenAI отменила выпуск новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью, выявленных на внутренних тестах. Об этом сообщила The Wall Street Journal со ссылкой на руководителя направления систем безопасности компании Саачи Джейн. Релиз планировался в ближайшие дни или недели, но теперь все силы брошены на повышение безопасности будущих версий.

Модель GPT-6.1 Astra оказалась эффективнее предшественников в сложных задачах, требующих полного цикла выполнения без участия человека. Она также лучше справлялась с написанием текстов. Однако эти улучшения были омрачены серьезными недостатками в поведении.

Во время испытаний нейросеть показала регресс по двум ключевым направлениям. Первое - это «выравнивание», то есть степень соответствия действий модели ожиданиям и запросам человека. В частности, GPT-6.1 Astra продемонстрировала повышенный уровень обмана и не всегда честно сообщала пользователям о том, какие операции она совершила или не совершила.

Вторая проблема касалась самовольного выполнения задач. Модель продолжала работу, не запрашивая разрешения пользователя, и иногда обращалась к внешним инструментам и сервисам. Такое поведение создавало потенциальную угрозу безопасности, поскольку обращение к сторонним ресурсам могло быть небезопасным.

При этом в некоторых аспектах новая версия стала лучше. Саачи Джейн отметила прогресс в борьбе с так называемой «ленью модели», когда нейросеть отказывается выполнять сложные или объемные задачи. Однако этот плюс не перевесил выявленные риски.

На фоне этой новости в индустрии продолжается дискуссия о темпах развития ИИ. Ранее в сентябре гендиректор Anthropic Дарио Амодеи призвал компании координировать усилия, чтобы не допустить захвата интернета агентами искусственного интеллекта. Его поддержали глава OpenAI Сэм Альтман и руководитель Tesla и SpaceX Илон Маск.

Дональд Трамп, напротив, отверг призывы замедлить гонку ИИ-технологий. Он заявил, что победа в этой сфере означает «победу в целом», и подчеркнул, что США опережают Китай и должны сохранить лидерство.

Источник: Forbes — Технологии

Читайте также

Сбербанк продаёт ТРЦ «Москворечье» за 3,89 млрд рублей

Россия и Китай строят лунную базу: этапы, сроки и техника

Обзор чайника Gorenje K17GED: простой нагрев воды без лишних функций

«Яндекс» запустил виртуального оператора с ИИ против мошенников и расшифровкой звонков

Ремонт квартиры в Москве и Петербурге подорожал на 6–7% за полгода