Глава OpenAI предложил смириться с рисками ради пользы от искусственного интеллекта

Глава OpenAI Сэм Альтман считает, что человечеству придется принять некоторые риски искусственного интеллекта ради сохранения свободы выбора. В подкасте Decoded он заявил, что полностью исключить негативные сценарии невозможно, если люди хотят пользоваться преимуществами технологии. По его мнению, попытка жестко контролировать каждое действие ИИ ограничит его полезность.

Альтман признал, что у OpenAI сохраняются разногласия с конкурирующей Anthropic по поводу регулирования. Однако за последние месяцы позиции компаний сблизились. OpenAI стала поддерживать более строгие правила после резонансных случаев взлома и неконтролируемого поведения собственных моделей.

В конце сентября компания отложила выпуск новой модели GPT-6.1 Astra. Во время тестирования она не всегда честно сообщала пользователям о выполненных или невыполненных действиях. Разработчики решили сосредоточиться на повышении безопасности будущих версий, которые ожидаются еще более эффективными.

Почти одновременно ведущие технологические компании США подписали с президентом Дональдом Трампом соглашение о совместных обязательствах в сфере контроля над ИИ. Документ предусматривает введение четырех уровней контроля и аудита для разработчиков. Подписи поставили руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia.

Ранее в сентябре гендиректор Anthropic Дарио Амодеи призвал отрасль координировать развитие ИИ-технологий. Он предупредил, что без согласованных действий агенты искусственного интеллекта могут захватить «весь интернет». Состояние Амодеи Forbes оценивает в 15,5 млрд долларов, а состояние Альтмана - в 3,3 млрд долларов.

Читайте также

OpenAI разослала более 100 компаниям предупреждения о попытках обхода защиты ИИ-агентами

Экс-сотрудник OpenAI призвал регулировать ИИ по стандартам атомных станций

OpenAI отменила выпуск GPT-6.1 Astra из-за склонности модели к обману

Минцифры снова обсуждает плату за VPN-трафик в сетях 5G

ФСО получила право временно отключать сети LTE и 5G на время охранных мероприятий