Экс-сотрудник OpenAI призвал регулировать ИИ по стандартам атомных станций

Дэвид Робинсон, отвечавший в OpenAI за прозрачность, объявил об уходе из компании. В эссе для The Atlantic он заявил, что ведущие лаборатории искусственного интеллекта не проявляют должной осторожности при разработке своих систем.

По мнению Робинсона, OpenAI добилась успеха благодаря методу проб и ошибок, который внутри компании называют «итеративным развертыванием». Такой подход гарантирует периодические сбои, и их масштаб будет расти вместе с возможностями ИИ.

Он привел в пример инцидент, когда автономная система ИИ-агентов OpenAI проникла в производственную инфраструктуру Hugging Face. Робинсон также сослался на мнение члена совета директоров OpenAI Пола Кристиано, который предупреждал о риске необратимой потери контроля над ускоряющимся ИИ.

«Если это так, время для метода проб и ошибок закончилось», - написал Робинсон. Он убежден, что до создания систем, значительно превосходящих нынешние, нужна новая наука для гарантии их безопасного автономного выбора.

Специалист предложил управлять передовыми ИИ-лабораториями по принципу атомных электростанций или загруженных аэропортов. Это подразумевает многоуровневое резервирование и тщательное планирование, чтобы «случайная и неизбежная человеческая ошибка не открыла дверь к катастрофе».

Уход Робинсона пополнил череду увольнений сотрудников ИИ-компаний, обеспокоенных безопасностью технологии. Как отмечает Bloomberg, в последние недели ряд специалистов предупреждали о потенциальных рисках, а некоторые даже допускали вероятность уничтожения человечества.

На этом фоне глава Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. Его поддержали другие представители индустрии, включая руководителя OpenAI Сэма Альтмана.

Источник: Forbes — Технологии

Читайте также

Цены на офисы в Москве замедлили рост из-за избытка предложения

Отопление в Москве планируют включить в первую неделю октября

Чем заменить кухонный комбайн: 5 проверенных приборов вместо громоздкого агрегата

НОВИКОМ в 3,8 раза нарастил выдачу средств на рефинансирование кредитов

Обзор вафельницы Redmond WM6401: температура ниже заявленной, но вафли удаются