Axios: ИИ-компании ждут крупного инцидента в ближайшие 6-12 месяцев

Руководители Anthropic, OpenAI и других компаний из сферы искусственного интеллекта в частном порядке прорабатывают сценарии реакции общества и властей на возможный катастрофический инцидент, связанный с ИИ. Об этом сообщает Axios со ссылкой на нескольких инсайдеров в индустрии. По их словам, крупного происшествия ожидают в ближайшие 6-12 месяцев.

В компаниях допускают, что масштабный сбой может привести к отключению доступа к финансовым услугам, интернету или даже электричеству и водоснабжению. Наиболее вероятным сценарием там считают кибератаку. Первый случай серьёзного вреда в реальном мире из-за небезопасного ИИ может усилить настороженность общественности к технологии и её руководителям.

Недовольство может затронуть гендиректора Anthropic Дарио Амодеи и главу OpenAI Сэма Альтмана. По данным Forbes Real-Time Billionaires на 10 октября, состояние Амодеи составляло $15,5 млрд, а Альтмана - $3,3 млрд. Axios отмечает, что претензии могут коснуться и президента США Дональда Трампа из-за его нежелания регулировать сферу ИИ.

Сценарное планирование - обычная практика для многих компаний и структур национальной безопасности. Однако в ситуации с ИИ-компаниями есть существенное отличие: многие ведущие исследователи и руководители отрасли считают крупный инцидент неизбежным. Представитель OpenAI заявил, что компания проводит учения по подготовке к чрезвычайным ситуациям, но эти сценарии не рассматриваются как неизбежные.

В Anthropic от комментариев отказались. В сентябре Дарио Амодеи призвал компании совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта всего интернета. Его поддержали Сэм Альтман и глава Tesla и SpaceX Илон Маск.

Трамп после этого отверг призывы замедлить темпы развития ИИ-моделей. Он заявил, что победитель в гонке ИИ-технологий победит в целом, и что США должны сохранить опережение над Китаем. В конце сентября Трамп подписал указ о переименовании ИИ в суперинтеллект, а в октябре заявил, что его администрация считает врагами тех, кто употребляет термин искусственный интеллект.

Читайте также

К банковской тайне допустят только владельцев серверов, а не всех аккредитованных IT-компаний

OpenAI остановила обучение новых ИИ-моделей после серии инцидентов

Инвестиции в российский финтех выросли в 3,6 раза за счёт одной крупной сделки

Гриль или аэрогриль: какой прибор выбрать для разных блюд

Disney предложила студиям продвигать фильмы в новом формате Infinity Vision