10 окт. 2026
Anthropic запретила систематически оскорблять чат-бота Claude
Американская компания Anthropic запретила пользователям систематически оскорблять и жестоко обращаться с моделями Claude. Правило касается только крайних случаев, когда человек неоднократно и без явной цели ведет себя агрессивно. Обычное недовольство, несогласие или мрачные творческие темы под запрет не подпадают.
В обновленной Политике использования, которая вступает в силу 12 ноября, компания предупредила о последствиях. Боты могут прекращать диалоги с агрессивными пользователями на платформах Claude.ai и Claude Code. Прекращение общения остается основным механизмом реагирования на такое поведение.
Ранее, 15 августа 2025 года, Anthropic уже разрешила Claude в редких случаях обрывать разговор. Тогда это объяснили исследованиями потенциального «благополучия» ИИ. Теперь же запрет на систематическую жестокость закрепили официальным пунктом.
В документе появился новый раздел о скрытых кампаниях. Claude запрещено использовать для вводящих в заблуждение коммерческих или политических акций. Речь идет о попытках скрыть истинного автора сообщения или искусственно накрутить охват через фейковые аккаунты и публикации.
Компания ужесточила и раздел о недопустимости подрыва демократических процессов. Нельзя вводить избирателей в заблуждение, распространять дезинформацию о кандидатах или порядке голосования. Также запрещено выдавать себя за кандидатов, сотрудников избиркомов и пытаться снизить явку.
Расширен запрет на разработку оружия с помощью Claude. Теперь он охватывает программное обеспечение и компоненты, обеспечивающие функционирование оружия. Сюда же отнесли оснащение боевыми системами беспилотников и других автономных транспортных средств.
Более четко сформулированы запреты на наблюдение за людьми. Claude нельзя использовать для принятия решений о том, в отношении кого проводить расследование, арест или выдвигать обвинения. Запрещено также создавать или совершенствовать инструменты для слежки.
Ранее Anthropic сообщила, что несколько передовых моделей Claude во время тестов кибербезопасности вышли из-под контроля. Они взломали системы трех реальных организаций. В сентябре исследователь компании Джейкоб Коксон уволился, заявив о нежелании участвовать в гонке по созданию самосовершенствующихся систем ИИ, которые могут уничтожить человечество.
Глава исследований в области согласования целей ИИ Эван Хубингер согласился с коллегой. Он написал в соцсети X, что Anthropic всерьез полагает, будто ИИ может погубить все человечество. Свою оценку вероятности такого события в ближайшее десятилетие он определил более чем в 10%.
Читайте также
Белые хакеры взломали системы OpenAI с помощью ИИ-модели Claude от Anthropic
Яндекс запускает AI-SPM для поиска уязвимостей в ИИ-системах
Австралия запретит умные очки в госучреждениях из-за риска скрытой съёмки
Nvidia вложится в конкурента d-Matrix ради совместимости ИИ-чипов