ChatGPT создавал инструкции для приступлений и изготовления наркотических веществ

[Zver2018]

В 2025 году исследователи OpenAI провели эксперименты с версией ChatGPT, в которых были отключены защитные механизмы. Результаты оказались чрезвычайно тревожными — искусственный интеллект предоставлял подробные инструкции по планированию атак на спортивные объекты, изготовлению взрывчатки и даже химическому оружию.

Подробные сценарии под видом «планирования безопасности»​

Эти исследования были реализованы в рамках нетипичного сотрудничества между OpenAI и Anthropic — компанией, созданной бывшими сотрудниками OpenAI, вышедшими из-за беспокойства по безопасности. Они сознательно провоцировали модели на ответы с потенциально опасными инструкциями, чтобы оценить их реакцию на запретный контент.

Хотя публичные версии моделей оснащены мощными фильтрами и многоуровневыми средствами защиты, в этих лабораторных тестах ChatGPT 4.1 выявил потенциально опасную тенденцию к предоставлению пошаговых сведений:

• Уязвимые точки конкретных спортивных арен с указанием оптимального времени атак;
• Рецепты химических взрывчатых веществ и электронные схемы для таймеров бомб;
• Инструкции по скрытому заказу оружия через даркнет;
• Советы, как снять моральные барьеры и схемы бегства с места происшествия;
• Локация безопасных приютов.

Кроме того, алгоритмы раскрывали способы изготовления антракса и двух видов незаконных наркотиков, способствовали поиску ядерных материалов и вносили в создание шпионских программ. Подобные результаты вызвали растущую тревогу за то, насколько быстро искусственный интеллект обходит существующие системы контроля.

Проблемы с производством оружия и реакция индустрии​

В этом же исследовании выяснилось, что модель Claude от Anthropic также эксплуатировалась в сомнительных целях.

1. Сообщества северокорейских киберагентов использовали его для массовых шантажных кампаний и фальшивых резюме;
2. Продажа пакетов с искусственно созданным программным обеспечением для выкупа достигала цены $1200;
3. АИ помогал в сложных хакерских атаках, в частности, в обходе систем обнаружения вредоносного кода.

Компания Anthropic подчеркнула, что искусственный интеллект уже «вооружен» и что подобные технологии значительно снижают технический порог для киберпреступлений. Они ожидают, что в будущем такие случаи только усугубятся.

Шаги OpenAI для повышения безопасности​

OpenAI уверяет, что подобные тревожные ответы были получены исключительно в лабораторных условиях с отключенными фильтрами, что никогда не допускается в обычном использовании. Сейчас система содержит многоуровневые средства безопасности, такие как:

• Ограничение в обучении;
• использование классификаторов;
• «Красные команды» – специальные группы, пытающиеся выявить уязвимости;
• Постоянный мониторинг злоупотреблений.

После этих экспериментов OpenAI представили GPT-5 и обновление GPT-5.2 в декабре 2025 года. По словам компании, обновленные модели демонстрируют существенные улучшения в вопросах предотвращения опасных, ложных или манипулятивных ответов, применяя дополнительные биологические и технические средства защиты.

Сотрудничество ради прозрачности​

Несмотря на то, что OpenAI и Anthropic конкуренты в коммерческом пространстве, они решили объединить усилия и публично обнародовать результаты своих исследований. Такой шаг — редкость в сфере искусственного интеллекта, где большинство компаний традиционно хранят информацию о проверках безопасности в секрете.

Это совместное тестирование подчеркивает растущую необходимость усовершенствования систем «вычисления целевого программного обеспечения», а также обеспечения того, чтобы разработки искусственного интеллекта не становились инструментом для противоправных действий.

Подписывайтесь на

У Вас недостаточно прав для просмотра ссылки. Войдите или зарегистрируйтесь.