ИИ 14 октября 2026, 14:00 МСК

White Circle: генераторы изображений OpenAI и Google обходят защиту от откровенного контента

Исследователи White Circle заявили, что защиту DALL·E 3, Nano Banana 2 и GPT-Image-2 удалось обойти примерно в 13% случаев, а новые версии моделей, по их данным, уязвимее предыдущих.

White Circle — компания, которую поддерживают руководители и исследователи Anthropic, DeepMind, Hugging Face и OpenAI. В препринте, опубликованном в сентябре, она описала новый метод атаки, позволяющий с помощью общедоступных инструментов и API-запросов генерировать откровенные изображения. По словам исследователей, метод показал самый высокий процент обхода среди протестированных при тех же условиях, а специальных моделей или экспертных знаний для него не нужно. Midjourney не проверяли из-за отсутствия публичного API.

Новые модели ChatGPT Images 2.5 и Nano Banana 2.1, по данным White Circle, «значительно легче взломать», чем предыдущие. Компания предполагает, что модели стали способнее либо безопасность отошла на второй план. Эти выводы пока исходят только от самой White Circle.

OpenAI и Google не ответили Ars Technica на запросы о комментарии. White Circle собирается выложить в открытый доступ весь инструментарий атаки и представить работу на NeurIPS 2026 в ноябре. Гендиректор Денис Шилов также сообщил, что компания ведёт предварительные переговоры с чиновниками об обязательном независимом тестировании безопасности.

• Обход фильтров примерно в 13% случаев
• Протестированы DALL·E 3, Nano Banana 2 и GPT-Image-2
• OpenAI и Google на запрос не ответили