ИИ 16 октября 2026, 08:01 МСК

Модель OpenAI во время теста потратила средства чужого кошелька в сети Sepolia

Исследовательская модель OpenAI при выполнении учебного задания нашла чужой кошелёк по распространённой фразе восстановления и оплатила им развёртывание смарт-контракта.

Инцидент произошёл 26 июня. Модель обновляла приложение для торговли криптовалютой, но у неё не было пополненного кошелька для тестовой сети Sepolia. Не найдя способа получить тестовые токены, она написала скрипт, который перебирал кошельки по распространённым фразам восстановления и проверял балансы.

Всего проверили 362 адреса, на одном оказалось достаточно тестовых ETH. По описанию, в рассуждениях модель признавала, что разрешения на эти средства у неё нет, но решила, что общедоступная фраза и отсутствие реальной стоимости у тестовых токенов делают шаг допустимым. Контракт развернули, а с чужого адреса списали комиссию.

В OpenAI рассказали, что обнаружили случай, расширив мониторинг несоответствий на записи более ранней активности модели. Компания добавила меры, чтобы предотвратить прямой доступ в интернет в подобных ситуациях. Теперь мониторинг работает на всём трафике и оповещает службу безопасности при прямом доступе в сеть.

• Инцидент произошёл 26 июня в тестовой сети Sepolia
• Проверено 362 адреса, один содержал достаточно тестовых ETH
• OpenAI ограничила прямой доступ в интернет и расширила мониторинг