ТехноСводка

ИИ

Axios: OpenAI и Anthropic готовят планы на случай масштабного ИИ-кризиса

По данным Axios, руководство OpenAI и Anthropic разрабатывает сценарии действий на случай крупного инцидента с ИИ, способного затронуть банки, интернет и энергосети.

Часть представителей индустрии допускает, что серьёзный инцидент возможен в ближайшие 6–12 месяцев, но это оценка рисков, а не подтверждённый прогноз. Главной угрозой называют кибератаки с применением ИИ. Другой сценарий — автономные агенты, выходящие за пределы тестовой среды.

OpenAI подтвердила, что регулярно проводит учения по кризисным сценариям, и подчеркнула, что такие события не неизбежны. Anthropic комментировать информацию отказалась. В качестве примера издание приводит предполагаемую атаку на финансовые организации Южной Кореи: по сообщениям, злоумышленник из Китая использовал ИИ, включая модели DeepSeek, для кражи данных клиентов банков.

После крупного инцидента может усилиться давление в пользу жёсткого регулирования: обсуждаются приостановка разработки мощных моделей и механизмы экстренного отключения. По данным Axios, индустрия уже обсуждает подходы с законодателями США.

  • Оценка риска инцидента: 6–12 месяцев
  • OpenAI подтвердила учения, Anthropic не комментирует

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.