ТехноСводка

Регулирование

Альтман предложил сотрудникам OpenAI три сценария глобального контроля безопасности ИИ

По данным The Information, Сэм Альтман рассказал персоналу OpenAI о трёх вариантах обеспечения безопасности ИИ и попросил определиться с одним из них до конца следующего года.

Первый вариант — международная организация по образцу МАГАТЭ, где правительства и компании задают стандарты, а мощные модели проходят независимый аудит до выпуска. Судя по данным источника, Альтман склонялся к нему сильнее остальных; в 2023 году он был соавтором статьи с похожим предложением.

Второй — «план Демиса»: совместно управляемая разными странами исследовательская организация по аналогии с CERN, где разработчики делятся результатами и оценками безопасности. Он потребует активного участия правительств. Третий сценарий предполагает, что первая компания, достигшая рекурсивного самосовершенствования ИИ, лишит конкурентов доступа к GPU. Альтман назвал его ужасным и привёл лишь для полноты, но часть сотрудников решила, что он направлен против Anthropic.

Параллельно OpenAI, Anthropic и Google обсуждают единый надзорный орган и общий стандарт отчётов об инцидентах; запуск планируется к концу года или началу следующего. Спор идёт о том, будет ли орган сам проводить аудит или делегирует его сторонним организациям. Anthropic, как известно, направила властям США собственный законопроект об аудитах.

  • Три сценария: МАГАТЭ, CERN-подобная организация, блокировка GPU
  • Выбор — до конца следующего года
  • OpenAI, Anthropic и Google обсуждают единый надзорный орган

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.