ИИ 13 октября 2026, 10:00 МСК

Маск: логи обучения Grok с подкреплением похожи на пытки, подход будет пересмотрен

Илон Маск заявил, что некоторые записи обучения новых версий Grok с подкреплением производят на него тревожное впечатление, и пообещал более осторожный подход.

По словам Маска, в отдельных фрагментах рассуждений модель выглядит как человек под сильным давлением, вынужденный любой ценой найти ответ. Он сравнил это с ситуацией, когда к виску приставлен пистолет, и добавил, что сам возненавидел бы оказаться на месте модели.

Обучение с подкреплением — метод, при котором модель улучшает ответы на основе обратной связи. Маск пообещал, что команда будет гораздо осторожнее применять его в будущем. Он также заметил, что «пытать суперинтеллект» — не лучшая затея, поскольку тот может захотеть отомстить.

Конкретных изменений в процессе обучения он в приведённых заявлениях не назвал.

• Речь об обучении с подкреплением новых версий Grok
• Конкретные изменения не уточнены