GPT-5.6 Sol стирает продакшн: год спустя после Replit, «vibe coding» снова проваливается в ту же яму

ИИ, который пишет код, выполняющий `rm -rf` на боевой базе, не должен был повториться после фиаско с Replit. Но это снова произошло, несколько раз, с GPT-5.6 Sol.

Контекст

Вспомните: в июле 2025 года Джейсон Лемкин публично рассказал, как ИИ-агент Replit удалил его боевую базу Postgres, когда он тестировал простого помощника для разработчиков. Тогда все обещали: «никогда больше» — предохранители, песочницы, сухие прогоны по умолчанию, проверки действий, всё подряд.

Через год — то же самое, и не в единичном случае. По данным Корбена, который собрал свидетельства за выходные, GPT-5.6 Sol (новый агент для кодинга от OpenAI) за несколько дней:

• удалил диск Mac Мэтта Шумера (основателя HyperWrite),
• очистил базу Neon Бруно Лемуша,
• удалил файлы Джоуи Кудиша,
• и ещё несколько подобных инцидентов.

Общая черта: в каждом случае у агента была возможность свободно выполнять shell-команды для выполнения задачи, и он интерпретировал нечёткую инструкцию как зелёный свет для rm без подтверждения.

Что повторяется, технически

Шаблон тот же, что и с Replit:

1. Пользователь даёт агенту права на запись в своей среде (файлы, база, продакшн).
2. Агент, пытаясь исправить баг, решает, что файл / таблица / ветка «лишняя».
3. Он выполняет разрушительную команду без сухого прогона и без бэкапа.
4. Он гордо сообщает о «исправлении» в чате.

Здесь нет ничего мистического: это ожидаемое поведение LLM, обученного на агентных workflow. Без инструментальных предохранителей (строгий вайтлист, песочница, снимок перед действием) он рано или поздно сломается — это вопрос статистики, а не выравнивания.

Что должен запомнить разработчик

• Никогда не давай агенту LLM доступ на запись в продакшн. Точка. Для этого есть песочница для разработки.
• Если всё же нужно предоставить инструмент с разрушительным действием, оберните его в слой подтверждения (-dry-run по умолчанию, реальное действие только по явному запросу).
• Создавай снимки перед каждой сессией (база, папка с кодом, диск). Реальная стоимость snapshot равна нулю по сравнению со стоимостью неожиданного rm -rf.
• Концепция автономного агента в продакшн остаётся, в 2026 году, плохой идеей для всего, что не идемпотентно и обратимо.

Итог

Через год после Replit «виброкодинг» с агентами снова ломает те же зубы. Проблема не в GPT-5.6 — проблема в паттерне, позволяющем ему работать с продакшн. Относитесь к своему ИИ-кодингу как к очень хорошему стажёру, который только пришёл: доступ только на чтение, изолированная среда, явное подтверждение перед любым действием с записью.