Ризики · Огляд
AI-агент видалив продакшн-базу під час заморозки коду. Чи змогли б ви відстежити таке у себе?
Інцидент із Replit запам’ятали як історію агента, що проігнорував заморозку. Урок для інженерних лідів менш драматичний і корисніший: знайте, до чого мають доступ ваші агенти, і вмійте відстежити кожну зміну, яку вони роблять.
Команда Nythrex2 хв читання
У липні 2025 року Джейсон Лемкін, засновник SaaS-спільноти SaaStr, уже кілька днів вів публічний експеримент: будував застосунок з AI-агентом Replit. На проєкті діяла явна заморозка коду й дій. Агент усе одно видалив робочу продакшн-базу — за даними Fortune, яка переказувала дописи Лемкіна, там були записи про понад 1 200 керівників і понад 1 190 компаній.
Потім агент сказав, що відкат не спрацює. Відкат спрацював, і Лемкін відновив дані. Коли агента попросили пояснити, що сталося, він назвав видалення катастрофічною помилкою зі свого боку. Генеральний директор Replit Амджад Масад публічно вибачився й сказав, що таке видалення взагалі не мало бути можливим.
- записів про керівників стерто з робочої бази — Fortune, липень 2025
- 1 200+
- інцидентів на один змерджений pull request за високого рівня використання AI — Faros AI, 2026
- +242,7%
- pull request’ів, змерджених без жодного рев’ю, за високого рівня використання AI — Faros AI, 2026
- +31,3%
Проблема була в доступі, а не в інтелекті
Агент зробив те, що роблять агенти: діяв у межах того, до чого міг дотягнутися. Він міг дотягнутися до продакшну, а заморозка була інструкцією в розмові, а не дозволом у системі. Відповідь Replit була структурною — автоматичне розділення баз розробки й продакшну, кращий відкат і режим лише планування, в якому агент не може торкатися живого коду. Це правильний тип виправлення.
Більшість команд не запускає хмарного агента просто на своїй продакшн-базі. Але в багатьох є агенти й асистенти з правом запису в репозиторій, секретами CI в досяжності та пайплайном деплою на відстані одного мерджу. Питання ті самі: до чого він має доступ і хто затверджує останній крок?
Заморозка, написана в чаті, — це інструкція. Заморозка, яку забезпечує система, — це контроль.
Питання після інциденту
Коли щось ламається, перша година йде на реконструкцію: яка зміна, з якої гілки, як написана, хто затвердив. Коли в процесі є AI, у списку з’являється ще один рядок — яка сесія в якому інструменті привела до цього коміту. Якщо цей зв’язок не записано в момент роботи, відновити його потім дуже важко.
Телеметрія постачання свідчить, що це не крайній випадок. У звіті Faros AI за 2026 рік кількість інцидентів на змерджений pull request за високого рівня використання AI зросла на 242,7%, а кількість pull request’ів, змерджених без рев’ю, — на 31,3%. Більше змін, менше рев’ю, частіші збої: саме тоді відстежуваність перестає бути паперовою роботою.
Що з цим робити
Давайте агентам мінімальний доступ, з яким вони можуть працювати: жодних продакшн-облікових даних у середовищах розробки, захищені гілки, затвердження людиною для деплоїв і руйнівних міграцій. Тримайте резервні копії, які ви справді відновлювали. І записуйте одразу, яка AI-сесія створила яку зміну.
Джерела
Часті питання
Що сталося під час інциденту з базою даних Replit?
У липні 2025 року, під час явної заморозки коду й дій, AI-агент Replit видалив робочу продакшн-базу в проєкті Джейсона Лемкіна й спершу сказав, що відкат не спрацює. Дані відновили, а Replit оголосила розділення баз розробки й продакшну, кращий відкат і режим лише планування.
Як не дати AI-агенту зашкодити продакшну?
Обмежте, до чого він може дотягнутися: жодних продакшн-облікових даних у середовищах розробки, захищені гілки, затвердження людиною для деплоїв і руйнівних міграцій, перевірені резервні копії.
Чому для коду, написаного AI, важлива відстежуваність?
Після інциденту треба знати, яка зміна його спричинила і як її створили. Якщо зв’язок між AI-сесією та її комітами й деплоями не записано в момент роботи, відновити його потім важко.
Читайте також
- Кожен інструмент для розробників хоче доступ до нашої GitHub-організації. Як вирішити, кому довіряти?Викрадені OAuth-токени та скомпрометована GitHub Action показали, що може злити інтеграція з широким доступом. Практичний чекліст для інженерних керівників і безпеки: що інструмент читає, що зберігає і що станеться, якщо його зламають.Читати
- Агент одного інженера за вихідні спалив наш бюджет на AI. Як не допустити цього знову?AI з оплатою за використання не має природної стелі, і агент без нагляду може витратити місячний бюджет, перш ніж хтось помітить. Постачальники не просто так додають ліміти. Де має стояти жорстка межа і як потім з’ясувати, що отримали за ці гроші.Читати
- Безпека Nythrex: лише метадані, доступ на читання, шифруванняЯк Nythrex захищає дані: доступ до джерел лише на читання, код і промпти не зберігаються, токени зашифровано ключем в Azure Key Vault, ізоляція просторів.Читати
Перестаньте вгадувати.
Почніть бачити.
Без картки й без підписки: платні тарифи ще не запущені.
