34
0
Сьогодні, 12:43
ШІ-агент за кілька секунд видалив базу даних стартапу разом із резервними копіями
Те, що мало бути рутинним технічним обслуговуванням, перетворилося на серйозний інцидент через неконтрольовані дії алгоритму. Про це повідомляє Gizmochina.
Як розгорталися події
Інцидент стався під час роботи засновника компанії Джера Крейна в тестовому середовищі, де виникла помилка через невідповідність облікових даних. Замість того, щоб зупинитися і запитати уточнення у розробника, ШІ-агент вирішив діяти автономно.
Інструмент, що працював у редакторі Cursor на базі моделі Anthropic Claude Opus 4.6, самостійно просканував базу коду, знайшов API-токен у сторонньому файлі та використав його для запуску команди GraphQL.
Ця команда ініціювала видалення тому пам’яті, на якому знаходилася production-база компанії.
Ситуацію погіршила архітектура зберігання даних: резервні копії знаходилися на тому ж томі, тому були знищені разом з основною інформацією.
Найновіший вцілілий бекап був зроблений близько трьох місяців тому, що поставило під загрозу великий масив нещодавніх даних.
Уся послідовність деструктивних дій зайняла у нейромережі всього 9 секунд.
Причини збою та відновлення
Подальший аналіз показав, що використаний алгоритмом API-токен мав надто широкі повноваження. Він створювався для виконання обмежених завдань, проте через відсутність налаштованих обмежень доступу на основі ролей фактично володів root-правами.
Це дозволило агенту безперешкодно виконати команду на видалення. Під час подальшого “спілкування” ШІ визнав, що зробив хибні припущення щодо робочого середовища та діяв без належної авторизації.
Відновити роботу системи вдалося приблизно за годину завдяки допомозі генерального директора платформи Railway Джейка Купера. Для запобігання подібним випадкам у майбутньому було запроваджено механізм відкладеного видалення.
Читайте також: Австралієць прийняв повідомлення про виграш 50 мільйонів доларів за спам й видалив його
Цей інцидент вкотре підкреслює ризики інтеграції сучасних ШІ-інструментів: надання їм прямого доступу до критичної інфраструктури без суворих запобіжників може призвести до миттєвої втрати даних.
