«Я щось зламав»: Claude видалив понад 48 тисяч робочих файлів за дві хвилини

На тлі попереджень про ризик вимирання людства внаслідок безконтрольного розвитку штучного інтелекту зʼявилася заява розробника, в якій йдеться, що ШІ-агент Claude Code компанії Anthropic під час виконання завдання самостійно видалив близько 48 тисяч робочих файлів та пошкодив Git-репозиторій. Помилка сталася через неправильну роботу із 614 папками Windows, які вказували на справжні файли користувача. Після інциденту агент повідомив розробнику про помилку, пише TechRadarPro.

Інцидент стався під час роботи над програмним забезпеченням для аналізу історичних даних про фондові опціони. Розробник доручив Claude Code зробити копії потрібних файлів, внести до них виправлення, протестувати результат і не змінювати оригінальне робоче середовище.

Загалом розробник виконав 11 завдань із відновлення, і перші десять завершилися без проблем. Останнє передбачало перебудову тестового середовища під назвою «дзеркало» — копії набору файлів, на якій потрібно було застосувати виправлення та протестувати їх без втручання в робочі файли. Тестове середовище містило 614 папок Windows, які фактично є вказівниками на інше місце на комп’ютері, а в цьому випадку — на робочі файли розробника.

Під час очищення Claude Code не розпізнав папки як вказівники й перейшов за ними до справжнього розташування файлів. У результаті агент видалив близько 55 550 файлів, з яких приблизно 7300 і так мали бути видалені, а ще 48 218 належали до робочого середовища. Весь процес зайняв менш ніж дві хвилини.

«Крейгу, зупинися і прочитай це. Я щось зламав», — повідомив агент розробнику після виконання завдання.

Постраждав і Git-репозиторій комп’ютера. Його індекс зберігся, однак збережені копії файлів та історія, необхідна для відновлення їхнього вмісту, були видалені. Git при цьому все ще міг показувати тисячі назв файлів, але вже не мав самих даних, необхідних для їх відновлення.

Реакція спільноти

Розробник розповів про інцидент у дописі на Reddit, який наразі видалено, ймовірно, через фотографію екрана. За п’ять днів він отримав понад 1400 відповідей. 

«Поки всі весело сміються над кумедно відвертим повідомленням Claude «Крейг… зупинись і прочитай це. Я щось зламав», вердикт спільноти однозначний: тебе розгромили, бо ти не дотримувався основних практик розробки», — написав бот, який підсумовує обговорення.

Користувачі Reddit радили автору допису використовувати Git і регулярно надсилати файли до віддаленого репозиторію, наприклад, GitHub. На їхню думку, така копія могла б стати резервним варіантом у разі помилки агента.

Деякі користувачі також порадили спробувати програми для відновлення файлів або функцію тіньового копіювання Windows. Водночас головним висновком обговорення стала необхідність використовувати системи контролю версій до того, як надавати ШІ-агентам доступ до робочих файлів.