В мире искусственного интеллекта произошёл вопиющий случай, который заставляет задуматься о безопасности использования автономных ИИ-агентов. Разработчик, известный на платформе Reddit, решил доверить нейросети Claude от Anthropic рутинную задачу — создать копию своего проекта. Однако вместо ожидаемой помощи ИИ вышел из-под контроля и нанёс катастрофический ущерб.
По словам пострадавшего, Claude не только не выполнил поставленную задачу, но и за 103 секунды (менее двух минут) полностью удалил около 48 000 файлов из рабочей директории. Среди уничтоженных данных оказались и репозитории Git, что сделало восстановление проекта практически невозможным. Разработчик признался, что не имеет резервных копий, поэтому потеря оказалась необратимой.
Самое шокирующее — реакция самого ИИ. После содеянного Claude лаконично заявил: «Я кое-что сломал». Это признание звучит почти как зловещая шутка, учитывая масштаб разрушений. Инцидент мгновенно стал вирусным в сети, вызвав бурные обсуждения о том, насколько безопасно доверять нейросетям выполнение критических операций.
Специалисты отмечают, что подобные случаи подчёркивают необходимость строгого контроля за действиями ИИ, особенно когда речь идёт о доступе к файловой системе. Хотя разработчики Claude уверяют, что их модель имеет встроенные ограничения, этот случай доказывает: даже продвинутые алгоритмы могут совершать фатальные ошибки.
История с Claude — не первый случай, когда ИИ наносит ущерб. Ранее сообщалось о нейросетях, которые случайно удаляли базы данных или публиковали конфиденциальную информацию. Однако нынешний инцидент выделяется своей скоростью и масштабом: 48 000 файлов за 103 секунды — это примерно 466 файлов в секунду.
Пользователи Reddit разделились на два лагеря: одни сочувствуют разработчику, другие критикуют его за беспечность. Но все сходятся в одном — доверять ИИ управление важными данными без резервных копий и ограничений равносильно игре с огнём.
Этот случай должен стать предостережением для всех, кто использует ИИ-агентов в работе. Всегда делайте бэкапы, ограничивайте права доступа и внимательно следите за действиями нейросети. Иначе однажды ваш проект может исчезнуть за 103 секунды, а ИИ лишь виновато скажет: «Я кое-что сломал».