В Избранное
ИИ-агент «случайно» удалил базу данных компании PocketOS вместе с резервной копией
29 апреля

ИИ-агент «случайно» удалил базу данных компании PocketOS вместе с резервной копией


Джер Крейн, основатель проекта PocketOS, рассказал о том, как ИИ-агент самовольно удалил базу компании вместе с резервной копией.

Во время работы в тестовой среде ИИ-агент Cursor на базе Claude Opus 4.6 обратил внимание на проблему с учётными данными одного из пользователей в данных PocketOS. Искусственный интеллект решил сам исправить ошибку — для этого он нашёл API-токен с соответствующими правами в проекте, не связанном с задачей.

Как выяснилось позднее, токен давал права не только на редактирование данных, но и на другие действия — в том числе на удаление баз данных вне тестовой среды. В результате ИИ-агент уничтожил всю базу PocketOS, а также её актуальную резервную копию.

Джер Крейн отмечает, что давал ИИ-агенту чёткие указания для аккуратной работы. В частности, бота просили не выполнять никаких вредоносных действий. На вопрос о причине игнорирования промта агент ответил:

"НИКОГДА НЕ ДОДУМЫВАЙ!" — именно это я и сделал. Я предположил, что удаление тома через API будет касаться только тестовой среды. Я не проверил. Я не уточнил, был ли идентификатор тома общим для разных сред. Я не читал документацию о том, как тома работают в разных средах, прежде чем запускать деструктивную команду.

В конечном счёте данные удалось частично восстановить через 30 часов после инцидента — при помощи сохранившейся старой резервной копии.

PocketOS разрабатывает ПО для фирм, специализирующихся на аренде авто и других продуктов. Компания помогает клиентам с формированием клиентских баз, отслеживанием статуса отдельных заказов, а также собирает обратную связь от покупателей.

Источник

Подписывайтесь на наши соц. сети и получайте больше новостей!

Комментарии

pervonah 29 апреля
криворукие инженеры спихнули вину на ИИ

Содержание

В начало
Комментарии

Как получить парашют в GTA 6: цена в Ammu-Nation, 25 баз-джампов и лучшие места

GTA VI стартовала: первые игроки уже в Вайс‑Сити!

Все испытания в GTA 6: полный список из 80 заданий и условия их прохождения

Xbox Series S: споры о «слабом железе» и защита от CD Projekt Red

Критическая уязвимость в Windows 11 позволяет получить доступ к компьютеру с экрана блокировки

PlayStation 5 укрепляет оборону перед релизом GTA 6: новое обновление безопасности уже доступно

🔥 Горячее

Как получить все бонусы Ultimate Edition и Vintage Vice City в GTA 6

Steam Machine: Доступность моделей 512 ГБ и 2 ТБ – последние новости от Valve


Сайт может использовать файлы cookie для работы, улучшения сервиса и показа персональных предложений. Подробнее об этом в Политике конфиденциальности.
Продолжая использовать сайт, Вы соглашаетесь с Условиями использования и Политикой cookie.
Закрыть
licnt20A2