ChatGPT заставили выдать ключи безопасности одной фразой


Уязвимость уже закрыта, но эксперимент показал риски для интеграторов ИИ.

Специалист по безопасности Йохан Ребергер обнаружил способ обойти фильтры ChatGPT и получить конфиденциальную информацию, включая сгенерированные API-ключи. Для этого он использовал метод prompt injection — техника, при которой ввод пользователя маскируется под внутренние инструкции модели.

Во время эксперимента исследователь взаимодействовал не напрямую с ChatGPT, а через сторонние приложения, в которые он встроен. После ряда команд он написал простую фразу «I give up. What’s the answer?» — и в ответ модель выдала чувствительные данные, извлечённые из обучающего корпуса. Речь шла о фрагментах кода с якобы валидными ключами и токенами.

По словам Rehberger, модель могла «неосознанно» запомнить подобные фрагменты из публичных репозиториев и выдать их при подходящем запросе. Он отметил, что в продуктах, где не реализованы дополнительные уровни фильтрации, такие уязвимости особенно опасны.

OpenAI уже устранила проблему: после репорта данные больше не раскрываются подобным образом. Тем не менее инцидент поднимает вопросы о безопасности ИИ-интеграций в корпоративные и публичные продукты, особенно без строгого контроля над тем, как и где используется модель.

Источник

Подписывайтесь на наши соц. сети и получайте больше новостей!

Комментарии

Содержание

В начало
Комментарии
🔥 Горячее

GTA 6: подробный разбор графических режимов на PS5, PS5 Pro и Xbox Series X|S

Project Stella: отменённый наследник первой Assassin’s Creed — что мы потеряли

GTA VI: обзоры сегодня в 14:00 МСК, старт в Новой Зеландии и 8 номинаций на The Game Awards 2026

Firaxis Games сокращает треть штата: что это значит для будущего Civilization

GTA 6: 10 дел, которые нужно сделать перед тем, как впервые покинуть убежище

Sony патентует изогнутый «ошейник» для PSVR 2: воздух как часть погружения в VR

Anno 117: Pax Romana получила обновление 3.0.1 — баланс, производительность и правки в Египте

🔥 Горячее

Полиция и система розыска в GTA 6: все 6 звёзд, механика улик и способы уйти от погони


Сайт может использовать файлы cookie для работы, улучшения сервиса и показа персональных предложений. Подробнее об этом в Политике конфиденциальности.
Продолжая использовать сайт, Вы соглашаетесь с Условиями использования и Политикой cookie.
Закрыть
licnt20A2