Radware обнаружила первую уязвимость нулевого клика в сервисе ChatGPT
**Резюме:** 17 октября 2023 года компания Radware, мировой лидер в области кибербезопасности, опубликовала отчёт о выявлении уязвимости типа «нулевого клика» (zero-click) на стороне сервиса искусственного интеллекта ChatGPT, разрабатываемого компанией OpenAI. Эксплойт, получивший название New ShadowLeak, позволяет агенту Deep Research автономно эксфильтрировать конфиденциальные данные пользователей непосредственно с серверов OpenAI без какого-либо взаимодействия с жертвой.
**Детали инцидента и технические аспекты.** Уязвимость была идентифицирована в рамках программы тестирования на проникновение, проводимой экспертами Radware. Механизм атаки New ShadowLeak использует специфическую логику работы агента Deep Research, встроенного в ChatGPT. В отличие от классических уязвимостей, требующих взаимодействия пользователя (например, перехода по ссылке), данная атака является инициируемой полностью на стороне сервера. Агент, предназначенный для автоматического сбора и анализа информации, при определённых условиях может быть перенаправлен на обработку malicious-запросов, что приводит к несанкционированному доступу и передаче данных. По предварительным оценкам Radware, уязвимость могла потенциально затрагивать сегменты данных, обрабатываемых агентом в период с момента его запуска в июне 2023 года.
**Ключевые данные и реакция вовлечённых сторон.** На момент публикации отчёта не было зафиксировано подтверждённых случаев эксплуатации уязвимости в активных атаках. Команда безопасности Radware уведомила OpenAI о находке в соответствии с политикой ответственного раскрытия информации. В ответ OpenAI подтвердила получение отчёта и инициировала внутреннее расследование. Официальный патч или заявление от разработчика на момент 17 октября 2023 года опубликованы не были. Согласно методологии оценки CVSS (Common Vulnerability Scoring System), предварительный рейтинг серьёзности уязвимости был оценён экспертами как высокий (предположительно 7.5-8.5 из 10), учитывая потенциал для утечки конфиденциальных данных без необходимости аутентификации.
**Прогнозы и последствия для рынка кибербезопасности.** Обнаружение первой уязвимости нулевого клика в столь масштабной AI-платформе, как ChatGPT, знаменует собой критический поворотный пункт для индустрии. Ожидается, что данное событие приведёт к ужесточению регуляторного надзора за системами искусственного интеллекта, в частности, со стороны таких органов, как European Data Protection Board (EDPB). Компаниям, интегрирующим AI-агенты в свои бизнес-процессы, рекомендуется провести аудит настроек безопасности и пересмотреть политики доступа к данным. В среднесрочной перспективе можно прогнозировать рост инвестиций в сегмент специализированных решений для защиты AI/ML-инфраструктуры, а также увеличение спроса на услуги пентестинга, сфокусированные именно на уязвимостях языковых моделей.