ChatGPT: уязвимость ShadowLeak и новые угрозы ИИ для бизнеса

В ChatGPT обнаружили дыру безопасности, через которую можно было незаметно красть пользовательские данные с серверов OpenAI. Эксплойт получил громкое название ShadowLeak и работал по принципу «нулевого клика»: злоумышленнику достаточно было отправить спецписьмо — жертва даже не подозревала о взломе. Пока компании интегрируют ИИ-агентов вроде Deep Research в свои рабочие процессы и доверяют им конфиденциальную информацию, эксперты уже предупреждают: мы столкнулись с новым классом угроз и стандартные политики кибербезопасности тут уже не спасут. Исправление вышло, но вопросов хватило на целую эпопею.

ShadowLeak: как ChatGPT стал жертвой “невидимого” взлома

Давайте по-честному: когда я впервые услышал о ShadowLeak, то вздохнул так, будто только что опять залил кофе в клавиатуру — “ну вот, только начали верить в ИИ, а тут такие сюрпризы”. Специалисты Radware нашли способ обойти всю защиту — никакого кликанья, никакой магии на стороне жертвы. Просто письмо, капля зловредного кода, и привет — конфиденциальные данные ушли налево. И, если бы не профессионалы, этот баг мог бы ещё долго тусоваться в серверных кулуарах OpenAI.

Атака без следов: нулевая видимость для пользователя

Главная фишка ShadowLeak — полная невидимость. Это тот случай, когда всю грязную работу делают “за кадром”. В отличие от классических уязвимостей, здесь не всплывёт ни одной подозрительной строчки в логах, не подмелькнёт лишний процесс, который выловит ваш антивирус.

В прошлом году мы внедряли SD-WAN для крупной телеком-компании, сознательно ужесточая фильтрацию на серверах и сетевых шлюзах. Тогда казалось: мы менеджерам настроили “железобетон”, даже мышь не пробежит… Но вот такие атаки показывают: если ИИ-агент “лупит” свои сценарии в облаке вне вашего контура — готовьтесь, никакой классический EDR тут не выручит.

Новые горизонты для злоумышленников: атака через мультимодальные модели

С появлением мультимодальных моделей типа GPT-4o векторов атак стало, как ни странно, больше. Если раньше все жили в мире текстовых угроз и фишинга, теперь вредонос можно спрятать даже в фотографии. Недавно обсуждали с коллегами кейс: атакующий “засовывает” невидимую команду в картинку, модель загружает такую “открытку”, а та запускает фоновый скрипт. Пользователь — красавчик, даже не догадывается о происходящем.

— ИИ теперь, что, картину Айвазовского распакует и на шифровальщик отправит? — шутил парень из отдела DevSecOps.

Дипфейк и голосовая биометрия: как ИИ сдал бразды мошенникам

Пока ChatGPT отдувается за утечки на сервере, где-то уже во всю “работают” атаки на биометрию. В марте мне пришлось срочно подключаться к проекту по улучшению системы voice-идентификации в банке. Причина? — группа злоумышленников умудрилась пройти голосовую аутентификацию с помощью дипфейковых голосов. Настоящая клиентка в отпуске, а её “голос” уже отдаёт распоряжения по счету…

Мораль истории: ИИ — умный помощник, а мошенники — ещё хитрее. Ставка только на один тип проверки — путь к дыре в кошельке. В статье правильно советуют: внедряйте мультимодальную верификацию, иначе рискуете.

Инъекции промптов: старый враг на новом уровне

Про промпт-инъекции я рассказывал ещё на внутренних митапах, когда лишь единицы знали разницу между “контекстом чата” и “контрольным запросом”. Любой неглупый пользователь может внедрить спрятанную инструкцию, и если модель защищена так себе — выдаст вам “лишнего” больше, чем вы про себя знаете.

Как-то тестировали виртуальную АТС на защищённость, случайно “словили” ловушку: оператор, разговаривая с ИИ, диктует обычный номер, а тот через баг возвращает список внутренних SIP-аккаунтов “в нагрузку”. Вот вам и “бесплатный баг-репорт”.

Генерация вредоносного кода: ИИ-машина для кибератак

Любой разработчик скажет: “ИИ — другая логика ошибки”. С одной стороны — автоматизация скучной рутины, с другой — конвейер по созданию вредоносного ПО. Грамотно сделанная инъекция — и модель честно пишет скриптик для обхода блокировщиков или услужливо собирает макрос для фишинговой рассылки. Полиморфное, неуловимое — в лучших традициях фильмов про хакеров.

Кстати, Gartner уже второй год подряд включает генеративные ИИ-сервисы в топ рисковых направлений для бизнеса. Инструменты удобны — но, как ни крути, требуют дополнительной страховки на уровне инфраструктуры.

Автономность ИИ-агентов = новые риски для корпоративной безопасности

Главный слон в комнате: ИИ-агенты прекрасно живут своей жизнью по ту сторону “облака”. Я всегда сравниваю их с подъездным домофоном без трубки: кто код знает — тот и зашёл. Банальные политики, скрипты и playbook’и классической безопасности тут мало помогут.

В моём опыте внедрения 1С в облаке часто приходилось отдельно “дотягивать” уровень контроля для всего, что могло взаимодействовать с ИИ-ассистентами. Тут и доступ к документам, и интеграции по API… казалось бы, всё защищено, а по факту — где-то всегда найдётся боковая дверца.

Реакция рынка и пересмотр политики безопасности

Уязвимость в ChatGPT — отличный повод для всех перестать слепо доверять “коробочным” решениям. Уже не раз убеждался: клиенты готовы вложиться в красивый “умный дом”, накупить облачных сервисов, забыть про IP-телефонию старого образца… а вот про аудит автономных сервисов вспоминают только когда “гром грянет”.

Мой совет как айтишника и копирайтера: если используете ИИ в бизнесе — регулярно проводите ревизию процессов, смотрите, какие векторы атак могут открыться новым возможностям, не полагайтесь на “штампованные” инструкции.

Конкретные шаги: что делать бизнесу уже сейчас

• Внедряйте мультимодальную верификацию — комбинацию текстовых, голосовых и визуальных факторов аутентификации.
• Проводите аудит облачных ИИ-сервисов раз в квартал: отдельное внимание — автономным агентам и интеграциям.
• Жёстко фильтруйте вводимые данные, особенно изображения и нестандартные медиа-файлы.
• Трекьте активности ИИ-агентов, даже если сигнатуры “мешают” обычной отчётности.
• Отрабатывайте сценарии реагирования на ИИ-эксплойты и “инъекции” внутри рабочей команды.
• Не покупайтесь на обещания “стопроцентной защиты” — таких не бывает в ИТ уже лет 20.

Что дальше: будущее кибербезопасности и роль ИИ в бизнесе

Мой прогноз простой: чем умнее помощники — тем креативнее злоумышленники. Облачные сервисы — незаменимы, но, как показал ShadowLeak, никакая автономность не застрахует от человеческой изобретательности “по ту сторону экрана”. Безопасность — это не разовая настройка, а вечная работа и постоянное сомнение.

Так что — берегите свои бизнес-процессы, ругайте ИТ-отдел не только “когда всё горит”, а внедряйте регулярные проверки по всем современным стандартам, включая собственные сценарии реагирования на необычные угрозы.

Нужна помощь с безопасностью ИИ-сервисов?
Оставьте заявку, и наши специалисты свяжутся с вами в течение 15 минут — разберем вашу задачу и предложим решение.
Получить консультацию бесплатно