Слишком умный, чтобы быть безопасным: почему ИИ-решения открывают дыры в системах

Ами Люттвак (Wiz): ИИ становится инструментом и защиты, и атак в кибербезопасности

Кибербезопасность вступает в новую фазу, где искусственный интеллект становится не только инструментом защиты, но и оружием атакующих. На это обратил внимание Ами Люттвак, главный технолог компании Wiz (приобретённой Google за $32 млрд), в беседе о современных угрозах.

ИИ как новый фронт атак

"Одна из ключевых вещей, которую нужно понимать в отношении кибербезопасности, заключается в том, что это игра разума", — сказал Люттвак.

С ростом числа ИИ-инструментов в корпоративных процессах поверхность атак расширяется. Быстрое кодирование с помощью ИИ повышает продуктивность, но нередко рождает уязвимости — например, небезопасную аутентификацию.

Злоумышленники тоже не стоят на месте: они используют те же инструменты, что и разработчики — от генеративного кода до подсказочных атак.

Сравнение: разработчики и злоумышленники

Кто	Как использует ИИ	Уязвимости / Возможности
Разработчики	Ускорение написания кода	Ошибки в аутентификации, конфигурациях
Злоумышленники	Генерация эксплойтов, атаки подсказками	Получение секретов, удаление данных
Компании	Интеграция ИИ-агентов	Риск атак на цепочки поставок

Примеры атак

Drift (2025): через токены чат-ботов злоумышленники проникли в Salesforce клиентов (Google, Cloudflare и др.).
s1ingularity (2025): вредонос в Nx перехватывал Claude и Gemini, вскрывая ключи GitHub.

Люттвак отмечает, что пока только 1% предприятий внедрили ИИ полностью, но атаки уже затрагивают тысячи клиентов Wiz еженедельно.

Ошибка → Последствие → Альтернатива

Ошибка: Использовать ИИ без закладывания безопасности.
Последствие: уязвимости в приложениях.
Альтернатива: безопасная архитектура с самого начала.
Ошибка: Делегировать конфиденциальные данные "молодым" SaaS без защиты.
Последствие: утечки и репутационные риски.
Альтернатива: проверка партнёров на SOC2 и другие стандарты.
Ошибка: Откладывать создание позиции CISO.
Последствие: накопление "долга безопасности".
Альтернатива: нанять CISO даже в компании из пяти человек.

А что если…

…стартапы начнут внедрять безопасность ещё до написания первой строки кода? Тогда рынок SaaS и ИИ-продуктов станет более устойчивым, а компании будут быстрее проходить аудит и заключать сделки с крупными корпорациями.

Плюсы и минусы ранней стратегии безопасности

Плюсы	Минусы
Готовность к корпоративным клиентам	Дополнительные затраты на старте
Минимизация "долга безопасности"	Удлинение цикла разработки
Соответствие стандартам (SOC2)	Ограничение гибкости команды

Советы стартапам шаг за шагом

Нанять CISO с первого дня.
Построить архитектуру так, чтобы данные клиента оставались в его среде.
Сразу внедрить аудит и журналы безопасности.
Получить соответствие SOC2 на ранней стадии.
Продумать "безопасность по умолчанию" для всего жизненного цикла разработки.

FAQ

Почему ИИ делает кибератаки опаснее?
Он ускоряет генерацию эксплойтов и упрощает обход защитных механизмов.

Что значит "долг безопасности"?
Это накопленные ошибки и слабые места, которые приходится исправлять поздно и дорого.

Как компаниям защититься от атак на цепочку поставок?
Ограничить доступ сторонних сервисов и регулярно проверять их безопасность.

Мифы и правда

Миф: "ИИ помогает только защитникам".
Правда: его используют и атакующие для эксплойтов и подсказочных атак.
Миф: "Маленьким стартапам безопасность не нужна".
Правда: именно они наиболее уязвимы.
Миф: "Достаточно разового аудита".
Правда: безопасность — это процесс, а не одноразовое действие.

3 факта о Wiz и кибербезопасности ИИ

Wiz уже каждую неделю фиксирует атаки на тысячи корпоративных клиентов.
Продукты Wiz Code и Wiz Defend ориентированы на защиту разработки и облаков от угроз ИИ.
Google купила Wiz за $32 млрд, сделав его одним из крупнейших приобретений в сфере кибербезопасности.