Слишком умный, чтобы быть безопасным: почему ИИ-решения открывают дыры в системах

Кибербезопасность вступает в новую фазу, где искусственный интеллект становится не только инструментом защиты, но и оружием атакующих. На это обратил внимание Ами Люттвак, главный технолог компании Wiz (приобретённой Google за $32 млрд), в беседе о современных угрозах.

ИИ как новый фронт атак

"Одна из ключевых вещей, которую нужно понимать в отношении кибербезопасности, заключается в том, что это игра разума", — сказал Люттвак.

С ростом числа ИИ-инструментов в корпоративных процессах поверхность атак расширяется. Быстрое кодирование с помощью ИИ повышает продуктивность, но нередко рождает уязвимости — например, небезопасную аутентификацию.

Злоумышленники тоже не стоят на месте: они используют те же инструменты, что и разработчики — от генеративного кода до подсказочных атак.

Сравнение: разработчики и злоумышленники

Примеры атак

• Drift (2025): через токены чат-ботов злоумышленники проникли в Salesforce клиентов (Google, Cloudflare и др.).

• s1ingularity (2025): вредонос в Nx перехватывал Claude и Gemini, вскрывая ключи GitHub.

Люттвак отмечает, что пока только 1% предприятий внедрили ИИ полностью, но атаки уже затрагивают тысячи клиентов Wiz еженедельно.

Ошибка → Последствие → Альтернатива

• Ошибка: Использовать ИИ без закладывания безопасности.
  Последствие: уязвимости в приложениях.
  Альтернатива: безопасная архитектура с самого начала.

• Ошибка: Делегировать конфиденциальные данные "молодым" SaaS без защиты.
  Последствие: утечки и репутационные риски.
  Альтернатива: проверка партнёров на SOC2 и другие стандарты.

• Ошибка: Откладывать создание позиции CISO.
  Последствие: накопление "долга безопасности".
  Альтернатива: нанять CISO даже в компании из пяти человек.

А что если…

…стартапы начнут внедрять безопасность ещё до написания первой строки кода? Тогда рынок SaaS и ИИ-продуктов станет более устойчивым, а компании будут быстрее проходить аудит и заключать сделки с крупными корпорациями.

Плюсы и минусы ранней стратегии безопасности

Советы стартапам шаг за шагом

1. Нанять CISO с первого дня.

2. Построить архитектуру так, чтобы данные клиента оставались в его среде.

3. Сразу внедрить аудит и журналы безопасности.

4. Получить соответствие SOC2 на ранней стадии.

5. Продумать "безопасность по умолчанию" для всего жизненного цикла разработки.

FAQ

Почему ИИ делает кибератаки опаснее?
Он ускоряет генерацию эксплойтов и упрощает обход защитных механизмов.

Что значит "долг безопасности"?
Это накопленные ошибки и слабые места, которые приходится исправлять поздно и дорого.

Как компаниям защититься от атак на цепочку поставок?
Ограничить доступ сторонних сервисов и регулярно проверять их безопасность.

Мифы и правда

• Миф: "ИИ помогает только защитникам".
  Правда: его используют и атакующие для эксплойтов и подсказочных атак.

• Миф: "Маленьким стартапам безопасность не нужна".
  Правда: именно они наиболее уязвимы.

• Миф: "Достаточно разового аудита".
  Правда: безопасность — это процесс, а не одноразовое действие.

3 факта о Wiz и кибербезопасности ИИ

1. Wiz уже каждую неделю фиксирует атаки на тысячи корпоративных клиентов.

2. Продукты Wiz Code и Wiz Defend ориентированы на защиту разработки и облаков от угроз ИИ.

3. Google купила Wiz за $32 млрд, сделав его одним из крупнейших приобретений в сфере кибербезопасности.

Исторический контекст

• 2020: основание Wiz для защиты облачных конфигураций.

• 2022-2023: рост атак на цепочки поставок.

• 2024: масштабные подсказочные атаки на ИИ-инструменты.

• 2025: массовое применение ИИ и эскалация угроз.