ИИ оказался дырявым, как решето: какие слабые места нашли в Google Gemini

Искусственный интеллект сегодня используется в повседневной жизни так же активно, как смартфоны или онлайн-банкинг. Он помогает находить информацию, анализировать данные и подсказывать решения. Но вместе с удобством растут и риски: чем умнее система, тем интереснее она становится для хакеров. Именно это показала история с Google Gemini, в котором специалисты нашли сразу три критические уязвимости.

Опасное открытие

В начале осени эксперты в сфере кибербезопасности сообщили о проблемах, которые условно назвали Gemini Trifecta. Речь идёт о целой группе уязвимостей, позволявших злоумышленникам красть персональные данные и отслеживать активность пользователей в реальном времени. По словам исследователей, атаки строились в два этапа: сначала происходило внедрение скрытых команд, а затем — незаметное извлечение информации, включая геолокацию и историю поиска.

"Набор проблем получил условное название Gemini Trifecta", — сообщили исследователи Anti-Malware.

Три слабых места

Первая проблема — Gemini Cloud Assist. Она позволяла внедрять вредоносные команды через заголовки HTTP User-Agent. Эти команды попадали в логи системы, и при их просмотре происходило фактическое исполнение.

Вторая уязвимость связана с персонализацией поиска. Хакеры могли менять историю браузера, подсовывая туда свои запросы. Для системы они выглядели как настоящие команды, что открывало доступ к манипуляциям поисковыми результатами.

Наибольшую угрозу представлял третий сбой — в инструменте Gemini Browser. С помощью специально подготовленных ссылок система перенаправлялась на сторонние ресурсы, одновременно передавая личные данные пользователя. Это приводило к их утечке.

Сравнение: три уязвимости Gemini

Как действовали злоумышленники

Сценарий выглядел так: сначала атака внедряла скрытые команды. Они могли "спрятаться" в логах или истории поиска. После этого данные незаметно выводились наружу — будь то координаты пользователя или список последних запросов. Такая схема делала угрозу особенно опасной, ведь жертва могла даже не заметить проблему.

Советы шаг за шагом: как защититься

1. Всегда обновляйте программы и приложения, особенно когда речь идёт об ИИ-инструментах.

2. Используйте защищённые браузеры, чтобы минимизировать риски слежки.

3. Настройте двухфакторную аутентификацию для аккаунтов Google.

4. Проверяйте разрешения приложений и отключайте лишние.

5. Для хранения конфиденциальных данных используйте менеджеры паролей и зашифрованные облака.

Ошибка → Последствие → Альтернатива

• Ошибка: игнорирование обновлений безопасности.
  → Последствие: уязвимость остаётся открытой для атак.
  → Альтернатива: автоматическое обновление системы.

• Ошибка: использование слабых паролей.
  → Последствие: взлом учётной записи и кража данных.
  → Альтернатива: уникальные пароли + менеджер паролей (например, 1Password).

• Ошибка: хранение важных документов в открытых папках облака.
  → Последствие: вероятность утечки при взломе.
  → Альтернатива: сервисы с шифрованием (Proton Drive, Tresorit).

А что если…

А что если подобные уязвимости обнаружат в других популярных нейросетях, например, в ChatGPT или MidJourney? Очевидно, что последствия могут быть куда масштабнее: речь идёт не только о текстах или картинках, но и о бизнес-данных, паролях и даже банковских транзакциях. Это ещё раз подчёркивает необходимость независимых аудитов и прозрачности работы ИИ.

Мифы и правда

• Миф: "Искусственный интеллект невозможно взломать".
  Правда: уязвимости есть в любой системе, вопрос лишь в скорости их устранения.

• Миф: "Если пользоваться только официальными сервисами, утечки не грозят".
  Правда: даже гиганты уровня Google сталкиваются с угрозами.

• Миф: "Хакеры охотятся только за крупными компаниями".
  Правда: атаки нередко нацелены и на обычных пользователей.

3 интересных факта

• Google исправила проблемы Gemini в кратчайшие сроки, чтобы снизить риски.
• Многие атаки были возможны благодаря невнимательности пользователей.
• Термин Trifecta в переводе с английского означает "тройка успехов", иронично использованный исследователями.