Раскрыто: как мировые злодеи используют Gemini от Google для своих темных схем!

TLDR

Gemini создан с учетом мер безопасности, предотвращающих несанкционированное использование, но это не останавливает некоторых финансируемых правительством злоумышленников от попыток использовать его во вред.
Было установлено, что группировки Advanced Persistent Threat из Китая, Ирана, Северной Кореи и России получают помощь от Gemini.
Наиболее распространенными вариантами использования Gemini являются исследование целей и помощь в кодировании.

С момента внедрения мощных языковых моделей ИИ злоумышленники стремились использовать их во вредных целях. Разработчики стремятся укрепить свои модели мерами против злоупотреблений, но хитрые противники настойчиво разрабатывают инновационные стратегии, чтобы обойти эту защиту. На этой неделе Google раскрыл некоторые сведения о Gemini и международных сетях, пытающихся использовать его для незаконной деятельности.

Группа по анализу угроз Google недавно опубликовала отчет, в котором подробно описывается злоупотребление генеративным ИИ злоумышленниками. Чтобы предоставить некоторый контекст, они выделяют две основные категории атак:

1. Атаки, в которых ИИ используется как инструмент, например, создание кода, который может быть использован для создания вредоносного ПО.
2. Атаки, направленные на прямое манипулирование ИИ, например, сбор данных учетных записей обманными способами.

Кроме того, в отчете выделяются два основных типа злоумышленников:

1. Расширенные постоянные угрозы (APT), которые часто представляют собой крупные хакерские группы, поддерживаемые национальными государствами.
2. Информационные операции (IO), сосредоточенные на дезинформации и нарушении работы платформ социальных сетей.

Положительный аспект заключается в том, что в целом, похоже, никому не удалось успешно манипулировать Gemini, заставляя его выполнять какие-либо вредоносные действия. Хотя Google наблюдал многочисленные попытки обойти меры безопасности Gemini, предоставляя изобретательные указания, чтобы убедить его игнорировать правила безопасности, большинство этих попыток были довольно вялыми, просто повторяя стратегии, которые уже общедоступны.

Похоже, что основным способом использования Gemini преступными элементами является его использование в качестве исследовательского инструмента. Google выявил Advanced Persistent Threats (APT) из четырех стран — Китая, Ирана, Северной Кореи и России — как основных участников злоупотреблений Gemini. Эти группы использовали Gemini для таких действий, как сбор информации о военных и разведывательных целях, выявление слабых мест программного обеспечения и предоставление помощи в кодировании.

Возможности искусственного интеллекта Google также использовались группами, идентифицированными как IO, в схожих странах, помогая с переводами, корректировкой тонов сообщений и, по сути, помогая этим субъектам скрывать свои настоящие личности, что позволяло осуществлять скрытое общение.

Эта ситуация подчеркивает некоторые основные проблемы в предотвращении нецелевого использования ИИ. Хотя Google, по-видимому, эффективно блокирует прямой вред с помощью Gemini, умные злоумышленники все еще могут использовать возможности ИИ, разделяя свои вредоносные планы на более мелкие, безобидные действия. По сути, цель ИИ — облегчить выполнение задач, и это может непреднамеренно помочь тем, у кого плохие намерения.

Если вы хотите глубже изучить тему и получить массу дополнительных подробностей, настоятельно рекомендуется прочитать весь отчет Google Threat Intelligence Group о современных постоянных угрозах (APT) и их применении Gemini.

Смотрите также

2025-02-01 02:47