
Группа по анализу угроз Google недавно опубликовала отчет, в котором подробно описывается злоупотребление генеративным ИИ злоумышленниками. Чтобы предоставить некоторый контекст, они выделяют две основные категории атак:
1. Атаки, в которых ИИ используется как инструмент, например, создание кода, который может быть использован для создания вредоносного ПО.
2. Атаки, направленные на прямое манипулирование ИИ, например, сбор данных учетных записей обманными способами.
Кроме того, в отчете выделяются два основных типа злоумышленников:
1. Расширенные постоянные угрозы (APT), которые часто представляют собой крупные хакерские группы, поддерживаемые национальными государствами.
2. Информационные операции (IO), сосредоточенные на дезинформации и нарушении работы платформ социальных сетей.