Конечно, Близнецы используются для совершения преступлений.

Google решила поделиться инсайтами о том, как платформа Gemini предположительно используется для серьезных, потенциально общенациональных преступлений, которые могут перерасти в глобальные конфликты. Это открытие, возможно, не станет шоком для многих.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Группа анализа угроз Google подготовила подробный отчет, в котором подробно описывается, как их система искусственного интеллекта Gemini использовалась для вредоносных действий и сбора разведданных. В список нарушителей входят такие страны, как Иран, Северная Корея, Китай и другие. Если вы разделяете мое увлечение этой темой и готовы изучить некоторые технические термины, чтобы лучше ее понять, я рекомендую прочитать этот отчет.

Вероятно, можно было предвидеть, что ИИ будет использоваться различными способами, некоторые из которых будут полезными, а другие — вредными. Например, Иран использовал ИИ для исследования систем обороны западных стран, разведки и даже попыток кражи данных у военнослужащих. Северная Корея использовала его для изучения методов атаки на инфраструктуру и кражи криптовалюты. Россия в значительной степени полагалась на ИИ при разработке вредоносного ПО.

Благодаря обширному обучению Gemini накопил богатые знания по этим темам, что делает их весьма ценными, особенно в противодействии киберпреступности, спонсируемой государством. Однако эти знания также могут представлять опасность, поскольку те, кто находится у власти в разных странах, могут использовать их, чтобы проверить свои границы.

Google обнаружил около 42 отдельных организаций, использующих Gemini для того, что, по-видимому, является наступательной кампанией, нацеленной на западные страны и их жителей. Это говорит о том, что, возможно, было не так много других групп. Удобство использования генеративного ИИ в таких действиях не следует недооценивать, поскольку это решающий фактор, который нельзя игнорировать.

Эта проблема не решится сама собой, и она может даже обостриться. Использование системы ИИ, такой как Gemini, для целей разведки или нацеливания на общественные инфраструктуры более осуществимо по сравнению с развертыванием агентов-людей для тех же задач. ИИ преуспевает в задачах программирования и остается безразличным, создает ли он простую программу «Hello World» или пишет код для отключения моста. Кроме того, ИИ упрощает процесс подражания, делая чрезмерно простым присвоение личностей или персон для получения преимущества.

Я не имею никакого желания вести преступный образ жизни, и я думаю, что то же самое относится и к вам. Однако, гипотетически говоря, ИИ мог бы значительно упростить такую деятельность.

Смотрите также

2025-01-31 23:53