Эта новая функция искусственного интеллекта — лучшее, что появилось на Google I/O 2024.

На конференции Google I/O 2024 компания Google представила новую функцию Android, которая использует искусственный интеллект для обнаружения фраз, связанных с мошенничеством, в телефонных звонках.
В прошлом году в США из-за кражи цифровых данных было потеряно более 12 миллиардов долларов, причем наибольшее количество сообщений приходится на фишинговые мошенничества, включая фальшивые телефонные звонки.
Поскольку функция обнаружения вызовов AI использует искусственный интеллект на устройстве, ее использование не имеет каких-либо серьезных последствий для конфиденциальности.

Новая функция Google по обнаружению мошенничества с использованием встроенного в устройство искусственного интеллекта для анализа вызовов в режиме реального времени является важным шагом на пути к защите пользователей от растущей угрозы телефонного мошенничества и кражи личных данных. Технология, использующая самую маленькую модель искусственного интеллекта Google (Gemini Nano), анализирует звонки в режиме реального времени, чтобы сопоставить слова и фразы с теми, которые обычно используются в мошенничестве, не требуя отправки каких-либо данных в Google. Такой подход, ориентированный на конфиденциальность, стал возможным благодаря обработке на устройстве, которая сохраняет конфиденциальную информацию внутри самого устройства.

На Google I/O 2024 мы стали свидетелями конференции разработчиков, которая была специально ориентирована на программистов и могла похвастаться множеством дискуссий по искусственному интеллекту (ИИ). На протяжении всего мероприятия темы, связанные с ИИ, поднимались более 120 раз. Хотя большинство этих достижений ИИ не могут существенно изменить то, как потребители взаимодействуют с технологиями, есть одно исключение: обнаружение мошеннических звонков с помощью ИИ. Эта функция потенциально может существенно изменить будущее платформы Android, став одним из самых значительных дополнений за последние годы.

В настоящее время Google проводит пробное сканирование на предмет предупреждений о мошенничестве. Краткий обзор этой функциональности был представлен на Google I/O; однако конкретная дата запуска или обширная информация пока не разглашаются. Google намерен предоставить дополнительную информацию «позже в этом году». Несмотря на отсутствие конкретных деталей, концепция этой функции заслуживает похвалы и визуально привлекательна, судя по демонстрациям.

В Google I/O мы тестируем новую функцию. Он использует Gemini Nano для предупреждений в реальном времени во время звонков, если он определяет стили обсуждения, связанные с мошенническими действиями. Эта мера безопасности действует исключительно на вашем устройстве, гарантируя, что ваш разговор останется конфиденциальным для вас. Более подробная информация будет раскрыта ближе к концу этого года! #GoogleIO

Я заметил, что технология искусственного интеллекта призвана оказать большую помощь людям, которые могут невольно столкнуться с мошенничеством с использованием мобильных телефонов. Он использует встроенный в устройство искусственный интеллект для анализа и выявления подозрительной лексики, обычно связанной с попытками фишинга. Например, если пользователю позвонит кто-то, назвавшийся представителем банка, с просьбой перевести средства на новый счет, система искусственного интеллекта выдаст предупреждение, предупреждающее пользователя о том, что звонок, скорее всего, является мошенничеством.

Модель искусственного интеллекта предназначена для выявления закономерностей, указывающих на мошеннические запросы. Значительное количество текущих фишинговых схем используют мошенники, требующие оплаты с помощью подарочных карт. Следовательно, если пользователь получает звонок с запросом кодов погашения подарочной карты, система обнаружения ИИ может предупредить его, что звонок может быть потенциально мошенническим.

Как исследователь, изучающий отзывы пользователей о системах обнаружения мошенничества с использованием искусственного интеллекта, я был ошеломлен не слишком восторженными отзывами, с которыми столкнулся в социальных сетях. Однако мой взгляд на эту функцию изменился после того, как я осознал ее огромный потенциал оказания значительного положительного влияния. Вот почему:

Люди теряют миллиарды долларов из-за мошенников

Эта новая функция искусственного интеллекта — лучшее, что появилось на Google I/O 2024.

Давайте ответим на очевидный вопрос: необходимо ли использовать ИИ для выявления риска перевода значительных средств после неожиданного телефонного звонка? Возможно, вас это удивит, но ответ утвердительный. Даже если вы постоянный читатель TopMob и обладаете высокой технической грамотностью и знаниями в области интернет-безопасности, крайне важно не недооценивать важность этой технологии. Технически подкованные люди могут легко обнаружить мошенничество и обычно избегают отвечать на звонки с неизвестных номеров или от неожиданных контактов. Однако не все разделяют этот уровень осведомленности, что делает ИИ незаменимым инструментом, помогающим предотвратить потенциальные финансовые потери.

Как технический энтузиаст, я бы сказал это так: мошенничество в цифровом мире становится все более изощренным, поэтому даже самым технически подкованным из нас становится сложно сразу его идентифицировать. К сожалению, пожилые люди, как правило, подвергаются непропорционально большей атаке из-за их потенциальной уязвимости. Мы все сталкивались в своей жизни с кем-то, кто, возможно, не был столь искусен в распознавании подобных мошенничеств, особенно с учетом постоянно меняющейся тактики, используемой мошенниками.

Если вы по-прежнему не убеждены в том, что спам-звонки станут серьезной проблемой в 2024 году, позвольте мне поделиться некоторыми убедительными данными, которые изменят вашу точку зрения. В недавнем объявлении в блоге Google процитировал выводы Глобального альянса по борьбе с мошенничеством. Согласно этому исследованию, в 2023 году из-за мошенничества и кражи личных данных у людей по всему миру было украдено ошеломляющие 1,026 триллиона долларов. В исследовании приняли участие 49 459 человек из 43 стран, что продемонстрировало широкое распространение этих вредоносных практик.

Хотя эти цифры являются приблизительными, важно отметить, что ФБР предоставляет более точные данные об интернет-преступлениях в Соединенных Штатах. Ежегодно они публикуют отчет о преступлениях в Интернете, в котором подробно описываются случаи онлайн-мошенничества и связанные с этим финансовые потери. В 2023 году через цифровое мошенничество в США было выведено ошеломляющие 12,5 миллиардов долларов США, что означает значительный рост с 10,3 миллиардов долларов США в 2022 году и 6,9 миллиардов долларов США в 2021 году. Число зарегистрированных случаев онлайн-мошенничества и сумма украденных денег значительно выросли. . Для контекста: в 2019 году из-за таких схем было потеряно всего 3,5 миллиарда долларов, что указывает на то, что финансовые потери от интернет-преступлений увеличились более чем в три раза за пять лет.

В сфере киберпреступлений множество мошеннических действий в Интернете включены в ежегодный отчет о преступлениях в Интернете, составляемый ФБР. Среди этих различных типов мошенничества в 2023 году наиболее распространенным стал фишинг: только в Соединенных Штатах было зарегистрировано ошеломляющее количество сообщений — 298 878. Превышает общее количество других четырех категорий преступлений.

Для тех, у кого ограниченный опыт, мошеннические схемы, использующие технику фишинга, направлены на то, чтобы убедить людей добровольно передать конфиденциальную информацию или средства. Например, когда кто-то выдает себя за сотрудника банка или IRS по телефону, он пытается обмануть ваши учетные данные или деньги с помощью фишинга. Система обнаружения мошенничества Google может эффективно противодействовать такому мошенничеству, используя передовые технологии искусственного интеллекта.

Google не будет прослушивать ваши звонки — все они обрабатываются на устройстве.

Функция Google работает путем тщательного анализа ваших звонков в режиме реального времени и сопоставления произнесенных слов и фраз с теми, которые часто встречаются в мошеннических сообщениях. Разве это не звучит агрессивно? Удивительно, но это не связано с использованием обработки на устройстве для всего процесса. В течение довольно долгого времени компании использовали обработку данных на устройстве, чтобы защитить определенные конфиденциальные данные от выхода с вашего устройства. Google может похвастаться чипом безопасности Titan M2, а Apple — Secure Enclave.

В этом сценарии Google использует компактную модель Gemini Nano для выявления подозреваемых мошеннических звонков с вашей стороны. Это означает, что Google не будет получать доступ к вашим разговорам или записывать их, и никакие данные не будут передаваться им с вашего телефона. Анализ выполняется локально на вашем устройстве с использованием самой маленькой системы искусственного интеллекта Google.

У этого есть свои недостатки, такие как совместимость с телефоном. Поскольку он использует Gemini Nano, функция обнаружения мошеннических вызовов, скорее всего, будет совместима только с некоторыми телефонами, такими как Pixel 8 Pro и серия Galaxy S24, если она будет запущена сегодня. Говорят, что Gemini Nano появится на Pixel 8 позже и может появиться и на других телефонах в будущем. Но в целях конфиденциальности эту функцию смогут использовать только устройства, на которых работает Gemini Nano.

Оповещения об обнаружении мошенничества спасут очень много людей от краж

Как энтузиаст технологий, я постоянно утверждаю, что искусственный интеллект (ИИ) имеет больше перспектив для среднего, менее информированного пользователя технологий, чем для нас, технических специалистов – по крайней мере, на начальном этапе. Яркую иллюстрацию этой идеи можно найти в планах Google по внедрению предупреждений об обнаружении мошенничества на основе искусственного интеллекта. Хотя эти функции, возможно, и не принесут прямой пользы ни мне, ни коллегам-экспертам, они, несомненно, защитят бесчисленное количество пользователей от потенциально опасного мошенничества, пока не стало слишком поздно.

Эти функции способны предотвратить серьезные ошибки в жизни и помочь облегчить потенциальные кризисы. Среди инноваций Google в области искусственного интеллекта, обсуждавшихся на I/O, мне особенно приятно наблюдать за внедрением этих предупреждений об обнаружении мошенничества на устройствах Android.

Смотрите также

2024-05-18 21:56