Android готовится сделать еще один шаг вперед в области искусственного интеллекта по сравнению с Apple.

от

TL;DR

  • Будущие процессоры Android будут поддерживать SME2, что ускорит выполнение машинного обучения прямо на ЦП.
  • Улучшения, похоже, появятся с новым мобильным процессорным ядром от компании ARM.
  • Developers using Arm’s KleidiAI won’t have to change anything to benefit.

    Несмотря на критику со стороны некоторых источников, технология ИИ продолжает служить основой для прогресса в современных смартфонах. Однако для быстрого и эффективного выполнения новейших и наиболее эффективных инструментов ИИ требуются процессоры, способные справиться с этой задачей. Достичь этого можно за счет использования специализированного ускорителя AI или процессора, оптимизированного под конкретные инструкции для ускорения задач машинного обучения.

    В недавнем блоге Arm поделился дополнительной информацией о предстоящем расширении процессора Scalaable Matrix Extension 2 (SME2), намекая на скорую интеграцию в будущие смартфоны Android после того, как Arm представит следующее поколение мобильных процессоров. Учитывая предыдущие анонсы, можно ожидать этого события в ближайшие месяцы, но под новым названием — Lumex, заменив старый бренд Cortex.

    Как наблюдатель, я бы переформулировал так: Недавно я обратил внимание на компонент под названием SME (Specialized Math Engine), который был изначально интегрирован в архитектуру Armv9. Эта архитектура представляет собой набор дополнительных сложных расширений для процессорной архитектуры, специально разработанных для ускорения матричных математических операций — комплексных умножений, которые критически важны для алгоритмов машинного обучения. Последняя версия, SME2, была представлена к концу 2022 года и расширяет эти возможности. Согласно Arm, такие улучшения позволяют проводить задачи мобильного вывода в реальном времени в широком спектре приложений, включая обработку изображений, естественного языка и генерацию голоса.

    SME2 ускоряет выполнение задач искусственного интеллекта на вашем процессоре, и скоро появится в будущих моделях телефонов Android.

    Дополнительно, компания ARM предоставляет определенные данные, которые убедительно указывают на подлинность SME2. По словам ARM, модель Gemma 3 от Google обеспечивает ответы ИИ в шесть раз быстрее с использованием аппаратного обеспечения SME2 по сравнению с его отсутствием. Она способна создать резюме объемом 800 слов менее чем за одну секунду, используя всего одно ядро процессора, хотя не уточняется, о каком именно процессоре идет речь в данном контексте.

    Это крайне захватывающе думать о том, насколько продвинутыми могут стать функции краткого изложения текста и интеллектуальных ответов в будущем, потенциально предлагая гораздо более интерактивный опыт по сравнению с текущими версиями. В любом случае, что действительно важно для пользователей, так это новость о доступности функциональных возможностей оборудования SME2 на мобильных устройствах Android в ближайшем будущем.

    Функции серверного уровня для мобильных устройств

    По состоянию на сегодня, технология SME (Symmetric Multi-Processing) преимущественно используется в высокопроизводительных серверах и рабочих станциях из-за своей требовательности. Однако, SME2 спроектирована с учетом масштабируемости, что делает ее подходящей для устройств низкого энергопотребления, таких как ноутбуки, планшеты и даже передовые смартфоны. Хотя процессоры Android обычно избегали первой генерации SME, чипы Apple M4 (используемые в iPad) являются наиболее близкими мобильными устройствами к поддержке SME2. Важно отметить, что Apple пока не предоставила эту функцию своим моделям iPhone. Это оставляет возможность для будущих устройств на Android превзойти своих конкурентов по производительности AI.

    Важно отметить, что Android в настоящее время готов использовать функциональность SME2. Библиотека XNNPACK от Google для Android активировала функцию SME2 и совместима с различными фреймворками, такими как llamacpp, MNN от Alibaba и ONNX от Microsoft. Кроме того, разработчики, уже работающие с программной библиотекой KleidiAI от Arm (которая легко интегрируется с этими фреймворками), автоматически получат преимущество использования аппаратного обеспечения SME2 при его запуске на Android-смартфонах, сохраняя при этом совместимость с расширениями SME и NEON. Таким образом, переход к использованию SME2 является плавным и простым.

    Apple имеет сервисную поддержку (SME) для своих планшетов iPad, но не для смартфонов iPhone. Android может значительно обогнать по этому показателю.

    Не было секретом то, что технология Arm CuStoM Made (SME) будет внедрена в будущие мобильные процессоры Arm CPU, так как Крис Бергей из Arm уже намекал на это во время ComputeX. В недавней презентации подтвердилось, что предстоящий процессор TRAVIS от Arm будет включать SME (возможно, более новую версию SME2). Предполагается, что этот ядро предназначено для MediaTek Dimensity 9500 и потенциально других мобильных SoC следующего поколения, таких как линейка Exynos от Samsung. Набор микросхем Tensor от Google в настоящее время отстает на несколько поколений, но к 2026 году он может использовать возможности SME от Arm с выпуском Tensor G6.

    Поскольку Qualcomm движется к созданию пользовательских процессорных ядер для Snapdragon 8 Elite 2, возможно, не будут предложены те же функции, что ассоциировались с этой серией ранее. В результате многие флагманы следующего поколения Android могут не сразу принять технологию SME2. Ранние слухи предполагают, что в состав 8 Elite 2 войдут поддержка расширений SME1 и SVE2, вместо этого, что означает улучшение относительно текущей системы, но отсутствие возможностей SME2, характерных для ядер Lumex от Arm. Остается выяснить, сможет ли Apple сравняться с собственной реализацией SME в следующем поколении чипов, так как A18 уже основаны на Armv9.2. Однако для достижения этого Apple должна интегрировать аппаратное обеспечение SME2 из M4 в свои пользовательские процессорные ядра, используемые в мобильных устройствах.

    Несмотря на ситуацию, более быстрое машинное обучение на центральном процессоре вашего смартфона является значительным прорывом. Это улучшение обеспечивает лучшую производительность в различных задачах, таких как сжатие текста, перевод в реальном времени, распознавание образов и других. Для конечных пользователей это означает расширенную функциональность, а для сообщества разработчиков искусственного интеллекта — шаг вперед в целом. В настоящее время доступен Android NN, но написание кода специально для кастомного машинного оборудования System on Chip (SoC) может быть затруднительным для мелких разработчиков. Чтобы охватить наиболее широкий спектр устройств, эти разработчики зачастую выбирают выполнение своих приложений на CPU.

    Устройства с более мощными встроенными процессорами будут предпочтительны для различных приложений. Если это подтвердится, то это станет еще одним значительным достижением будущих телефонов Android, в то время как их главный конкурент Apple кажется все еще отстает в области искусственного интеллекта.

Смотрите также

2025-07-10 16:18