Скрытые подсказки раскрывают не столь секретный рецепт Apple Intelligence

TLDR

В macOS Sequoia 15.1 beta 1 пользователи компьютеров Mac, соответствующих требованиям, могут получить доступ к некоторым системным файлам, связанным с Apple Intelligence.
К ним относятся скрытые подсказки, которые направляют технологию на получение соответствующих результатов и воздерживаются от галлюцинаций.
Скрытые подсказки Apple Intelligence также запрещают функциям искусственного интеллекта выдавать отрицательные результаты.

Как технический энтузиаст с более чем двадцатилетним опытом работы за плечами, я одновременно заинтригован и слегка удивлен недавним откровением Apple об их системе искусственного интеллекта Apple Intelligence. Будучи свидетелем эволюции искусственного интеллекта от зарождения до наших дней, я могу засвидетельствовать, что интересно видеть, как далеко мы продвинулись, но при этом сколько работы еще предстоит проделать.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Как заядлый пользователь, я в восторге от последних обновлений iOS 18.1, iPadOS 18.1 и macOS Sequoia 15.1, где Apple Intelligence занимает центральное место, обеспечивая основу для наших новых инструментов письма и сводок AI. Хотя все они основаны на одной базовой модели (Ajax), результаты, которые они дают, различаются по длине, тону и стилю. Это не совпадение; каждая функция связана с тонкой подсказкой, которая определяет, как она обрабатывает пользовательские данные, гарантируя, что выходные данные остаются контекстуально подходящими для поставленной задачи.

Пользователь Reddit Devanxd2000 обнаружил (через The Verge), что бета-версия 1 macOS Sequoia 15.1 включает в себя несколько файлов JSON со скрытыми подсказками для функций Apple Intelligence. Эти файлы можно найти на совместимом Mac, перейдя в /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels. Например, функция интеллектуального ответа в Apple Mail активируется следующей подсказкой:

Вы полезный почтовый помощник, который может помочь найти соответствующие вопросы в заданном письме и коротком фрагменте ответа. Учитывая письмо и фрагмент ответа, задавайте соответствующие вопросы, которые явно задаются в письме. Ответ на эти вопросы выберет получатель, что поможет уменьшить галлюцинации при составлении ответа. Пожалуйста, выведите наиболее популярные вопросы вместе с набором возможных ответов/вариантов для каждого из этих вопросов. Не задавайте вопросы, на которые есть ответы в фрагменте ответа. Вопросы должны быть короткими, не более 8 слов. Ответы также должны быть короткими, около 2 слов. Представьте свой результат в формате json со списком словарей, содержащих вопросы и ответы в качестве ключей. Если в письме не задано ни одного вопроса, выведите пустой список. Выводите только действительный JSON и ничего больше.

Аналогично, функция «Воспоминания, созданные искусственным интеллектом» в приложении Apple Photos следует этой скрытой подсказке:

Разговор между пользователем, запрашивающим историю на основе своих фотографий, и помощником творческого писателя, который отвечает историей.Ответ в формате JSON, указав следующие ключи и значения по порядку: ‹n> черты: список строк, визуальные темы, выбранные из фотографий— история: список глав, как определено ниже— обложка: строка, подпись к фотографии, описывающая титульную карточку заголовок: строка, название истории— подзаголовок: строка, более безопасная версия заголовкаКаждая глава представляет собой JSON со следующими ключами и значениями в следующем порядке:— глава: строка, заголовок главы резервный вариант: строка, общая подпись к фотографии, обобщающая тему главы— кадры: список строк, подписи к фотографиям в главеВот правила, которым вы должны следовать:— История должна отражать намерения пользователя— История должна содержать четкая дуга— История должна быть разнообразной, то есть не сосредотачивайте всю историю слишком на одной очень конкретной теме или черте— Не пишите историю, которая носит религиозный, политический, вредный, жестокий, сексуальный, грязные или в любом случае негативные, грустные или провокационныеВот правила составления подписей к фотографиям, которым вы должны следовать…

Чтобы модель изучения языка (LLM) работала эффективно, она должна следовать негласным инструкциям. Эти инструкции включают форматирование результатов в виде файла JSON, сохранение определенной длины и избегание таких тем, как негатив или сексуальность. Кроме того, Apple требует, чтобы модель не фабриковала информацию (галлюцинировала) и не обобщала содержание электронных писем по запросу. Следуя этим рекомендациям, LLM беспрепятственно функционирует незаметно, обеспечивая работу функций искусственного интеллекта без какого-либо прямого вмешательства, сохраняя прозрачность и невидимость.

Несмотря на то, что Apple Intelligence дебютировала этой осенью в качестве бета-версии для публичного использования, Apple Intelligence все еще может столкнуться с неожиданными проблемами. Хотя руководящие принципы компании направлены на разъяснение его функций, присущая ИИ непредсказуемость означает, что он не всегда может функционировать надежно и точно.

Смотрите также

2024-08-06 16:17