Новое будущее искусственного интеллекта Google должно будет сочетать новые интересные функции с конфиденциальностью

Новое будущее искусственного интеллекта Google должно будет сочетать новые интересные функции с конфиденциальностью

Как технический энтузиаст с опытом работы в области конфиденциальности и безопасности, я одновременно взволнован и обеспокоен последними объявлениями Google, основанными на искусственном интеллекте. Google уже много лет является пионером в области искусственного интеллекта в сфере потребительских технологий, и неудивительно, что они расширяют границы возможного. Однако с большой силой приходит и большая ответственность.


Как аналитик технологической отрасли, я могу вам сказать, что Google, как и многие другие технологические компании, в 2024 году будет активно интегрировать искусственный интеллект (ИИ) в свои продукты. В этом нет ничего неожиданного, учитывая раннюю лидирующую роль Google в сфере искусственного интеллекта в сфере потребительских технологий и постепенное внедрение искусственного интеллекта в различные сервисы на протяжении многих лет. Поскольку искусственный интеллект становится последним модным словом в области технологий, компании стремятся присоединиться к нему и продемонстрировать потребителям свои возможности искусственного интеллекта.

Многие из инноваций, продемонстрированных Google, либо появятся в ближайшее время, либо уже доступны. Однако некоторые проекты остаются нереализованными мечтами, которые, возможно, никогда не материализуются. Тем не менее, как реализованные, так и нереализованные инновации имеют общую проблему: потенциальные риски для конфиденциальности. Например, вспомните Project Loon?

Подход Google в этом отношении не является чем-то новым, поскольку бизнес-модель компании требует определенного уровня навязчивости. Учитывая, что наши данные способствуют их доходам, их сбор и тщательная проверка неизбежны. Пословица «бесплатного обеда не бывает» справедлива и для Gmail.

Как аналитик я могу перефразировать ваше заявление следующим образом: я с нетерпением жду возможности справиться с большинством предстоящих задач с помощью местного колорита Gemini Nano. Хотя я предпочитаю сохранять конфиденциальность своих телефонных звонков и не позволять Google их прослушивать, меня вполне устраивает обработка на устройстве. С другой стороны, меня устраивает новая функция Gmail AI, управляющая моим почтовым ящиком, поскольку данные уже хранятся в облаке. Я мог бы даже подумать о том, чтобы включить его.

Некоторые другие примеры были немного более тревожными.

Google видит все ваши данные и никогда не забывает

Новое будущее искусственного интеллекта Google должно будет сочетать новые интересные функции с конфиденциальностью

Google недавно продемонстрировал некоторые инновационные концепции, но они вызывают серьезные проблемы с конфиденциальностью. В ближайшем будущем нам, возможно, придется быть столь же осторожными в отношении передовой технологии распознавания объектов Google, как и в отношении ее возможностей распознавания лиц.

На конференции Google I/O Keynote проект Astra выделялся как интригующая презентация среди менее впечатляющих презентаций. Он представил умного помощника, способного воспринимать как визуально, так и слухом, как и мы. Этот помощник был предназначен для обработки и действий на основе полученных данных.

Меня как аналитика изначально привлекла перспектива Google Glass следующего поколения, представленных на демонстрации. Однако по-настоящему меня заинтересовало то, что Астра случайно упомянула: «Твои очки лежат на столе рядом с красным яблоком».

Как технический энтузиаст, я не могу скрыть своего волнения по поводу этой потенциальной инновации! Возможно, это не все развлечения и игры, как некоторые могут подумать; это действительно может оказаться весьма полезным для многих. Шутка говоря, возможно, мы никогда больше не потеряем пульт дистанционного управления, но давайте на минутку станем серьезнее. В жизни есть более насущные дела, требующие быстрого определения местоположения, например, EpiPen или экстренный ингалятор. В большинстве случаев найти эти предметы гораздо важнее, чем найти ключи.

Как помощник, наблюдающий за ситуацией, я бы сказал так: хотя Astra может счесть функции обмена данными Google удобными, с этим связаны потенциальные риски. Например, представьте, что вы получили повестку в суд с просьбой предоставить доступ к вашим пользовательским данным Google. Сюда может входить конфиденциальная информация о ваших личных вещах, например, о марихуане, боеприпасах или даже о противозачаточных средствах. Если Google владеет этими данными, они по закону обязаны выполнить повестку в суд, потенциально раскрывая информацию, которая может быть компрометирующей.

У меня нет интереса или права судить о том, что происходит в вашем частном доме, и я не подразумеваю, что любой инструмент, используемый в таком контексте, по своей сути является негативным. Однако существует вероятность того, что использование определенных инструментов может вызвать опасения при определенных обстоятельствах.

Новое будущее искусственного интеллекта Google должно будет сочетать новые интересные функции с конфиденциальностью

При, казалось бы, безобидном, но потенциально рискованном повороте событий Google может получить доступ к номерному знаку вашего автомобиля. Возможностей для удобства и полезности предостаточно, но также существуют и опасения, связанные с конфиденциальностью и возможным неправомерным использованием.

Google имеет возможность анализировать вашу коллекцию фотографий и идентифицировать изображения, на которых изображены автомобили. Используя информацию о местоположении и частоту показов, он может определить, какие автомобили на ваших фотографиях принадлежат вам. Кроме того, он извлекает и сохраняет номерные знаки для точного распознавания.

На первый взгляд это кажется безобидным, но учтите потенциальные последствия, если на эту информацию будут перекрестные ссылки. Судья может выдать повестку для получения фотографий или данных, касающихся любых транспортных средств, присутствовавших во время совершения преступления.

Как исследователь, изучающий стратегии предотвращения преступности, я признаю, что просмотр записей с камер видеонаблюдения в режиме реального времени потенциально может помочь правоохранительным органам в задержании преступников. Однако важно понимать, что этот метод также может привести к ненужным допросам. Например, невиновный человек, покупающий закуску или напиток в Circle K примерно во время ограбления, может оказаться допрошенным властями из-за случайного совпадения времени. Поэтому крайне важно рассмотреть возможность внедрения более сложных методов анализа записей с камер видеонаблюдения, которые минимизируют ложные срабатывания и при этом максимизируют шансы выявления фактической преступной деятельности.

Как заядлый пользователь этой передовой технологии распознавания объектов, я могу сказать вам, что идентификация автомобильных номерных знаков — это лишь верхушка айсберга. Эта система потенциально способна изучать и распознавать множество других объектов на основе изображений, предоставленных ее пользователями.

Эти инструменты обладают значительной силой, которая сопряжена с потенциальными рисками. Google преуспевает в создании такой технологии, однако крайне важно не размышлять о возможном применении в военных целях или правоохранительных органах, поскольку спрос на эту передовую технологию, несомненно, будет значительным.

Чтобы обеспечить прозрачность и доверие, Google необходимо четко объяснить, как функционирует ее технология, предоставив обзор ее возможностей и конкретных данных, которые она обрабатывает. Это объяснение должно быть написано простым и понятным языком. Очень важно, чтобы пользователи знали, какая информация сохраняется и как она шифруется, прежде чем они согласятся использовать службу. Хотя многие пользователи могут не вдаваться в подробности, прежде чем нажать «ОК», наличие этой информации является фундаментальным требованием.

Новое будущее искусственного интеллекта Google должно будет сочетать новые интересные функции с конфиденциальностью

Как исследователь, я бы рекомендовал сделать процесс согласия ясным и обязательным для любых новых функций или изменений, чтобы гарантировать согласие пользователя. Google обычно следует этой практике, но были случаи, когда нежелательные изменения вносились без предварительного уведомления.

Как исследователь, я осознаю необходимость изолировать эти функции от других компонентов, чтобы эффективно решать любые потенциальные проблемы. Если возникает проблема, крайне важно, чтобы мы немедленно приняли меры, выявляя и решая проблему. После внедрения решения его необходимо распространить среди всех соответствующих сторон перед перезапуском системы, чтобы обеспечить максимальную эффективность и минимизировать время простоя. Мы не можем позволить себе полагаться на внешние источники критически важных обновлений, особенно когда речь идет о вопросах большой важности.

Я надеюсь, но с осторожностью отношусь к новейшим функциям Google, учитывая их сложность и инновации. Точно так же я верю, что у Astra есть потенциал и она может оказаться полезной, если мне подойдут условия.

К сожалению, у меня есть опасения по поводу возможных нарушений конфиденциальности в предложениях Google. Кажется, это неудачная, но повторяющаяся тема в их услугах.

Смотрите также

2024-05-18 18:26