Google только что открыл дверь для людей, чтобы сделать зло с ИИ

Google тихо стал более злым на прошлой неделе.

Компания пересмотрела свое обещание относительно этики ИИ, больше не взяв на себя воздержание от создания ИИ, предназначенного для вредных технологий. Предыдущие итерации руководящих принципов Google AI показали, что компания воздержится от разработки ИИ для «» или других технологий, в основном предназначенных для нанесения вреда людям »или« », которые собирают или используют информацию Для наблюдения, которое нарушает международно признанные стандарты «». Эти обязательства больше не на месте.

Если вы боретесь с пониманием наполненного жаргоном корпоративного выступления, это подразумевает, что Google может быть вовлечен в создание или поддержку создания программного обеспечения, связанного с искусственным интеллектом для военных и разведывательных приложений. По сути, вместо проекта Google Gemini просто концептуализации оружия, управляемого искусственным интеллектом, он может потенциально способствовать их физической конструкции.

За последние несколько лет произошел постепенный сдвиг в подходе компании, о чем свидетельствует ее решения, принятые в 2018 году. Например, компания решила не возобновить контракт «проект Maven» с правительство Данные, а также воздержались от торга по облачному договору для Пентагона из -за неопределенности относительно того, могут ли эти проекты быть согласованы с ценностями ИИ компании и моральными стандартами.

В 2022 году выяснилось, что участие Google в «Project Nimbus» вызвало опасения среди определенных руководителей в компании в отношении потенциального использования или ассоциации облачных услуг Google с нарушениями прав человека. Вместо того, чтобы решать эти проблемы, Google, по сообщениям, обязал своих сотрудников воздерживаться от обсуждения политических проблем, таких как в Палестине.

2025 видит, что Google не отступает от изучения военных применений своего облачного искусственного интеллекта, решения, которое вызвало протесты, массовые увольнения и последующие корректировки политики из-за его спорного характера.

Это не особенно шокирует, учитывая, что существует значительный финансовый стимул для работы с Министерством обороны или Пентагоном, и как руководители, так и акционеры, как правило, предпочитают значительную прибыль. Тем не менее, есть также касающаяся перспективы, которую мы участвуем в конкурсе ИИ и должны выйти на первое место.

Демис Хассабис, генеральный директор Deepmind в Google, предлагает в своем блоге, что демократии должны взять на себя инициативу в достижениях искусственного интеллекта. Это понятие по своей природе не рискованно, пока не рассмотрит замечания, такие как то, что сделано палантантовым директором Шиамом Санкаром, который предупреждает, что гонка AI Arm этот конкурс.

Такие концепции могут потенциально усилить напряженность в отношении третьего глобального конфликта, а именно Второй мировой войны. Жесткая конкуренция по передовой технологии ИИ между США и Китаем, с подходом «победителя всех», кажется, выгодно исключительно для тех, кто находится у власти на триумфальной стороне.

Всегда ожидалось, что искусственный интеллект будет развиваться в этом направлении. В шутку о росте машин мы часто намекали на эту возможность, признавая это как не просто шутку. Концепция ИИ превратилась в непреодолимый супер-солдат, который не требует еды или отдыха, не была полностью надуманной. Сегодняшние идеи видеоигр могут стать завтрашней реальностью.

Мы не можем полностью изменить их действия, отказываясь от их продуктов и услуг в качестве формы протеста, даже если это может дать некоторый эффект. Более практичный подход будет заключаться в том, чтобы искать другие методы для внесения изменений, поскольку любая компания, переставаясь, будет заменена другой, с аналогичными ресурсами, или вместо этого они могут сосредоточиться на высокооплачиваемых государственных контрактах.

Обещание состоит в том, что технология улучшает наш мир, но часто упускают из виду разрушительные возможности, которые она может предоставить. Мы надеемся, что те, кто находится у власти, приоритет человеческому благосостоянию по сравнению с финансовой выгодой.

Смотрите также

2025-02-09 09:23