Меню Меню

Вы решаете – безопасен ли «Apple Intelligence»?

Apple Intelligence позиционируется как помощник искусственного интеллекта, призванный облегчить ежедневное администрирование. Это означает, что он может просматривать наши личные сообщения и электронную почту. Apple утверждает, что система полностью безопасна, но достаточно ли вы уверены, чтобы с ней работать?

Выждав свое время, Apple наконец-то бросает свою шляпу на ринг коммерческого ИИ.

Модное опоздание (на целых два года) – это, несомненно, риск, но есть и существенные плюсы – главным образом, выгода от предполагаемых недостатков конкурентов.

Одной из главных проблем, связанных с новейшей навязчивой идеей Tech, является конфиденциальность и безопасность. Как вы можете гарантировать людям безопасность их конфиденциальной информации, когда процессы ИИ в лучшем случае неоднозначны, а его возможности постоянно меняются?

Только теперь законы вступает в силу например, о том, что компаниям разрешено черпать из Интернета для тренировки своих моделей глубокого обучения.

Защитные меры отрасли, которые до сих пор в целом воспринимаются как слабые, трудно эффективно обеспечить из-за головокружительных темпов развития ИИ и количества компаний, создающих свои собственные платформы.

Однако в типично грандиозной манере Apple заявляет, что решила проблему конфиденциальности – несмотря на то, что предложила, возможно, самое агрессивное приложение искусственного интеллекта – на конференции WWDC на прошлой неделе.


Что такое Apple Intelligence?

Видение Apple в отношении общего искусственного интеллекта заключается в создании вездесущего помощника, который упростит повседневную административную деятельность любого владельца устройства. Siri, вездесущий голосовой помощник, также получил дополнительные возможности.

Его презентация подчеркнула «помощь по электронной почте» как ключевую функцию, в которой ИИ предоставляет умные предложения, автоматическую сортировку и персонализированные ответы на основе контекста и истории получателя электронной почты. Это было, несомненно, впечатляюще.

Если кто-то отправил электронное письмо с конкретным запросом, ИИ просматривал предыдущие электронные письма и мгновенно находил ответ, при этом позволяя беспрепятственно создавать напоминания и встречи в качестве последующих действий.

Между тем, фактическое содержание электронных писем может быть полностью сгенерировано или изменено по тону и грамматике за считанные секунды.

В основе всего продукта лежит «контекстная осведомленность», предположительно способная понять, кто наши контакты во всех наших приложениях.

Это означает, что, скажем, если вы захотите узнать, в какое время должен приземлиться самолет вашей матери, Siri выполнит поиск в ваших сообщениях, электронных письмах, WhatsApp, Insta Dms и другой истории переписки и быстро найдет ответ, представленный в специальном уведомлении.

Во время унылой поездки на автобусе вы можете сказать или ввести «Включи тот подкаст, о котором говорил Джесс», и он выполнит необходимые действия для проверки ваших сообщений и воспроизведения мультимедиа из стороннего приложения.

Вы также можете создавать специальные смайлы и графику, способные передать образ человека, которому вы отправляете сообщение, в форме эскиза или мультфильма.

Если ваш мозг, как и я, не приспособлен к организации, Apple Intelligence звучит мечтательно в практическом смысле. Но, учитывая проблемы безопасности, связанные с ИИ, есть ли в ближайшем будущем серьезный недостаток или дерьмовая буря конфиденциальности?


Неизбежное общественное беспокойство

Apple хотела бы, чтобы вы поверили, что нет.

Фактически, основной момент презентации, который постоянно повторялся, заключается в том, что Apple сохраняет поток пользовательских данных строго «на устройстве».

Мы привыкли к тому, что наши пользовательские данные являются товаром для компаний, но Apple гарантирует, что никакие следы Apple Intelligence не попадут на сторонние серверы. «Она [Apple] знает о ваших данных, не собирая ваши личные данные», — сказал старший вице-президент по разработке программного обеспечения компании. Крейг Federighi.

Когда сложные пользовательские запросы выходят за пределы устройства, чтобы использовать модели большого языка, Apple Частные облачные вычисления Сервис будет обрабатывать запросы, которые, как сообщается, не хранят данные и не делают данные доступными для Apple.

Компания утверждает, что сделает каждую производственную сборку своей программы Private Cloud Compute доступной исследователям безопасности для проверки уязвимостей, и планирует включить программу в свой список наград за обнаружение ошибок.

Усилия Apple по защите своих пользователей настойчивы, заслуживают похвалы и выходят за рамки того, что обещали на сегодняшний день конкурирующие компании. Тем не менее, было бы слишком усердно предполагать, что личный риск вообще не подразумевается.

Хотя Apple сделала все возможное, чтобы устранить известные нам риски, реальность остается таковой: мы еще недостаточно знаем о подводных камнях ИИ – и LLM в частности.

Говоря об этом, Apple передала свои потребности в генерации языков OpenAI, что, по мнению скептиков, сводит на нет гарантии Apple в отношении конфиденциальности пользователей. Elon Musk особенно громко заявлял о невозможности полной безопасности при использовании этой структуры.

LLM, такие как ChatGPT, достаточно новы, поэтому угрозы остаются во многом нераскрытыми. «Меня очень беспокоит то, что LLM — это совсем другое животное, а у традиционных инженеров по безопасности просто еще нет опыта работы с этими методами искусственного интеллекта», — говорит Стив Уилсон, директор по продуктам ведущей фирмы по предотвращению кибератак. Exabeam.

За 24 месяца, прошедших с момента полного появления генеративного искусственного интеллекта, было выявлено множество случаев непредвиденных технических проблем и проблем с безопасностью. У Apple фантастический послужной список в области безопасности пользователей, но может ли опора на других создать брешь в броне?

В настоящее время признаки, безусловно, скорее положительные, чем отрицательные для Apple Intelligence, но только время в дикой природе покажет, созрел ли фрукт или он отравлен.

Универсальный доступ