Menu Menu

C'est vous qui décidez : « Apple Intelligence » est-elle sûre et sécurisée ?

Apple Intelligence est présenté comme un assistant IA conçu pour faciliter l'administration quotidienne. Cela signifie qu’il peut passer au crible nos messages privés et nos e-mails. Apple prétend que le système est totalement sécurisé, mais êtes-vous suffisamment confiant pour l'utiliser ?

Après avoir attendu son heure, Apple se lance enfin dans le ring de l’IA commerciale.

Être en retard à la mode (jusqu'à deux ans) est sans aucun doute un risque, mais il présente des avantages significatifs, notamment le fait de capitaliser sur les lacunes perçues de ses rivaux.

L'une des principales préoccupations entourant la nouvelle obsession de la technologie est la confidentialité et la sécurité. Comment pouvez-vous garantir aux gens que leurs informations sensibles sont en sécurité, alors que les processus de l’IA sont pour le moins ambigus et que ses capacités changent constamment ?

Ce n'est que maintenant que les lois entrée en vigueur sur ce que les entreprises sont autorisées à extraire du Web afin de former leurs modèles d'apprentissage en profondeur, par exemple.

Les garde-fous du secteur, qui sont encore généralement perçus comme laxistes, sont difficiles à appliquer efficacement en raison du rythme effréné auquel se développe l'IA et du nombre d'entreprises qui construisent leurs propres plateformes.

Cependant, de manière typiquement grandiose, Apple affirme avoir résolu le problème de la confidentialité – bien qu'il propose sans doute l'application d'IA la plus invasive à ce jour – lors de la WWDC la semaine dernière.


Qu’est-ce qu’Apple Intelligence ?

La vision d'Apple en matière d'IA générale est de créer un assistant omniprésent pour rationaliser les activités administratives quotidiennes de tous ceux qui possèdent leurs appareils. Siri, son assistant vocal omniprésent, a également été suralimenté.

Sa vitrine mettait en avant « l'assistance par e-mail » comme une fonctionnalité clé, dans laquelle l'IA fournissait des suggestions intelligentes, un tri automatisé et des réponses personnalisées basées sur le contexte et l'historique d'un destinataire d'e-mail. C'était indéniablement impressionnant.

Si quelqu'un envoyait un e-mail avec une requête spécifique, l'IA recherchait dans les e-mails précédents et sélectionnait instantanément la réponse, tout en permettant la création transparente de rappels et de réunions en tant qu'actions de suivi.

Le contenu réel des e-mails, quant à lui, pourrait être entièrement généré ou modifié en termes de ton et de grammaire en quelques secondes.

À la base de l'ensemble du produit, la « conscience contextuelle » est censée être capable de comprendre qui sont nos contacts dans toutes nos applications.

Cela signifie, par exemple, que si vous souhaitez savoir à quelle heure l'avion de votre mère doit atterrir, Siri recherchera vos messages, e-mails, WhatsApp, Insta Dms et autres historiques de correspondance et trouvera rapidement la réponse présentée dans une notification personnalisée.

Lors d'un voyage en bus ennuyeux, vous pourriez dire ou taper « Lisez ce podcast dont Jess parlait » et il effectuerait les étapes nécessaires pour vérifier vos messages et lire les médias à partir d'une application tierce.

Vous pouvez également générer des émojis et des graphiques spécifiques capables de capturer l'image de la personne à qui vous envoyez un message sous forme de croquis ou de dessin animé.

Si, comme moi, votre cerveau n'est pas naturellement adapté à l'organisation, Apple Intelligence semble rêveur d'un point de vue pratique. Mais, étant donné les problèmes de sécurité entourant l’IA, y a-t-il un inconvénient majeur ou une tempête de merde en matière de confidentialité à l’horizon ?


Inquiétude inévitable du public

Apple voudrait vous faire croire que non.

En fait, un point majeur de la vitrine qui a été constamment réitéré est qu'Apple maintient le flux de données utilisateur strictement « sur l'appareil ».

Nous sommes habitués à ce que les données de nos utilisateurs soient une marchandise pour les entreprises, mais Apple garantit qu'aucune trace d'Apple Intelligence ne finira sur des serveurs tiers. « [Apple] connaît vos données sans collecter vos données personnelles », a déclaré le vice-président principal de l'ingénierie logicielle de l'entreprise. Craig Federighi.

Lorsque les demandes complexes des utilisateurs quittent les limites de l'appareil pour utiliser les grands modèles linguistiques, les solutions d'Apple Calcul en cloud privé Le service traitera les demandes – ce qui ne stockerait pas de données ni ne rendrait les données accessibles à Apple.

La société affirme qu'elle mettra chaque version de production de son programme Private Cloud Compute à la disposition des chercheurs en sécurité pour des vérifications de vulnérabilité et prévoit de mettre le programme sur sa liste de bug bounty.

Les efforts d'Apple pour protéger ses utilisateurs sont catégoriques, louables et vont au-delà de ce que les sociétés concurrentes ont promis jusqu'à présent. Néanmoins, il serait exagéré de suggérer que le risque personnel n’est pas du tout impliqué.

Même si Apple a fait de son mieux pour éliminer les risques que nous connaissions, la réalité demeure que nous n'en savons pas encore assez sur les pièges de l'IA – et des LLM en particulier.

En parlant de cela, Apple a sous-traité ses besoins en matière de génération de langage à OpenAI, ce qui, selon les sceptiques, annule la garantie d'Apple en matière de confidentialité des utilisateurs. Elon Musk a été particulièrement bruyant sur la perspective d’une sécurité totale impossible avec ce cadre.

Les LLM comme ChatGPT sont suffisamment nouveaux pour des menaces restent largement méconnus. «Je crains vraiment que les LLM soient une bête très, très différente et que les ingénieurs en sécurité traditionnels n'aient tout simplement pas encore l'expérience de ces techniques d'IA», déclare Steve Wilson, responsable produit chez une grande entreprise de prévention des cyberattaques. Exabeam.

Au cours des 24 mois qui se sont écoulés depuis que l’IA générative a pris vie, de nombreux cas de problèmes techniques et de sécurité imprévus ont été révélés. Apple a un historique fantastique en matière de sécurité des utilisateurs, mais s’appuyer sur les autres pourrait-il créer une faille dans l’armure ?

À l’heure actuelle, les signes sont certes plus positifs que négatifs pour Apple Intelligence, mais seul le temps passé dans la nature permettra de savoir si le fruit est mûr ou empoisonné.

Accessibilité