Meny Meny

Du bestemmer – er 'Apple Intelligence' trygt og sikkert?

Apple Intelligence faktureres som en AI-assistent designet for å gjøre daglig administrasjon uanstrengt. Det betyr at den kan sile gjennom våre private meldinger og e-poster. Apple hevder at systemet er helt sikkert, men er du trygg nok til å kjøre med det?

Etter å ha budd på sin tid, kaster Apple endelig hatten inn i den kommersielle AI-ringen.

Å være moteriktig sent (så mye som to år) er utvilsomt en risiko, men det er betydelige fordeler – først og fremst å utnytte de opplevde manglene til rivalene.

En av de viktigste bekymringene rundt Techs nyeste besettelse er personvern og sikkerhet. Hvordan kan du garantere folk at den sensitive informasjonen deres er trygg, når prosessene til AI i beste fall er tvetydige og dens evner er i konstant endring?

Først nå er det lover trer i kraft om hva bedrifter har lov til å skrape fra nettet for å trene sine dyplæringsmodeller, for eksempel.

Bransjens garantier, som fortsatt generelt oppfattes som slappe, er vanskelige å håndheve effektivt på grunn av det rasende tempoet som AI utvikler og antallet selskaper som bygger sine egne plattformer.

På en typisk grandiose måte hevder Apple imidlertid at de har løst spørsmålet om personvern – til tross for at de tilbyr uten tvil den mest invasive AI-applikasjonen ennå – på WWDC forrige uke.


Hva er Apple Intelligence?

Apples visjon for generell AI er å lage en allestedsnærværende assistent for å strømlinjeforme de daglige administrasjonsaktivitetene til alle som eier enhetene deres. Siri, dens allestedsnærværende stemmeassistent, har også blitt superladet.

Utstillingsvinduet fremhevet "e-postassistanse" som en nøkkelfunksjon, der AI ga smarte forslag, automatisert sortering og personlige svar basert på konteksten og historien til en e-postmottaker. Det var unektelig imponerende.

Hvis noen sendte en e-post med et spesifikt spørsmål, ville AI-en søke gjennom tidligere e-poster og umiddelbart plukke ut svaret, samtidig som det muliggjorde sømløs opprettelse av påminnelser og møter som oppfølgingshandlinger.

Det faktiske innholdet i e-poster kan i mellomtiden genereres eller endres for tone og grammatikk i løpet av sekunder.

Under hele produktet er "kontekstuell bevissthet" visstnok i stand til å forstå hvem kontaktene våre er på tvers av alle appene våre.

Det betyr for eksempel at hvis du ønsker å vite når morens fly skal lande, vil Siri søke i meldingene dine, e-postene dine, WhatsApp, Insta Dms og annen korrespondansehistorikk og raskt finne svaret presentert i et tilpasset varsel.

På en kjedelig bussreise kan du si eller skrive "Spill den podcasten Jess snakket om", og den ville utføre de nødvendige trinnene for å sjekke meldingene dine og spille av media fra en tredjepartsapp.

Du kan også generere spesifikke emojier og grafikk som kan fange likheten til personen du sender meldinger i en skisse eller tegneserieform.

Hvis, som meg, hjernen din ikke er naturlig rettet for organisering, høres Apple Intelligence drømmende ut i praktisk forstand. Men gitt sikkerhetsbekymringene rundt AI, er det en stor ulempe eller en skitstorm for personvern på vei?


Uunngåelig offentlig bekymring

Apple vil ha deg til å tro det ikke.

Faktisk er et hovedpoeng i utstillingsvinduet som stadig ble gjentatt at Apple holder flyten av brukerdata strengt "på enheten."

Vi har blitt vant til at brukerdataene våre er en handelsvare for selskaper, men Apple sørger for at ingen spor av Apple Intelligence havner på tredjepartsservere. "Det [Apple] er klar over dataene dine uten å samle inn dine personlige data," sa senior VP of software engineering i selskapet, Craig Federighi.

Når kompliserte brukerforespørsler forlater enhetens begrensninger for å bruke store språkmodeller, vil Apples Private Cloud Compute tjenesten vil håndtere forespørsler – som angivelig ikke lagrer data eller gjør data tilgjengelig for Apple.

Selskapet hevder at det vil gjøre alle produksjonsbygg av Private Cloud Compute-programmet tilgjengelig for sikkerhetsforskere for sårbarhetssjekker og planlegger å sette programmet på sin bug-bounty-liste.

Apples innsats for å beskytte brukerne er ettertrykkelig, prisverdig og går utover det rivaliserende selskaper har lovet til dags dato. Ikke desto mindre ville det være overivrig å antyde at personlig risiko ikke er involvert i det hele tatt.

Selv om Apple har gått utover for å eliminere risikoer vi vet om, er realiteten fortsatt at vi ennå ikke vet nok om fallgruvene til AI – og LLM spesielt.

Apropos det, Apple har outsourcet sine språkgenereringsbehov til OpenAI, som skeptikere sier opphever Apples garanti for brukernes personvern. Elon Musk har vært spesielt høylytt om utsiktene til at fullstendig sikkerhet er umulig med dette rammeverket.

LLM-er som ChatGPT er nye nok til det trusler forblir stort sett uoppdaget. "Jeg er virkelig bekymret for at LLM-er er et veldig, veldig annerledes beist, og tradisjonelle sikkerhetsingeniører har bare ikke erfaring med disse AI-teknikkene ennå," sier Steve Wilson, produktansvarlig ved ledende firma for forebygging av cyberangrep, Exabeam.

I løpet av de 24 månedene som har gått siden generativ kunstig intelligens kom til live, har det vært mange tilfeller av uforutsette tekniske problemer og sikkerhetsproblemer. Apple har en fantastisk merittliste med brukersikkerhet, men kan det å lene seg på andre skape en knekk i rustningen?

For øyeblikket er tegnene absolutt mer positive enn negative for Apple Intelligence, men bare tid i naturen vil vise om frukten er moden eller forgiftet.

tilgjengelighet