Menu Menu

Você decide – o 'Apple Intelligence' é seguro e protegido?

O Apple Intelligence é anunciado como um assistente de IA projetado para facilitar a administração diária. Isso significa que ele pode filtrar nossas mensagens privadas e e-mails. A Apple afirma que o sistema é totalmente seguro, mas você está confiante o suficiente para usá-lo?

Depois de esperar a hora certa, a Apple está finalmente jogando seu chapéu no ringue comercial de IA.

Estar atrasado (até dois anos) é sem dúvida um risco, mas há vantagens significativas – principalmente, capitalizar as deficiências percebidas dos rivais.

Uma das principais preocupações em torno da mais nova obsessão da tecnologia é a privacidade e a segurança. Como garantir às pessoas que suas informações confidenciais estão seguras, quando os processos da IA ​​são, na melhor das hipóteses, ambíguos e suas capacidades estão em constante mudança?

Só agora as leis entrando em vigor sobre o que as empresas podem extrair da web para treinar seus modelos de aprendizagem profunda, por exemplo.

As salvaguardas da indústria, que ainda são geralmente consideradas frouxas, são difíceis de aplicar eficazmente devido ao ritmo vertiginoso a que a IA está a desenvolver-se e ao número de empresas que constroem as suas próprias plataformas.

De maneira tipicamente grandiosa, no entanto, a Apple afirma que resolveu a questão da privacidade – apesar de oferecer, sem dúvida, o aplicativo de IA mais invasivo até agora – na WWDC na semana passada.


O que é inteligência da Apple?

A visão da Apple para IA geral é criar um assistente onipresente para agilizar as atividades administrativas diárias de qualquer pessoa que possua seus dispositivos. Siri, seu onipresente assistente de voz, também foi turbinado.

Sua vitrine destacou a “assistência por e-mail” como um recurso principal, no qual a IA fornecia sugestões inteligentes, classificação automatizada e respostas personalizadas com base no contexto e no histórico de um destinatário de e-mail. Foi inegavelmente impressionante.

Se alguém enviasse um e-mail com uma consulta específica, a IA pesquisaria os e-mails anteriores e escolheria instantaneamente a resposta, ao mesmo tempo que permitia a criação contínua de lembretes e reuniões como ações de acompanhamento.

Enquanto isso, o conteúdo real dos e-mails pode ser totalmente gerado ou alterado em termos de tom e gramática em questão de segundos.

Sustentando todo o produto, a “consciência contextual” é supostamente capaz de entender quem são nossos contatos em todos os nossos aplicativos.

Isso significa, digamos, que se você quiser saber a que horas o avião da sua mãe deve pousar, o Siri pesquisará suas mensagens, e-mails, WhatsApp, Insta Dms e outros históricos de correspondência e encontrará rapidamente a resposta apresentada em uma notificação personalizada.

Em uma viagem monótona de ônibus, você poderia dizer ou digitar ‘Tocar aquele podcast de que Jess estava falando’ e ele executaria as etapas necessárias para verificar suas mensagens e reproduzir a mídia de um aplicativo de terceiros.

Você também pode gerar emojis e gráficos específicos capazes de capturar a imagem da pessoa para quem você está enviando mensagens em um esboço ou desenho animado.

Se, como eu, seu cérebro não está naturalmente preparado para organização, o Apple Intelligence parece um sonho no sentido prático. Mas, dadas as preocupações de segurança em torno da IA, existe uma grande desvantagem ou uma tempestade de privacidade no futuro?


Preocupação pública inevitável

A Apple quer que você acredite que não.

Na verdade, um ponto importante da vitrine que foi constantemente reiterado é que a Apple está mantendo o fluxo de dados do usuário estritamente “no dispositivo”.

Acostumamo-nos com o fato de os dados de nossos usuários serem uma mercadoria para as empresas, mas a Apple garante que nenhum vestígio do Apple Intelligence acabará em servidores de terceiros. 'Ela [Apple] está ciente de seus dados sem coletar seus dados pessoais', disse o vice-presidente sênior de engenharia de software da empresa, Craig Federighi.

Quando solicitações complicadas do usuário deixam os limites do dispositivo para fazer uso de modelos de linguagem grande, a Apple Computação em nuvem privada o serviço lidará com solicitações – que supostamente não armazena dados nem os torna acessíveis à Apple.

A empresa afirma que disponibilizará todas as versões de produção de seu programa Private Cloud Compute para pesquisadores de segurança para verificações de vulnerabilidade e planeja colocar o programa em sua lista de recompensas por bugs.

Os esforços da Apple para proteger os seus utilizadores são enfáticos, louváveis ​​e vão além do que as empresas rivais prometeram até agora. No entanto, seria um excesso de zelo sugerir que o risco pessoal não está envolvido.

Embora a Apple tenha ido além para eliminar os riscos que conhecemos, a realidade é que ainda não sabemos o suficiente sobre as armadilhas da IA ​​– e dos LLMs em particular.

Falando nisso, a Apple terceirizou suas necessidades de geração de linguagem para a OpenAI, o que os céticos dizem que anula a garantia de privacidade do usuário da Apple. Elon Musk tem sido particularmente veemente sobre a perspectiva de uma segurança completa ser impossível com este quadro.

LLMs como ChatGPT são novos o suficiente para ameaças permanecem em grande parte desconhecidos. 'Eu realmente me preocupo com o fato de os LLMs serem uma fera muito, muito diferente, e os engenheiros de segurança tradicionais simplesmente ainda não terem experiência com essas técnicas de IA', diz Steve Wilson, diretor de produto de uma empresa líder em prevenção de ataques cibernéticos, Exabeam.

Nos 24 meses desde que a IA generativa ganhou vida, surgiram numerosos casos de problemas técnicos e de segurança imprevistos. A Apple tem um histórico fantástico em segurança do usuário, mas será que confiar em outros pode criar uma brecha na armadura?

Atualmente, os sinais são certamente mais positivos do que negativos para a Apple Intelligence, mas só o tempo na natureza provará se a fruta está madura ou envenenada.

Acessibilidade