Menú Menú

Tú decides: ¿es segura la 'Inteligencia de Apple'?

Apple Intelligence se presenta como un asistente de inteligencia artificial diseñado para facilitar la administración diaria. Eso significa que puede examinar nuestros mensajes privados y correos electrónicos. Apple afirma que el sistema es completamente seguro, pero ¿tienes la confianza suficiente para utilizarlo?

Después de haber esperado el momento oportuno, Apple finalmente se lanza al ring comercial de la IA.

Llegar tarde a la moda (hasta dos años) es sin duda un riesgo, pero hay importantes ventajas, principalmente, capitalizar las deficiencias percibidas de los rivales.

Una de las principales preocupaciones que rodean la nueva obsesión de la tecnología es la privacidad y la seguridad. ¿Cómo se puede garantizar que la información confidencial de las personas esté segura, cuando los procesos de la IA son, en el mejor de los casos, ambiguos y sus capacidades cambian constantemente?

Recién ahora las leyes entrar en vigencia sobre lo que las empresas pueden extraer de la web para entrenar sus modelos de aprendizaje profundo, por ejemplo.

Las salvaguardias de la industria, que todavía se perciben en general como laxas, son difíciles de aplicar de manera efectiva debido al ritmo vertiginoso al que se está desarrollando la IA y al número de empresas que construyen sus propias plataformas.

Sin embargo, de manera típicamente grandiosa, Apple afirma que ha resuelto el tema de la privacidad –a pesar de ofrecer posiblemente la aplicación de IA más invasiva hasta el momento– en la WWDC la semana pasada.


¿Qué es la inteligencia de Apple?

La visión de Apple para la IA general es crear un asistente omnipresente para agilizar las actividades administrativas diarias de cualquiera que posea sus dispositivos. Siri, su omnipresente asistente de voz, también se ha potenciado.

Su escaparate destacó la "asistencia por correo electrónico" como una característica clave, en la que la IA proporcionaba sugerencias inteligentes, clasificación automatizada y respuestas personalizadas basadas en el contexto y el historial de un destinatario de correo electrónico. Fue innegablemente impresionante.

Si alguien enviaba un correo electrónico con una consulta específica, la IA buscaría en correos electrónicos anteriores y seleccionaría instantáneamente la respuesta, al mismo tiempo que permitiría la creación perfecta de recordatorios y reuniones como acciones de seguimiento.

Mientras tanto, el contenido real de los correos electrónicos se puede generar o modificar por completo en cuanto a tono y gramática en cuestión de segundos.

La "conciencia contextual", que sustenta todo el producto, supuestamente es capaz de comprender quiénes son nuestros contactos en todas nuestras aplicaciones.

Eso significa que, digamos, si desea saber a qué hora debe aterrizar el avión de su madre, Siri buscará sus mensajes, correos electrónicos, WhatsApp, Insta Dms y otro historial de correspondencia y encontrará rápidamente la respuesta presentada en una notificación personalizada.

En un aburrido viaje en autobús, podrías decir o escribir "Reproducir ese podcast del que hablaba Jess" y se realizarían los pasos necesarios para revisar tus mensajes y reproducir los medios desde una aplicación de terceros.

También puedes generar emojis y gráficos específicos capaces de capturar la imagen de la persona a la que estás enviando mensajes en forma de boceto o caricatura.

Si, como yo, su cerebro no está naturalmente preparado para la organización, Apple Intelligence suena soñador en un sentido práctico. Pero, dadas las preocupaciones de seguridad que rodean a la IA, ¿se avecina un gran inconveniente o una tormenta de mierda sobre la privacidad?


Preocupación pública inevitable

Apple quiere hacerte creer que no.

De hecho, un punto importante del escaparate que se reiteró constantemente es que Apple mantiene el flujo de datos del usuario estrictamente "en el dispositivo".

Nos hemos acostumbrado a que los datos de nuestros usuarios sean una mercancía para las empresas, pero Apple asegura que ningún rastro de Apple Intelligence acabará en servidores de terceros. "[Apple] conoce sus datos sin recopilar sus datos personales", dijo el vicepresidente senior de ingeniería de software de la empresa. Craig Federighi.

Cuando las solicitudes complicadas de los usuarios salen de los límites del dispositivo para hacer uso de modelos de lenguaje grandes, Apple Computación en la nube privada El servicio manejará las solicitudes, lo que supuestamente no almacena datos ni los hace accesibles a Apple.

La compañía afirma que pondrá todas las versiones de producción de su programa Private Cloud Compute a disposición de los investigadores de seguridad para realizar comprobaciones de vulnerabilidad y planea incluir el programa en su lista de recompensas por errores.

Los esfuerzos de Apple por proteger a sus usuarios son enfáticos, encomiables y van más allá de lo que las empresas rivales han prometido hasta la fecha. Sin embargo, sería demasiado entusiasta sugerir que el riesgo personal no está involucrado en absoluto.

Si bien Apple ha hecho todo lo posible para eliminar los riesgos que conocemos, la realidad es que todavía no sabemos lo suficiente sobre los peligros de la IA, y de los LLM en particular.

Hablando de eso, Apple ha subcontratado sus necesidades de generación de lenguaje a OpenAI, lo que, según los escépticos, anula la garantía de privacidad del usuario de Apple. Elon Musk ha expresado especialmente su opinión de que con este marco es imposible lograr una seguridad total.

Los LLM como ChatGPT son lo suficientemente nuevos como para amenazas permanecen en gran parte sin descubrir. "Realmente me preocupa que los LLM sean una bestia muy, muy diferente, y que los ingenieros de seguridad tradicionales simplemente no tengan la experiencia con estas técnicas de IA todavía", dice Steve Wilson, responsable de producto de una empresa líder en prevención de ciberataques. Exabeam.

En los 24 meses transcurridos desde que la IA generativa cobró vida, han salido a la luz numerosos casos de problemas técnicos y de seguridad imprevistos. Apple tiene un historial fantástico en materia de seguridad del usuario, pero ¿podría apoyarse en otros crear una grieta en la armadura?

Actualmente, las señales son ciertamente más positivas que negativas para Apple Intelligence, pero sólo el tiempo en la naturaleza demostrará si la fruta está madura o envenenada.

Accesibilidad