Lo que implica para nuestros datos la llegada de los celulares y computadoras con IA

(Circuits)

Apple, Microsoft y Google anuncian una nueva era de lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Dicen que estos dispositivos automatizarán tareas como editar fotos o felicitar a un amigo por su cumpleaños.

Sin embargo, para que eso funcione, estas empresas necesitan algo de ti: más datos.

En este nuevo paradigma, tu computadora con Windows hará una captura de pantalla de todo lo que hagas cada pocos segundos. Un iPhone recopilará información de todas las aplicaciones que utilices. Y un teléfono Android puede escuchar una llamada en tiempo real para alertarte de una estafa.

¿Estás dispuesto a compartir esta información?

Este cambio tiene importantes implicaciones para nuestra privacidad. Para ofrecer los nuevos servicios, las empresas y sus dispositivos necesitan un acceso a nuestros datos más persistente y profundo que antes. En el pasado, la manera en que utilizábamos las aplicaciones y consultábamos archivos y fotos en teléfonos y computadoras estaba relativamente aislada. La IA necesita una visión de conjunto para relacionar lo que hacemos a través de aplicaciones, sitios web y comunicaciones, aseguran los expertos en seguridad.

"¿Me siento seguro dando esta información a esta empresa?", preguntó Cliff Steinhauer, director de la National Cybersecurity Alliance, una organización sin ánimo de lucro centrada en la ciberseguridad, sobre las estrategias de IA de las empresas.

Todo esto sucede porque hace casi dos años ChatGPT, de OpenAI, puso patas arriba la industria tecnológica. Apple, Google, Microsoft y otras empresas han revisado desde entonces sus estrategias de producto, invirtiendo miles de millones en nuevos servicios bajo el paraguas de la inteligencia artificial. Están convencidos de que este nuevo tipo de interfaz informática --que estudia de manera constante lo que haces para ofrecerte ayuda-- se convertirá en indispensable.

Según los expertos, el mayor riesgo potencial para la seguridad de este cambio se deriva de una sutil transformación en el funcionamiento de nuestros nuevos dispositivos. Dado que la IA puede automatizar acciones complejas --como eliminar objetos no deseados de una foto--, a veces requiere más potencia de cálculo de la que pueden manejar nuestros teléfonos. Eso significa que una mayor parte de nuestros datos personales quizás tenga que salir de nuestros teléfonos para ser tratados en otro lugar.

La información se transmite a la nube, una red de servidores que procesan las solicitudes. Cuando la información llega a la nube, puede ser vista por otros, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y aunque algunos de nuestros datos siempre han estado almacenados en la nube, nuestros datos más personales e íntimos que antes eran solo para nuestros ojos --fotos, mensajes y correos electrónicos-- ahora pueden ser conectados y analizados por una empresa en sus servidores.

Las empresas tecnológicas afirman que han hecho todo lo posible para proteger los datos de los ciudadanos.

Por ahora, es importante entender qué ocurrirá con nuestra información cuando utilicemos herramientas de IA, así que obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Esperaré a ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.

Esto es lo que hay que saber.

Apple Intelligence

Apple anunció hace poco Apple Intelligence, un conjunto de servicios y su primer gran paso en la carrera de la IA.

Los nuevos servicios de IA se incorporarán a sus iPhone, iPad y Mac de manera más rápida a partir de este otoño. Los usuarios podrán utilizarlos para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está revisando su asistente de voz, Siri, para lograr que sea más conversacional y darle acceso a datos de todas las aplicaciones.

Durante la conferencia de Apple celebrada este mes en la que se presentó Apple Intelligence, el vicepresidente sénior de ingeniería de software de la compañía, Craig Federighi, compartió cómo podría funcionar: Federighi recibió un correo electrónico de un colega que le pedía que aplazara una reunión, pero esa noche tenía que ver una obra de teatro protagonizada por su hija. Su teléfono le mostró su calendario, un documento con los detalles de la obra y una aplicación de mapas para predecir si llegaría tarde a la obra si aceptaba reunirse más tarde.

Apple dijo que estaba tratando de procesar la mayor parte de los datos de IA directamente en sus teléfonos y computadoras, lo que impediría que otros --incluida Apple-- tengan acceso a la información. No obstante, para las tareas que tienen que ser enviadas a los servidores, Apple señaló que ha desarrollado salvaguardias, incluyendo la codificación de los datos a través de cifrado y su eliminación inmediata.

Apple también ha tomado medidas para que sus empleados no tengan acceso a los datos. Apple incluso afirmó que permitiría a los investigadores de seguridad auditar su tecnología para asegurarse de que se ajusta a sus compromisos.

El compromiso de Apple de eliminar los datos de los usuarios de sus servidores la diferencia de otras empresas que conservan datos. Pero Apple no ha sido clara sobre qué nuevas solicitudes de Siri podrían enviarse a los servidores de la empresa, comentó Matthew Green, investigador de seguridad y profesor adjunto de Informática en la Universidad Johns Hopkins, a quien Apple informó sobre su nueva tecnología. Todo lo que sale de tu dispositivo es intrínsecamente menos seguro, añadió.

Apple señaló que, cuando Apple Intelligence esté disponible, los usuarios podrán ver un informe de las solicitudes que salen del dispositivo para ser procesadas en la nube.

Computadoras portátiles de Microsoft con IA

Microsoft lleva la inteligencia artificial a la computadora portátil de toda la vida.

La semana pasada, la empresa empezó a distribuir computadoras Windows denominadas Copilot+ PC, cuyo precio de venta parte de los 1000 dólares. Las computadoras contienen un nuevo tipo de chip y otros dispositivos que, según Microsoft, mantendrán los datos privados y seguros. Las computadoras pueden generar imágenes y reescribir documentos, entre otras nuevas funciones basadas en inteligencia artificial.

La empresa también presentó Recall, un nuevo sistema para ayudar a los usuarios a encontrar rápidamente documentos y archivos en los que han trabajado, correos electrónicos que han leído o sitios web por los que han navegado. Microsoft compara Recall con tener una memoria fotográfica integrada en la PC.

Para utilizarlo, se pueden escribir frases casuales, como "Estoy pensando en una videollamada que tuve con Joe hace poco cuando sostenía una taza de café que tiene el mensaje 'I Love New York' impreso". La computadora recuperará entonces la grabación de la videollamada que contiene esos detalles.

Para ello, Recall hace capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y recopila esas imágenes en una base de datos en la que se pueden hacer búsquedas. Las instantáneas se almacenan y analizan directamente en la PC, por lo que los datos no son revisados por Microsoft ni utilizados para mejorar su IA, según la empresa.

Sin embargo, los investigadores de seguridad advirtieron de los posibles riesgos, explicando que los datos podrían exponer fácilmente todo lo que has escrito o visto si fueran "hackeados". En respuesta, Microsoft, que tenía la intención de lanzar Recall la semana pasada, pospuso su lanzamiento de manera indefinida.

Las computadoras vienen equipadas con el nuevo sistema operativo Windows 11 de Microsoft. Según David Weston, ejecutivo de la empresa responsable de la seguridad, este sistema cuenta con varios niveles de seguridad.

IA de Google

Google también anunció el mes pasado un conjunto de servicios de IA.

Uno de los más importantes fue un nuevo detector de estafas telefónicas basado en IA. La herramienta escucha las llamadas en tiempo real y, si la persona que llama suena como un posible estafador (por ejemplo, si te pide un PIN bancario), la empresa te avisa. Según Google, los usuarios tendrían que activar el detector de estafas, que funciona completamente con el teléfono. Esto significa que Google no escuchará las llamadas.

Google anunció otra función, Ask Photos, que requiere el envío de información a los servidores de la empresa. El usuario puede hacer preguntas como "¿Cuándo aprendió a nadar mi hija?" para que aparezcan las primeras imágenes de su hija nadando.

Google afirma que sus trabajadores podrían, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotos para hacer frente a abusos o daños, y que la información también podría utilizarse para ayudar a mejorar su aplicación de fotos. Dicho de otro modo, tu pregunta y la foto de tu hijo nadando podrían utilizarse para ayudar a otros padres a encontrar imágenes de sus hijos nadando.

Google aseguró que su nube estaba bloqueada con tecnologías de seguridad que incluían encriptación y protocolos para limitar el acceso de los empleados a los datos.

"Nuestra estrategia de protección a la privacidad se aplica a nuestras funciones de inteligencia artificial, sin importar si se utilizan en un dispositivo o en la nube", declaró en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.

Pero Green, el investigador de seguridad, afirmó que el modelo de Google sobre la privacidad de la IA parecía relativamente impreciso.

"No me gusta la idea de que mis fotos y búsquedas personales se envíen a una nube que no está bajo mi control", concluyó.