Función de IA de Windows 11 genera preocupación de ciberseguridad

Microsoft ha generado controversia con su próxima función de inteligencia artificial llamada Recall, que debutará en los nuevos PCs Copilot Plus con Windows 11 en junio. Aunque se presenta como una herramienta innovadora que promete ayudar a los usuarios a encontrar cualquier contenido que hayan visto o hecho en sus computadoras, los expertos en seguridad han llamado la atención sobre sus implicaciones de seguridad.

Principalmente, aseguran que los datos de los usuarios podrían quedar expuestos y creen que sería un “desastre” si no se soluciona antes de su plena implementación.

Recall es una característica diseñada para capturar todo lo que haces en tu PC mediante capturas de pantalla regulares. Cada cinco segundos, si hay un cambio en la pantalla, se toma una nueva captura que se guarda en un índice que puede ser buscado.

Este índice se almacena localmente en la computadora del usuario y se promete que no será enviado a Microsoft ni a anunciantes. La tecnología detrás de Recall utiliza modelos de IA locales para realizar un reconocimiento óptico de caracteres (OCR) que hace que el texto en las capturas de pantalla sea fácilmente de encontrar y buscar, para regresar y tener esa información del pasado.

Desde su anuncio el 20 de mayo, Microsoft ha enfatizado que la información capturada por Recall está cifrada y que permanece local en el dispositivo del usuario. La compañía asegura que los usuarios tienen el control total sobre la función, pudiendo desactivarla o eliminar cualquier captura en cualquier momento.

También se menciona que Recall no tomará capturas de sesiones de navegación en modo InPrivate en Microsoft Edge ni de contenido protegido por derechos digitales.

Sin embargo, la realidad parece ser diferente. Kevin Beaumont, un reconocido investigador de seguridad, ha expuesto varias vulnerabilidades críticas en la implementación de Recall.

Beaumont encontró que los datos capturados por Recall se almacenan en una base de datos SQLite en texto plano. Esto significa que, aunque el contenido esté cifrado cuando el PC no está en uso, queda completamente accesible y sin protección cuando el usuario está conectado.

Uno de los puntos más alarmantes es la facilidad con la que el malware podría acceder a estos datos. Beaumont demostró que podría automatizar un programa para extraer datos en texto plano de todo lo que un usuario ha visto.

Esto incluye mensajes de texto, contraseñas y sitios web visitados, excepto las sesiones InPrivate en Microsoft Edge. Según Beaumont, “Recall es esencialmente un infostealer integrado por defecto en Windows, que puede retroceder la ciberseguridad una década al empoderar a los ciberdelincuentes”.

Microsoft ha implementado algunas medidas de seguridad, como almacenar los datos en un directorio del sistema que requiere permisos de administrador para acceder y editar. No obstante, Beaumont señala que estas protecciones son fácilmente eludibles. Un atacante con conocimiento podría escribir software para ignorar estos permisos y acceder a los datos sin restricciones.

Recall está habilitado por defecto en los nuevos PCs Copilot Plus, aunque los usuarios pueden optar por desactivarlo. Microsoft ha implementado un indicador visual permanente en la barra de tareas para alertar a los usuarios cuando Recall está activo.

Además, esta función solo estará disponible en los nuevos dispositivos con el hardware específico de Copilot Plus, y no en las instalaciones existentes de Windows 11, lo que puede influir en la decisión de muchos usuarios sobre actualizar sus dispositivos.

Para que los usuarios confíen plenamente en esta herramienta, Microsoft necesita mejorar la seguridad de los datos almacenados localmente, señalan los expertos. Beaumont recomienda que la empresa retire temporalmente la función para abordar los problemas de seguridad identificados.