Cómo la IA podría predecir y manipular nuestros deseos, según investigadores de Cambridge

La inteligencia artificial ya no solo responde preguntas, ahora tendría el potencial de predecir y hasta influir en lo que las personas necesitan o desean. Investigadores de la Universidad de Cambridge explican que los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) son capaces de imitar diferentes formas de comunicación y generar textos que transmiten emociones.

Lo más sorprendente es que esta tecnología, accesible a bajo costo, se está convirtiendo en una herramienta poderosa para influir en nuestras decisiones, de acuerdo con los investigadores Yaqub Chaudhary y Jonnie Penn.

Por ejemplo, los asistentes virtuales que encontramos en aplicaciones comerciales pueden personalizar sus respuestas basándose en nuestros gustos y comportamientos. Esto significa que, con un tono convincente y adaptado a cada persona, podrían sugerirnos qué producto comprar o incluso influir en nuestra opinión sobre un tema.

Aunque esta capacidad puede ser útil, también plantea preocupaciones sobre cómo estas tecnologías podrían ser usadas para manipularnos sin que nos demos cuenta.

La IA podría manipularnos, según los investigadores citados, a través de diferentes estrategias basadas en modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés). Estos modelos pueden generar textos persuasivos y adaptarse a diversos estilos de comunicación y sentimientos, convirtiéndose en herramientas efectivas para influir en las personas.

Los expertos identifican cuatro formas principales en las que los humanos interactuarán con estas capacidades persuasivas:

• Cambios en los entornos digitales: Por ejemplo, modificando cómo usamos internet o qué contenido se prioriza para influir en nuestras decisiones.
• Interacción directa: Esto ocurre entre un individuo y un sistema LLM, como ChatGPT, que puede influirnos a través de conversaciones personalizadas.

• Modelos predictivos y simulaciones: Los LLM pueden actuar como intermediarios, usando simulaciones para predecir y modelar nuestras intenciones en contextos específicos, como ocurre con herramientas.
• Múltiples agentes en entornos sociales: Por ejemplo, en comunidades en línea donde interactúan agentes humanos y de máquinas, o en simulaciones de espacios sociales como oficinas o sistemas de transporte.

Los investigadores advierten que estas estrategias no son independientes entre sí, sino que pueden combinarse para coordinar acciones y ejercer un control estratégico sobre las personas. Esto subraya la importancia de reflexionar sobre su impacto ético y social.

Usar la inteligencia artificial de forma consciente significa reconocer tanto sus beneficios como sus posibles riesgos y actuar de manera ética y responsable al implementarla. Algunas recomendaciones para un uso consciente son:

• Entender sus limitaciones.

La IA no es infalible y está limitada por los datos con los que ha sido entrenada, lo que significa que sus respuestas dependen de la información utilizada por la empresa que la desarrolló. Por esta razón, es fundamental cuestionar sus resultados y no confiar ciegamente en sus decisiones.

• Promover la transparencia.

Al usar IA, las empresas deben informar claramente cómo funciona, qué datos utiliza y cuáles son sus objetivos. Esto ayuda a generar confianza y a evitar manipulaciones o malentendidos.

• Priorizar la privacidad.

Asegúrate de que las herramientas de IA respeten la privacidad de las personas y no utilicen datos sensibles sin consentimiento. La protección de la información personal es clave para un uso ético.

• Evitar sesgos

Revisa que los sistemas de IA no perpetúen o amplifiquen prejuicios existentes. Esto requiere trabajar con datos diversos y evaluar constantemente los resultados para garantizar la equidad.

• Reflexionar sobre su impacto

Antes de implementar IA, analiza cómo puede afectar a las personas, la sociedad y el entorno. Busca minimizar efectos negativos y maximizar beneficios.

Al usar la IA de forma consciente, contribuimos a que esta tecnología sea una herramienta que enriquezca la vida de las personas y promueva el desarrollo ético y sostenible.