La inteligencia artificial irá por primera vez a la escuela: OpenAI quieres proteger a los jóvenes

La inteligencia artificial ha emergido como un avance que podría significar el cambio más disruptivo experimentado por la humanidad, incluso por encima de la llegada de internet. Sin embargo, así como tiene el potencial de proporcionar enormes beneficios, sin la adopción generalizada de prácticas responsables, es igualmente capaz de causar grandes daños.

OpenAI, compañía creadora del muy popular ChatGPT, parece ser consciente de la creciente necesidad de empezar a educar sobre la IA y de hecho, espera ganarse la confianza de los padres y de los formuladores de políticas asociándose con organizaciones que trabajan para minimizar los daños de la tecnología en niños, preadolescentes y adolescentes.

La empresa liderada por Sam Altman hizo una alianza estratégica con Common Sense Media, con el objetivo de promover el uso seguro de la inteligencia artificial entre los jóvenes.

Recordemos que la preocupación principal de la organización sin ánimo de lucro radica en la necesidad de desarrollar y utilizar la IA de manera responsable, ética e inclusiva desde su concepción.

De hecho, reconoce que la excelencia técnica no es suficiente y señala que estos modelos deben ser considerados desde una perspectiva socio-técnica, lo que implica una interdependencia entre la tecnología, los seres humanos y los procesos creados por estos últimos.

Mientras que las revisiones de productos de IA que elabora Common Sense actúan como una suerte de etiquetas nutricionales que proporcionan información detallada sobre las oportunidades, consideraciones y limitaciones de cada producto.

Anunciada durante un evento en San Francisco, Estados Unidos, esta colaboración busca incorporar herramientas educativas diseñadas para garantizar una interacción responsable con tecnologías como ChatGPT.

El CEO de OpenAI, Sam Altman, y el CEO de Common Sense Media, Jim Steyer, destacaron la importancia de esta iniciativa para el bienestar general de los menores.

La asociación entre ambas entidades se centrará en el desarrollo de directrices y recursos pedagógicos que faciliten la comprensión de la IA por parte de niños, padres y educadores.

Según una investigación de Impact Research, mientras un 58% de los estudiantes de entre 12 y 18 años ha utilizado ChatGPT, solo un 30% de los padres de niños en edad escolar han tenido experiencia con esta herramienta.

Por su parte, Common Sense Media trabajará en la creación de un sistema de clasificación y revisión especialmente diseñado para IA, enfocándose en elementos como el fomento del aprendizaje y el respeto a los derechos humanos.

OpenAI y Common Sense pretenden explorar cómo personalizar modelos de lenguaje grande (LLM) para aplicaciones educativas, permitiendo a los adolescentes acceder a información relevante en campos como las ciencias y la biología.

Asimismo, se comprometen a trabajar juntos para la selección de aplicaciones de chatbot, conocidas como GPT “familiares” dentro de la GPT Store, adecuadas para el uso juvenil porque mantienen las normas y valores promovidos por la organización.

Altman tiene la visión de un futuro donde la IA personalizada esté disponible para todos, enfatizando la misión de su compañía en ofrecer herramientas útiles y de manera gratuita.

“La IA ofrece beneficios increíbles para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo de seguridad, garantizando que las familias y los adolescentes puedan utilizar nuestras herramientas con confianza”, afirmó el ejecutivo.

Aunque reconoce los riesgos de las imágenes generadas por IA, pero confía en la capacidad de los usuarios para discernir la veracidad de las mismas. Mientras que destacó los esfuerzos de OpenAI para monitorear y responder ante el uso indebido de la IA.

Por otra parte, Craig Newmark Philanthropies, que ha contribuido con 3 millones de dólares para apoyar esta iniciativa, ha expresado sus preocupaciones sobre el uso de IA por parte de actores malintencionados y sus potenciales efectos en el descontento social y la desinformación.