Un 'amigo' de IA para estudiantes de escuela pública se queda corto

Se suponía que una plataforma de inteligencia artificial llamada Ed iba a ser un "amigo educativo" para medio millón de alumnos de las escuelas públicas de Los Ángeles. En chats escritos a máquina, Ed orientaría a los estudiantes hacia recursos académicos y de salud mental, o diría a los padres si sus hijos habían asistido a clase ese día y les facilitaría los resultados más recientes de sus exámenes. Ed incluso sería capaz de detectar y responder a emociones como la hostilidad, la alegría y la tristeza.

Alberto Carvalho, superintendente del distrito, habló de Ed en términos atrevidos. En un discurso pronunciado en abril para promocionar el software, prometió que "democratizaría" y "transformaría la educación". En respuesta a los escépticos de la IA, preguntó: "¿Por qué no permitir que este enfoque de eduentretenimiento capte y cautive su atención, que sea el motivador?".

Una niña de séptimo curso que probó el chatbot --personificado por un sol sonriente y animado-- dijo: "Creo que le caigo bien a Ed", afirmó Carvalho.

Los Ángeles acordó pagar a una empresa emergente, AllHere, hasta 6 millones de dólares para desarrollar Ed, una pequeña parte del presupuesto anual de 18.000 millones de dólares del distrito. Pero solo dos meses después de la presentación de Carvalho en abril en una brillante conferencia tecnológica, la fundadora y directora ejecutiva de AllHere abandonó su puesto y la empresa despidió a la mayor parte de su personal. AllHere publicó en su página web que los despidos se debían a "nuestra actual situación financiera".

Las empresas de inteligencia artificial se dirigen a las escuelas, que gastan decenas de miles de millones de dólares al año en tecnología. Sin embargo, la repentina quiebra de AllHere ilustra algunos de los riesgos de invertir el dinero de los contribuyentes en inteligencia artificial, una tecnología con enorme potencial pero escaso historial, sobre todo cuando se trata de niños. Hay muchas cuestiones complicadas en juego, como la privacidad de los datos de los estudiantes y la exactitud de cualquier información ofrecida a través de chatbots. Además, la IA puede ir en contra de otro interés creciente de los responsables educativos y los padres: reducir el tiempo que los niños pasan frente a la pantalla.

Natalie Milman, profesora de tecnología educativa en la Universidad George Washington, afirma que a menudo aconseja a los centros educativos que adopten un enfoque de "esperar y ver" a la hora de adquirir nuevas tecnologías. Aunque la IA merece ser utilizada y probada, advirtió que las escuelas "hablan de manera confusa de esta herramienta glorificada. Tiene limitaciones, y debemos asegurarnos de que somos críticos con lo que puede hacer, y con su potencial para dañar y desinformar".

AllHere no respondió a las solicitudes de entrevista ni a las preguntas escritas.

En un comunicado, Britt Vaughan, portavoz del distrito escolar de Los Ángeles, hizo una distinción entre los estudiantes distraídos que son "consumidos por los teléfonos durante el día escolar" y los estudiantes que utilizan computadoras portátiles o tabletas para interactuar con la plataforma Ed, que dijo que estaba "destinada a proporcionar vías educativas individualizadas para abordar el aprendizaje de los estudiantes".

Anthony Aguilar, jefe de educación especial del distrito, dijo que, a pesar del colapso de AllHere, una versión truncada de Ed seguía siendo accesible a las familias en las cien escuelas "prioritarias" del distrito, cuyos estudiantes tienen dificultades académicas y de asistencia.

Sin embargo, ese programa no es un sofisticado chatbot interactivo. Es un sitio web que reúne información de muchas otras aplicaciones que el distrito utiliza para hacer un seguimiento de las tareas, las notas y los servicios de apoyo. Los estudiantes que utilizan el sitio también pueden completar algunas actividades de aprendizaje en la plataforma, como problemas de matemáticas.

El chatbot Ed promovido por Carvalho se probó con estudiantes de 14 años o más, pero se desconectó para perfeccionar la forma en que responde a las preguntas de los usuarios, aseguró Aguilar. El objetivo es que el chatbot esté disponible en septiembre, un reto teniendo en cuenta que AllHere debía proporcionar apoyo técnico y formación continua al personal de la escuela, de acuerdo con su contrato con el distrito. El distrito señaló que esperaba que AllHere fuera adquirido y que el nuevo propietario continuara con los servicios.

Aguilar dijo que la idea del software se había originado en el distrito, como parte del plan de Carvalho para ayudar a los estudiantes a recuperarse de los efectos académicos y emocionales de la pandemia.

Aguilar mencionó que AllHere ganó una licitación para su creación.

Pero el proyecto representaba un reto enorme y difícil de manejar para la empresa, más conocida como proveedora de mensajes de texto automatizados de los colegios a las familias.

AllHere había atraído 12 millones de dólares en financiamiento de capital riesgo, según Crunchbase. Su fundadora y directora ejecutiva, Joanna Smith-Griffin, que ahora tiene 33 años, apareció en Forbes, CBS y otros medios contando una historia convincente. Como antigua educadora cuyos alumnos solían ausentarse, relató, fundó AllHere en 2016 para ayudar a resolver el problema.

Los mensajes de texto automatizados parecían llegar en el momento en que comenzó la pandemia de COVID-19 y el absentismo crónico se convirtió en una crisis nacional. En la primavera de 2020, AllHere adquirió una tecnología desarrollada por Peter Bergman, economista y experto en tecnología educativa. Permitía a las escuelas enviar "avisos" a los padres a través de mensajes de texto sobre la asistencia, las tareas pendientes, las calificaciones y otras cuestiones.

Smith-Griffin habló a menudo de la fundación de AllHere en los Laboratorios de Innovación de Harvard, un programa universitario de apoyo a estudiantes emprendedores. Según Matt Segneri, director ejecutivo de los laboratorios, Smith-Griffin se afilió al programa cuando cursaba estudios universitarios y de posgrado en la Escuela de Extensión de Harvard.

Como muchas pequeñas empresas de nueva creación, la misión de la compañía fue cambiando con el tiempo. El año pasado, AllHere empezó a hablar más de un "chatbot intuitivo potenciado por IA". AllHere proporcionaría inteligencia artificial a los centros educativos, pero también mantendría a un "humano en el bucle", según la empresa, lo que significa que moderadores humanos supervisarían la IA para garantizar la seguridad, una propuesta potencialmente cara y que requiere mucha mano de obra.

Stephen Aguilar, profesor de educación en la Universidad del Sur de California --que no está relacionado con Anthony Aguilar-- dijo que era "un problema bastante común" que los ambiciosos esfuerzos de tecnología escolar fracasaran. Antes trabajó como desarrollador de software educativo, incluyendo algunos proyectos que no pudieron cumplir con lo prometido.

"Los distritos tienen muchas necesidades complejas y muchos problemas de seguridad", explicó. "Pero a menudo carecen de los conocimientos técnicos necesarios para examinar realmente lo que compran".

El chatbot de inteligencia artificial llamado Ed que debía ser un "amigo educativo" para medio millón de alumnos de las escuelas públicas de Los Ángeles. (Distrito Escolar Unificado de Los Ángeles vía The New York Times)