La inteligencia artificial puede potenciar el ciberbullying en los colegios con imágenes y hasta videos editados

A inicios de la semana un grupo de padres de familia realizó un plantón en la puerta principal del colegio St. George’s en Chorrillos, y denunciaron que un grupo de estudiantes de esa misma institución utilizó imágenes de alumnas editadas con inteligencia artificial (IA) sobre cuerpos desnudos para luego comercializarlas sin su consentimiento. El caso, que es investigado por la Fiscalía, no solo es considerado como ciberacoso o ciberbullying, incluso se evalúa si se hubo alguna infracción a la ley penal por pornografía infantil.

Lo preocupante es que este podría no ser un caso aislado en el que la inteligencia artificial es utilizada para potenciar el ciberbullying y afectar emocionalmente a los escolares.

Si bien, una encuesta a nivel nacional de Aldeas Infantiles SOS mostró que el 91% de padres cree que sus hijos nunca han sido víctimas de ciberacoso, esta cifra contrasta con un 61% de niños que aseguran haber vivido dicha situación.

Además, de 990 niñas, niños y adolescentes de 10 a 17 años encuestados, el 63% manifestaron sentirse seguros cuando navegan por Internet, mientras que un 37% dijo lo contrario. Además, el 61% aseguró haber sufrido ciberbullying, el 23% realizó retos virales peligrosos, mientras que en menor medida hubo casos de grooming con un 12% y sextorsión con un 4%, según las cifras publicadas en el diario El Comercio.

Al respecto, Cesar Beltrán, docente de ingeniería de la Pontificia Universidad Católica del Perú (PUCP) y coordinador del grupo de Inteligencia Artificial en esa casa de estudios, recordó que los montajes con fotos se pueden hacer desde hace años con programas de edición. Sin embargo, con el boom de las aplicaciones de IA ya no es necesario tener conocimientos avanzados en diseño para crear imágenes que, por ejemplo, unen partes del cuerpo de diferentes personas.

Además, señaló que estos montajes no solo son posibles con fotos, sino también con videos. “Hay programas que son de pago que lo hacen de muy buena calidad, mientras que hay otros que son software libre, pero con una calidad menor”.

Las fotos y videos creados por inteligencia artificial no siempre tienen algún código interno con el que se pueda identificar que dichas imágenes fueron hechas con IA, de manera que solo el ojo humano puede discernir si se trata de una imagen que refleja algo falso y verdadero.

Respecto a las prohibiciones de estas herramientas, el especialista indicó que, si bien ha habido intentos de restringir el uso de, por ejemplo, ChatGPT en colegios y otros centros de estudios para evitar que los alumnos los utilicen para que la tecnología haga las tareas por ellos, esto ha servido de poco.

Por otro lado, señaló que también se piensa en restringir, mediante leyes, el uso de algunos programas de Inteligencia Artificial, pero mientras esto pasa, se van generando nuevas herramientas, lo que hace casi imposible impedir su uso. “¿Qué podrían restringir si todo es tan dinámico? Y esto recién está comenzando, estamos en los inicios de la Inteligencia Artificial generativa y se vienen nuevas cosas”, manifestó.

Además, explicó que ahora incluso se usa la propia inteligencia artificial para generar modelos más potentes y confiables de IA, lo que dinamiza incluso más la creación de este tipo de tecnología. “Los nuevos modelos de open source que están saliendo no tienen la capacidad de contratar a miles de personas para que refinen el modelo y está usando al ChatGPT 4 como si fuese la persona que les corrija la respuesta. O sea, un modelo (más sofisticado) le dice a otro cómo responder”, indicó y consideró que la Inteligencia Artificial no es mala en sí misma, sino depende del uso que se le dé.

Una madre de familia de una de las adolescentes afectadas por el caso de ciberbullying en el colegio de Chorrillos comentó a Latina Noticias que su hija está “aterrada”, no quieren asistir al colegio ni comer desde que se dio a conocer el caso.

“¿Mamá, mis fotos se verán en el futuro? ¿Mis hijos verán esas fotos?”, son algunas de las preguntas que las alumnas hacen a sus madres.

En esa línea, el médico psiquiatra del Hospital Almenara de EsSalud, el doctor David Arce, explicó que el acoso escolar o bullying es cualquier forma de maltrato psicológico, verbal o físico, el cual se da entre estudiantes de forma reiterada durante un tiempo determinado, tanto en el aula como fuera de ella y a través de cualquier red social toma el nombre de ciberacoso o ciberbullying.

El psiquiatra explicó que, en la primera etapa de la pandemia, cuando los escolares no iban al colegio, el bullying continuó manifestándose de manera virtual a través de acciones como ignorar comentarios y dejarlos “en visto”. Esto se ha puesto en evidencia en la exclusión o bloqueo de ciertos grupos de WhatsApp, la creación de grupos alternativos dedicados exclusivamente a reírse o burlarse y la creación de memes o imágenes ridiculizando o afectando a los compañeros del aula, como es el caso del colegio St. George’s.

En tanto, la doctora Beatrice Macciota Felices, psiquiatra del Hospital Nacional Edgardo Rebagliati Martins, indicó que el rango etario de mayor riesgo está entre los 9 y los 15 años, es decir en los últimos años de la primaria y la etapa secundaria.

“La razón por la que se vuelven más vulnerables en este periodo responde a que es la edad en la que experimentan cambios, tanto en la parte fisiológica como a nivel psicológico y son más propensos a ser desestabilizados emocionalmente con cualquier actitud de acoso o rechazo”, dijo el especialista según recoge la agencia Andina.

En lo que va del año, el área de salud mental del hospital nacional Edgardo Rebagliati registró más de 600 atenciones nuevas a menores en edad escolar por cuadros de ansiedad y depresión, de las cuales entre el 4% y 5% estarían asociadas al acoso escolar o bullying.

Pahola Albújar Chávez, especialista en neuropsicología infantil del hospital Alberto Sabogal, recomienda a los padres que “si van a permitir que sus hijos ingresen a redes sociales deben supervisarlos porque en estos espacios virtuales también acceden personas que se camuflan y se hacen pasar como niños, los enamoran y muchas veces son víctimas de acoso o abuso sexual”.

Los padres asegurados que requieran teleatención y teleorientación para sus hijos pueden llamar a 411 8000 opción 10.