AP EXPLICA: ¿Qué es ChatGPT y por qué ha sido prohibido?

Pídele al nuevo programa de inteligencia artificial ChatGPT que redacte un ensayo sobre la causa de la Guerra de Secesión estadounidense y verás cómo genera un trabajo convincente en cuestión de segundos.

Esta es una de las razones por las que las autoridades escolares de Nueva York han empezado a prohibir esta impresionante pero controvertida herramienta de redacción capaz de generar párrafos de texto similares a los de un ser humano.

El mayor distrito escolar de Estados Unidos ha decidido restringir el uso del sitio web ChatGPT en todo tipo de dispositivos y en las redes de sus colegios, lo que podría repercutir en otros centros y en los profesores, que pasan apuros por encontrar la manera de impedir que los alumnos hagan trampa. Los creadores de ChatGPT dicen que también están buscando formas de detectar el uso inapropiado.

Esta herramienta gratuita lleva en el mercado apenas unas semanas, pero ya está planteando preguntas difíciles sobre el futuro de la inteligencia artificial en la educación, la industria tecnológica y una serie de profesiones.

¿QUÉ ES CHATGPT?

el programa ChatGPT se lanzó el 30 de noviembre, pero es parte de un conjunto más amplio de tecnologías desarrolladas por la startup OpenAI, con sede en San Francisco, que tiene una relación estrecha con Microsoft.

Es parte de una nueva generación de sistemas de Inteligencia Artificial (IA) que pueden conversar, generar texto legible bajo demanda e incluso producir imágenes y videos novedosos con base en lo que han “aprendido” de una amplia base de datos de libros digitales, escritos en línea y otros medios.

Pero a diferencia de las versiones anteriores de los llamados “grandes modelos lingüísticos”, como el GPT-3 de OpenAI, lanzado en 2020, la herramienta ChatGPT está disponible gratuitamente para cualquier persona con conexión a internet y está diseñada para ser más fácil de usar. Funciona como un diálogo escrito entre el sistema de IA y la persona que le hace preguntas.

Millones de personas han jugado con ChatGPT durante las últimas semanas, utilizando el programa para escribir o canciones o poemas tontos, para intentar engañarlo para que cometa errores o para fines más prácticos, como ayudar a redactar un correo electrónico. Todas esas consultas también le están ayudando a ser más inteligente.

¿CUÁLES SON SUS INCONVENIENTES?

Al igual que otros sistemas similares, ChatGPT puede generar una prosa convincente, pero eso no significa que lo que diga sea cierto o lógico.

Su lanzamiento vino con poca orientación sobre cómo usarlo, aparte de la promesa de que ChatGPT admitirá cuando esté equivocado, pondrá en duda las “premisas incorrectas” y rechazará aquellas solicitudes destinadas a generar respuestas ofensivas. Desde entonces, sin embargo, su popularidad ha llevado a sus creadores a intentar bajar las expectativas de algunas personas.

“ChatGPT es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza”, tuiteó en diciembre el CEO de OpenAI, Sam Altman.

“Es un error confiar en él para algo importante en este momento”, admitió Altman.

“Es una vista previa de los avances. Tenemos mucho trabajo por hacer en cuanto a solidez y veracidad”.

¿SE PUEDE UTILIZAR CHATGPT PARA ESCRIBIR ENSAYOS ESCOLARES?

Esto es lo que escribió el propio ChatGPT cuando The Associated Press le pidió que respondiera esa pregunta en mayúsculas, para dar la apariencia de que había sido redactada por un director escolar emitiendo una advertencia breve y en voz alta a través del sistema de altoparlantes de una escuela:

“NO UTILICEN CHATGPT NI NINGÚN OTRO PROGRAMA DE REDACCIÓN AUTOMATIZADA PARA LOS ENSAYOS ESCOLARES. ESTO ES HACER TRAMPA Y NO SE TOLERARÁ. SI SE LES DESCUBRE UTILIZANDO CHATGPT O CUALQUIER OTRO PROGRAMA DE REDACCIÓN AUTOMATIZADA PARA LOS ENSAYOS ESCOLARES, HABRÁ CONSECUENCIAS GRAVES”.

Pero cuando se le pidió que respondiera la misma pregunta por su cuenta, ChatGPT ofreció esta advertencia más mesurada: “Como regla general, no es apropiado usar ChatGPT ni ninguna otra herramienta de redacción para ensayos escolares, ya que se considera hacer trampa y eso no beneficiará al estudiante a largo plazo”.

¿QUÉ DICEN LAS ESCUELAS?

Muchos distritos escolares todavía están pasando problemas sobre cómo fijar políticas sobre si se puede usar el programa y cómo.

El departamento de Educación de la ciudad de Nueva York dijo el 5 de enero que está restringiendo el acceso al programa a través de las redes o los dispositivos escolares, alegando que teme los impactos negativos que pueda causar en el aprendizaje de los estudiantes, así como las “preocupaciones con respecto a la seguridad y precisión del contenido”.

Sin embargo, nada impide que un estudiante acceda a ChatGPT desde un teléfono personal o una computadora en casa.

“Aunque el programa puede proporcionar respuestas rápidas y sencillas a las preguntas, no fomenta el pensamiento crítico ni la capacidad de resolver problemas, que son esenciales para el éxito académico y en la vida”, declaró Jenna Lyle, portavoz de la escuela.

¿ESCRITO POR UN SER HUMANO O POR INTELIGENCIA ARTIFICIAL?

“Para tratar de determinar si algo ha sido escrito por un ser humano o por una IA, hay que estar atentos a la ausencia de experiencias o emociones personales, buscar incoherencias en el estilo de escribir y observar el uso de palabras de relleno o frases repetitivas. Estos pueden ser indicios de que el texto fue generado por una IA”.

Eso es lo que ChatGPT le respondió a un reportero de la AP cuando le preguntó cómo descubrir la diferencia.

La firma OpenAI dijo en una declaración a inicios de enero que planea trabajar con los educadores mientras aprende cómo experimentan las personas con ChatGPT en el mundo real.

“No queremos que se use ChatGPT con fines engañosos en las escuelas o en cualquier otro lugar, por lo que ya estamos desarrollando medidas paliativas para ayudar a cualquiera a identificar texto generado por ese sistema”, aseguró la compañía.

¿ESTO AMENAZA A GOOGLE?

Hay conjeturas de que ChatGPT podría dar un vuelco al negocio de las búsquedas en internet, actualmente dominado por Google, pero ese gigante tecnológico ha estado trabajando en una tecnología similar desde hace años, pero Google ha sido más cauteloso en cuanto a la idea de lanzarlo al público.

De hecho, fue Google el que ayudó a impulsar la tendencia de modelos de lenguaje de IA cada vez más grandes y más inteligentes que podrían ser “precapacitados” para una amplia cantidad de escritos. En 2018, la empresa introdujo un sistema conocido como BERT, que utiliza una técnica de “transformador” mediante la cual compara palabras en una oración para predecir el significado y el contexto. Algunos de esos avances están integrados actualmente en las búsquedas de Google.

No obstante, no cabe duda de que las sucesivas versiones de estos programas han tenido impacto. Microsoft ha invertido al menos mil millones de dólares en OpenAI y tiene una licencia exclusiva para utilizar GPT-3.