No todos los libros que vende Amazon son reales, la compañía está detectando biografías falsas generadas por inteligencia artificial

Semanas antes del lanzamiento de sus nuevas memorias, recuerda la periodista tecnológica Kara Swisher, su mujer notó algo raro cuando buscaba el libro en Amazon. “Me dijo: ‘¿Qué es esta foto tuya? Es raro’”, dijo Swisher.

Swisher miró la pantalla y vio un libro que afirmaba ser una nueva biografía suya, con una imagen en la portada que inmediatamente identificó como una falsificación generada por inteligencia artificial. Aunque el libro prometía la historia de la vida de Swisher, el autor era alguien de quien nunca había oído hablar.

Una mirada más atenta sugirió que el libro en sí podría estar generado en gran parte o en su totalidad por IA, sustituyendo detalles o anécdotas reales por descripciones genéricas de Swisher. Swisher se sintió irritada, pero no le dio importancia.

Pero cuando volvió a mirar Amazon esta semana, vio que habían proliferado biografías clonadas de ella, como informó primero el blog de tecnología 404 Media. Cada una tenía un título, un autor y una imagen falsa de ella en la portada ligeramente diferentes. “Había docenas y docenas”, cuenta Swisher. “Me quedé pensando: ‘¿Qué está pasando aquí y por qué no lo paran?”.

Swisher es solo la última autora que ha descubierto que vender un nuevo libro en Amazon en estos días a menudo significa competir por la atención de los lectores con imitaciones que llevan signos de haber sido generadas en gran parte o en su totalidad por herramientas de inteligencia artificial. Casi 10 meses después de que The Washington Post informara sobre uno de los primeros ejemplos conocidos de estos impostores, los autores afirman que el problema parece estar empeorando.

“Cada vez es más fácil generar libros con IA, y cada vez vemos más”, afirma Mary Rasenberger, directora ejecutiva de Authors Guild, una asociación de autores. “Creo que nos vamos a enfrentar a una explosión de libros generados con IA antes de que nos acerquemos a solucionar el problema”.

La lista de autores afectados es larga, y las estafas han florecido en variedad. Algunos afirman falsamente haber sido escritos por un autor real, como fue el caso de cinco libros que la analista de la industria editorial Jane Friedman encontró en Amazon a su nombre el pasado agosto. Algunos comparten el mismo título que un libro real, como el que el escritor técnico Chris Cowell señaló a The Washington Post el pasado mes de mayo.

Algunos utilizan el mismo apellido que un autor real, pero cambian el nombre de pila, como le ocurrió recientemente al escritor de jazz Ted Gioia. Algunos se presentan como libros “complementarios” o “libros de ejercicios” de auténticos superventas, como descubrió la presentadora de “Today” Savannah Guthrie cuando publicó su último libro.

Otros son obras de ficción, como las novelas evidentemente generadas por inteligencia artificial que el verano pasado inundaron la lista de libros electrónicos más vendidos de Amazon en la categoría de “Romance contemporáneo para adolescentes y jóvenes adultos”.

Aunque es difícil demostrar definitivamente que un libro determinado ha sido generado por IA, las imitaciones tienden a autopublicarse a través del servicio Kindle Direct Publishing de Amazon. A menudo llevan el nombre de autores desconocidos, lucen portadas que se asemejan a los resultados de las herramientas de imagen de la IA y aparecen en Amazon poco antes del lanzamiento del libro auténtico del que intentan aprovecharse. (Jeff Bezos, fundador de Amazon, es propietario de The Washington Post).

Amazon dice que se está tomando el problema en serio, que ya ha tomado medidas para solucionarlo y que está trabajando en medidas adicionales. La empresa no prohíbe a los usuarios vender libros generados por herramientas de IA en su plataforma. Pero sí prohíbe el contenido que infrinja la propiedad intelectual, así como los libros cuyas descripciones sean engañosas o cuyo contenido sea “típicamente decepcionante” para los clientes.

“Nuestro objetivo es ofrecer la mejor experiencia posible de compra, lectura y publicación”, declaró Lindsay Hamilton, portavoz de Amazon.

Amazon ha intentado frenar la oleada de autopublicación limitándola a tres libros al día y el año pasado empezó a exigir a los autores de libros electrónicos que revelaran a Amazon las obras generadas por IA, aunque la empresa no exige que lo hagan a los clientes. Según Hamilton, la última medida de la empresa para limitar el spam ha consistido en limitar la publicación de “resúmenes” y “libros de ejercicios” que pretenden acompañar a libros reales escritos por personas.

Cuando la prensa se hace eco de imitaciones de inteligencia artificial -algo cada vez más frecuente- Amazon suele retirar los libros en cuestión de su sitio web, y a veces también otros. Hamilton dijo que la empresa también tiene “un sólido conjunto de métodos que nos ayudan a detectar de forma proactiva los contenidos que violan nuestras directrices, ya sean generados por IA o no”, aunque no dijo cuáles son esos métodos.

Algunos autores se preguntaron por qué una empresa tecnológica tan poderosa parece tener tantas dificultades para controlar el problema.

El miércoles, una búsqueda de “libro de Kara Swisher” en Amazon dio como primer resultado las memorias de Swisher, “Burn Book”. Pero los siguientes 16 resultados eran libros sobre Swisher publicados por otros autores en los últimos tres meses.

La mayoría compartían algunas de las características comunes de los imitadores de AI: autopublicados, a menudo de corta extensión, sin ningún signo de información o visión original en su descripción o en las páginas de muestra que Amazon puso a disposición.

El segundo libro de la lista, escrito por una tal Cheryl D. Stackhouse y Brotherhood Press, se titulaba “Libro de Kara Swisher”. El texto de muestra alternaba entre describir a Swisher en tercera persona y escribir en su voz, e incluía citas sin sentido como: “Si no tienes confianza, es imposible que tengas confianza”.

Swisher dijo que, cuando vio la proliferación de imitaciones, envió un correo electrónico al consejero delegado de Amazon, Andy Jassy -cuya empresa ha cubierto muchas veces a lo largo de los años- para quejarse. El jueves, muchas de ellas habían sido retiradas, incluida la de Stackhouse. Swisher agradeció la respuesta, pero señaló que la mayoría de los autores no tienen ese tipo de acceso a los altos ejecutivos.

“Lo mío fue: ‘Vale, lo hicieron por mí y están pendientes de mi libro, pero ¿por qué no lo hacen por todos?”. (La esposa de Swisher, Amanda Katz, es redactora de opinión en The Washington Post).

No está claro hasta qué punto Amazon investiga a los usuarios que están detrás de los libros que retira. Mientras que el libro de Stackhouse sobre Swisher desapareció el jueves, una búsqueda del nombre de Stackhouse en el sitio de Amazon reveló docenas de otros libros todavía a la venta. La mayoría eran biografías de personajes famosos y todos se habían publicado en los últimos meses.

Los intentos de un periodista del Post de localizar y ponerse en contacto con algún autor con ese nombre fueron infructuosos. Amazon se negó a facilitar información sobre Stackhouse, aludiendo a la privacidad de los datos de sus clientes.

A menudo, los libros que parecen ser imitaciones de AI tienen pocas reseñas de clientes, o ninguna, lo que indica que no han engañado a un gran número de lectores. Pero el autor de uno de los libros de Swisher, Max Thorne, también figura como autor de un libro sobre la asesina convicta Gypsy Rose Blanchard que tiene 26 reseñas, con una media de 2,2 estrellas.

Una reseña lo califica de “ni siquiera un libro”, y lamenta: “¡Quiero que me devuelvan mis 12 dólares!”. Otro dice: “¡Esto es un robo!”. Otras reseñas se titulan: “Cuidado”, “Desperdicio de dinero”, “Decepcionante” y “Nada bueno”. Ese libro también seguía disponible en Amazon hasta el jueves. Los intentos de localizar la presencia en Internet de un autor llamado Max Thorne fueron infructuosos.

Hamilton, de Amazon, dijo que la empresa suspende las cuentas de los editores “cuando los patrones de abuso lo justifican”. Agregó que el “proceso y las directrices de la compañía seguirán evolucionando a medida que veamos cambios en la publicación impulsada por AI para asegurarnos de mantener la mejor experiencia posible para los clientes y lectores por igual.”

Friedman, analista del sector editorial que el año pasado vio cómo se publicaban libros falsos con su nombre, afirma que desde entonces ha recibido llamadas y correos electrónicos de otros autores con experiencias similares. Friedman entiende que Amazon probablemente no quiera estos libros en su sitio web, pero se pregunta por qué una de las mayores empresas tecnológicas del mundo no ha hecho más para impedirlo.

Rasenberger dijo que el Gremio de Autores está presionando a Amazon para que empiece a revelar en su sitio qué libros son generados por AI, y que la empresa ha sido “receptiva”. El gremio también apoya un proyecto de ley presentado el año pasado en el Congreso por el senador demócrata de Hawai, Brian Schatz, que obligaría a las empresas de AI a incluir marcas en los contenidos que producen sus herramientas para identificarlos como generados por AI.

Mientras tanto, siguen apareciendo libros de imitación. El jueves, el periodista Byron Tau fue alertado de la existencia de un libro electrónico en Amazon que pretendía ser una biografía suya cuando un amigo buscó el nuevo libro de Tau, “Means of Control”.

El imitador, titulado “BYRON TAU BIOGRAPHY”, sólo tenía 17 páginas, y una muestra del texto contenía flagrantes errores de hecho. Tau dijo que envió un correo electrónico a la oficina de prensa de Amazon, y el título fue retirado rápidamente.

“Espero que Amazon encuentre la manera de acabar con esta práctica, porque devalúa el trabajo de las personas que pasan años investigando y escribiendo libros”, dijo Tau. “Es sólo una señal de que estos sistemas en los que todos confiamos son tan vulnerables a la gamificación”.

(c) 2024 , The Washington Post