![Esta situación revela los peligros](https://www.infobae.com/resizer/v2/ON4PWZ43HVB4HGCKYVDBMQ42LI.jpg?auth=eb74db6bef37c09b784964a89f60c9e3d12844c0d5f030d59081b40962fca9e0&smart=true&width=350&height=197&quality=85)
Human Rights Watch (HRW) ha lanzado una dura advertencia sobre un nuevo problema relacionado con la inteligencia artificial (IA) y sus implicaciones sobre los derechos y libertades de los niños. Una investigación ha puesto de manifiesto que el conjunto de datos LAION-5B, ampliamente utilizado para el entrenamiento de modelos de IA, contiene imágenes de menores que violan gravemente su privacidad.
El mes pasado, Hye Jung Han, investigadora de HRW reportó a Wired, que identificó que el conjunto de datos LAION-5B incluía 170 fotos de niños brasileños. Las imágenes fueron obtenidas principalmente de blogs personales, redes sociales y videos con escasa visibilidad en YouTube.
Esto es de suma gravedad porque los términos de servicio de YouTube prohíben la recopilación de datos personales sin el consentimiento adecuado, lo que evidencia un ataque directo a estas políticas.
Qué imágenes de niños son usadas para entrenar modelos de IA
![Fotos de menores de 10](https://www.infobae.com/resizer/v2/7YFYUYZYMZBIHDKCG6JESB3R4U.jpg?auth=fe7b595c629ed4642c3c6be4e48054163feb33c542da3f0bf0449e3671153332&smart=true&width=350&height=197&quality=85)
En un hallazgo aún más reciente, se encontró otras 190 imágenes de niños australianos, incluidas fotos de recién nacidos y niñas en bañador durante un carnaval. Estas imágenes fueron compartidas originalmente bajo estrictas medidas de privacidad, en blogs personales o en redes sociales con acceso limitado.
Algunas incluso provenían de fotógrafos profesionales contratados por familias o instituciones educativas para eventos específicos. La presencia de estas fotos en el conjunto de datos plantea serias preocupaciones sobre la falta de control y autorización en la recopilación de datos personales.
Asimismo, una de las preocupaciones más graves destacadas por HRW es que, las URLs de estas imágenes a menudo contienen información sensible, como nombres y ubicaciones específicas.
![Otro peligro era que las](https://www.infobae.com/resizer/v2/PCPRRZUY2VE4HFN2DBIYKIM5YI.jpg?auth=83ed9b0aadff7993077a09377c0501588fb150688c169eb7ad6313ebe9271798&smart=true&width=350&height=233&quality=85)
Por ejemplo, una imagen etiquetada con detalles precisos permitió a los investigadores obtener los nombres completos y la guardería frecuentada por dos niños en Perth, Australia. Esta capacidad para extraer información privada de imágenes supuestamente seguras reflejan la vulnerabilidad a la que están expuestos los menores en la era digital.
Qué tan difícil es buscar imágenes de niños en línea
Estas imágenes son extremadamente difíciles de localizar mediante búsquedas en línea regulares, lo que indica que los padres y cuidadores han tomado medidas deliberadas para proteger la privacidad de los niños.
Sin embargo, las herramientas y técnicas utilizadas para crear conjuntos de datos masivos como LAION-5B han ignorado estas medidas, exponiendo la privacidad de los menores a un riesgo considerable.
![Los investigadores evidenciaron que este](https://www.infobae.com/resizer/v2/3GE3QERWXRBYPNLQ76NRYG74XE.png?auth=61256d5780ed068d61c081025accdfc28a0ddb8adae02a82805ae959a8dee685&smart=true&width=350&height=197&quality=85)
HRW ha señalado que su equipo solo pudo revisar una fracción mínima del conjunto de datos, menos del 0,0001 % de sus 5.850 millones de imágenes. Los investigadores se sorprendieron por la cantidad de fotos personales de niños que encontró incluso en una muestra aleatoria.
Se esperaría encontrar en su lugar una mayor proporción de imágenes más comunes en la web, como fotos de animales o paisajes, lo que resalta aún más el carácter invasivo de este conjunto específico de datos.
Qué responden los modelos de IA
En defensa de sus prácticas, LAION, una ONG detrás del conjunto de datos, hizo declaraciones a Ars Technica que mantienen una política de “tolerancia cero con el contenido ilegal”.
![La regulación de la inteligencia](https://www.infobae.com/resizer/v2/7LUOEL5OLNG3BNICKAGNJOKYOI.jpg?auth=39b456662acfb35d9ec66e4b74e6a441b27bfc286b71d88a1fb63ea0e9ca754a&smart=true&width=350&height=197&quality=85)
No obstante, reconoció que eliminar estas imágenes comprometedoras es un proceso lento y complejo. Además, una vez que los modelos de IA han sido entrenados con estos datos, es imposible “olvidar” la información absorbida, lo que implica que el daño potencial ya está hecho.
Por el momento, esta alerta pone de relieve la urgente necesidad de establecer regulaciones más estrictas y controles más robustos en la recopilación y uso de datos para el entrenamiento de IA.
La precisión y eficacia de estos modelos no deben lograrse a expensas de la privacidad y los derechos de los individuos, especialmente de los niños, que son un grupo particularmente vulnerable.
No solo se pone en peligro la privacidad de los menores, sino que también, se cuestiona la ética y la legalidad de las prácticas de recopilación de datos de muchos de los modelos de IA actuales.
Últimas Noticias
Glosario de tecnología: qué es y para qué sirve el Bluetooth
La tecnología es algo que puede parecer complicada pero en realidad es más simple si se le dedican unos minutos para aprender sobre ella
![Glosario de tecnología: qué es](https://www.infobae.com/resizer/v2/TWJSGJ2FYBGBZEQRXJHYOQ2CZA.jpg?auth=37c73dcb139af49abfba0522c359ae37c84eb97423e5253a4124c117f59b07c2&smart=true&width=350&height=197&quality=85)
Apple siguió los pasos de Google y cambió el Golfo de México por Golfo de América en Maps
La Casa Blanca compartió la modificación que solo es visible en Estados Unidos. En el resto del mundo, sigue apareciendo el primer nombre
![Apple siguió los pasos de](https://www.infobae.com/resizer/v2/TK5W6ZNWKNC67E4PXRB6LQHTHQ.jpg?auth=f800a55669e8be3e412110f358cc6b06260a11fce48e045c4d0fd0a28dae27c1&smart=true&width=350&height=197&quality=85)
YouTube cumple 20 años: esta es la emocionante historia de la plataforma de videos de Google
Este sitio ha transformado la manera en que consumimos contenido digital, desde su primer video, en el que una persona muestra unos elefantes en un zoológico, pasando por fenómenos virales como ‘Gangnam Style’
![YouTube cumple 20 años: esta](https://www.infobae.com/resizer/v2/IQO2BSWBBV6HEXXQWFHD25DJ5M.jpg?auth=eea73669a4b9c590e6b7f3646aa4ba8eb9493dafd8c946c35ef942961375a2de&smart=true&width=350&height=197&quality=85)
Los 5 regalos que no debes darle a una mujer en San Valentín, según la inteligencia artificial
Algunas sorpresas de San Valentín no son tan acertadas como parecen. La inteligencia artificial recomienda evitar ciertos regalos, que aunque bien intencionados, pueden causar incomodidad
![Los 5 regalos que no](https://www.infobae.com/resizer/v2/AQAWXNB75ZAIRKXNLK6E26IHJI.jpg?auth=d27de3ec8ba2f94cf65bc9d0812e2e70db9a9870160b5e60626549d909b6f88e&smart=true&width=350&height=197&quality=85)
Mi correo y redes sociales fue hackeada: sigue estos pasos para recuperarla
Si no puedes iniciar sesión o notas actividad sospechosa, es momento de actuar. Desde el restablecimiento de contraseña hasta la autenticación en dos pasos, aquí tienes todo lo que necesitas para solucionar el problema
![Mi correo y redes sociales](https://www.infobae.com/resizer/v2/X7CM33SXRBFPTOY5LHI6JIVRGY.jpg?auth=6628e5b9b1f9c2aabffc986911ecffc7ffb12e18d99b40ccb9c13466b74e7da7&smart=true&width=350&height=197&quality=85)