Los algoritmos pueden replicar sesgos raciales. Hay decenas de ejemplos que muestran cómo la inteligencia artificial puede discriminar a favor o en contra de ciertos grupos. A veces esto ocurre por un entrenamiento deficiente, con una base de datos limitada. Aunque, en ocasiones, también podría tratarse de una limitación intencional por parte de quienes los programan.
Hace una semana, la congresista estadounidense Alexandria Ocasio-Cortez planteó puntualmente el tema del sesgo racial en los algoritmos de reconocimiento facial y habló de la necesidad de encontrar una solución para este tema.
En sintonía con esta idea, investigadores del MIT presentaron un sistema que permite identificar y quitar, de manera automática, el sesgo que puede haber en un set de datos y generar una muestra más equilibrada y representativa de la diversidad para reentrenar a los algoritmos.
El algoritmo que desarrollaron puede aprender tanto una tarea específica, como es la detección de rostros, así como la estructura detrás de los datos de entrenamiento, lo cual le permite identificar y minimizar cualquier sesgo oculto.
En el documento se remarca que, en las pruebas realizadas, el algoritmo pudo reducir en más de un 60% el “sesgo categórico” en comparación con los resultados obtenidos con los modelos de detección facial que se emplean habitualmente.
Para entrenar a la inteligencia artificial, en la actualidad se requiere que haya algún nivel de intervención humana para definir bases de datos así como limitaciones o filtros específicos que se quiere que el sistema aprenda.
Este algoritmo desarrollado por el equipo del MIT puede analizar una base de datos, identificar los sesgos o limitaciones que se encuentran allí y hacer un nuevo muestreo para que el resultado sea más equitativo o justo.
MÁS SOBRE ESTE TEMA:
Últimas Noticias
EN VIVO Once Caldas vs. Atlético Nacional, fecha 1 de la Liga BetPlay: siga el minuto a minuto en Manizales
Los verdes, que mantienen casi toda la base del primer semestre, visitan al Blanco Blanco, que se alistan para los playoffs de la Copa Sudamericana en los próximos días
EN VIVO: ‘MasterChef Celebrity Colombia’ verá un duelo entre comida italiana y árabe el 11 de julio
La salida de campo sigue su curso con una prueba por equipos que exigirá a los participantes presentar un tipo de preparación específica al jurado, a riesgo de llevarse los delantales negros
Anna Ferro, viuda de Fernando del Solar, acusa a Ingrid Coronado de acoso
Asegura que la exconductora de “Venga la Alegría” visitó su departamento sin avisarle
Metro CDMX y Metrobús hoy 11 de julio: Afectaciones en la línea 3 del MB por movilizaciones sociales
Información y actualización del servicio de transporte público en la capital este viernes
Exparticipante del ‘Desafío′ cargó contra el capitán del equipo Beta de la edición 2025: “Está enfermo”
Valkyria, ganadora de la edición 2022, se pronunció en redes sociales contra Abrahan y su decisión de enviar a Pineda al Desafío a Muerte, que terminó con su eliminación
