Madrid, 17 mar (EFE).- La coalición IA Ciudadana ha pedido al Gobierno la creación de un registro central de algoritmos para evitar discriminaciones en la aplicación de la inteligencia artificial, y ha asegurado que La Policía, la Justicia, los servicios de empleo, la banca o los seguros utilizan ya mecanismos automáticos que provocan indefensión a la población.
La coalición agrupa a diecisiete organizaciones sociales que trabajan por defender los derechos humanos en el contexto de las tecnologías digitales, y entre ellas están -como participantes o como observadoras- Civio, Political Watch, Algorace, el Institut de Drets Humans de Catalunya, CECU, Oxfam Intermón, Amnistía Internacional o el Secretariado Gitano.
En un comunicado remitido este lunes a los medios, la coalición ha advertido de que recibir una ayuda social, entrar en un proceso de selección para un puesto de trabajo u optar a un crédito son ya situaciones cotidianas dominadas por los algoritmos.
En la Administración Pública, han señalado, se usan cada vez más para la toma de decisiones, pero no es posible supervisar sus implicaciones, que pueden llegar a ser "muy graves".
Han citado como ejemplos las 55 mujeres que fueron asesinadas después de que sus casos se consideraran de riesgo bajo por el sistema VioGen, que utiliza un sistema de evaluación automatizado, o los cientos de jóvenes afectados por distorsiones en el algoritmo con el que el Distrito Único Andaluz calcula las posiciones en las listas de entrada a los grados universitarios.
Ante esta situación, las 17 organizaciones que forman esta plataforma han pedido al Gobierno la creación de un Registro Central de Algoritmos, cuyas características han detallado en un estudio que han publicado y que incluye hasta doce recomendaciones que deberían atenderse.
Ese registro debería ser obligatorio, diseñado en colaboración con la sociedad civil, transparente y accesible, mantiene esta coalición, y ha incidido en que además debe incluir todos los sistemas algorítmicos utilizados por la administración pública basados en reglas y patrones.
“ Es necesario ser ambiciosos y mejorar los requisitos del Reglamento de IA de la Unión Europea, porque excluye del registro obligatorio los sistemas que considera de bajo riesgo y limita sectores críticos que van desde las fuerzas de seguridad y el control de fronteras hasta el sector financiero ”, ha señalado Anabel Arias, responsable de derechos digitales en la Federación de Consumidores y Usuarios CECU.
La aprobación del Anteproyecto de Ley para la gobernanza y el buen uso de la Inteligencia Artificial, anunciado la pasada semana por el Gobierno, "es una gran oportunidad para crear este registro; esperamos que se incluya en su diseño a las organizaciones de la sociedad civil”, ha señalado en la nota de prensa David Cabo, codirector de Civio.
El papel del legislativo es también importante, por lo que IA Ciudadana ha pedido al Parlamento la creación de una comisión parlamentaria sobre transparencia algorítmica, y ha exigido al Gobierno que presente en las Cortes un informe anual sobre este tema.
España anunció pronto planes y estrategias para reforzar la transparencia tanto en el sector público como en el privado y en 2021 el Gobierno aprobó la Carta de Derechos Digitales, convirtiéndose en el primer Estado europeo en reconocer este conjunto de protecciones para la ciudadanía en la esfera digital, ha recordado esta coalición.
Pero ha recordado también que se anunció la Estrategia Nacional de Inteligencia Artificial, que en su versión de 2024 hablaba de una Inteligencia Artificial transparente, responsable y humanista”, pero sigue sin cerrarse, ni se ha presentado el V Plan de Gobierno Abierto 2024-2028, que incluye la “Gobernanza Digital” como un área de reforma. EFE
rc/crf
