Ricardo Monreal busca regular la IA con esta nueva iniciativa

El senador por Morena, Ricardo Monreal, ha propuesto una nueva iniciativa que busca la regulación del desarrollo, venta y aplicación de sistemas de inteligencia artificial (SIA) en México. Esta medida se enfoca en la creación de un marco legal que se alinea con las estrategias de gestión de riesgos similares a las establecidas recientemente por la Unión Europea.

De acuerdo con el proyecto de decreto, que fue publicado en la Gaceta del Senado, los creadores y distribuidores de SIA deberán obtener una autorización del Instituto Federal de Telecomunicaciones (IFT) antes de poder comercializar sus productos dentro del territorio mexicano. Este procedimiento es parte de un esfuerzo por asegurar que la implementación de la inteligencia artificial en el país se lleve a cabo de manera responsable y segura.

El proyecto de Monreal no solo establece requisitos para la comercialización de estas tecnologías, sino que también propone la formación de una Comisión Nacional de Inteligencia Artificial. Este organismo actuaría como un comité consultivo para el IFT y estaría compuesto por cinco científicos de renombrado prestigio en el campo tecnológico. Este equipo, cuya participación sería honorífica, tendría como objetivo principal asesorar en la implementación y regulación adecuada de la inteligencia artificial en México.

La clasificación incluye usos de riesgo inaceptable, alto riesgo y bajo riesgo, en un intento por proteger los derechos humanos y la seguridad de las personas frente al avance tecnológico. Cada tipo de peligro tiene una definición que especifica la forma en la cual el uso de los SIA puede dañar a los demás debido al uso incorrecto que las personas hagan en un determinado contexto:

Riesgo inaceptable: los sistemas que manipulan comportamientos o exponen a grupos vulnerables. Se prohíbe su implementación en espacios donde puedan causar daños severos ya sea físicos o psicológicos.

Alto riesgo: se refiere a los sistemas que podrían afectar la salud, la seguridad o derechos fundamentales, esto incluye a aquellos aplicados en espacios privados para identificación biométrica, gestión de servicios básicos, acceso y evaluación educativa, contratación laboral, acceso a programas sociales y evaluación económica de individuos.

Bajo riesgo: en esta clasificación entran los sistemas sin posibilidad de causar amenazas directas a la salud, la seguridad o los derechos humanos, y su uso no enfrenta restricciones significativas bajo la propuesta. Sin embargo, la normativa concede a las autoridades competentes la facultad de emplear incluso sistemas de riesgo inaceptable bajo condiciones específicas, como la detección y prevención de delitos o en casos de interés público o seguridad nacional, siempre que sean justificados y anunciados por la autoridad correspondiente.

Los proveedores de sistemas de inteligencia artificial de alto riesgo deberán cumplir con una serie de requisitos establecidos para garantizar la seguridad y la supervisión adecuadas antes de su implementación. Entre las exigencias figuran la posesión de un sistema de gestión de calidad, la elaboración de documentación técnica detallada del sistema, la conservación de archivos de registro generados automáticamente cuando estén bajo control del proveedor, y la sujeción de los sistemas a procedimientos de evaluación y control humano preestablecidos por la autoridad competente. Además, las empresas dedicadas vender estas tecnologías deben registrarse ante la entidad reguladora correspondiente y asegurar que sus sistemas puedan ser monitoreados por esta.

La iniciativa especifica que los proveedores están obligados a informar a los usuarios de que están interactuando con esta tecnología. Este mandato busca promover la transparencia y establecer una base de confianza entre los usuarios y la tecnología avanzada. En caso de incumplimiento de estas normativas, las sanciones incluyen amonestaciones públicas, multas que pueden ascender hasta el 5% de los ingresos anuales del proveedor, y, para los funcionarios públicos implicados, sanciones que van desde la suspensión temporal hasta la destitución del cargo.