El avance del uso libre de la inteligencia artificial se ha dado con pasos tan adelantados, que el debate ha dejado olvidado la discusión sobre la protección a derechos de los usuarios, así como la controversia sobre los derechos de autor y la propiedad intelectual.
En este contexto, este martes 1 de abril llegó a la Comisión de Presupuesto y Cuenta Pública finalmente el predictamen recaído en el proyecto de ley 07033/2023-CR-Ley que regula el desarrollo y uso de la inteligencia artificial en el Perú, siendo el primer punto de la agenda que se verá en esta sesión. Sin embargo, esta comisión se ha inhibido de este predictamente; es decir, que no se verá en esta, sino ahora solo en la Comisión de Ciencia, Innovación y Tecnología.
Así, el artículo 12 propuesta en esta nueva normatividad explica doce casos en que se prohiben el uso de esta tecnología, los que tienen como fin proteger derechos fundamentales y humanos, su uso para discriminar injustamente, daños para la seguridad, para manipular, en protección de la defensa nacional y más.
Los doce casos de uso prohibidos
Los principios de la propuesta legislativa, presentada por el congresista Carlos Javier Zeballos Madariaga del partido Podemos Perú, señalan que “todo desarrollo y uso de inteligencia artificial debe estar basado en el respeto irrestricto a los derechos fundamentales de la persona humana, principios éticos fundamentales, incluyendo el respeto a la dignidad humana, la privacidad, la transparencia, la responsabilidad y la equidad”
Asimismo, sostiene que “la inteligencia artificial no debe mentir a un ser humano o, a sabiendas, dejar que un ser humano sea engañado”. Curiosamente, la forma en que funciona ChatGPT no puede definirse como mentira o verdad, dado que su sistema funciona en “adivinar” la respuesta más cercana a la correcta.
De todos modos, la propuesta legislativa señala doce casos en que se prohíbe el uso de la inteligencia artificial para los usuarios en Perú
- Se prohibe su uso para violar derechos humanos y fundamentales, como la privavidad, la libertad de expresión, la igualdad, la dignidad humana y otros
- Se prohibe su uso cuando el sistema de inteligencia artificial es discriminatorio y produce resultado perjudiciales para ciertos grupos de personas (discriminación racial, de género, etc.)
- Se prohibe cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente
- Cuando es utilizado para manipular o influir de manera indebida en la toma de decisiones importantes, como en procesos electorales en la formación de opiniones públicas, atentando contra la integridad y la legitimidad de dichos procesos
- Se prohibe su uso cuando opera de manera opaca y no se puede auditar o comprender cómo toma sus decisiones y puede ser difícil evaluar su impacto y responsabilizar a los actores involucrados. En tales casos, una prohibición del sistema podría ser necesaria hasta que se establezcan mecanismos adecuados de transparencia y rendición de cuentas
- Se prohibe su uso con fines ilegales, discriminatorios, maliciosos, o que atenten contra los derechos fundamentales y humanos
- Se prohibe su uso con fines de ataque a la soberanía nacional o con fines ilícitos contra entidades públicas
- La utilización de sistema de IA en situaciones de emergencia deberá ser justificada y limitada en el tiempo por las autoridades competentes
- Se prohibe todos los sistemas de categorización biomética por creencias políticas, religiosas, filosóficas o por raza y orientación sexual
- Se prohibe utilizar sistemas que puntúan sobre las personas en función de sus comportamientos o características personales. Se prohibe el uso de la inteligencia artificial capaz de manipular el comportamiento humano
- Se prohiben los sistemas que tengan como finalidad la creación o expanción de bases de datos faciales
- En centros de trabajo y escuelas se prohiben los sistemas de IA que puedan reconocer las emociones
¿Qué implican las prohibiciones?
Los usuarios hacen diversos usos de al inteligencia artificial diariamente. En mayor y menor medida, varios de estos estarían prohibidos por esta regulación. Por ejemplo, se plantearía la necesidad de limitar aquellos que las personas usen como un “psicólogo personal”, dado que estos pueden reconocer las emociones y son capaz de influenciar (a pedido del usuario) el comportamiento humano.
Asimismo, se señala que se prohibe “cuando tenga el potencial de causar daños graves a las personas, sociedad o el medio ambiente”. Según National Geographic España, el generar un texto de 100 palabras en ChatGPT consume 519 mililitros de agua, un impacto notorio a la gran escala de su uso diariamente.
Más Noticias
¿Por qué murió Manolo Rojas? Cardiólogo que lo atendió revela el infarto silencioso que lo sorprendió
El médico Marco Almerí que trató al comendiante reveló detalles clave sobre el infarto que terminó con su vida
Qué se celebra el 30 de marzo en el Perú: memorias de lucha, tragedia y formación nacional
Una revisión de los hitos ocurridos en esta fecha revela el entrelazamiento de la valentía individual, los desastres naturales y el proceso de construcción territorial como pilares de la identidad del Perú contemporáneo
Debate presidencial 2026 EN VIVO: minuto a minuto de los encuentros entre candidatos presidenciales a las Elecciones 2026 hoy lunes 30 de marzo
El Centro de Convenciones de Lima será escenario, desde este lunes 30 de marzo, de la segunda ronda de debates presidenciales, donde los candidatos expondrán sus propuestas ante millones de electores en materias de empleo y educación
La Tinka del domingo 29 de marzo: descubre los ganadores del último sorteo
La Tinka realiza dos sorteos a la semana, todos los domingos y miércoles, después de las 20:30 horas. Descubra si fue el afortunado ganador del premio mayor
Resultados ganadores del Gana Diario este 29 de marzo
Gana Diario lleva a cabo un sorteo al día a las 20:30 horas. Averigüe si se rompió el pozo millonario
