La controversia detrás del uso de inteligencia artificial en informes policiales en Estados Unidos

En algunos departamentos de policía de Estados Unidos, la inteligencia artificial (IA) ha comenzado a desempeñar un papel crucial en la redacción de informes policiales. Esta tecnología, que ya ha transformado numerosas industrias, ahora promete cambiar la manera en que se documentan las investigaciones en el ámbito de la seguridad pública. A través de nuevas herramientas, los oficiales pueden automatizar procesos que antes requerían una gran cantidad de tiempo y esfuerzo, lo que podría transformar la labor policial de manera significativa.

Según Popular Science, hace poco tiempo, Axon, empresa conocida por sus tasers y cámaras corporales, lanzó Draft One, una innovadora herramienta de IA destinada a las fuerzas del orden. Desarrollada con la plataforma Azure OpenAI de Microsoft, Draft One utiliza tecnología similar a ChatGPT para transcribir automáticamente el audio capturado por las cámaras corporales de los oficiales y crear borradores de informes narrativos.

Según Axon, esta herramienta es capaz de reducir de manera drástica el tiempo necesario para la elaboración de informes, lo que permite a los oficiales concentrarse en tareas más importantes. Draft One también busca mejorar la precisión de los informes, minimizando la posibilidad de errores humanos o la omisión de detalles clave, lo cual es crucial en un contexto donde la exactitud puede tener consecuencias significativas.

Los departamentos de policía han sido tradicionalmente líderes en la adopción de nuevas tecnologías, incorporando drones, reconocimiento facial y software predictivo en sus operaciones diarias. Ahora, la IA se ha convertido en la última herramienta en un conjunto que busca mejorar la eficiencia y la precisión en las labores de seguridad. La incorporación de Draft One en el proceso de redacción de informes es solo un ejemplo de cómo la tecnología está transformando el trabajo policial, que permite a los oficiales dedicar más tiempo a la interacción con la comunidad y menos a tareas administrativas.

A pesar del entusiasmo generado por Draft One, han surgido preocupaciones entre académicos, fiscales y activistas. La posibilidad de que la IA pueda cometer errores o incorporar sesgos en los informes ha sido uno de los principales puntos de debate. Estos informes son documentos fundamentales en el sistema de justicia penal, que influye en decisiones críticas sobre arrestos, procesamientos y condenas. La capacidad de la IA para manejar de manera fiable la complejidad y las implicaciones de la redacción de informes es vista con escepticismo por algunos expertos, quienes advierten sobre el riesgo de automatizar un proceso tan delicado.

El uso de Draft One varía considerablemente entre los departamentos de policía que han adoptado la herramienta. En Oklahoma City, por ejemplo, el departamento ha limitado su uso a la redacción de informes de incidentes menores que no resultan en arrestos, siguiendo la recomendación de los fiscales locales que sugirieron un enfoque cauteloso. En cambio, en Lafayette, Indiana, los oficiales tienen la libertad de utilizar Draft One para cualquier tipo de caso, sin importar su gravedad, y su uso ha sido ampliamente aceptado por los agentes. Este contraste refleja las diferentes estrategias y niveles de confianza que los departamentos de policía tienen en la tecnología de IA para manejar tareas críticas.

A medida que el uso de Draft One y otras herramientas de IA se populariza en la policía, sería deseable un debate público sobre sus beneficios y riesgos. La posibilidad de que la IA cometa errores —conocidos como “alucinaciones”, donde se generan datos falsos pero plausibles— representa un peligro potencial para la precisión de los informes policiales, que son documentos de base en la larga cadena de los procesos judiciales.

Andrew Ferguson, profesor de derecho en la American University, ha expresado a AP su preocupación de que la facilidad y rapidez de la tecnología pueda llevar a los oficiales a ser menos cuidadosos en la redacción de informes, comprometiendo la justicia y la fiabilidad del sistema legal. Este tipo de preocupaciones subraya la importancia de establecer salvaguardias y regulaciones adecuadas.