El Departamento de Policía de Milwaukee declaró a NNS que está mirando hacia el futuro con su política sobre inteligencia artificial generativa (IA). Actualmente, el departamento no utiliza esta tecnología, pero eso podría cambiar.
Una posible aplicación de la IA generativa en las fuerzas del orden es ayudar a los agentes a redactar informes policiales.
Por ejemplo, Axon, la empresa que suministra las cámaras corporales al Departamento de Policía Metropolitana (MPD).Ofrece un producto llamado Draft One, que utiliza el audio de las cámaras corporales para generar borradores de informes policiales.
Algunos defensores de los derechos civiles y abogados defensores afirman que el uso de este tipo de tecnología emergente podría crear problemas para los habitantes de Milwaukee acusados de delitos.
“Existe el riesgo de errores, alucinaciones y sesgos que vemos en muchos modelos de lenguaje complejos, ya sea por un error de transcripción o por un sesgo inherente a los conjuntos de datos de entrenamiento”, dijo Amanda Merkwae, directora de políticas y defensa de la Unión Estadounidense por las Libertades Civiles de Wisconsin.
MPD e IA generativa
MPD publicó su política que rige la IA generativa en enero.
Entre otros requisitos, se encuentra que el material generado por IA debe considerarse un borrador y revisarse para comprobar su exactitud.
Los miembros del departamento también deben indicar en el producto final que se utilizó inteligencia artificial.
Historias relacionadas
Un portavoz del Departamento de Policía Metropolitana (MPD, por sus siglas en inglés) declaró que su Comité de Inteligencia Artificial Generativa se ha reunido para considerar diversos productos de IA, pero que aún está evaluando la utilidad, el costo, la responsabilidad y el efecto que dichos productos puedan tener en el trabajo del departamento.
“Cualquier incorporación de un producto de IA se encuentra aún en fase de consideración, así que, ¿lo hemos pensado? Sí. ¿Estamos cerca de implementar esa tecnología? No”, dijo el portavoz.
¿Qué ocurre en la fiscalía?
Los fiscales de la Oficina del Fiscal de Distrito del Condado de Milwaukee han analizado las posibles implicaciones del uso de la tecnología de IA en los casos penales.
Jeffrey Altenburg, fiscal adjunto principal del condado de Milwaukee, reconoció los riesgos asociados con la IA generativa, pero dijo que podría ser útil con la supervisión humana adecuada.
“Puede ser una herramienta útil siempre y cuando esté supervisada y regulada por personas reales que realicen observaciones reales y se aseguren de que lo que se genera sea coherente con lo que se pretendía”, dijo.
El fiscal adjunto Matthew Torbenson dijo que los fiscales no esperan que los informes generados por IA capturen todo lo que observa un agente.
Puso como ejemplo una investigación por negligencia infantil, durante la cual las observaciones —incluyendo el aspecto y el olor de la casa, si hay una plaga de insectos, si hay comida disponible— tendrían que provenir de los agentes de policía.
“Todo eso tiene que partir de las impresiones de los agentes que se encuentran en el lugar de los hechos”, dijo Torbenson.
Los "qué pasaría si"
Merkwae afirmó que existen preocupaciones sobre el uso de la IA generativa que no deben ignorarse.
¿Qué ocurre, por ejemplo, si el testimonio de un agente entra en conflicto posteriormente con un informe policial elaborado con ayuda de inteligencia artificial?
Según explicó, el error podría deberse a la inteligencia artificial, pero también podría generar dudas sobre la credibilidad del agente.
“Si se tratara de un informe redactado por un ser humano y existiera ese tipo de contradicción que puede llegar al nivel de una declaración potencialmente deshonesta, eso podría llevar a que un fiscal incluyera a un agente de policía en la lista Brady”, dijo Merkwae.
El Lista de Brady Se refiere a los registros de los fiscales que identifican a los agentes del orden cuya credibilidad podría tener que revelarse a los acusados.
Connor Romenesko, coordinador de prácticas de ciencias forenses de la Oficina de Defensores Públicos del Estado de Wisconsin, afirmó que los informes generados por IA podrían crear problemas graves sin ninguna malicia o mala intención por parte de la policía o los fiscales.
Según explicó, podría darse una situación en la que un agente, presionado por las prisas al final de su turno, no revise adecuadamente un informe generado por inteligencia artificial, y un fiscal utilice esa información para acusar a alguien.
Vuelva a publicar nuestros artículos de forma gratuita, en línea o impresos, bajo una licencia Creative Commons.
