ohLa oficial Wendy Venegas habló suavemente en español con el joven de 14 años que estaba parado al costado de una estrecha calle residencial en East Palo Alto. El rostro de la niña estaba hinchado por el llanto mientras explicaba en voz baja lo que había sucedido.
La niña dijo que su padre la había sorprendido a ella y a su novio “haciendo cosas” esa mañana, y que su padre había golpeado o empujado al niño, explicó Venegas más tarde. Ahora, la policía había llegado para interrogarlos a los tres. Hasta ahora, todo esto era un procedimiento estándar.
Pero cuando llegó el momento de convertir este incidente en un informe, Venegas contaría con la ayuda de un nuevo asistente: una herramienta de inteligencia artificial de última generación llamada Draft One.
East Palo Alto, una pequeña ciudad de clase trabajadora que puede sentirse a un mundo de distancia de sus vecinos de Silicon Valley, se encuentra entre un puñado de departamentos de California, incluidos Campbell, San Mateo, Bishop y Fresno, que han comenzado a usar o probar la IA. Software desarrollado por Axon, líder de la industria en cámaras corporales y pistolas Taser. Axon dijo que el programa puede ayudar a los oficiales a producir informes más objetivos en menos tiempo. Pero a medida que más agencias adoptan este tipo de herramientas, algunos expertos se preguntan si le dan a la inteligencia artificial un papel demasiado importante en el sistema de justicia penal.
“Olvidamos que ese documento juega un papel realmente central en las decisiones que cambian la vida de las personas”, dijo Andrew Ferguson, profesor de derecho penal en la Facultad de Derecho de la Universidad Americana de Washington, quien escribió la primera revisión de la ley. artículo sobre informes policiales asistidos por IA, que espera publicar el próximo año.
Desde documentar los detalles de homicidios complejos hasta registrar los aspectos básicos de una bicicleta robada, los informes policiales han estado en el centro del trabajo policial.
“En realidad, son una especie de piedra angular del sistema de justicia penal porque son la especie de conmemoración oficial de lo que sucedió, cuándo y, a veces, por qué”, dijo Ferguson.
Los fiscales toman decisiones sobre los cargos, los jueces toman decisiones sobre la libertad bajo fianza y las personas toman decisiones sobre su propia defensa basándose –al menos en parte– en lo que está escrito en este documento inicial.
“Si parte de eso está siendo moldeado por la IA, genera algunas preocupaciones reales sobre si podemos confiar en ella”, dijo Ferguson. Aún se está estudiando el potencial de error o sesgo introducido por la IA. Pero, añadió, los líderes encargados de hacer cumplir la ley tienen un deseo comprensible de mejorar la eficiencia.
Axon está comercializando su herramienta Draft One como un multiplicador de fuerza, que resulta atractivo para muchos departamentos de policía que luchan por reclutar y retener agentes, un crisis que muchos agentes del orden dicen que se vio exacerbado por el asesinato de George Floyd y las protestas posteriores.
“El péndulo está oscilando, pero muchos de ellos todavía están entre un 15% y un 20% por debajo de sus cifras de fuerza objetivo”, dijo el fundador de Axon, Rick Smith, en una conferencia telefónica sobre resultados con accionistas en agosto. “Y ahí es donde escuchamos este tipo de retroalimentación mágica, donde dicen, 'Hombre, con el Draft One, si libera un 20, 25% del día de mis oficiales para escribir informes, eso es casi como un 20%”. % de aumento en mi poder de fuerza de la noche a la mañana'”.
El jefe de East Palo Alto, Jeff Liu, dijo que su agencia no es inmune a estas preocupaciones sobre el personal. El departamento tiene presupuestado 36 oficiales juramentados, incluido el jefe, pero actualmente le faltan ocho puestos. No ve el Draft One como una solución llave en mano, pero espera que pueda ayudar a los agentes a pasar más tiempo en las calles.
“Si esta IA va a acelerar los informes, pero sin comprometer la precisión, creo que es una victoria”, afirmó. Este de Palo Alto contrato muestra que Draft One le cuesta a la ciudad alrededor de $70 por cámara corporal por mes o alrededor de $40,000 por año.
Liu dijo que aunque no escribe muchos informes estos días, sí usa ChatGPT para redactar publicaciones en redes sociales e incluso cartas de condolencia, que luego personaliza con su propia voz. Trabajar con el popular chatbot de IA lo hizo más abierto al Draft One, dijo. Draft One utiliza la misma IA subyacente que ChatGPTpero los datos departamentales se almacenan en un servicio gubernamental seguro en la nube desarrollado por Microsoft.
Axon no es la única empresa que ofrece este servicio. Truleo – una empresa que utiliza IA para analizar grandes extensiones de imágenes de cámaras corporales para asegurarse de que los agentes actúen profesionalmente – ofrece un programa de redacción de informes similar, pero no se ha comercializado ni adoptado tan ampliamente como el Draft One de Axon.
En el cercano condado de Santa Clara, el capitán de la policía de Campbell, Ian White, dijo que en el primer mes de prueba del Draft One en su departamento, los agentes dijeron que les ahorró unas 50 horas en total. El departamento de policía de Fort Collins, Colorado, descubrió que, en promedio, los informes escritos con Draft One se produjeron en ocho minutos, mientras que los que no utilizaban el software tardaban 23 minutos.
Pero el primer independiente estudiar del software Draft One, publicado esta semana en el Journal of Experimental Criminology, no corroboró el ahorro de tiempo que White y otros informaron. Investigadores de la Universidad de Carolina del Sur realizaron un ensayo controlado aleatorio con un departamento de policía de New Hampshire durante el año pasado, que encontró que los agentes que utilizaron Draft One no escribieron informes más rápido que los del grupo de control.
El profesor asistente Ian Adams, que dirigió el estudio, dijo que aún no puede sacar conclusiones sobre por qué no se ahorró tiempo (él y sus colegas todavía están investigando eso), pero dijo que los resultados lo sorprendieron. También advirtió que no se debe dar demasiada importancia a sus hallazgos. “Se trata de una agencia, de un resultado en un momento dado”, dijo Adams.
Su equipo todavía está investigando si podría haber otros beneficios como precisión o integridad. Si una tecnología como Draft One puede producir informes mejor redactados, dijo, “tal vez sean devueltos para edición o revisión con menos frecuencia, y entonces tal vez se puedan ver ahorros sistémicos”.
La oficial Venegas en East Palo Alto dijo que el programa la ayuda a superar el bloqueo del escritor, especialmente después de un largo día de patrulla. Simplemente puede presionar el botón Draft One en su computadora y en segundos aparece una narración basada en la transcripción de audio de las imágenes de su cámara corporal.
“Cuando no sabes qué palabras estás tratando de escribir y luego simplemente miras y dices: '¡Oh, eso es exactamente lo que estaba pensando!' Eso es lo mejor”, dijo. Draft One también está cambiando la forma en que trabaja en el campo. Debido a que el informe se basa en la transcripción del audio, Venegas dijo que hablará intencionalmente sobre lo que sucede durante un incidente.
“Le diré: '¿Viste eso? El espejo está roto'”, dijo Venegas. “'¿Viste eso? Hay cosas en el suelo. El cuchillo, el cuchillo ensangrentado, está en el suelo'”.
El diseñador de productos de Axon, Noah Spitzer-Williams, dijo que este era uno de los efectos secundarios más sorprendentes y fascinantes del software: incentiva a los agentes a ser más verbales en general, incluso hablando por el micrófono de su cámara para proporcionar contexto, como el estado de libertad condicional de un sujeto. o si se informó sobre un arma antes de llegar a la escena, por lo que la transcripción de audio contiene detalles clave que el Draft One incluye en el informe.
“Luego, durante la interacción, el oficial hace más preguntas”, dijo Spitzer-Williams. “Se hacen eco de declaraciones como: 'Está bien, Jimmy. Me estás dando consentimiento para registrar tu mochila'”.
Spitzer-Williams dijo que esto también ayuda a las relaciones comunitarias porque los oficiales explican lo que están haciendo y por qué.
Pero investigación de la Unión Americana de Libertades Civiles muestra cómo la narración en tiempo real de los agentes también se ha utilizado para manipular pruebas. Un ejemplo común es cuando los agentes gritan “dejen de resistir” para justificar el uso de la fuerza incluso cuando el individuo está cumpliendo. Spitzer-Williams de Axon dijo que no cree que el Draft One empeore esta “preocupación real”.
Spitzer-Williams también señaló un Axon estudiar que encontró que los informes escritos por el software tendían a utilizar un lenguaje menos sesgado que los informes escritos por los oficiales.
De vuelta en una sala de conferencias del departamento de policía de East Palo Alto, Venegas leyó su informe generado por IA. “El 23 de septiembre de 2024, aproximadamente a las 10.49, yo, el oficial Venegas, respondí a una llamada de servicio que involucraba a un menor y un disturbio doméstico'”.
El programa produjo un buen borrador, dijo, pero tiene algunas limitaciones. En este punto, Draft One solo entiende inglés, por lo que se equivocó en algunas cosas, como quién hablaba y quién estaba relacionado con quién.
“A veces se cometen pequeños errores como ese”, dijo Venegas, “que son fáciles de corregir”.
Algunos en el sector de la justicia penal dijeron que estos errores aparentemente pequeños apuntan a cuestiones más importantes de autoría, que pueden volverse críticas en el proceso de adjudicación. El Dr. Matthew Guariglia, analista de políticas de la Electronic Frontier Foundation, dijo que le preocupa que estos informes “destruyan la capacidad de interrogar a los oficiales. Porque si un oficial es sorprendido mintiendo en el estrado, siempre puede simplemente decir: 'Bueno, la IA escribió eso'”.
White, del departamento de policía de Campbell, que ha estado utilizando el software desde mayo, dijo que la política de su departamento garantiza que los agentes asuman la responsabilidad de redactar los informes elaborados por Draft One. Incluso si un oficial “metió la pata” y se introdujo un error en el informe, dijo, debería poder resolverse fácilmente revisando lo que llamó el “estándar de oro” de la evidencia: el video de la cámara corporal.
“Hay errores en cualquier actividad humana”, dijo White. Cree que la IA hará que las cosas sean más precisas, no menos.
Rebecca Baum, fiscal adjunta del condado de San Mateo, que ha estado hablando con los departamentos de policía de East Palo Alto y San Mateo sobre su cambio hacia los informes asistidos por IA, dijo que su oficina es cautelosamente optimista sobre el nuevo programa. Su principal preocupación es que las cámaras corporales, y especialmente el audio de las cámaras corporales, no capturen todo lo que sucede durante un incidente.
“La conducta de los testigos, si alguien está bajo la influencia de drogas o alcohol, si hay lesiones”, dijo Baum, “esto no se desprende de una grabación de audio de la cámara corporal”.
Los agentes deben seguir participando en el proceso de redacción de estos informes, dijo Baum, para no omitir nada, en particular información que demuestre que una persona podría ser inocente, y que los fiscales tienen el deber de entregar.
Por su parte, Axon también ha incorporado una serie de salvaguardas en la aplicación para garantizar que un oficial revise el informe en detalle para corregirlo y asegurarse de que sea preciso.
En la pantalla de la computadora, la oficial Venegas demostró cómo cada párrafo del informe incluye comentarios que deben resolverse antes de poder sacar el informe del Borrador Uno y colocarlo en el sistema departamental.
Y en la parte inferior de la pantalla, Venegas señaló un cuadro en el que debe hacer clic, un paso final que Spitzer-Williams, de Axon, dijo que es “posiblemente el más importante” dadas las posibles ramificaciones de cada informe.
“Reconozco que este informe fue generado utilizando Draft One de Axon”, leyó Venegas en voz alta. “Y reconozco además que he visto el informe en detalle, he realizado las modificaciones necesarias y creo que es una representación precisa de mi recuerdo de los eventos informados. Si es necesario, estoy dispuesto a testificar sobre la exactitud de este informe”.
Esta historia es una colaboración entre KQEDGuardian US y el Sala de prensa de California
