este “fiscal AI” es capaz de presentar una denuncia y proponer sentencias

Un tribunal chino probó recientemente una nueva inteligencia artificial. Puede aportar pruebas, denunciar y proponer penas para sancionar a un presunto delincuente. Si el rendimiento parece estar ahí, la tasa de error, aunque muy baja, aún genera dudas.

97% de precisión

En 2017, las autoridades chinas afirmaron querer convertirse en el líder de la industria en inteligencia artificial para el 2030. En esta ocasión, se presentó un sistema de vigilancia basado en IA capaz de anticipar delitos y faltas. Este mismo sistema analiza muchas imágenes de cámaras ubicadas en unas cincuenta ciudades chinas. Sin embargo, estos datos se cotejan con los de la policía. Si bien esta innovación recuerda a la famosa película Minority Report (2002) por su lado preventivo, recientemente también se ha hablado de otro sistema en China. Como explica el diario de Hong Kong South China Morning Post el 26 de diciembre de 2021, los científicos han desarrollado un IA capaz de identificar delitos cometidospresentar una denuncia de oficio y proponer sanciones.

Este “fiscal” de inteligencia artificial fue probado por la fiscalía del distrito de Pudong en Shanghai, donde se encuentra la oficina del fiscal de distrito más grande del país. Según los investigadores, el sistema tiene en cuenta la descripción de un caso penal y aporta elementos de acusación con 97% de precisión.

corte de justicia
Créditos: nathaphat / iStock

Una tasa de error que cuestiona

La IA del “fiscal” se basa en un modelo existente: el Sistema 206. Los fiscales chinos ya lo estaban utilizando como apoyo en algunos casos, especialmente para valorar las pruebas. También facilitó determinar si un criminal era peligroso para la sociedad o no. Sin embargo, el alcance de este Sistema 206 tenía sus límites, pues no afectaba el proceso de toma de decisiones sobre cargos y sentencias.

Ahora, la IA ha avanzado y es capaz de hacer una clasificación realmente relevante en la valoración de pruebas, la identificación de delitos y la iniciación de procedimientos judiciales. Los casos manejados por inteligencia artificial se refieren principalmente a robos, fraudes, agresiones, juegos de azar, estafas con tarjetas de crédito, desacato a los oficiales, pero también a la disidencia política.

Finalmente, a pesar del desempeño de la IA, el tasa de error del 3% pregunta de todos modos. La cuestión de la responsabilidad por estos posibles errores sigue vigente. Por el momento, no existe una respuesta sobre este tema, pero las autoridades dicen que son en gran parte favorable a un mayor desarrollo de este tipo de sistema en los tribunales del país.


.