Perfil racial y cuestiones de inteligencia artificial
La elaboración de perfiles en la justicia penal moderna es una tecnología extremadamente común que ayuda a los profesionales a tomar mejores decisiones. En particular, la inteligencia artificial ayuda a la policía a prevenir el crimen y reducir el número total de casos criminales (CBS News [00:30]). Sin embargo, las actividades de justicia penal basadas en datos pueden dar lugar a un empeoramiento de la discriminación racial y los perfiles raciales, lo que identifica el racismo estructural. El perfil racial es la sospecha o el objetivo de una persona en la comisión de una actividad delictiva basada en características raciales, étnicas, religiosas o individuales. Este fenómeno es consecuencia del racismo estructural, así como de la discriminación activa contra las minorías raciales. Sin embargo, «las diferencias de raza/crimen a nivel de población por sí solas no nos dicen mucho sobre cómo se correlacionan la raza y el crimen» (Atenasio 14). Por lo tanto, el perfil racial está asociado con una serie de preocupaciones éticas, que se basan principalmente en los principios de recopilación y procesamiento de datos.
La elaboración de perfiles es ahora una parte necesaria del conjunto de herramientas de la policía que no se puede abandonar. Atenas informa que hay partidarios del perfil racial cuyos argumentos se basan en los principios de la racionalidad epistémica . En particular, los filósofos argumentan que «si los miembros de ciertas razas o etnias cometen crímenes a un ritmo mayor, entonces es racional que los funcionarios encargados de hacer cumplir la ley los sometan a un mayor escrutinio» (Atenasio 2). Por lo tanto, el perfil racial, en su opinión, está moralmente justificado, ya que proporciona un beneficio a una gran parte de la sociedad. Al mismo tiempo, los perfiles raciales pueden tener una serie de consecuencias imprevistas que conducen a un aumento de las actitudes racistas a largo plazo. En particular, esta práctica puede llevar a una mayor humillación de ciertos grupos, el riesgo de abuso policial, el desarrollo de racismo estructural y estructuras sociales injustas (Atenasio 2). Además, la elaboración de perfiles raciales puede violar el derecho a la inocencia de una persona al declararla culpable sobre la base de datos generales.
La actividad delictiva se distribuye de manera desigual entre ciertas minorías raciales, lo que depende más de las condiciones. Las preocupaciones éticas asociadas con el perfil racial se basan en los principios de recopilación y procesamiento de datos, y no en el uso del sistema como tal. En particular, para el sistema de justicia penal, es necesario considerar quién está involucrado en la recopilación y análisis de datos, así como con quién se comparten. Sin embargo, lo que más importa es la medida en que la utilización de los datos podría resultar en violaciones de la privacidad o en una especie de bucle de retroalimentación. Estos aspectos, si no se abordan, pueden conducir a una humillación adicional de los vecindarios, lo que refuerza el perfil racial y la discriminación en la sociedad. Por lo tanto, para abordar las preocupaciones éticas, es necesario revisar los procedimientos para recopilar y analizar datos para el perfil racial.