Facebook representa desproporcionadamente a sospechosos negros
Las publicaciones de Facebook sobre delitos cometidos por los departamentos de policía superan en número a los sospechosos negros en un 25 % en comparación con las tasas de arrestos locales. nueva investigación El profesor de la Facultad de Derecho de Stanford Julian Nyarko y sus coautores Ben Grunwald de la Facultad de Derecho de Duke y John Rappaport de la Universidad de Chicago.
Los investigadores encontraron que esta representación excesiva de sospechosos negros aumentó con la proporción de votantes republicanos y residentes no negros en el distrito donde se ubicaron los registros.
El estudio, publicado en noviembre en Proceedings of the National Academy of Sciences, analizó 14.000 departamentos de policía en los Estados Unidos y alrededor de 100.000 publicaciones en Facebook. Los investigadores utilizaron varios algoritmos para identificar publicaciones que contenían imágenes raciales y criminales. Luego usaron modelos de lenguaje de inteligencia artificial para identificar publicaciones sobre el crimen y luego usaron algoritmos para determinar qué publicaciones contenían descripciones de la raza del sospechoso.
“Ya conocíamos los estudios que examinaban si la cobertura mediática del crimen, si la representación de los sospechosos negros coincidía con lo que sucedió en el terreno y si los hallazgos de la investigación empírica eran contradictorios”, dijo Nyarko. “Pero ahora tenemos este canal de comunicación donde no hay medios de comunicación, sino que la policía se comunica con el público en general, básicamente podemos mirar a todo el país”.
Su estudio comparó las estadísticas de arrestos e incidentes del FBI con las publicaciones de Facebook de los departamentos de policía de todo el país. Sin embargo, el propósito del estudio no fue analizar las motivaciones detrás de los mensajes policiales, sino comprender la razón subyacente detrás de la inclusión de imágenes raciales en los mensajes relacionados con el crimen.
“Estamos analizando el impacto de las prácticas de denuncia, por lo que no importa cómo elija las publicaciones: ‘usted’ es el departamento de policía, el resultado de lo que está haciendo es la estigmatización”, decimos. él dijo. “Costos demasiado grandes para las minorías, especialmente las minorías negras”.
Nyarko agregó que a medida que más y más personas confían en Facebook y otras plataformas de redes sociales para obtener noticias, la investigación tiene grandes implicaciones. “La gente debe ser consciente de los prejuicios cuando usa las redes sociales”, dijo Nyarko.
Además de aumentar el sesgo racial negativo, este estudio encontró que estos escritos también pueden influir en la formulación de políticas. Cuando las personas están expuestas a historias sobre delitos codificados racialmente, pueden influir en su apoyo a diferentes tipos de políticas de justicia penal, dijo Grunwald, coautor del estudio.
“Una preocupación es que cuando los departamentos de policía, como hemos visto, sobreexponen a las personas por escribir sobre sospechosos negros, pueden activar estereotipos raciales, lo que puede generar menos apoyo para sus políticas progresistas de justicia penal. hacer que el sistema de justicia penal funcione mejor y sea más justo”, dijo Grunwald.
El colega visitante de la Facultad de Derecho de Stanford, Nasiruddin Nezaami, cuya investigación se centra en los datos, la industria de la tecnología y los algoritmos de recomendación, dijo que la investigación también podría afectar la comprensión de la sociedad por parte de las personas, lo que podría afectar su definición de sociedad (Nezaami no estuvo asociado con el estudio).
“Si eres parte de esta nueva generación y no tienes suficiente información social en mente, tu comprensión general de la sociedad se enmarcará en torno a la información que obtienes de las redes sociales”, dijo Nezaami. “Y si su única exposición son las redes sociales como Facebook y no tiene muchas conexiones sociales, eso significa que ahí es donde obtiene cómo define la sociedad”.
Desde la publicación de este estudio, Nyarko ha estado trabajando en un proyecto con las oficinas de los fiscales de distrito en California para implementar un algoritmo que elimine las descripciones raciales de los informes policiales con el objetivo de evitar que la raza, el peinado o la vestimenta influyan en los fiscales al presentar cargos. decisiones
Dos oficinas del fiscal de distrito ya utilizan el algoritmo de Nyarko para filtrar las descripciones de las razas. Pero la legislación reciente ahora requiere que todas las oficinas de los fiscales de distrito en California usen un algoritmo o algún otro método para eliminar las descripciones de raza de los informes criminales para 2025.
“La policía escribe un informe penal a los fiscales, los fiscales leen el informe y luego dicen si se presentan cargos o no. Existe la preocupación de que esté influenciado por los prejuicios”, dijo Nyarko. “La pregunta es, ¿podemos encontrar algún beneficio?” ¿Hay alguna razón para incluir descripciones de las razas?
