Jimmy Fallon Blew a Chance to Date Nicole Kidman
Al igual que un chef profesional o un cirujano del corazón, un algoritmo de aprendizaje automático es tan bueno como la capacitación que recibe. Y a medida que los algoritmos toman cada vez más las riendas y toman decisiones para los humanos, descubrimos que muchos de ellos no recibieron la mejor educación, ya que imitan sesgos humanos basados en la raza y el género e incluso crean nuevos problemas.
Por estas razones, es particularmente preocupante que varios estados, incluidos California, Nueva York y Wisconsin, utilicen algoritmos para predecir qué personas volverán a cometer delitos después de haber sido encarcelados. Peor aún, ni siquiera parece funcionar.
En un artículo publicado el miércoles en la revista. Avances científicos, un par de científicos informáticos del Dartmouth College descubrieron que un programa informático ampliamente utilizado para predecir la reincidencia no es más preciso que los civiles sin formación. Este programa, llamado Gestión de perfiles de internos para sanciones alternativas, analiza 137 factores diferentes para determinar la probabilidad de que una persona cometa otro delito después de su liberación. COMPAS considera factores como el uso de sustancias, el aislamiento social y otros elementos que los criminólogos teorizan que pueden llevar a la reincidencia, clasificando a las personas como de riesgo alto, medio o bajo.
Y claro, la evaluación del riesgo suena muy bien. ¿Por qué no tener más datos para ayudar a los tribunales a determinar quién es un mayor riesgo? Pero lo que descubrieron Julia Dressel y Hany Farid, científicos de la informática de Dartmouth, fue que los individuos sin capacitación juzgaron correctamente el riesgo de reincidencia con casi la misma precisión que COMPAS, lo que sugiere que el supuesto poder del algoritmo no está realmente allí.
En un ensayo que incluyó solo una fracción de la información utilizada por COMPAS (siete factores en lugar de 137 y excluyendo la raza), un grupo de voluntarios humanos en Internet, presumiblemente sin capacitación en evaluación de riesgos criminales, evaluó los informes de casos. Estimaron correctamente la reincidencia de una persona con el 67 por ciento de precisión, en comparación con el 65 por ciento de COMPAS.
Tómese un momento para dejar que se hunda. Las personas no capacitadas en la web fueron un poco mejores para predecir si una persona volvería a la cárcel que la herramienta que está diseñada literalmente para predecir si una persona regresaría a la cárcel. Y se pone peor. Una vez que agrega la raza de un acusado, las tasas de falso positivo y falso negativo del voluntario se encuentran dentro de unos pocos puntos porcentuales de los de COMPAS. Así que no solo COMPAS no es tan bueno para predecir la reincidencia, sino que es tan propenso a los prejuicios raciales como lo son los humanos. Tanto para la lógica fría de las computadoras.
Luego, los investigadores hicieron un modelo lineal que emparejó la tasa de predicción de COMPAS con solo dos factores: la edad y el número de condenas anteriores. Para ser claros, esta predicción también sería injusta, pero demuestra cuán defectuoso es el COMPAS.
Y si bien esta investigación es nueva, las grandes conclusiones que defiende no lo son. En una investigación de 2016, ProPublica los reporteros encontraron que COMPAS no solo no es confiable, sino que en realidad está sistemáticamente sesgado contra los afroamericanos, y califica sistemáticamente a los negros como de mayor riesgo que los blancos que cometieron delitos más graves. Con suerte, esta nueva investigación ayudará a allanar el camino para procesos de evaluación de riesgos en el sistema de justicia penal.
El hecho de que COMPAS sea inútil en el mejor de los casos y profundamente sesgado en el peor sugiere que las evaluaciones de riesgo basadas en computadora podrían profundizar las injusticias que el sistema de justicia debe abordar.Dado que los puntajes de evaluación de riesgo se pueden aplicar en cualquier paso del proceso de justicia penal, incluso al establecer la fianza de una persona, determinar si se les otorga la libertad condicional, y en algunos estados, incluso para determinar la sentencia de una persona, esta investigación sugiere una necesidad extrema reexaminar el uso de COMPAS y otros programas.
El pirata informático enfrenta 25 años por enviar a ISIS la información de los miembros del servicio de US $ 1,300.
Ardit Ferizi, un nativo de Kosovo de 20 años, se declaró culpable el miércoles de acceder a un sistema informático sin autorización, y de ayudar a una organización terrorista extranjera, a saber, ISIS. Ahora enfrenta hasta 25 años en prisión federal. Hace poco más de un año, Ferizi obtuvo acceso de administrador a la red ...
Así es como un pirata informático robó cientos de fotos de desnudos de celebridades
El martes, las autoridades anunciaron que Ryan Collins, de 36 años, de Pennsylvania, se declararía culpable de los cargos derivados de la infame filtración de docenas de fotos privadas de celebridades en el 2014. "Celebgate" o "The Fappening", como se hizo conocido en línea, fue una fuga masiva de fotos privadas e íntimas de un largo l ...
Los legisladores de Michigan quieren darles vida a los piratas informáticos autónomos: "Nos referimos a los negocios"
El año pasado, un video de dos hackers que tomaron el control remoto de un Jeep se volvió viral. Poco después, investigadores de la Universidad de California en San Diego hackearon un Corvette con un teléfono. No se puso a nadie en peligro, los ataques se realizaron en entornos controlados, pero asustó tanto a los fabricantes de automóviles como a las legislaturas.