AI. Algoritmo reconoce la propaganda terrorista con 99% de precisión

$config[ads_kvadrat] not found

Tecnología para combatir la propaganda terrorista en la red

Tecnología para combatir la propaganda terrorista en la red
Anonim

La compañía británica ASI Data Science presentó el miércoles un algoritmo de aprendizaje automático que puede identificar videos de propaganda terrorista con una precisión del 99 por ciento.

Este desarrollo marca una de las primeras instancias de una empresa que utiliza con éxito A.I. Para marcar la propaganda extremista. El grupo Estado Islámico es conocido por sus esfuerzos de reclutamiento de redes sociales, y este algoritmo podría ayudar a reducirlos.

Si bien los investigadores de ASI no hablarían sobre ninguna especificación técnica del algoritmo, parece funcionar como otros tipos de A.I. software de reconocimiento. El algoritmo puede examinar cualquier video y determinar la probabilidad de que el video sea una propaganda extremista. Según la BBC, el algoritmo fue entrenado en miles de horas de videos de reclutamiento de terroristas, y utiliza las características de estos videos para asignar puntajes de probabilidad.

Si un video está marcado como una probabilidad muy alta, se lo etiqueta para que lo revise un moderador de contenido humano. Debido a que los videos no se eliminan automáticamente, cualquier falso positivo debe detectarse antes de que el video se elimine por error. ASI dijo que el algoritmo podría detectar hasta el 94 por ciento de las subidas del Estado Islámico.

El algoritmo, que ha sido financiado parcialmente por el gobierno británico, se creó principalmente para el beneficio de plataformas de video más pequeñas que no tienen los recursos para mantener un gran personal de moderación de contenido. Debido a que estos sitios no pueden examinar a fondo cada video subido, es más fácil para los grupos terroristas plantar propaganda en ellos. Como el investigador Marc Warner de ASI dijo a la BBC: "Hay más de 1,000 videos diferentes en más de 400 plataformas diferentes".

No está claro cuándo se implementará el nuevo algoritmo en estos sitios. Cuando finalmente esté disponible, grupos como el Estado Islámico probablemente tratarán de cambiar la forma en que diseñan sus videos para evitar la detección.

Esperemos que los informáticos puedan estar un paso por delante.

$config[ads_kvadrat] not found