|
Imagen: ArcGIS
Después de una oleada de casos de brutalidad policial este año y las protestas que pululan por las calles de Estados Unidos, miles de matemáticos se han unido a científicos e ingenieros para pedir boicotear la inteligencia artificial para que no sea utilizada por las fuerzas del orden...
Más de 2,000 matemáticos firmaron una carta llamando a boicotear toda colaboración con la policía y pidiendo a sus colegas que hagan lo mismo en una futura publicación de la American Mathematical Society, informó Shadowproof.
El llamado a la acción para los matemáticos fue el asesinato policial de George Floyd, Tony McDade, Breonna Taylor y muchos más este año.
Los matemáticos escribieron una carta abierta, recolectando miles de firmas para un boicot generalizado a la policía que usa algoritmos para la vigilancia.
Cada matemático dentro de la red del grupo se compromete a rechazar cualquier colaboración con las fuerzas del orden.
El grupo está organizando una amplia base de matemáticos con la esperanza de impedir que la policía use tales tecnologías. Los autores de la carta citan,
La vigilancia policial predictiva (sistemas pre-crimen) es un área clave en la que algunos matemáticos y científicos han habilitado los algoritmos racistas, que le dicen a los policías que traten áreas específicas como "puntos críticos" de posibles delitos.
Los activistas y las organizaciones han criticado durante mucho tiempo el sesgo en estas prácticas.
Los algoritmos entrenados con datos producidos por la policía racista reproducirán ese prejuicio para "predecir" dónde se cometerá el delito y quién es potencialmente un criminal.
Se cree que varios, si no todos, los estados y las principales ciudades de EE.UU. utilizan algún tipo de software de vigilancia policial predictiva o de prevención del delito con usuarios conocidos, incluidos,
...aunque no sin protestar por su uso.
Como se informó anteriormente, muchos de estos estados están utilizando el software Palantir para sus algoritmos de predicción del crimen y han sido expuestos por hacerlo, como Florida, cuya policía aterrorizó y monitoreó a los residentes del condado de Pasco.
Estas organizaciones policiales en los EE.UU. han estado utilizando lo que se conoce como "listas de calor" o bases de datos previas al delito durante años.
¿Qué es una "lista de calor", puedes preguntar...?
Bueno, las "listas de calor" son básicamente bases de datos compiladas por algoritmos de personas que la policía sospecha que pueden cometer un delito.
Sí, lo leíste bien:
Se desconoce cómo se generan estas listas y qué factores determinan que una persona "pueda cometer un delito".
Activistas y periodistas demandaron al Departamento de Policía de Chicago en 2017 por no revelar cómo operan estos programas.
Chicago no fue el único departamento de policía importante expuesto al uso de algoritmos predictivos de delitos. El Departamento de Policía de Los Ángeles también fue capturado un año después en 2018 por activistas de la Coalición Stop LA Spying.
Esta idea de lista de calor en la aplicación de la ley local en realidad se originó en Miami y luego se lanzó en Chicago en 2013.
Un documento publicado el año pasado por el MIT titulado "Las fallas técnicas de las evaluaciones de riesgo previas al juicio plantean graves preocupaciones" ha sido firmado por algunos de los expertos universitarios de más alto nivel en el campo de la inteligencia artificial. y la ley que advierte sobre las "fallas técnicas" de estos sistemas basados en pre-crimen.
Afortunadamente para nosotros, como señaló Nicholas West, el retroceso ya ha comenzado en varias ciudades y algunos departamentos de policía han abandonado sus programas después de darse cuenta de las inexactitudes.
En 2018, por ejemplo, Nueva Orleans suspendió su programa previo al delito de 6 años después de que se expusiera su software secreto de vigilancia policial predictiva.
La parte más aterradora de todo esto es que los departamentos de policía de Nueva Orleans y Los Ángeles en realidad estaban vinculados a Palantir Technologies, que trabaja directamente con la CIA y se sospecha que es la bifurcación actual del software PROMIS Main Core.
PROMIS es anterior a todas estas listas de calor de la policía local, con algoritmos que colocan a los presuntos "terroristas domésticos" en sus propias listas de resumen y compras rastreadas altamente escrutadas,
...bajo el Ejercicio de preparación de FEMA-1984 (REX-1984).
El uso del software de algoritmo de predicción de delitos de Palantir sugiere que otros departamentos de policía pueden estar utilizando el mismo software para sus propios programas de predicción de delitos.
Palantir también es la misma empresa que trabaja con la agencia de Inmigración y Control de Aduanas de Estados Unidos en sus propias listas para atrapar inmigrantes ilegales, como informaron originalmente Activist Post y el periodista de investigación Barrett Brown.
Quizás recuerde a Palantir del periodista Barrett Brown, el hackeo de H.B. Gary por parte de Anonymous, o las acusaciones de que la empresa proporcionó la tecnología que permite la vigilancia masiva PRISM de la NSA, que es la sucesora de PROMIS.
El software de Palantir en muchos aspectos es similar al software principal robado del Sistema de Información de Gestión del Fiscal (PROMIS) y puede ser la próxima evolución en ese código, que supuestamente es anterior a PRISM.
En 2008, Salon.com publicó detalles sobre una base de datos gubernamental de alto secreto que podría haber estado en el centro de las operaciones de espionaje interno de la administración Bush.
La base de datos conocida como "Main Core" recopiló y almacenó grandes cantidades de datos personales y financieros sobre millones de estadounidenses en caso de una emergencia como Ley Marcial.
PROMIS se dividió en muchos casos de uso reportados para el gobierno de EE.UU., incluida una aplicación de inteligencia a bordo de submarinos nucleares de los Estados Unidos y Gran Bretaña, y el uso tanto del gobierno de EE.UU. como de ciertos gobiernos aliados para el seguimiento de inventario de materiales nucleares y misiles balísticos de alcance.
Pero el uso más extraño y aterrador fue hacer un seguimiento de los estadounidenses disidentes bajo Main Core.
La base de datos de Main Core no es solo un rumor o una teoría de la conspiración; el software PROMIS fue utilizado por el entonces asesino de Irán-Contra, el entonces Consejo de Seguridad Nacional, el teniente coronel Oliver North para crear la lista de disidentes para Rex-84 que luego evolucionaría a Main Core.
North usó el software PROMIS en 1982 en el Departamento de Justicia y en la Casa Blanca para compilar una lista de disidentes estadounidenses para invocar si el gobierno alguna vez necesitaba hacerlo bajo el programa de Continuidad del Gobierno (COG) de Ronald Reagan como enlace con FEMA.
En 1993, Wired describió el uso de PROMIS por parte de North para compilar la base de datos principal:
Esta base de datos de personas Main Core se entregó a un puñado de personas, lo que significa que la mayoría de los funcionarios gubernamentales no tenían conocimiento de que el programa existía.
La base de datos se pasó de una administración a otra a través de los canales de Seguridad Nacional, según las fuentes.
Este escritor escribió extensamente sobre Main Core y PROMIS en una investigación sobre el encubrimiento del software Inslaw robado y,
Ver "US Government Spy Program - Main Core, PROMIS and The Shadow Government".
Palantir se fundó con una inversión inicial de la CIA y fue muy utilizada por los militares, y Palantir es una empresa de subcontratación por derecho propio.
La compañía incluso ha aparecido en el interrogatorio de Facebook del Senado, cuando la senadora del estado de Washington Maria Cantwell le preguntó al director ejecutivo Mark Zuckerberg:
El software Gotham de Palantir permite a la policía de Fusion Center rastrear a los ciudadanos más allá de las redes sociales y las cuentas Web en línea con búsquedas de registros de personas, búsquedas de registros de vehículos, una herramienta de histograma, una herramienta de mapas y una herramienta de exploración de objetos.
Según el DHS,
Además, los Centros Fusion son de propiedad y operación local, brazos de la "comunidad de inteligencia", es decir, las 17 agencias de inteligencia coordinadas por el Centro Nacional de Contraterrorismo (NCTC).
Sin embargo, a veces los edificios cuentan con personal capacitado de la NSA, como sucedió en la Ciudad de México, según un memorando del Departamento de Defensa (DoD) de 2010.
Tarik Aougab, profesor asistente de matemáticas en Haverford College, uno de los muchos matemáticos que vio las recientes protestas contra la policía como una oportunidad para tomar medidas contra estas prácticas, dijo.
Los matemáticos se preguntan si la vigilancia predictiva es solo una profecía autocumplida.
Brendan McQuade explica que las "estadísticas de delitos" se conocen con más precisión como "estadísticas de arrestos".
Miden el comportamiento de la policía, que no está directamente relacionado con el crimen y la violencia.
Jayadev Athreya explica que los boicoteadores lograrán sus objetivos colaborando con organizaciones de justicia penal.
De hecho, un estudio realizado por el AI Institute el año pasado investigó los sistemas de vigilancia predictiva y determinó que,
Otra auditoría posterior de 2019 sobre inteligencia artificial predictiva usada en Los Ángeles encontró una falta grave de supervisión o procedimientos en torno a las herramientas, lo que las hacía completamente inútiles.
Este es solo el comienzo de la lucha, y será una batalla interminable para evitar el uso de esta tecnología, no solo aquí en los EE.UU. sino también en todo el mundo.
No se sabe cuánto tiempo han estado activos estos proyectos, y confiar en que la policía nos diga honestamente es como confiar en el lobo que guarda el gallinero.
Sin embargo, con matemáticos, científicos e ingenieros de nuestro lado, tenemos una oportunidad de luchar.
|
