OSINT e inteligencia artificial: una mirada regional sobre una combinación explosiva
El viernes 26 de julio de 2024, mediante Resolución 710/2024, el Ministerio de Seguridad de Argentina creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad, con el objetivo de detectar, investigar y perseguir “el delito y sus conexiones” utilizando inteligencia artificial. Desde el Centro de Estudios en Libertad de Expresión (CELE) de la Universidad de Palermo (Argentina) observamos estos desarrollos con atención por su potencial afectación a los derechos de privacidad y libertad de expresión de los habitantes. Nuestra inquietud no se limita al caso argentino, pues el aumento desproporcionado de las capacidades de vigilancia de los Estados sin control político ni ciudadano alguno es una tendencia cuya sombra se proyecta sobre toda la región.
Entre las funciones de la flamante unidad se encuentran el patrullaje de “redes sociales abiertas, aplicaciones y sitios de Internet, así como la llamada “Internet profunda” o “Dark-Web”, para la “investigación de delitos e identificación de sus autores” y “la detección de situaciones de riesgo grave para la seguridad”, el análisis de “actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios”, el análisis en tiempo real de cámaras de seguridad para “detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento facial”, la predicción y prevención de futuros delitos a través del análisis de datos históricos de crímenes mediante algoritmos de aprendizaje automático, detectar y prevenir ciberataques, procesar “grandes volúmenes de datos de diversas fuentes para extraer información útil y crear perfiles de sospechosos o identificar vínculos entre diferentes casos”, y compartir información entre diferentes fuerzas de seguridad.
El Ministerio de Seguridad de Argentina ya había reintroducido en mayo las tareas de inteligencia en fuentes abiertas (OSINT) con fines de vigilancia, bajo el eufemismo de “ciberpatrullaje”. Los caracteres que diferencian a la OSINT del mero “patrullaje” son su finalidad (no de seguridad ciudadana sino de recolección de información y producción de inteligencia), el secreto (las FFSS patrullan uniformadas e identificadas, mientras que la actividad de inteligencia se realiza de forma encubierta) y la especificidad (el patrullaje recae sobre espacios, mientras que actividad de inteligencia tiene objetivos de inteligencia concretos).
La medida se enmarca en una creciente propensión de los estados al establecimiento de sistemas de vigilancia masiva de sus habitantes. La propia resolución hace eco de esa circunstancia, al citar como casos de éxito de la aplicación de IA al ámbito de la seguridad a los Estados Unidos de América, China, el Reino Unido, Israel, Francia, Singapur e India. Los gobiernos de la región no son ajenos a esta tendencia. Desde el Centro de Estudios en Libertad de Expresión de la Universidad de Palermo (CELE) coordinamos el mapeo de la normativa y la práctica de la utilización estatal de OSINT para vigilancia en cinco países de la región (Argentina, Brasil, Colombia, México y Uruguay). El proyecto concluyó con la elaboración de un informe regional comparativo.
Las conclusiones de ese informe siguen plenamente vigentes y son aplicables al panorama actual. En aquél momento, ya señalamos que, en muchos estados de la región, la OSINT se practica por fuera de la ley, en ausencia de normas que establezcan sus requisitos de procedencia, sus límites o el tratamiento posterior de la información recolectada. Y que allí donde existen normas habilitantes de prácticas OSINT, éstas no cumplen con el principio de legalidad requerido por los estándares internacionales de derechos humanos, que exige que las normas que establezcan restricciones en el goce de derechos sean sancionadas mediante una ley formal del Congreso.
Las implicancias de la práctica de OSINT en el derecho a privacidad son enormes y traen aparejadas potenciales afectaciones en el ejercicio del derecho humano a la libertad de expresión. Las personas tienden a modificar su comportamiento si creen que están siendo vigiladas, sobre todo si existen sospechas fundadas de que su discurso podría ser objeto de represalias estatales. En la medida en que internet es el lugar donde discurre gran parte del intercambio público, la posibilidad de que los usuarios ejerzan autocensura en sus interacciones online ante el temor de estar siendo vigilados amenaza con debilitar el vigor del debate necesario en una sociedad democrática.
En todos los países analizados en nuestro informe existe una gran opacidad en torno a la adquisición de tecnologías OSINT y su aplicación contra personas concretas. Ello es problemático en varios sentidos. Por un lado, el secreto dificulta la rendición de cuentas frente a la ciudadanía de los funcionarios que ordenan que esas políticas se lleven adelante. Por otro lado, hace imposible en los hechos la defensa contra las instancias concretas de vigilancia a ciudadanos particulares, mediante su impugnación judicial. Finalmente, la falta de reglamentación sobre el destino de la información obtenida ha dado lugar a todo tipo de abusos estatales, como su utilización para elaborar perfiles de académicos, periodistas, dirigentes políticos, manifestantes y activistas opositores al gobierno.
Para evitar la vulneración de derechos a través de las prácticas OSINT, resulta imprescindible que toda acción estatal cumpla el test tripartito desarrollado en el Sistema Internacional de Derechos Humanos para que cualquier medida de vigilancia sobre la población sea legal, necesaria y proporcionada. La utilización de herramientas de inteligencia artificial en combinación con técnicas de vigilancia luce preocupante a la luz de estos estándares, particularmente cuando se trata de tecnologías de reconocimiento facial (que, además de resultar desproporcionadamente invasivas para el derecho a la privacidad, presentan una mayor tasa de falsos positivos cuando se trata de mujeres y personas racializadas).
Por su parte, la utilización de IA para el procesamiento masivo de gran cantidad de datos para la “predicción y prevención de futuros delitos” usando “datos estadísticos”, parece derivar irremediablemente en la criminalización y el aumento de la vigilancia sobre los sectores más vulnerabilizados de la población, al reproducir los sesgos de clase y raza arraigados en los sistemas policiales y de justicia criminal, y que se reflejan también en los materiales que serán utilizados para entrenar a los algoritmos.
La regulación de la actividad OSINT debe contemplar la creación por ley de protocolos específicos que rijan la recolección, el procesamiento, la finalidad de la utilización, y la eliminación de información obtenida de fuentes abiertas. La actividad debe reglamentarse conforme a las normas rectoras de datos personales, de manera que se permita a los titulares de los datos ejercer sus derechos de acceso, rectificación, cancelación y oposición. Se deben prever mecanismos de control político y ciudadano de estas prácticas, como la publicación de las partidas presupuestarias y los contratos estatales de adquisición de programas y servicios de vigilancia OSINT (usualmente ocultos del escrutinio público alegando razones de “seguridad nacional” y similares), y obligaciones específicas de reporte periódico, tales como la publicación de estadísticas e informes de transparencia con indicadores cualitativos y cuantitativos. Es importante que las leyes contemplen la notificación a los ciudadanos y las ciudadanas que fueron vigilados y vigiladas con tecnologías y el uso que se dio a esa información, el control judicial previo, y el establecimiento de sanciones claras para quienes cometan abusos.
Finalmente, es necesario requerir que, en forma previa a la reglamentación de la utilización de OSINT y sistemas de inteligencia artificial se realicen amplias consultas públicas con participación de la academia y la sociedad civil, y se lleven adelante y se publiquen estudios del impacto en derechos humanos (principalmente privacidad y libertad de expresión) de estas tecnologías. Este tipo de estudio debe ser practicado por entidades independientes y repetirse antes de incorporar nuevos sistemas y tecnologías.
—
El autor es Nicolás Zara (@nicolaszara), investigador del Centro de Estudios en Libertad de Expresión y Acceso a la Información. Facultad de Derecho, Universidad de Palermo, Buenos Aires, Argentina.
-
@article19mex
Animal Político / @Pajaropolitico