Pedro Luis Martín Olivares – El jueves pasado el presidente Nicolas Maduro reunido con parte de su equipo de gobierno fijó posición de gobierno con intensión de transformar en política de Estado la incorporación de la Inteligencia Artificial entre las principales prioridades a atender, no solo en el campo educativo y de investigación sino en la cotidianidad del ejercicio de gobierno en todos los ámbitos.
Su llamado fue contundente, lo cual coloca la proa del país hacia horizontes obligados de alta tecnología. Para ayudar a entender la dimensión de la decisión de Maduro vale observar el siguiente caso como una pequeña gota en ese océano de profundidades de la Inteligencia Artificial.
Un memorando de una agencia de espionaje establece reglas para la inteligencia artificial y los datos privados de los estadounidenses. El gobierno norteamericano retuvo la orientación el mes pasado cuando reveló una directiva presidencial que presiona a las agencias de seguridad para que utilicen la tecnología.
Una directiva previamente confidencial de los abogados de la administración Biden establece cómo las agencias militares y de espionaje deben manejar la información personal sobre los estadounidenses cuando utilizan inteligencia artificial, mostrando cómo los funcionarios lidiaron con las compensaciones entre las libertades civiles y la seguridad nacional.
Los resultados de ese debate interno también subrayan las limitaciones y los desafíos que enfrenta el gobierno para emitir reglas que sigan el ritmo de los rápidos avances en la tecnología, particularmente en la vigilancia electrónica y áreas relacionadas con la recopilación y el análisis de inteligencia asistida por computadora.
La administración Biden tuvo que navegar entre dos objetivos en competencia, según un alto funcionario de la administración, Joshua Geltzer, el principal asesor legal del Consejo de Seguridad Nacional: «aprovechar la tecnología emergente para proteger a los estadounidenses y establecer barandillas para salvaguardar la privacidad de los estadounidenses y otras consideraciones».
El mes pasado, la Casa Blanca retuvo la directiva de cuatro páginas sin clasificar cuando el presidente Biden firmó un importante memorando de seguridad nacional que presiona a las agencias militares y de inteligencia para que hagan un mayor uso de la IA dentro de ciertos límites.
Después de las consultas de The New York Times, la Casa Blanca ha hecho pública la guía. Una lectura atenta y una entrevista con Geltzer, quien supervisó las deliberaciones de los abogados de todo el poder ejecutivo, ofrecen mayor claridad sobre las reglas actuales que las agencias de seguridad de Estados Unidos deben seguir cuando experimentan con el uso de IA.
IA Y PRIVACIDAD
Las respuestas a las que llegaron, según muestra el documento, son preliminares. Debido a que la tecnología está evolucionando rápidamente, los abogados de seguridad nacional de Biden decidieron que el gobierno debe revisar la guía en seis meses, una tarea que ahora recaerá en la administración Trump.
Los sistemas de IA que están desarrollando las empresas del sector privado, como el gran modelo de lenguaje de OpenAI, Chat GPT, aparentemente superan con creces todo lo que el gobierno puede hacer. Como resultado, es más probable que el gobierno compre el acceso a un sistema de IA en lugar de crear el suyo propio. La guía dice que un sistema de este tipo se considerará “adquirido” si está alojado en un servidor del gobierno o si los funcionarios tienen acceso a él más allá del que cualquiera podría hacer en Internet.
El entrenamiento de los sistemas de IA requiere alimentarlos con grandes cantidades de datos, lo que plantea una pregunta crítica para las agencias de inteligencia que podría influir tanto en los intereses de privacidad de los estadounidenses como en la capacidad de las agencias de seguridad nacional para experimentar con la tecnología. Cuando unan agencia adquiere un sistema de IA entrenado por una empresa del sector privado que utiliza información sobre los estadounidenses, ¿se considera que eso “recoge” los datos de esos estadounidenses?
La respuesta determina si entran en vigor los límites que existen desde hace tiempo sobre lo que una agencia de seguridad nacional puede hacer con los datos personales sobre los estadounidenses, desarrollados para programas de vigilancia.
Las reglas sobre lo que los empleados de una agencia pueden hacer con la información nacional que ha recopilado incluyen limitar cuándo pueden conservar esos datos, cómo deben almacenarlos, la fecha en la que deben eliminarlos, bajo qué circunstancias sus analistas pueden consultarlos y cuándo y cómo las agencias pueden difundirlos a otras partes del gobierno.
Muchos de esos límites se desarrollaron en el contexto de tecnologías más antiguas, como las escuchas telefónicas. El equipo legal de Biden, dijo Geltzer, temía que aplicar esas reglas de privacidad en el momento en que se adquieren los sistemas de IA inhibiría gravemente la capacidad de las agencias para experimentar con la nueva tecnología.
Como resultado, la guía dice que cuando una agencia de inteligencia adquiere un sistema de inteligencia artificial que fue entrenado usando datos de estadounidenses, eso generalmente no cuenta como recopilación de los datos de entrenamiento, por lo que esas reglas de protección de la privacidad existentes, junto con una directiva de 2021 sobre la recopilación de bases de datos disponibles comercialmente, aún no se activan.
Aun así, el equipo de Biden no fue absoluto en esa cuestión. La guía deja abierta la posibilidad de que la adquisición pueda contar como recopilación si la agencia tiene la capacidad de acceder a los datos de entrenamiento en su forma original, «así como la autorización y la intención de hacerlo».
El uso de información confidencial en el entrenamiento de un sistema de IA, especialmente cuando es capaz de sacar esos datos nuevamente en respuesta a una solicitud, ha planteado cuestiones nuevas y controvertidas en otros frentes. El Times y otras organizaciones de noticias están demandando a OpenAI y Microsoft por el uso de artículos de noticias con derechos de autor para entrenar chatbots.
El equipo de Biden también abordó lo que significaría si una agencia usa datos sobre estadounidenses que ya están en su posesión para modificar o aumentar un sistema de IA. Eso podría ser afinar el entrenamiento del sistema para cambiar la forma en que pondera ciertos factores, o conectarlo a datos y herramientas adicionales sin alterar sus procesos subyacentes.
En ese caso, dice el documento, entran en vigencia las pautas de larga data del fiscal general sobre el uso, la consulta, la retención y la difusión de la información de los estadounidenses por parte de las agencias de espionaje, al igual que las leyes que pueden limitar aún más lo que el gobierno puede hacer con la información nacional, como la Ley de Privacidad.
La guía requiere que las agencias de inteligencia consulten con los funcionarios legales y de privacidad de alto nivel antes de cualquier acción de ese tipo. Y plantea una precaución particular sobre la alimentación de un sistema de IA con información recopilada por la Ley de Vigilancia de Inteligencia Extranjera: los funcionarios deben consultar primero al Departamento de Justicia y a la Oficina del Director de Inteligencia Nacional.
En el mundo de la vigilancia de la seguridad nacional, existen reglas que limitan cuándo un analista puede consultar una base de datos de interceptaciones sin procesar en busca de información sobre los estadounidenses. La guía examinó una cuestión similar: cuándo un funcionario de inteligencia puede solicitar a un sistema de IA que le haga una pregunta sobre un estadounidense.
Si, en respuesta a una solicitud de este tipo, un sistema de IA arroja información que una agencia de inteligencia aún no tenía, dice la guía, eso cuenta como recopilación si el analista decide copiar, guardar o usar esa nueva información. En ese caso, entran en juego los límites al manejo de la información personal de los estadounidenses.
La guía también alienta a las agencias de inteligencia a considerar medidas que podrían facilitar los esfuerzos de supervisión. Pero la guía no exige tales precauciones.
Por ejemplo, les dice a las agencias que exploren posibles formas de marcar la información sobre los estadounidenses recopilada por un sistema de IA y cualquier informe de inteligencia que contenga esa información. Y les pide a las agencias que «consideren qué documentación, si la hay, es apropiada» que se registraría cuando los analistas hayan enviado una solicitud diseñada para devolver información de los estadounidenses.
La guía que rige la información personal sobre la privacidad personal de los estadounidenses se suma a un memorando separado publicado en octubre que prohíbe rotundamente el uso de IA en algunas circunstancias, como por ejemplo al exigir que los humanos permanezcan informados cuando se lleva a cabo una decisión presidencial de lanzar o terminar un ataque nuclear.
Ese memorando anterior también describía actividades de “alto impacto” que las agencias militares y de inteligencia podrían, en teoría, hacer con la tecnología, pero solo con salvaguardas más intensivas, como evaluaciones de riesgo rigurosas, pruebas y supervisión humana. Estas incluían el uso de IA para rastrear a personas en función de la biometría para acciones militares o de aplicación de la ley, clasificar a personas como terroristas conocidos o sospechosos y negar la entrada a un solicitante de visa extranjero.
“Estos documentos permitirán al poder ejecutivo utilizar la inteligencia artificial de manera más completa y, al mismo tiempo, más responsable para promover la seguridad pública y la seguridad nacional, al tiempo que también requieren que los abogados del poder ejecutivo revisen consideraciones legales clave a la luz de la evolución de la tecnología y los hallazgos de casos de uso particulares”, dijo Geltzer.
El contenido de este trabajo publicado por el NYT el pasado domingo, demuestra lo asertivo de la decisión del presidente Maduro de ubicar la Inteligencia Artificial en una posición clave para mejoramiento del país en todas sus esferas.
Sabías que puedes leer este artículo y otros en Telegram
Sé el primero en comentar en «Nicolás Maduro y la importancia de la inteligencia artificial»