Pedro Luis Martín Olivares – Entre los regalos más sombríos traídos por la Ilustración estaba la comprensión de que los humanos algún día podrían extinguirse. La revolución astronómica del siglo XVII había demostrado que el sistema solar operaba de acuerdo con los más altos principios de la razón y contenía cometas que posiblemente podrían golpear la Tierra.
El registro geológico, tal como lo interpretó el conde de Buffon, mostró extinciones masivas en las que las especies desaparecieron para siempre. Eso preparó el escenario para que Charles Darwin reconociera tales extinciones como el motor de la evolución y, por lo tanto, como la fuerza que había formado a los humanos y, por implicación, su posible destino. La naciente ciencia de la termodinámica añadió una dimensión cósmica a la certeza de un final: El Sol, la Tierra y todo el tinglado eventualmente se reducirían a una «muerte por calor» sin vida.
El siglo XX agregó la idea de que la extinción podría no ocurrir de forma natural, sino a través del artificio. El acicate para esto fue el descubrimiento, y posterior explotación, del poder encerrado en los núcleos atómicos. Celebrada por algunos de sus descubridores como una forma de aplazar indefinidamente la muerte por calor, la energía nuclear pronto se convirtió en un peligro mucho más cercano. Y la amenaza tangible de catástrofe inminente que planteaba se contagió a otras tecnologías.
Ninguno estaba más contaminado que la computadora. Puede haber sido culpa por asociación: la computadora desempeñó un papel vital en el desarrollo del arsenal nuclear. Puede haber sido predeterminado. La creencia de la Ilustración en la racionalidad como el mayor logro de la humanidad y la teoría de la evolución de Darwin hicieron de la promesa de una racionalidad sobrehumana la posibilidad del progreso evolutivo a expensas de la humanidad.
La inteligencia artificial ha llegado a ocupar un lugar preponderante en el pensamiento del pequeño pero fascinante grupo de académicos sobre los que se ha escrito mucho y que se ha dedicado a la consideración del riesgo existencial en las últimas dos décadas. De hecho, a menudo parecía estar en el centro de sus preocupaciones. Un mundo que contuviera entidades que pensaran mejor y actuaran más rápido que los humanos y sus instituciones, y que tuviera intereses que no estuvieran alineados con los de la humanidad, sería un lugar peligroso.
Se hizo común que las personas dentro y alrededor del campo dijeran que había una probabilidad «distinta de cero» de que el desarrollo de la inteligencia artificial (IA) sobrehumana conducirá a la extinción humana. El notable auge de las capacidades de los modelos de lenguaje extenso, los modelos «fundacionales» y las formas relacionadas de IA «generativa» han impulsado estas discusiones sobre el riesgo existencial en la imaginación del público y en las agendas de decisión gubernamental.
El progreso del campo es precipitado y su promesa inmensa. Eso trae peligros claros y presentes que deben abordarse. Pero en el contexto específico de GPT-4, la película del día y su tipo generativo, hablar de riesgos existenciales parece bastante absurdo. Producen prosa, poesía y código, generan imágenes, sonido y video, y hacen predicciones basadas en patrones. Es fácil ver que esas capacidades traen consigo una gran capacidad para hacer travesuras. Es difícil imaginarlos apuntalando “el poder de controlar la civilización”, o “reemplazarnos”, como advierten los críticos hiperbólicos.
La transición a un mundo lleno de programas informáticos capaces de niveles humanos de conversación y comprensión del lenguaje y poderes sobrehumanos de asimilación de datos y reconocimiento de patrones acaba de comenzar. La llegada de la pseudocognición ubicua a lo largo de estas líneas podría ser un punto de inflexión en la historia, incluso si el ritmo actual del progreso de la inteligencia artificial disminuye o se agoten los desarrollos fundamentales. Se puede esperar que tenga implicaciones no solo sobre cómo las personas se ganan la vida y organizan sus vidas, sino también sobre cómo piensan sobre su humanidad.
Para tener una idea de lo que puede estar en camino, considere tres posibles análogos o precursores: el buscador, la imprenta y la práctica del psicoanálisis. Uno cambió las computadoras y la economía, uno cambió la forma en que las personas accedían al conocimiento y se relacionaban con él, y otro cambió la forma en que las personas se entendían a sí mismas.
El humilde navegador web, introducido a principios de la década de 1990 como una forma de compartir archivos a través de redes, cambió la forma en que se usan las computadoras, la forma en que funciona la industria informática y la forma en que se organiza la información. Combinado con la capacidad de vincular computadoras en redes, el navegador se convirtió en una ventana a través de la cual se podía acceder primero a los archivos y luego a las aplicaciones dondequiera que se encontraran. La interfaz a través de la cual un usuario interactuaba con una aplicación estaba separada de la propia aplicación.
El poder del navegador fue inmediatamente obvio. Las peleas sobre cómo se podía presionar a los usuarios hacia un navegador en particular se convirtieron en un tema de gran dramatismo comercial. Casi cualquier negocio con una dirección web podría obtener financiación, sin importar lo absurdo que prometiera. Cuando el auge se convirtió en quiebra a principios de siglo, hubo una reacción predecible. Pero la separación fundamental de interfaz y aplicación continuó. Amazon, Meta (de soltera Facebook) y Alphabet (de soltera Google) alcanzaron alturas vertiginosas al hacer del navegador un conducto para mercancías, información y conexiones humanas. Quién hizo los navegadores se volvió incidental, su papel como plataforma se volvió fundamental.
Los meses transcurridos desde el lanzamiento de Chatgpt de Openai, una interfaz de conversación que ahora funciona con gpt-4, han visto una explosión empresarial impresionante. Para los usuarios, las aplicaciones basadas en películas y software similar pueden ser ridículamente fáciles de usar, escriba un aviso y vea un resultado. Para los desarrolladores no es mucho más difícil. “Simplemente puede abrir su computadora portátil y escribir algunas líneas de código que interactúen con el modelo”, explica Ben Tossell, un empresario británico que publica un boletín sobre servicios de inteligencia artificial.
Y las películas también son cada vez más capaces de ayudar con esa codificación. Habiendo sido «entrenados» no solo con montones de texto, sino con mucho código, contienen los componentes básicos de muchos programas posibles; eso les permite actuar como «copilotos» para los codificadores. Los programadores de GitHub, un sitio de codificación de código abierto, ahora usan un copiloto basado en GPT-4 para producir casi la mitad de su código.
No hay ninguna razón por la que esta capacidad no permita eventualmente que las películas armen código sobre la marcha, explica Kevin Scott, director de tecnología de Microsoft. La capacidad de traducir de un idioma a otro incluye, en principio y cada vez más en la práctica, la capacidad de traducir del idioma al código. Un aviso escrito en inglés puede, en principio, estimular la producción de un programa que cumpla con sus requisitos. Cuando los navegadores separaron la interfaz de usuario de la aplicación de software, es probable que las películas disuelvan ambas categorías. Esto podría marcar un cambio fundamental tanto en la forma en que las personas usan las computadoras como en los modelos comerciales dentro de los cuales lo hacen.
El código como servicio suena como una ventaja que cambia el juego. Un enfoque igualmente creativo de las cuentas del mundo es un inconveniente. Mientras que los navegadores proporcionaron principalmente una ventana sobre el contenido y el código producido por humanos, las películas generan su contenido por sí mismas. Al hacerlo, “alucinan” (o, como algunos prefieren, “confabulan”) de varias formas. Algunas alucinaciones son simplemente tonterías. Algunas, como la incorporación de fechorías ficticias a bosquejos biográficos de personas vivas, son plausibles y dañinas. Las alucinaciones pueden ser generadas por contradicciones en los conjuntos de entrenamiento y por películas diseñadas para producir coherencia en lugar de verdad.
En muchas aplicaciones, la tendencia a decir mentiras plausibles es un error. Para algunos puede resultar una característica. Deep fakes y videos fabricados que traicionan a los políticos son solo el comienzo. Espere que los modelos se utilicen para configurar redes de influencia maliciosas bajo demanda, completas con sitios web falsos, bots de Twitter, páginas de Facebook, feeds de TikTok y mucho más. La oferta de desinformación, ha advertido Renée DiResta del Observatorio de Internet de Stanford, “pronto será infinita”.
Esta amenaza a la posibilidad misma del debate público puede no ser existencial, pero es profundamente preocupante. Vamos a recordar la “Biblioteca de Babel”, un cuento de Jorge Luis Borges. La biblioteca contiene todos los libros que se han escrito, pero también todos los libros que nunca se escribieron, los libros que están mal, los libros que no tienen sentido. Todo lo que importa está ahí, pero no se puede encontrar por todo lo demás, los bibliotecarios son conducidos a la locura y la desesperación.
Esta fantasía tiene un sustrato tecnológico evidente. Lleva la capacidad de la imprenta para recombinar un conjunto fijo de símbolos en un número ilimitado de formas hasta su límite final. Y eso proporciona otra forma de pensar acerca de las películas.
Sabías que puedes leer este artículo y otros en Telegram
Pedro Luis Martín Olivares
Economía y Finanzas
Sé el primero en comentar en «Reflexiones sobre la Inteligencia Artifical»