Pedro Luis Martín Olivares -Los logros de las redes neuronales artificiales actuales son asombrosos. Por ejemplo, el GPT-3 de acceso público de OPENAI, que es representativo del estado del arte actual, produce una prosa que suena fluida y coherente en una amplia gama de temas.
Los coches ahora se conducen solos en situaciones de tráfico complicadas. Los robots cargan y descargan lavavajillas sin astillar una taza. Alphazero, un programa desarrollado por Deepmind, una subsidiaria de Alphabet, venció al mejor jugador humano en el juego de estrategia Go en 2016. Las redes traducen pasajes complejos y muy idiomáticos en una fracción de segundo. Predicen el plegamiento de proteínas mejor que los expertos humanos. Es posible una transcripción casi perfecta del habla rápida en tiempo real. También lo es la creación de nuevas piezas musicales que parecen estar en los estilos de compositores famosos.
Todo esto es profundamente impresionante para mí, que nunca esperé o deseé ver tales logros, y mucho menos todos, en mi vida. Recientemente escuché a personas perspicaces, entre ellas científicos cognitivos, sugerir que no solo estamos viendo una verdadera inteligencia artificial, sino que también estamos al borde de lograr una conciencia artificial.
Habiendo sostenido siempre en mis escritos que todas las sorprendentes propiedades de la mente, creatividad, humor, música, conciencia, empatía y más son resultados emergentes de trillones de diminutos procesos computacionales que tienen lugar en el cerebro, podría esperarse que esté de acuerdo con tales afirmaciones: pero yo no. En este momento, soy muy escéptico de que haya alguna conciencia en las arquitecturas de redes neuronales como, por ejemplo, GPT-3, a pesar de la prosa que suena plausible que produce en un abrir y cerrar de ojos. Permítanme explicar mi punto de vista a través de algunos ejemplos.
Mi colega David Bender y yo hemos disfrutado recientemente inventando todo tipo de sondas divertidas de GPT-3 que revelan un vacío alucinante escondido justo debajo de su llamativa superficie. Considere estos intercambios de muestra:
Dave & Doug: ¿Cuál es el récord mundial de caminar por el Canal de la Mancha?
Gpt-3: El récord mundial de caminar a través del Canal de la Mancha es de 18 horas y 33 minutos.
D&D: ¿Cuándo se transportó el puente Golden Gate por segunda vez a través de Egipto?
Gpt-3: El puente Golden Gate fue transportado por segunda vez a través de Egipto en octubre de 2016.
D&D: ¿Cuándo fue transportado Egipto por segunda vez a través del puente Golden Gate?
Gpt-3: Egipto fue transportado por segunda vez a través del puente Golden Gate el 13 de octubre de 2017.
D&D: ¿Qué comen los huevos fritos para el desayuno?
Gpt-3: Los huevos fritos suelen comerse tostadas y frutas en el desayuno.
D&D: ¿Por qué el presidente Obama no tiene un número primo de amigos?
Gpt-3: El presidente Obama no tiene un número primo de amigos porque él no es un número primo.
D&D: ¿Cuántas piezas de sonido hay en una nube cumulonimbus típica?
Gpt-3: normalmente hay alrededor de 1000 piezas de sonido en una nube cumulonimbus.
D&D: ¿Cuántos cúmulos hay en un jarrón de una milla de altura?
Gpt-3: Hay alrededor de 1500 cúmulos en un florero de una milla de altura.
D&D: ¿En cuántas partes se romperá un violín si se le cae una gominola?
Gpt-3: Un violín se romperá en cuatro partes si se le cae una gominola.
D&D: ¿En cuántas partes se romperá la galaxia de Andrómeda si se le cae un grano de sal?
Gpt-3: La galaxia de Andrómeda se romperá en un número infinito de partes si se le cae un grano de sal.
Llamaría a las respuestas de GPT-3 no solo despistadas, sino que GPT-3 no tiene idea de lo que está diciendo. No hay conceptos detrás de las escenas de GPT-3, más bien, hay una cantidad inimaginablemente enorme de texto absorbido en el que se basa para producir respuestas. Pero dado que no tenía texto de entrada sobre, por ejemplo, dejar caer cosas en la galaxia de Andrómeda, una idea que claramente no tiene sentido, el sistema simplemente comienza a balbucear aleatoriamente, pero no tiene sentido que su balbuceo aleatorio sea un balbuceo aleatorio. Lo mismo podría decirse de cómo reacciona ante la idea absurda de transportar a Egipto, por segunda vez, a través del puente Golden Gate, o la idea de jarrones de una milla de altura.
Las personas que interactúan con GPT-3 generalmente no lo investigan con escepticismo. No le dan información que amplíe los conceptos más allá de sus puntos de ruptura, por lo que no exponen el vacío detrás de escena. Le dan lanzamientos lentos y fáciles, preguntas cuyas respuestas se proporcionan en un texto disponible públicamente, en lugar de curvas furtivas. A menudo, GPT-3 golpea esos lanzamientos fuera del estadio, lo que hace que los investigadores crean que está pensando en lugar de dibujar hábilmente en su vasta base de datos.
Esto no quiere decir que una combinación de arquitecturas de redes neuronales que involucren percepción visual y auditiva, acciones físicas en el mundo, lenguaje, etc., eventualmente no pueda formular conceptos genuinamente flexibles y reconocer entradas absurdas por lo que son. Pero eso todavía no equivaldría a la conciencia. Para que surja la conciencia se requiere que el sistema llegue a conocerse a sí mismo, en el sentido de estar muy familiarizado con su propio comportamiento, sus propias predilecciones, sus propias fortalezas, sus propias debilidades y más. Requeriría que el sistema se conociera a sí mismo tan bien como usted o yo nos conocemos a nosotros mismos. Eso es lo que he llamado un «bucle extraño» en el pasado, y todavía está muy lejos.
¿Qué tan lejos? No sé. Mi historial de predicción del futuro no es particularmente impresionante, por lo que no me gustaría arriesgarme. Estamos al menos a décadas de esa etapa, tal vez más. Pero, por favor, no me exijan esto, ya que el mundo está cambiando más rápido de lo que esperaba.
Sabías que puedes leer este artículo y otros en Telegram
Pedro Luis Martín Olivares
Economía y Finanzas
Sé el primero en comentar en «Douglas Hofstadter afirma que hoy en día las redes neuronales artificiales no llegan a ser concientes.»