Lo viejo funciona

Alan Turing visto por una red neuronal aún incapaz de superar su test.

  Es imposible estar al día con las novedades que surgen entorno a la llamada inteligencia artificial (IA), y particularmente mas difícil es cribar aquellas novedades que son relevantes al problema de emular la capacidad de pensamiento del ser humano. Deberíamos llamar las cosas por su nombre, y en lugar de llamar inteligencia artificial decir Modelo Extenso de Lenguaje (LLM como se denomina genéricamente por sus siglas en inglés), pero ese no es el fondo de la cuestión.

 Mas allá de estos aspectos técnicos nos estamos asomando a una meseta o moderación de expectativas luego del fenómeno ChatGPT y sus consecuencias. A pesar de los enormes avances logrados, es evidente que aún estamos muy, pero muy lejos de lograr algún tipo de sistema que se comporte inteligentemente, o que simule las capacidades cognitivas humanas.

 Pero el punto que quiero hacer notar no es este, sino lo relativamente estacados que estamos en este tema, desde hace tiempo y a pesar de ChatGPT (y sus colegas). No soy tecnopesimista, sino lo contrario: estas herramientas llegaron para quedarse, y sin dudas mejorar su perfomance y nuestra calidad de vida. Día a día se generan nuevas funciones, y nosotros aprendemos a darle usos realmente útiles y creativos. 

 Hace unos días leía a Roger Penrose en La Nueva Mente del Emperador, un polémico libro que data de 1989, en el que afirmaba que es imposible emular el pensamiento humano mediante algoritmos. El debate provocado en el momento de la publicación de ese libro esta plenamente vigente hoy día mas allá de que se recuerde o no su impacto.

 En primer lugar establece que el problema de la inteligencia artificial está necesariamente asociado al concepto de conciencia. Y siguiendo el planteo original de Alan Turing en 1950, habla de pensamiento. De manera que es bien interesante situar el problema de la IA en esos términos equivalentes pero esquivos de definir y cuantificar: conciencia y pensamiento.

 Decía Penrose en 1989: Cuando afirmo mi propia creencia en que la verdadera inteligencia requiere conciencia estoy sugiriendo implícitamente que la inteligencia no puede simularse adecuadamente mediante procedimientos algorítmicos, es decir, mediante un computador, en el sentido en que hoy utilizamos el término. (...) debe haber un ingrediente esencialmente no-algorítmico en la actuación de la conciencia.

 Hoy, me topo con este artículo publicado por especialistas del equipo de Machine Learning de Apple, una de sus conclusiones clave dice:  

Descubrimos que los Modelos Extensos de Lenguaje presentan limitaciones en el cálculo exacto: no utilizan algoritmos explícitos y su razonamiento es inconsistente sometidos a rompecabezas. También investigamos las trazas de razonamiento con mayor profundidad, estudiando los patrones de las soluciones exploradas y analizando el comportamiento computacional de los modelos, lo que arroja luz sobre sus fortalezas y limitaciones, y, en última instancia, plantea preguntas cruciales sobre sus verdaderas capacidades de razonamiento.

  Me llamó mucho este puente cognitivo en momentos en los cuales son evidentes las limitaciones que presentan las herramientas como ChatGPT, Perplexity, Gemini y Claude, entre otros. Insisto en no perder la perspectiva: los avances hasta ahora logrados son inmensos, y la adopción masiva de estas herramientas no hace sino confirmar el camino recorrido. Ahora bien, es un buen momento para reflexionar detenidamente sobre estas cuestiones.

 En definitiva la carrera por la llamada IA no persigue el objetivo de obtener máquinas que piensen como seres humanos, sino de poder entender, modelar (y luego si emular) como funciona la mente humana. Se trata de diferencias en apariencia sutiles, pero muy profundas. Creo que por ahí pasa lo fundamental para entender el fenómeno IA, sus limitaciones actuales, su potencial futuro, y especialmente las consecuencias y cambios que se darán en los tiempos por venir. 

 Es una buena oportunidad para leer a Penrose, el artículo original del equipo de Apple "The Illusion of Thinking", y este artículo de Enzo Tagliazucchi. La propia existencia de este debate, y la plena vigencia de conceptos y palabras que datan de finales de los años 80, no busca afirmar posiciones pesimistas o negacionistas de los avances logrados, sino la de lograr un verdadero pensamiento profundo (no-algorítmico al decir de Penrose) en este tortuoso objetivo de hacer entender y explicar el pensamiento y la conciencia humana.