Llevo en el mundo de la inteligencia artificial ya algunos años. Al inicio, pensaba que se trataba de una herramienta mágica que podía ver patrones que ningún otro ser humano era capaz de percibir. Con el paso del tiempo, toda la magia ha desaparecido y lo único que veo son complejas ecuaciones carentes de belleza.
A mi parecer, hoy la sociedad experimenta lo que yo sentí en esos primeros años; para mucha gente, una tecnología como ChatGPT apareció de la nada. Nunca jugaron con generadores de texto. Nunca vieron redes neuronales reconociendo imágenes de gatos en baja resolución. No saben cómo hemos llegado hasta aquí y eso les deja en una situación precaria.
Cuando veo videos en YouTube preguntándose si será el fin de los artistas o de los programadores o de los profesores, tengo la certeza de que la respuesta es negativa. Sin embargo, si me preguntan de dónde viene esa certeza, me cuesta mucho trabajo exponerlo en palabras simples.
Es obvio que la respuesta no puede ser una explicación completa de la tecnología, necesitamos algo más sencillo. Es necesario construir un mensaje para todo el mundo. Sobre todo ahora que esta tecnología ha invadido cada etapa de nuestras vidas, se vuelve algo fundamental.
Entonces, intentémoslo.
Una de las primeras aproximaciones que podemos tratar es el experimento de la habitación china. Imagina que tenemos una habitación con una persona dentro. Esta habitación tiene una abertura por la que entran hojas de papel. Entonces, traemos a un grupo de personas desde China y les pedimos que le hagan preguntas a la persona que está adentro. Estas personas escriben sus preguntas en unas hojas de papel y luego las introducen en la habitación. Unos minutos después, salen las mismas hojas de papel, acompañadas de una respuesta.
Las personas chinas leen la respuesta y todas están de acuerdo en que tienen sentido. Y si les preguntamos: “¿creen que la persona que está ahí dentro habla chino?”, todas contestarían: “claro que habla chino, mira estas respuestas”.
Sin embargo, la persona que está dentro de la habitación tiene un manual de instrucciones que le permite contestar a cualquier pregunta que uno haga. La persona se limita a leer el manual sin comprender nada de lo que está escrito en las hojas que entran y salen de la habitación.
La persona dentro de la habitación no habla chino. Si nosotros le pedimos que escriba un poema en chino, no podrá hacerlo. El libro de instrucciones que tiene puede incluir algunas formas de hacer poesía, pero estará limitado. Todo lo que la persona puede hacer en chino está limitado por el manual.
Tal vez parezca que la tecnología actual tiene mucho más para aportar que una persona encerrada con un manual de instrucciones, pero la analogía funciona demasiado bien. Cualquier algoritmo de inteligencia artificial basado en redes neuronales (como ChatGPT) está limitado por el conjunto de datos con el que fue entrenado.
Si ChatGPT es capaz de decir cosas con sentido es porque se alimentó de millones de textos que sus creadores encontraron en internet. Constantemente estás leyendo los restos de estos escritos. Una copia de millones de autores que, al revolver todos sus textos, parece algo original.
Uno podría preguntarse ¿y no hacen eso mismo las personas? ¿No todos los escritos son una copia? ¿No usamos las mismas estructuras a la hora de crear una historia? Y aquí es donde se pone interesante.
Pensemos en la persona dentro de la habitación. La persona no habla chino, pero supongamos que se harta de seguir un manual de instrucciones y toma clases de chino en las noches después de su laborioso trabajo como el cerebro oculto de una habitación (un trabajo al que quiere renunciar desde hace tiempo). Tras cinco años de arduo esfuerzo, decide dejar de usar el manual de instrucciones y contesta con su propia voz.
Entonces, una persona le pregunta (en chino) acerca de un tipo de flor que crece en una región específica del sur del Ecuador. Y la persona oculta dentro de la habitación recuerda que en un viaje que hizo con su madre, celebrando su cumpleaños número sesenta, encontraron esta flor. Esto despierta en él una emoción tan potente que nuestro escritor fantasma decide escribir cómo se sintió en ese viaje en lugar de hablar acerca de la flor.
Eso nunca sucederá con una inteligencia artificial.
Una computadora no puede inventar ni escribir un poema porque no tiene deseo ni voluntad. Si uno le pregunta “X”, seguirá un manual de instrucciones para llegar a “Y”. Todo lo que hace y siempre hará es seguir un manual de instrucciones.
Una persona puede reconocer una estructura narrativa y decidir romper todas sus reglas. Puede decidir rebelarse. Esa es la cuna de la creatividad.
¿Pero qué pasa cuando seguir instrucciones al pie de la letra es lo ideal? ¿Qué pasa en la ciencia? ¿Sigue teniendo el ser humano algo que aportar? Por supuesto que sí.
Hasta ahora, todas las tecnologías de IA modernas se pueden resumir en reconocimiento de patrones. Le das un conjunto de datos (como miles de textos de internet) y la IA es capaz de encontrar relaciones y elaborar predicciones.
Aunque el reconocimiento de patrones es algo que forma parte de nuestra inteligencia humana, sigue siendo un aspecto muy limitado. Por ejemplo, nuestros cerebros están optimizados para reconocer rostros, es por eso que vemos dos ojos y una boca en los vehículos, encontramos el rostro de Jesús en un árbol o una piedra, y vemos fantasmas en la oscuridad. Sin embargo, cuando vemos estos rostros, nosotros sabemos perfectamente que no estamos tratando con una persona. Para una máquina, estas ilusiones serían equivalentes a un rostro humano.
Puede parecer que, en cualquier caso, la IA va a ser capaz de encontrar patrones que son invisibles para un ser humano, pero esto es muy difícil de creer. Estas herramientas están limitadas por sus datos de entrenamiento, lo que implica que no tienen capacidad de adaptación.
Pensemos en los primeros modelos de reconocimiento de rostros, debido a un sesgo en los datos, eran incapaces de detectar a personas que no eran blancas, tenían una ceguera insuperable a pesar de haberse optimizado para reconocer un patrón específico. De igual manera, un modelo de IA especializado en un campo científico permanecerá ciego a nuevos descubrimientos.
Esto significa que, en el mejor de los casos, podemos tener un robot con IA especializado en seguir un procedimiento y que los humanos de vez en cuando revisen los resultados de este robot para verificar si se ha encontrado algo valioso o no.
La IA nunca va a plantear una nueva forma de ver el universo, tampoco puede darle valor a los patrones que encuentra, finalmente, no deja de ser una calculadora muy sofisticada.
¿Pero qué hay de todos esos exámenes que han elaborado los expertos? Si no lo sabes, hay una batería de pruebas con nombres rimbombantes como “Humanity’s Last Exam” que miden los “conocimientos” de los grandes modelos de lenguaje actuales. Cada vez más, estos modelos se acercan a la puntuación humana, pero no debería preocuparnos.
Pensando en uno de mis héroes, Nassim Taleb y usando su estilo, diría que ya nos debe resultar obvio que nada valioso de nuestra vida se mide con un examen. Todos tuvimos que aprobar exámenes en el colegio y al final de qué nos ha servido. Muchos de esos exámenes no son más que recurrir a la memoria (algo que cualquier computadora hace), pero incluso en aquellos que requieren razonamiento, se tratan de juegos elaborados para ser resueltos en un examen. Ningún profesor, por brillante que sea, puede elaborar un juego que sea tan complejo como la vida misma.
Y en el estudio de la realidad, quienes siguen haciendo los grandes descubrimientos son los seres humanos.
Finalicemos este análisis pensando en uno de los grandes logros de la inteligencia artificial: AlphaFold. Este proyecto logró descubrir miles de nuevas estructuras de proteínas gracias a un algoritmo que aprendió a manipular sus bloques de construcción.
No voy a profundizar en esta tecnología porque no venimos a hablar sobre computación, ni biología. Lo que sí vale la pena destacar es que si uno estudia este algoritmo, es imposible no maravillarse con la cantidad de trucos que los programadores utilizaron para construirlo. Tomaron arquitecturas de redes neuronales populares y las amoldaron para su problema específico. Si este proyecto es lo que es, es gracias a este brillante equipo que supo ver un nuevo uso para la tecnología.
Así que sí, los seres humanos siguen teniendo un espacio para inventar y no nos será arrebatado pronto.
Este ensayo fue escrito por Daniel Diaz Bedoya.