Las mentes más brillantes que desarrollan la inteligencia artificial generativa (IA gen), una tecnología que promete transformar el mundo, admiten que no comprenden cómo piensan los cerebros digitales.

“Muchos se sorprenden y se alarman al descubrir que no entendemos cómo funcionan nuestras propias creaciones de IA”, escribió Dario Amodei, cofundador de Anthropic, en un ensayo publicado en abril. “Esta falta de comprensión es algo sin precedentes en la historia de la tecnología”.

A diferencia de los programas tradicionales, que siguen rutas predefinidas por los programadores, los modelos de IA generativa están diseñados para encontrar su propio camino hacia el éxito una vez que reciben una solicitud. Chris Olah, exmiembro de OpenAI (creador de ChatGPT) y actual investigador en Anthropic, comparó recientemente a la IA gen con un “andamio” sobre el que se desarrollan los circuitos.

Olah, considerado una autoridad en la interpretabilidad mecanicista (un método de ingeniería inversa para entender cómo funcionan los modelos de IA), señaló que esta disciplina se ha desarrollado en los últimos diez años para tratar de descifrar cómo la IA llega de una pregunta a una respuesta.

Neel Nanda, investigador principal en el laboratorio de IA DeepMind de Google, advirtió que comprender un modelo de lenguaje extenso es una tarea colosal. “Es comparable, en cierto modo, a tratar de entender completamente el cerebro humano”, señaló Nanda. “Algo que, hasta la fecha, los neurocientíficos no han logrado hacer”.