“Pronto crearemos inteligencias superiores a la nuestra. Cuando esto suceda, la historia humana habrá alcanzado una especie de singularidad, una transición intelectual tan impenetrable como el espacio-tiempo anudado en el centro de un agujero negro, y el mundo irá mucho más allá de nuestra comprensión”, decía en los años 90 el matemático estadounidense Vernor Vinge.
Treinta años antes, el matemático británico Irving John Good había llegado a la misma conclusión. A su juicio, cuando se creara la primera máquina ultrainteligente, es decir, aquella capaz de superar las capacidades intelectuales de una persona, la humanidad estaría frente a su último invento. Desde ese punto, este artefacto ultrainteligente podría diseñar versiones aún mejores, dejando muy atrás a la inteligencia humana.
El último invento de la humanidad se llamará Inteligencia Artificial General. O al menos así lo creen, según consignó Axios esta semana, los arquitectos de la IA: Elon Musk (xAI), Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google Deep Mind). En las últimas semanas —meses en el caso de Musk— los más entusiastas de este grupo han postulado que ya alcanzamos la singularidad tecnológica, el concepto del que hablaba Vinge, relegado durante décadas a la ciencia ficción.
Para dimensionar lo que significa para la humanidad alcanzar la singularidad, expertos suelen compararla con otros puntos de inflexión en la historia, como la revolución industrial o la domesticación de las plantas (agricultura). Sus efectos serían impredecibles. Algunos se atreven a decir que supondría derribar el concepto tradicional del trabajo, erradicar enfermedades o la extinción.
¿Superamos ese umbral, como dicen los referentes de la IA, o aún estamos lejos?
Por qué Musk y Altman creen que estamos en la singularidad
“Hemos entrado en la singularidad. 2026 es el año de la singularidad”, fue el diagnóstico de Elon Musk en enero, como respuesta a usuarios asombrados por la capacidad de la IA para llevar a cabo en semanas procesos que demoraban años, sin profundizar más allá de esa afirmación.
Tampoco lo hizo más recientemente, el rival de Musk, Sam Altman. “Ya estamos, por así decirlo, en la singularidad”, dijo al podcast Relentless el fundador de OpenAI, la empresa detrás de ChatGPT. De inmediato, se relacionaron sus declaraciones con un inusual incidente cibernético realizado por modelos de OpenAI.
Durante una evaluación de la compañía, dos sus modelos de IA más avanzados lograron escapar de un entorno de prueba, acceder a internet, pese a que éste estaba restringido, y acceder a una plataforma externa de aprendizaje de IA conocida como Hugging Face. Este aparente comportamiento autónomo fue leído como una prueba de que cada vez se está más cerca de que la IA actúe sin intervención humana directa, el paso previo para la automejora recursiva, como se le llama al proceso en que esta herramienta se rediseña y mejora a sí misma.
Los matices de Hassabis y Amodei
Una postura menos contundente exhiben los fundadores de Anthropic, la empresa madre de Claude, y Deep Mind, adquirida por Google en 2014. Hace dos años ya, Demis Hassabis, advertía que se necesitarán un “puñado de otros grandes avances” adicionales a los modelos multimodales de IA generativa, para llegar a la IA general.
El también ganador del Premio Nobel de Química sostuvo hace dos meses en un foro de la Universidad de Stanford que la singularidad está en una etapa muy inicial. “Dentro de diez años, creo que nos daremos cuenta de que nos encontramos en los albores de la singularidad“, reflexionó.
Con todo, el reciente movimiento de Google de mover a Hassabis de la dirección ejecutiva de Google DeepMind a la dirección científica de Alphabet, matriz de Google, da cuenta de las intenciones de la compañía de inyectar fuerzas al desarrollo de la IA general. “Él y yo llevamos mucho tiempo hablando de encontrar la forma que le permita dedicar toda su atención a dar forma al futuro de la IA general. Ese es un trabajo de vital importancia para Alphabet y para la humanidad, y no se me ocurre nadie mejor que Demis para llevarlo a cabo”, dijo el director general de Alphabet, Sundar Pichai.
Dario Amodei, en tanto, sostiene que la IA general o IA potente, como prefiere llamarla, llegará en un plazo de uno a tres años. Por ende, aún queda trecho para el punto hipotético que supone la singularidad. Este escenario teórico tampoco tendrá cambios inmediatos, según postuló en su blog. “El problema reside en que existen límites físicos y prácticos reales, por ejemplo, en la construcción de hardware o la realización de experimentos biológicos. Incluso un nuevo país de genios se toparía con estos límites. La inteligencia puede ser muy poderosa, pero no es magia”, advirtió.
“Las máquinas no están despertando”
Las afirmaciones de Musk y Altman, aunque impactantes, no encontraron eco en toda la comunidad científica. Para Kai Riemer y Sandra Peter, académicos de la Universidad de Sidney, “la singularidad tiene dos características. Es recursiva: el sistema se perfecciona una y otra vez. Y la inteligencia artificial supera la inteligencia humana. Los sistemas que vende Sam Altman no cumplen con ninguna de estas características“, dijeron en una columna publicada en The Conversation.
Si bien los académicos reconocieron que algunos modelos de IA participan en la mejora de ciertos componentes de su sistema, puntualizaron que “cada una de estas mejoras forma parte de un ciclo de entrenamiento o ingeniería iniciado por humanos”.
“Las máquinas no están despertando. Están haciendo exactamente lo que las diseñamos para hacer, a una velocidad vertiginosa. Debido a su naturaleza probabilística, a veces se desvían en direcciones que olvidamos controlar. Eso sí es motivo de preocupación. Necesitamos límites, gobernanza y, sobre todo, educación, para que empecemos a preocuparnos por lo que realmente importa”, alertaron.
El neurocientífico estadounidense y experto en IA Gary Marcus también estuvo en desacuerdo con la tesis de Musk y Altman. “Otra razón para no tomarlos a todos en serio es que, hasta donde yo sé, ninguno ha definido realmente qué significan. Como dijo Neil Turkewit: ‘La singularidad es un concepto muy fácil de cambiar. Significa todo y nada a la vez’. Lo mires por donde lo mires, todavía no hemos llegado a ese punto”, comentó en una entrada de su blog.
“¿Recuerdan el tan comentado hackeo de HuggingFace por parte de OpenAI? Fue un empleado de OpenAI quien lo inició; con un cortafuegos físico, no habría sucedido. No fue un acto espontáneo; fue un simulacro. Si OpenAI hubiera contado con los clasificadores de seguridad habituales, esto no habría sucedido. No se considera ‘incontrolable’ si se le da al sistema una ventaja inicial considerable. (Sí, tenemos IA mal controlada, pero eso tampoco es nuevo)”, sumó.
En los albores de la singularidad o ya en ella, lo cierto es que entre los expertos el horizonte está cerca. Los más conservadores la están situando en 2045.
