La mañana en que tiene lugar esta entrevista, un matemático e investigador de inteligencia artificial británico, Jacob Coxon, acaba de anunciar por X su renuncia a Anthropic. Coxon, que se había pasado los últimos tres años entrenando modelos de lenguaje para OpenIA y Anthropic, se despidió de su puesto (y también de sus share options) con un tuit particularmente ominoso: “La gente que construye IA cree sinceramente que podría matarnos a todos hacia el final de esta década”.
Ante tamaña afirmación, la primera pregunta para Mois Navon no puede ser otra. Nacido en Estambul y criado en Los Ángeles, como ingeniero ha trabajado en varias de las tecnologías de punta que modelan el mundo actual. Y como rabino, le ha tocado asesorar tanto al poder temporal (las tecnológicas, el gobierno israelí) como al espiritual (nada menos que al Vaticano). De paso por Chile, en pocos días se reunió con académicos, empresarios y autoridades, y dictó una serie de charlas en las que dejó plasmado su singularísimo punto de vista, un cruce de tecnología de punta con sabiduría milenaria. En hebreo, Navon significa sabio.
—¿Hay que tomarse en serio afirmaciones como las de Jacob Coxon o estamos otra vez ante un Y2K? (el apocalipsis que iba a ocurrir el año 2000).
“Hay que tomárselas completamente en serio. No es un mito ni una falsa alarma. Geoffrey Hinton, Yoshua Bengio, Bill Gates y el propio Elon Musk vienen advirtiendo esto desde hace años. Sabíamos que íbamos en esta dirección y tuvimos tiempo de ocuparnos, pero no se ha hecho lo suficiente. Y los líderes de los grandes laboratorios lo saben; Sam Altman lo ha dicho, Dario Amodei también. La gente tiene que parar y ponerse a trabajar en esto muy en serio. El problema técnico real es lo que llamamos la auto-mejora recursiva: la máquina se corrige a sí misma, diseña la siguiente generación y ahí los humanos perdemos por completo el control. Ese es el problema que tenemos que resolver hoy”.
—¿Hay alguna lección de cómo los gobiernos o las potencias manejaron la energía atómica que nos sirva para contener esto?
“Los gobiernos tienen el poder y son el lugar adecuado para esto, pero el problema es que son lentos. Legislar toma mucho tiempo. Por eso vengo insistiendo en que necesitamos que los organismos de la industria (como la IEEE o la ISO) establezcan marcos de regulación que las empresas puedan adoptar de inmediato. Necesitamos un consorcio de los grandes laboratorios de frontera en diálogo permanente con éticos, abogados y políticos para ponerle un freno y encuadrar esta tecnología. Y si no llegamos a una regulación integral, debe haber al menos medidas inmediatas de contención”.
—En una entrevista usted dijo que no usa IA china por temas de privacidad de datos. ¿Cómo se lidia con dicho país en este contexto? Hay quienes dicen que cualquier regulación que se aplique terminará favoreciendo sus tecnologías.
“Todo el mundo siempre introduce el problema de China. Es básicamente el clásico concepto de mal actor: alguien a quien supuestamente no le importa nada y solo quiere seguir corriendo hacia adelante. Por un lado, sí, quieren dominar el mundo. Pero eso significa explícitamente que no quieren destruirlo. Lo que quisieran es controlarlo. Y puede que lo intenten de formas que nosotros no consideramos éticas, como alguien que intenta robar un banco. He visto reportes de que en China también hay preocupación por la ética y la moral de la IA. No estoy seguro de cuánto de eso sea propaganda, pero estoy bastante convencido de que ellos no quieren destruir el mundo. Por lo tanto, también podrían formar parte de la discusión global para asegurarse de que las máquinas no nos destruyan a todos”.
—Quien sí entró con fuerza a la discusión fue el Vaticano con la encíclica Magnifica Humanitas. Entiendo que fue usted quien sugirió la incorporación del episodio bíblico de la Torre de Babel como ejemplo del abuso tecnológico.
“Estuve en el Vaticano formando parte de lo que ellos llaman Consejo de Sabiduría y ahí me tocó hacer una presentación sobre cómo es vista la tecnología en la Biblia. Yo llevaba un ejemplo positivo, el de Noé como inventor del arado, que fue un avance para la humanidad. Y también un ejemplo negativo, el de la Torre de Babel, que es el primer ejemplo de abuso tecnológico. Al final el papa tomó este ejemplo de Babel, pero para ejemplificar un uso positivo de la tecnología prefirió la historia de Nehemías, que reconstruyó los muros de Jerusalén involucrando a toda la comunidad, que es justamente lo que se le pide a las grandes tecnológicas”.
—El castigo en la Torre de Babel fue que toda la gente empezó a hablar idiomas distintos, no pudiendo comunicarse entre sí. Eso es muy parecido al efecto que provocan los algoritmos de las redes sociales, que han sido prohibidas para menores de edad en varios países. Usted ha dicho que la IA también debe restringirse a los niños. ¿Por qué?
“Las redes sociales han causado estragos tremendos. Y es porque hoy se pretende que los niños sean estrellas de cine a los cinco años, y si ya hay acoso en la escuela, en las redes sociales es todavía peor. La respuesta sencilla es que los niños pequeños, e incluso en toda la etapa escolar, no deberían estar en redes sociales. Acabo de ver un informe de The Economist que muestra cómo, desde la llegada de las redes sociales, la lectura, la escritura y la aritmética se han desplomado por completo. Es una locura: estábamos arriba y caímos en picada, cuando debió haber sido al revés. La IA es distinta a las redes sociales, pero es igual de perjudicial, porque la IA va a hacer tus tareas por ti y va a pretender ser tu amiga, justo en la etapa en que estás aprendiendo a hacer amigos. Eso es el fin de la sociedad. A mí me preocupa mucho más esto que la idea de que las máquinas tomen el control y nos destruyan físicamente”.
—Elon Musk asegura que en diez años el trabajo tal como lo conocemos será innecesario. Para muchas tradiciones, incluyendo la judía, el trabajo otorga dignidad y moldea el carácter. ¿Qué nos queda cuando la máquina hace todo mejor que nosotros?
“En la tradición judía existe una profecía sobre el fin de los tiempos que dice que ya no habrá trabajo utilitario. El propio Maimónides explica que la única labor que quedará en el mundo será conocer a Dios, lo que para él no significa sentarse a rezar todo el día, sino comprender el funcionamiento del universo: la física, las ciencias y la espiritualidad. Hacia allá nos dirigimos. Eso no significa caer en la pasividad. La gente necesitará seguir haciendo cosas, solo que ya no será un empleo a cambio de un sueldo, sino una labor de automejoramiento. Aunque las máquinas sean capaces de producir cuadros hermosos al estilo de Marc Chagall, seguiremos apreciando la creatividad humana, los matices. Aunque ya hay robots que corren más rápido que los atletas más veloces en los 100 metros planos, seguirá siendo fascinante presenciar el esfuerzo humano”.
—Hoy ya vemos plataformas como LinkedIn inundadas de textos redactados por algoritmos; son máquinas hablando entre ellas. ¿Cree que terminaremos acostumbrándonos a esta saturación o habrá una reacción en contra?
“Va a haber un rechazo natural. Yo leo muchísimas publicaciones en redes y reconozco de inmediato la estructura repetitiva de ChatGPT: ciertas palabras cliché, ese formato rígido de no esto, sino aquello. Ya no necesitas un detector informático para darte cuenta porque carece por completo de alma humana. Nos vamos a cansar de eso. Como en toda revolución tecnológica, primero nos dejamos llevar por la euforia y luego encontramos el equilibrio. Aprenderemos a usarla mejor y la sociedad terminará valorando y buscando el trabajo genuinamente humano”.
—En una conversación reciente con The Economist, Yuval Noah Harari planteaba que necesitamos frenar el ritmo de la IA para permitir una deliberación democrática real. Usted, en cambio, suele poner el peso en la responsabilidad personal. ¿Alcanza con la conciencia individual ante semejante fuerza?
“Harari tiene razón en que deberíamos detenernos. Dario Amodei lo pidió al advertir sobre la automejora recursiva, Sam Altman lo ha dicho, Elon Musk y Bill Gates lo firmaron en 2015 y otra vez en 2023. Todos piden una moratoria, pero nadie la cumple. Yo no estoy en desacuerdo con la idea de parar o al menos no lanzar nuevos modelos de frontera sin evaluarlos antes entre competidores. Pero esa pausa no está ocurriendo y por eso insisto en que la responsabilidad es personal. Tenemos que despertar y entender que le estamos entregando nuestra humanidad a las máquinas”.
—Usted ha advertido que, si logramos construir máquinas conscientes, en realidad estaríamos creando una nueva forma de esclavitud.
“Así es y se trata de línea infranqueable para mí, tan grave como la clonación humana. La clonación es de las pocas tecnologías que el mundo ha prohibido por consenso ético, porque entendimos que no debemos duplicar personas. Construir entidades conscientes está al mismo nivel. La conciencia significa tener una experiencia subjetiva del mundo: la capacidad de sentir dolor y placer. Si fabricas una entidad con esa capacidad, pero la compras, la vendes y la obligas a trabajar para ti las 24 horas del día, eso es literalmente un esclavo. Los interruptores de silicio actuales no tienen conciencia; interactúan funcionalmente como si la tuvieran, pero no sienten ni comprenden. La verdadera conciencia requiere un sustrato biológico. En Stanford y otros laboratorios ya están investigando con redes neuronales biológicas, lo que llaman inteligencia organoide. Cuando alcancen una escala similar a los cien mil millones de neuronas del cerebro humano, creo que podrían generar conciencia. Y esa es una frontera que jamás deberíamos cruzar”.
—Con todo lo que ha visto, ¿cómo es que se declara tecno-optimista?
“Me considero un tecno-optimista, aunque a mucha gente no le guste la etiqueta. La tecnología siempre ha ayudado a la humanidad y continuará haciéndolo, siempre y cuando sepamos encuadrarla dentro de límites éticos. Tengo esperanza porque el potencial positivo es gigantesco: la IA puede ayudar a curar el cáncer, resolver la crisis climática y transformar la medicina. En esto coincido con Yann LeCun: a lo largo de la historia, la humanidad siempre ha sabido estar a la altura a la hora de controlar sus propias herramientas. Me encanta recordar lo que ocurrió con los primeros ferrocarriles en el siglo XIX: la gente decía con pánico que viajar a treinta millas por hora mataría a los pasajeros porque el cuerpo no soportaría semejante velocidad. No sabíamos cómo gestionarlo, tuvimos miedo, pero aprendimos y establecimos reglas. La inteligencia artificial es más peligrosa que un tren a vapor, sin duda alguna, pero tengo la firme convicción de que sabremos ponerle límites y encauzarla por el bien de nuestra especie”.
