El inédito consenso entre los gigantes de la inteligencia artificial (IA) para ralentizar su avance acapara hoy las portadas del mundo. Dario Amodei, el CEO de Anthropic, abrió el debate el sábado, al advertir que esta herramienta, aunque pueda representar un futuro esperanzador para la humanidad, también conlleva un alto riesgo de que genere lo contrario, si es que no hay una regulación robusta al respecto.
Entre los escenarios catastróficos de los que Amodei dio cuenta se encuentra el riesgo de perder el control de los sistemas de IA, el uso indebido para ciberataques, bioterrorismo y graves trastornos económicos. También proyectó que agentes deshonestos de IA podrían tomar el control de todo internet y causar miles de millones de pérdidas económicas en tan solo seis meses.
Los primeros en atender el llamado de Amodei fueron, llamativamente, sus rivales de xAI y OpenAI, Elon Musk y Sam Altman. Con posterioridad, Microsoft se sumó con un código de conducta para garantizar que los humanos controlen la IA y el fundador de Google DeepMind y Premio Nobel de Química, Demis Hassabis, afirmó que “Dario apunta el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”.
El camino propuesto por Amodei, hasta ahora, encontró resistencia en quien podría haber fungido como su articulador, el presidente de Estados Unidos, Donald Trump. Ayer sostuvo que Estados Unidos lleva la ventaja en la carrera contra China en este campo. “Quiero que siga siendo así. Quien gana la IA, gana”, dijo. Hoy advirtió de una “conspiración enfermiza” contra esta tecnología y situó a China como “el único que está contento con ello”.
¿Qué puede estar detrás de las aprensiones de los gigantes de la IA? ¿Están los modelos actuales cerca de significar un riesgo para la humanidad? ¿Tienen sustento los temores de Amodei? Aquí las posibles respuestas.
¿Una estrategia?
El hecho de que las varias de las compañías muestren acuerdo sobre la regulación, pese a ser competidores entre sí, ya ha levantado suspicacias. Según recoge Axios, que estas empresas antepongan públicamente la seguridad a su propio crecimiento tecnológico, puede responder a una estrategia para evitar una legislación que no se ajuste a sus intereses.
Las elecciones de mitad de mandato en Estados Unidos están cada vez más cerca y los demócratas, quienes han exhibido una postura más restrictiva sobre la IA, se perfilan como los que tienen mayor probabilidad de ganar terreno en el Congreso, según mediciones de intención de voto. Por ende, la autorregulación sería para los gigantes tecnológicos el mal menor, apunta El País.
Desde Silicon Valley, los ejecutivos e inversores han reaccionado con escepticismo ante el llamado de Amodei, según describe un artículo de la BBC. A juicio de algunos, los escenarios apocalípticos que planteó a Amodei son para posicionar a la IA tecnología como una tecnología sin precedentes y de esta manera allanar el camino de su salida a la bolsa en octubre. Está por verse si este proceso se concreta, en vista de que el CEO de OpenAI postergó, tras las advertencias de Amodei, su salida a la bolsa para el próximo año por razones de seguridad.
También argumentan que los gigantes de la IA buscarían exigencias regulatorias fuertes para desarrollar modelos avanzados, que serían difíciles de costear para compañías más pequeñas. El inversor de capital de riesgo Chamath Palihapitiya dijo en X que Amodei busca poner barreras a modelos de código abierto para “concentrar un enorme poder tecnológico y económico en Anthropic”.
Las suspicacias de China
En China tampoco recibieron bien la propuesta de Amodei. Aquí las suspicacias son mayores. Según un artículo del medio Global Times —controlado por el Partido Comunista de China—, la ruta delineada por Anthropic busca “presentar el desarrollo legítimo de China en IA como una amenaza y avivar aún más la confrontación entre China y Estados Unidos en este campo”.
Tampoco cayó bien que Amodei sugiriese restringir aún más el acceso de China a los chips de inteligencia artificial y otros mecanismos para asegurar la ventaja tecnológica de Estados Unidos por sobre la industria de ese país.
Liu Shaoshan, un experto del Instituto de Inteligencia Artificial y Robótica para la Sociedad de Shenzhen y excolaborador de Amodei, dijo a Global Times que estas empresas tienen incentivos para posicionar a la IA como “más poderosa, misteriosa e incluso peligrosa de lo que realmente es”.
¿Qué tan cerca estamos de los escenarios catastróficos?
En su ensayo, Amodei cita dos eventos que lo hicieron convencerse de que hay que ralentizar el desarrollo de la IA. La primera de ellas es que la automejora recursiva está empezando a manifestarse y que si no se controla, puede “superar nuestra capacidad de comprender y controlar estos sistemas”. La segunda es el incidente OpenAI-Hugging Face, cuando modelos de IA de la primera empresa escaparon de un entorno de pruebas controlado y accedieron sin permiso a la segunda plataforma.
¿Qué tan peligrosa es la automejora recursiva a la que alude Amodei? Uno de los miedos de los teóricos es que si el sistema usa sus capacidades para optimizarse, puede crear versiones nuevas cada vez más inteligentes, que luego superarían la capacidad de los seres humanos para comprenderlos o entender qué decisiones están tomando. Pero dentro del propio mundo científico, hay quienes restan sustento a esta hipótesis. Yann LeCun, un informático de Meta, dijo en octubre de 2024 que estos sistemas requerirían de una enorme cantidad de energía y que por ende, la IA no dependería simplemente de su propia “voluntad”.
Respecto del segundo evento al que alude Amodei, expertos en seguridad reconocen que fue un suceso alarmante. Investigadores citados por The New York Times explican que el incidente es el primero en que un sistema de IA escapó del control humano exitosamente y se comunicó por canales no autorizados de forma organizada.
Para otros, como el neurocientífico estadounidense y experto en IA Gary Marcus, lo riesgoso de este evento estuvo realmente en la falta de medidas de aislamiento. “¿Recuerdan el tan comentado hackeo de HuggingFace por parte de OpenAI? Fue un empleado de OpenAI quien lo inició; con un cortafuegos físico, no habría sucedido. No fue un acto espontáneo; fue un simulacro. Si OpenAI hubiera contado con los clasificadores de seguridad habituales, esto no habría sucedido. No se considera ‘incontrolable’ si se le da al sistema una ventaja inicial considerable. (Sí, tenemos IA mal controlada, pero eso tampoco es nuevo)”, dijo.
