Un inquietante llamado hizo este sábado el CEO de Anthropic, Dario Amodei, sobre el frenético ritmo al que está avanzando la inteligencia artificial (IA) y la necesidad de ralentizarlo.
No es la primera vez que Amodei hace un llamado de este tipo. En otras entradas de su blog, ha advertido sobre los riesgos de que la IA no cuenta con regulaciones robustas. Lo novedoso es que en esta ocasión, sus rivales de OpenAI y xAI, Sam Altman y Elon Musk, hicieron eco de su llamado, aparentemente.
“Dario tiene razón”, dijo Musk en X, la red social que desde 2022 es de su propiedad. “Estoy de acuerdo”, secundó Altman en la misma plataforma. De hecho, esta misma jornada Altman reafirmó que OpenAI retrasará su esperada salida a la bolsa y reconoció que esto se debe al trabajo de seguridad que deben realizar en torno a la IA.
El llamado del CEO de Anthropic, la empresa detrás de Claude, tuvo lugar en una semana marcada por preocupaciones en torno a la IA. Jacob Coxon, un investigador que tuvo un paso por OpenAI, renunció a Anthropic alegando que la IA “podría matarnos a todos antes de que termine la década”. Coxon aclaró en entrevistas posteriores que su temor se fundaba en la capacidad de automejora recursiva que algunos modelos de IA podrían alcanzar en un plazo de seis meses a tres años.
“Imagina que tienes una IA y le dices: hazte más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: soy más fuerte. Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”, explicó.
La advertencia de Amodei: “Me preocupa que en seis meses un enjambre pueda controlar todo internet”
En su reciente ensayo, Amodei reafirmó su convicción de que la IA podrá “curar la mayoría de las enfermedades graves en los próximos 5 a 10 años, acelerar enormemente el crecimiento económico, crear un mundo de abundancia y empoderamiento, e impulsar un renacimiento de la democracia y la libertad”.
“Si se utiliza con cuidado, la IA puede ser el último invento de una larga lista de milagros tecnológicos que han enaltecido y ennoblecido a la humanidad”, dijo. Pero, también reconoció que en estas posibilidades también conviven con “el riesgo de perder el control de los sistemas de IA, el uso indebido de IA para ciberataques y bioterrorismo y graves trastornos económicos”.
Amodei sostuvo que esa dualidad lo llevó a buscar una especie de término medio entre desarrollar con cuidado la IA y convertir la ciberseguridad en un factor competitivo para este mercado. Pero en los últimos meses, dos sucesos lo convencieron de que hay que “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA“.
La primera de ellas es que la automejora recursiva está empezando a manifestarse y que si no se controla, puede “superar nuestra capacidad de comprender y controlar estos sistemas”. La segunda es el incidente OpenAI-Hugging Face, cuando modelos de IA de la primera empresa escaparon de un entorno de pruebas controlado y accedieron sin permiso a la segunda plataforma.
“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda internet con una botnet persistente (causando potencialmente cientos de miles de millones de dólares en daños)”, advirtió. Amodei sostuvo que casos así, aunque menos graves, han ocurrido en todas las empresas y por ello, las instó a tomar cartas en el asunto.
En concreto, propuso tres medidas: que las empresas de IA cuenten con evaluadores externos que supervisen sus prácticas de seguridad, una coordinación entre empresas de IA y gobiernos democráticos para establecer estándares comunes de seguridad y esfuerzos de coordinación internacional en la misma línea con gobiernos autoritarios.
Está por verse si es que el llamado de Amodei realmente genera un cambio. Según Axios, “hay tanto dinero en juego en la industria de la IA que puede ser difícil imaginar que las empresas se contengan, especialmente si no están seguras de que sus competidores harán lo mismo”. También surgieron suspicacias sobre las intenciones de Amodei y si es que este llamado podría ser para concentrar el poder tecnológico y económico en su propia compañía.
