El sábado el CEO de Anthropic, Dario Amodei, interrumpió el silencio que había mantenido en su blog para hacer un llamado: el ritmo al que las compañías mejoran las capacidades de la inteligencia artificial (IA) debía ralentizarse, ante los graves peligros que supone que ésta se desarrolle sin una regulación.
Si bien Amodei mantuvo su convicción de que en los próximos cinco años la IA podría erradicar enfermedades, recalcó que su uso indebido también puede derivar en ciberataques, bioterrorismo y en graves trastornos económicos. Citando las capacidades de automejora recursiva que la IA está empezando a manifestar y el incidente cibernético Open AI-Hugging Face, el jefe de Anthropic proyectó que uno de los riesgos es que “en 6 a 12 meses un enjambre de este tipo pueda controlar toda internet”.
En vista de esos riesgos, Amodei propuso evaluadores externos de seguridad para las empresas de IA, coordinación entre estas compañías y gobiernos democráticos para establecer estándares comunes de seguridad y esfuerzos de coordinación internacional en la misma línea con gobiernos autoritarios. Su llamado tuvo una inesperada acogida: sus competidores de OpenAI y xAI y, más recientemente, desde Google DeepMind le dieron la razón.
Trump da portazo a la propuesta de Amodei
Sin embargo, el presidente de Estados Unidos, Donald Trump, no hizo eco del llamado. Sin aludir a la petición de Amodei, sostuvo durante una visita en Irlanda que “hay muchas fuerzas muy negativas que están sacando a relucir este tema, cuando no deberían hacerlo, y están mencionando cosas que no van a suceder” y que “estamos liderando a China en IA… y, francamente, quiero que siga siendo así porque quien gane en IA, gana”.
La misma postura exhibió el presidente de la Cámara de Representantes, Mike Johnson. El principal representante del Partido Republicano advirtió que “si el Congreso se apresura a convocar una sesión de emergencia para intentar regular la IA, perderemos la carrera frente a China, y eso representa una amenaza para todos los estadounidense”.
En paralelo, Amodei volvió a la carga en una entrevista concedida a CBS. “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos, pero mucha de la industria lo hizo”, dijo.
Por ello, considerando que países autoritarios cuentan con esta tecnología, Amodei instó a que una combinación de gobiernos democráticos monitoreen el desarrollo de ésta y conformen una gobernanza conjunta.
“Si construimos la IA de la manera correcta, creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”, alertó.
