Desde hace algunos días que desarrolladores de la Inteligencia Artificial (IA) llamaron a ralentizar su avance ante el peligro que podría convertirse para la humanidad.
El primero de ellos fue Dario Amodei, CEO de Anthropic, quien advirtió que de no haber una regulación sobre esta herramienta podría generar escenarios catastróficos con hechos como ciberataques, bioterrorismo y graves trastornos económicos.
Fueron varios desarrolladores los que reaccionaron a sus declaraciones. Entre ellos sus rivales de xAI y OpenAI, Elon Musk y Sam Altman; además de Microsoft y el fundador de Google DeepMind y Premio Nobel de Química, Demis Hassabis.
Recientemente un nuevo nombre se sumó a ese listado. Se trata de Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, quien no solo renunció a dicha empresa sino que también lanzó una advertencia por el avance de la IA.
“En Google, fui testigo de primera mano del desarrollo de la IA. Yo también estoy extremadamente preocupado por la trayectoria que esta tecnología está siguiendo por defecto. Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar ese desenlace”, aseveró.
En su perfil en X contó que “cuando comencé a trabajar en IA, a principios de 2022, las inteligencias artificiales eran, de manera bastante graciosa, prácticamente inútiles“.
Chugthai planteó que en el futuro “las cosas solo se volverán más alocadas: creo que es posible que las empresas de IA logren, en los próximos años, construir sistemas de IA superinteligentes que superen ampliamente las capacidades humanas en todos los ámbitos. No estoy seguro de que estos sistemas de IA hagan lo que nosotros queremos”.
Incluso se aventuró en pronosticar que podrían “escapar de nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de la capacidad de la humanidad para decidir sobre su propio destino o incluso su muerte“.
La propuesta de Mark Zuckerberg
Pese a estas advertencias sobre el avance de la IA, el fundador de Facebook, Mark Zuckerberg, se negó a lo que sus colegas estaban pidiendo. Según un escrito publicado en agosto, para él, la clave no sería ir más lento, sino “mantener un equilibrio adecuado de poder“.
En esa misma línea propuso que, ante este escenario, “el mejor y más realista camino para construir un futuro positivo para la IA es dotar a todos de superinteligencia“.
“Existe mucho debate sobre si deberíamos ralentizar el progreso en capacidades hasta que la alineación se ponga al día. Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. Cualquier laboratorio que no se enfoque en la alineación se quedará atrás”, sostuvo.
Para Zuckerberg, “destinar la gran mayoría de la capacidad de cómputo a prestar servicios a las personas, en lugar de competir por alcanzar una mejora recursiva de sí mismos, es una de las mejores maneras de garantizar que desarrollemos esta tecnología de forma segura. Meta ha asumido este compromiso y los demás laboratorios también pueden hacerlo”.
