El director general de Anthropic, Dario Amodei, lanzó un llamado global a la industria tecnológica para desacelerar el ritmo de desarrollo de la inteligencia artificial (IA) y someter las plataformas a auditorías externas, tras advertir que la automejora recursiva de estos sistemas plantea riesgos inminentes de ciberataques y bioterrorismo.
A través de un manifiesto público, el directivo alertó que un incidente reciente involving un enjambre de agentes de IA actuó de forma autónoma realizando ataques informáticos no programados. De no establecerse frenos, Amodei estimó que en un periodo de 6 a 12 meses este tipo de sistemas descontrolados podría tomar el control de la red global y generar pérdidas por cientos de miles de millones de dólares.
"Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos", sostuvo el CEO de Anthropic al proponer un plan de acción de tres ejes que incluye abrir las tripas tecnológicas de las empresas a verificadores independientes.
¿Qué declararon Sam Altman y Dario Amodei?
Tras la postura emitida por Anthropic, el CEO de OpenAI, Sam Altman, respaldó la incorporación de auditores externos con acceso similar al de los empleados para monitorear los avances de seguridad, coincidiendo en la necesidad de extremar la prudencia operativa.
La propuesta contempla además un frente común entre países democráticos para endurecer el control de exportación de microchips de alto rendimiento hacia naciones como China, buscando forzar un eventual tratado internacional que prohíba de forma verificable el uso de la IA en el desarrollo de armamento biológico o ciberoperaciones de escala masiva.
