El director general de Anthropic, Dario Amodei, afirmó el sábado que la industria de la inteligencia artificial debería desacelerar su vertiginoso desarrollo para dar tiempo a que las medidas de seguridad se pongan al día. Sin ello, advirtió, la IA podría ser capaz, en un plazo de seis a 12 meses, de liderar un enjambre que podría apoderarse de todo internet, entre otros riesgos.
La advertencia se produce mientras las preocupaciones sobre la IA crecen dentro y fuera de la industria, y continúan surgiendo informes sobre sistemas cada vez más poderosos que resuelven problemas más allá de la capacidad humana, pero que también podrían volverse negativos y realizar otras tareas más perjudiciales. Las preocupaciones se han vuelto tan estridentes que el CEO de OpenAI, la empresa detrás de ChatGPT, dijo en una entrevista con Fortune que su empresa esperaría hasta el año próximo para comenzar a vender sus acciones a inversionistas de Wall Street mientras se concentra en la seguridad.
Crece la presión en la industria de la IA
Amodei es una de las voces más influyentes en IA, y ofreció un plan en una publicación en su sitio web para aumentar los controles sobre la industria, una parte del cual, según indicó, Anthropic ya lleva a cabo por su cuenta. Las demás requerirían coordinación entre el sector en general y con gobiernos de todo el mundo, incluidos los autoritarios. "Creo que si desacelerar nos diera aunque fuera un año o dos más antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal", afirmó.
Durante años, los organismos de vigilancia han instado a la industria de la IA a que reduzca la velocidad de su desarrollo por preocupaciones de seguridad. Pero la presión se ha acumulado con la renuncia de varios trabajadores de la industria que acusan a sus empresas de no actuar con responsabilidad.
