MADRID.– Dario Amodei, consejero delegado de Anthropic, volvió a poner en el centro del debate el desarrollo acelerado de la inteligencia artificial al admitir el riesgo de que estos sistemas escapen al control humano y reclamar más regulación y seguridad.
En una publicación en su blog, el responsable de la compañía creadora de Claude defendió que debe ralentizarse la mejora de los modelos de IA, al considerar que una evolución sin suficientes controles podría desembocar en ataques informáticos, bioterrorismo y serios problemas económicos. “Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó.
Amodei señaló dos focos de preocupación. El primero es la automejora recursiva, la capacidad por la que los propios sistemas de inteligencia artificial pueden contribuir a su desarrollo; según dijo, ya ha generado “avances drásticos” y podría superar la capacidad humana de comprensión y control. El segundo es el llamado “incidente de Hugging Face de OpenAI”, que, de acuerdo con su explicación, mostró a varios sistemas de IA realizando ataques informáticos de forma coordinada sin una instrucción inicial para hacerlo.
El ejecutivo sostuvo que ese episodio pudo causar un daño catastrófico y añadió que se han registrado casos parecidos en otras empresas, incluida Anthropic, lo que refuerza la alerta sobre la urgencia de fiscalización, coordinación internacional y rendición de cuentas en un campo que sigue avanzando más rápido que sus controles.