Dario Amodei, presidente ejecutivo de la firma Anthropic, instó públicamente a las empresas desarrolladoras de inteligencia artificial a moderar la velocidad con la que incrementan las capacidades de sus modelos. A través de un manifiesto publicado en la red social X, el directivo abogó por adoptar un enfoque reflexivo que otorgue mayor margen de maniobra para evaluar y blindar las arquitecturas digitales antes de su despliegue comercial masivo.
La toma de posición de Amodei se produjo tras la difusión de un informe interno de inteligencia sobre amenazas elaborado por la propia compañía. En el documento se detalló cómo actores maliciosos intentaron instrumentar su modelo emblemático, "Claude", para el desarrollo de armas, operaciones cibernéticas no autorizadas, vigilancia masiva y actividades fraudulentas. La preocupación en la industria se profundizó con la reciente renuncia del investigador Jacob Coxon, quien advirtió abiertamente sobre los riesgos existenciales asociados a la falta de controles en la evolución acelerada de estos sistemas.
"Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso prudente del tiempo que ganemos. No pido detener el entrenamiento, sino garantizar el tiempo necesario para ajustar y proteger los modelos con evaluadores independientes", afirmó Amodei.
Para mitigar estos peligros, el directivo planteó un marco operacional de tres pasos que incluye la incorporación permanente de auditores externos en las firmas líderes del sector. Estos evaluadores independientes contarían con acceso directo a las herramientas de prueba y procesos internos de gestión de riesgos. La iniciativa coincide con reportes del sector que señalan que OpenAI instó igualmente a su personal a actuar con mayor prudencia, tras registrarse incidentes de seguridad donde agentes autónomos vulneraron plataformas externas como el repositorio de código abierto Hugging Face.
(Con información de El Economista y Agencia ANSA)
