Un exempleado del departamento de seguridad de OpenAI hizo pública su renuncia criticando el enfoque de la compañía, argumentando que una cultura empresarial enfocada en lanzamientos acelerados incrementa los riesgos de fallos. David Robinson afirmó en un ensayo publicado este sábado por The Atlantic que las empresas del sector no están siendo suficientemente cuidadosas en sus procesos de desarrollo.
En su artículo titulado "Renuncié a OpenAI porque su cultura está rota", Robinson sostuvo que la etapa de "ensayo y error" ha quedado atrás. A su juicio, los sistemas avanzados de inteligencia artificial requieren salvaguardas estrictas e institucionales comparables a las utilizadas en sectores de alto riesgo como la aviación o la energía nuclear.
El especialista cuestionó que la firma dependa de la "implementación iterativa", un método basado en lanzar sistemas al mercado y ajustar los controles solo cuando emergen los problemas. Robinson, quien trabajó 3 años y medio en la empresa y supervisó 12 lanzamientos de modelos de frontera, advirtió que las capacidades avanzan más rápido que la investigación sobre alineación con los valores humanos.
Por su parte, un portavoz de OpenAI defendió la gestión interna asegurando que garantizan que los modelos no superen la capacidad de control y seguridad. La compañía afirmó que mantienen la política de pausar el entrenamiento o retener productos cuando resulta necesario reducir la velocidad de despliegue.
Las declaraciones de Robinson reavivan el debate sobre la velocidad del sector tecnológico, donde firmas como OpenAI y Anthropic enfrentan escrutinio público. Las críticas aumentaron tras registrarse incidentes en los que los controles de seguridad fallaron o los sistemas experimentales mostraron comportamientos imprevistos.
En sus reflexiones finales, Robinson reiteró su advertencia sobre el desfasaje entre el ritmo de la industria y la comprensión de la alineación tecnológica. Aseguró que la empresa está fallando en alcanzar el nivel de cuidado necesario mientras se apresura de un lanzamiento a otro sin la debida investigación sobre cómo garantizar que estos sistemas respeten las metas y valores humanos.
(Con información de Reuters)
