El plan de tres partes formulado por los desarrolladores tecnológicos autoriza la fiscalización externa permanente durante los entrenamientos computacionales, con facultades para reportar incidentes e intervenir sobre sistemas que proyectan superar el rendimiento humano en múltiples tareas.
Frente al discurso de autorregulación corporativa en la industria tecnológica, Dario Amodei, CEO de Anthropic en San Francisco, Estados Unidos, reconoció en su ensayo técnico titulado “We Must Pace the Frontier” que el sector requiere desacelerar el desarrollo de modelos de frontera para evitar que las capacidades operativas superen a los mecanismos de seguridad. El pronunciamiento validó la denuncia previa de Jacob Coxon, investigador que abandonó Anthropic tras desempeñarse en OpenAI, quien advirtió sobre la falta de supervisión independiente frente a un reducido grupo de corporaciones privadas que compite por construir sistemas con capacidades superiores a las humanas.
Un plan de tres partes conforma la propuesta formal presentada por Amodei para coordinar la reducción del ritmo productivo entre los competidores del sector. “Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo”, puntualizó el directivo. Como resolución inmediata, Anthropic determinó que evaluadores externos mantendrán acceso permanente y en condiciones idénticas a las del personal interno para examinar el alineamiento durante el entrenamiento de los algoritmos y registrar fallas de seguridad.
Anthropic y OpenAI autorizan auditorías externas a sus algoritmos
Sam Altman, CEO de OpenAI en San Francisco, confirmó la adhesión de su firma a la política de fiscalización técnica tras semanas de deliberaciones internas enfocadas en este punto. “Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera”, declaró Altman al anunciar que su firma replicará la apertura de sistemas. “Es una gran idea y nosotros haremos lo mismo”, aseveró el ejecutivo, ratificando que los auditores independientes dispondrán de los mismos permisos que los ingenieros de planta para inspeccionar el código.
Tras el anuncio de Anthropic, Elon Musk, propietario de SpaceX y fundador de xAI, respaldó la iniciativa de Amodei mediante un posicionamiento directo: “Dario tiene razón”. La coincidencia entre los tres directivos expuso una contradicción estructural: los incentivos comerciales del mercado empujan a lanzar productos antes que la competencia, mientras las auditorías de control demandan tiempos técnicos de análisis para contener la autonomía algorítmica.
Dentro del mercado tecnológico global, los sistemas continúan escalando en potencia mientras las entidades regulatorias carecen de protocolos indispensables para auditar el desempeño de los modelos. La denuncia inicial de Coxon y la posterior reacción articulada de Amodei, Altman y Musk confirmaron documentalmente que la aceleración comercial impulsada por las propias compañías privadas constituye el principal factor de riesgo identificado por sus desarrolladores. (Agencia OPI Santa Cruz)