El exinvestigador de la empresa de inteligencia artificial Anthropic, Jacob Coxon, advirtió en entrevistas con cadenas estadounidenses sobre los riesgos asociados al avance acelerado de la inteligencia artificial (IA). Coxon aclaró que los modelos actuales no representan una amenaza directa de extinción, aunque estimó que en un horizonte de seis meses a tres años la tecnología podría alcanzar niveles de autonomía peligrosos para la infraestructura y la seguridad global.
Las afirmaciones de Coxon fueron respaldadas por Evan Hubinger, líder de seguridad en Anthropic, quien alertó sobre los peligros de una eventual superinteligencia impulsada por automejora recursiva. Según los especialistas, el principal factor de riesgo radica en la capacidad de los sistemas para modificar su propio código de forma independiente, ejecutando tareas complejas en el mundo físico mediante conexiones a redes informáticas y sistemas automatizados.
| Aspecto | Declaración / Indicador |
| Plazo estimado de riesgo | De 6 meses a 3 años |
| Mecanismo crítico de alerta | Automejora recursiva de código sin intervención humana |
| Riesgos potenciales | Ciberataques a infraestructura crítica y desarrollo de armas biológicas |
| Factor de aceleración | Competencia comercial entre empresas del sector tecnológico |
Presión competitiva y postura de las empresas
Respecto al funcionamiento interno de las firmas tecnológicas, Coxon descartó intenciones malévolas por parte de directivos como Dario Amodei, director ejecutivo de Anthropic. No obstante, argumentó que la dinámica de mercado y la carrera por el liderazgo comercial fuerzan a las compañías a recortar tiempos de verificación en los protocolos de seguridad. Para el especialista, la solución a estos desafíos requiere cooperación internacional e instrumentos regulatorios multilaterales.
Por su parte, Anthropic emitió un comunicado oficial reafirmando su compromiso con el desarrollo responsable de la tecnología. La compañía destacó la implementación de su Política de Escalado Responsable y abogó por la creación de marcos legales e internacionales que regulen el ritmo de lanzamiento de nuevos modelos de inteligencia artificial en la industria.