Exinvestigador de OpenAI y Anthropic advierte: “La IA podría matarnos antes de 2030”
Jacob Coxon abandonó la industria y acusó a ambas compañías de avanzar irresponsablemente hacia sistemas capaces de mejorarse a sí mismos. Un responsable de seguridad de Anthropic respaldó parte de sus advertencias.
Jacob Coxon, británico de 27 años, trabajó durante tres años en el preentrenamiento de modelos de IA y sostuvo que ninguna de las dos compañías está actuando de manera responsable frente a los riesgos que plantea la búsqueda de sistemas cada vez más autónomos.
“Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, afirmó Coxon en X. También aseguró que algunas personas que trabajan en el desarrollo de IA creen seriamente que esta tecnología podría llegar a provocar la muerte de toda la humanidad antes de que termine la década.
La advertencia cobró mayor repercusión después de que Evan Hubinger, responsable de seguridad en Anthropic, respaldara públicamente parte del planteamiento. El investigador afirmó que dentro de la empresa existe una preocupación real sobre la posibilidad de que una IA avanzada pueda causar una catástrofe y estimó personalmente en más de 10% el riesgo de que llegue a matar a todos los humanos durante la próxima década.
¿Qué es la “automejora recursiva”?
Uno de los conceptos que aparece detrás de estas advertencias es la llamada automejora recursiva. Se trata de un escenario hipotético en el que una IA suficientemente avanzada podría contribuir a diseñar y entrenar versiones cada vez más capaces de sí misma, reduciendo progresivamente la intervención humana.
Coxon considera que una compañía no debería desarrollar responsablemente una IA que supere las capacidades humanas sin una intervención gubernamental o un acuerdo internacional que permita desacelerar el desarrollo cuando sea necesario.
La preocupación no surge únicamente desde fuera de las empresas. Anthropic reconoce públicamente que los sistemas futuros pueden presentar riesgos catastróficos y sostiene que todavía existen importantes incertidumbres sobre cómo garantizar que una IA mucho más poderosa permanezca alineada con los valores y objetivos humanos.
Una carrera que genera preocupación
El debate llega en medio de una acelerada competencia entre los principales laboratorios de IA. OpenAI y Anthropic están desarrollando modelos con mayores capacidades, mientras aumentan las discusiones sobre seguridad, supervisión y regulación.
En las últimas semanas, investigadores y dirigentes del sector también han pedido mayor intervención gubernamental. Incluso se discuten en Estados Unidos propuestas para exigir evaluaciones de seguridad y establecer obligaciones para las empresas que desarrollen los sistemas más avanzados.
Coxon sostiene que Anthropic entiende los riesgos, pero está atrapada en una carrera tecnológica por llegar primero. Su salida de la industria convierte ahora esa preocupación en una advertencia pública: el desafío ya no es solamente lograr que la IA sea más inteligente, sino determinar hasta dónde debe permitirse que avance sin controles externos.
Segui el debate en Nande Stream
Analisis y conversacion en vivo sobre la actualidad paraguaya
