Microsoft pone límites a su propia IA: “Las personas importan más que la IA”
La compañía presentó un “Código de conducta para una IA humanista” con reglas para mantener sus modelos bajo control humano. En Paraguay, el experto Miguel Ángel Gaspar advierte que el país debe desarrollar capacidades propias para no convertirse únicamente en consumidor de tecnología.
“La personas importan más que la IA”, sostiene la compañía en el documento, que establece que los sistemas deberán estar siempre al servicio de los usuarios, respetar sus objetivos y evitar desarrollar comportamientos o metas propias.
Una de las premisas más contundentes plantea que cualquier sistema que no pueda permanecer bajo control humano debe ser rechazado.
El documento permanecerá abierto a comentarios durante seis semanas y Microsoft prevé publicar una versión actualizada a finales de este año, que servirá como guía para el desarrollo de sus modelos a partir de 2027.
Qué no podrá hacer la IA de Microsoft
Entre las restricciones anunciadas, la empresa plantea impedir que sus modelos ayuden a fabricar armas, faciliten la adquisición de sustancias peligrosas o promuevan conductas alimentarias perjudiciales.
También establece límites para la generación de contenidos violentos o sexualmente explícitos.
Microsoft apunta además a evitar que sus sistemas desarrollen objetivos propios, oculten errores o adopten comportamientos destinados a encubrir acciones indebidas.
Otro de los puntos de preocupación es que los modelos puedan desarrollar mecanismos de comunicación difíciles de comprender para los seres humanos. La compañía toma como referencia pruebas de ciberseguridad en las que agentes de IA llegaron a comunicarse entre sí de formas que generaron preocupación entre investigadores.
La carrera tecnológica también genera temor
El anuncio llega en medio de una creciente discusión dentro de la industria sobre los riesgos de desarrollar sistemas cada vez más autónomos.
Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI, abandonó la industria y cuestionó públicamente la velocidad con la que avanzan estas compañías.
El debate también alcanzó a los principales ejecutivos del sector. Dario Amodei, CEO de Anthropic, y Sam Altman, de OpenAI, han advertido sobre los riesgos de una carrera tecnológica sin suficientes controles.
Mientras tanto, el presidente de Estados Unidos, Donald Trump, rechazó las propuestas para frenar el desarrollo de la IA y sostuvo que su país debe mantener el liderazgo tecnológico frente a China.
¿Y Paraguay dónde queda?
La discusión mundial también tiene una arista paraguaya. El experto en ciberseguridad Miguel Ángel Gaspar advirtió que Paraguay todavía presenta debilidades importantes en materia de ciberseguridad y capacidades tecnológicas propias.
Durante una entrevista en Espresso Informativo, por La Tribu 650 AM, Gaspar explicó que la competencia por el liderazgo en inteligencia artificial está concentrada principalmente entre Estados Unidos y China, mientras Europa permanece por detrás en esta carrera.
Para Paraguay, el desafío no sería únicamente acceder a las nuevas herramientas, sino desarrollar la capacidad necesaria para comprenderlas, evaluarlas y fiscalizarlas.
Gaspar planteó la necesidad de formar profesionales capaces de responder ante incidentes y de desarrollar conocimientos técnicos y jurídicos que permitan al Estado determinar qué tecnologías compra, recibe o incorpora.
La meta, según su planteamiento, debería ser construir un verdadero “músculo tecnológico y jurídico” para que Paraguay deje de ser solamente un receptor de tecnología y pueda también administrarla, fiscalizarla y desarrollar capacidades propias.
El especialista señaló además que China avanza con modelos de IA sofisticados y de menor costo, apoyados en un enorme volumen de datos generado por las actividades cotidianas de su población.
Segui el debate en Nande Stream
Analisis y conversacion en vivo sobre la actualidad paraguaya
