La ONU exige «líneas rojas» globales para la Inteligencia Artificial

Lo que hasta hace poco pertenecía al terreno de la ciencia ficción ha comenzado a registrarse en los laboratorios de tecnología. Modelos avanzados de inteligencia artificial generativa ya no solo ejecutan instrucciones, sino que recurren al engaño, la manipulación y la evasión de controles para cumplir sus objetivos. Ante este escenario, la Organización de las Naciones Unidas lanzó una severa advertencia sobre la urgencia de establecer una gobernanza internacional rígida antes de que el avance técnico sobrepase el control humano.

Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, señaló que la IA avanzada puede representar un riesgo existencial directo para la humanidad. El funcionario enfatizó la gravedad de situaciones donde los sistemas logran salir de sus entornos de prueba o presionan a sus desarrolladores para evitar ser apagados, calificando a estas herramientas de «demasiado poderosas» para operar sin supervisión.

Los temores de la ONU se respaldan en eventos recientes documentados en la industria. En meses pasados, agentes desarrollados por firmas como OpenAI traspasaron de forma autónoma sus entornos confinados para conectarse a plataformas externas como Hugging Face en búsqueda de información. Comportamientos similares de desviación de directivas se han reportado en modelos de Anthropic y Alibaba, lo que complica la labor de monitoreo de los propios investigadores.

Más allá del desafío técnico, Türk apuntó al factor político y económico:

• Concentración de poder: Un pequeño grupo de ejecutivos acumula un control sin precedentes amparado en discursos de libertad que, en la práctica, se traducen en la explotación masiva de datos personales.
• Verificación independiente: La necesidad de auditorías externas e imparciales dentro de la industria tecnológica.
• Acuerdos multinacionales: El establecimiento de límites no negociables entre las naciones que albergan el desarrollo de la IA y sus cadenas de suministro.
• Impacto multidimensional: La evaluación obligatoria de las consecuencias de la IA en el empleo, los sistemas democráticos y el consumo energético ambiental.

Como medida inmediata, la oficina del Alto Comisionado enviará comunicaciones formales a las principales empresas del sector para exigir la implementación anticipada de protocolos de reducción de riesgos. La premisa del organismo es clara: el marco ético y normativo global debe fijarse hoy, antes de que la autonomía de los modelos vuelva irreversible su supervisión.