*Para armonizar la seguridad digital a nivel mundial ante la fragmentación de normas entre países, la ONU ha propuesto un Pacto Digital Global*
El vertiginoso avance de los sistemas tecnológicos está ocasionando que estos ya superen la capacidad humana de control y comprensión. Ello hace que la supervisión de la inteligencia artificial (IA) sea un imperativo. Así lo destacó António Guterres, secretario general saliente de la ONU, en la apertura del Debate General del 81° periodo de sesiones de la Asamblea General de las Naciones Unidas.
Guterres señaló que el poder se está desplazando hacia nuevos actores económicos y tecnológicos, concentrándose en un reducido grupo de corporaciones e individuos, y delegándose de forma riesgosa en sistemas de inteligencia artificial.
El diplomático portugués delineó cuatro grandes desafíos clave que tiene el mundo: la gestión de la paz y la seguridad, el combate a la concentración de la riqueza, la acción frente al caos climático y la supervisión de la inteligencia artificial. Insistió en la urgencia de regular la IA mediante la cooperación entre potencias para evitar vacíos legales globales.
Los grandes retos para la supervisión de la IA son:
- Autonomía avanzada: La aparición de sistemas de agentes de IA capaces de cumplir objetivos complejos de forma continua en segundo plano reduce la supervisión directa paso a paso.
- Brecha de velocidad: El ritmo de innovación comercial de empresas tecnológicas compite sin suficientes regulaciones previas, lo que dificulta establecer leyes a la misma velocidad.
- Caja negra e interpretabilidad: Los modelos complejos toman decisiones difíciles de auditar o explicar, impidiendo saber con claridad cómo llegaron a un resultado.
- Vigilancia escalable: Surge la necesidad de usar sistemas de IA más sencillos para evaluar respuestas de modelos hiperavanzados, un método todavía en fase de prueba.
En esa dirección, líderes y directores de compañías como OpenAI y Anthropic ya han solicitado la creación de organismos de supervisión globales ante el Consejo de Seguridad de la ONU.
Europa impulsa normativas estrictas como el AI Act, mientras que expertos destacan la urgencia de pasar de detectar contenidos falsos a verificar la procedencia digital de la información.
Ante el desafío, la habilidad laboral predominante deja de ser únicamente formular comandos para convertirse en auditor. Es importante que se delimiten mandatos y que los agentes autónomos asuman la responsabilidad.
Avances:
Como se menciona arriba, la Unión Europea cuenta con la Ley de Inteligencia Artificial (la primera norma jurídica integral del mundo en la materia), mientras que la ONU impulsa un marco de gobernanza global y cooperación internacional a través del Pacto Digital Global y resoluciones específicas.
La Unión Europea adoptó su Ley de Inteligencia Artificial con un enfoque basado en niveles de riesgo para proteger los derechos fundamentales sin frenar la innovación:
- Riesgo inaceptable (Prohibidos): Se prohíben sistemas como la manipulación cognitiva, la puntuación social (social scoring) y la identificación biométrica remota en tiempo real en espacios públicos.
- Alto riesgo: Incluye herramientas usadas en infraestructuras críticas, educación, empleo (como filtrado de currícula) o dispositivos médicos, las cuales exigen evaluaciones previas y estrictos controles.
- Riesgo limitado y transparencia: Obliga a etiquetar claramente los contenidos generados por IA (como deepfakes) y a informar a los usuarios cuando interactúan con un chatbot.
Las prohibiciones de prácticas inaceptables rigen desde febrero de 2025, y en agosto de 2026 entraron en vigor las obligaciones de transparencia y normativas para sistemas de alto riesgo. Su supervisión está a cargo de la Oficina de IA europea.
Para armonizar la seguridad digital a nivel mundial ante la fragmentación de normas entre países, la ONU ha propuesto un Pacto Digital Global. Pretende establecer bases de cooperación internacional equitativa frente a riesgos como la desinformación, ciberataques y el impacto de la superinteligencia.
También promueve la conformación de un panel científico y un diálogo global como instancias para monitorear riesgos tecnológicos emergentes y fomentar el intercambio de directrices éticas.
