El presidente de Estados Unidos, Donald Trump, y los líderes de las principales empresas de inteligencia artificial (IA) firmaron un acuerdo voluntario para reforzar la seguridad en el desarrollo de los modelos más avanzados de la "superinteligencia", un término que ya se volvió oficial en Washington.
El documento se llama "Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera". En él, las compañías asumen una serie de compromisos para desarrollar sus tecnologías de forma segura y se establecen mecanismos para detectar y corregir posibles problemas.
Quiénes firmaron el acuerdo de la Casa Blanca
Además de Trump, firmaron los máximos ejecutivos de seis gigantes tecnológicos:
Sundar Pichai (Google)
Dario Amodei (Anthropic)
Mark Zuckerberg (Meta)
Greg Brockman (OpenAI)
Elon Musk (SpaceX)
Jensen Huang (Nvidia)
De acuerdo con el documento, el compromiso es "moralmente vinculante", pero no tiene carácter legal.
Qué dice el acuerdo sobre la superinteligencia
El texto apunta a los modelos de frontera, es decir, los sistemas de IA que están en la vanguardia absoluta de la capacidad tecnológica. Las empresas que los desarrollen y desplieguen deberán tener "procesos y controles internos sólidos". El objetivo es que los sistemas funcionen como está previsto y que cualquier problema se identifique y se solucione rápido.
Los 4 niveles de control de la IA
Monitoreo interno: mecanismos para supervisar las capacidades y el comportamiento de los modelos durante el entrenamiento y el despliegue.
Equipos internos con autoridad: grupos que verifican que esos controles funcionen.
Evaluaciones externas: revisiones a cargo de auditores independientes.
Comité del consejo de administración: un órgano independiente que supervisa los controles y recibe los informes de los equipos internos y externos.
Los riesgos que se quieren evitar
Los controles deberán concentrarse en los riesgos de ciberseguridad, bioseguridad y amenazas químicas. También buscan impedir que los modelos accedan a sistemas técnicos o interfieran en ellos de manera no intencionada.
Las empresas se comprometieron además a reunirse periódicamente para fijar estándares y buenas prácticas comunes.
¿Es obligatorio?
No. La iniciativa reúne a las compañías que desarrollan algunos de los principales modelos de IA del mundo y busca crear un marco común de supervisión. Por ahora, se trata de un compromiso voluntario de la industria y no de una obligación legal.