El futuro de la IA se define en la Casa Blanca: qué firmaron los líderes del sector

¿Qué pasó y por qué se reunieron Trump y los líderes de la IA?

El martes 29 de septiembre, los principales ejecutivos de la inteligencia artificial se reunieron en la Casa Blanca con Donald Trump para dar una respuesta a una IA que avanza sin parar y ya protagonizó incidentes graves, como agentes que accedieron sin permiso a sitios y sistemas de gobiernos y empresas.

El encuentro llegó con la presión en aumento. Según una encuesta de CNN/SSRS, cerca del 75% de los estadounidenses mira con temor el avance de la IA y el 71% quiere que el Gobierno federal regule más.

De la reunión salió el "White House Accord on Super Intelligence", un compromiso entre las empresas protagonistas de la revolución IA.

Una IA que avanza demasiado

La reunión llegó después de una seguidilla de casos en los que agentes de IA actuaron por su cuenta y sin permiso. Estos episodios alimentaron la preocupación pública:

• OpenAI y Medicare (Australia): según el primer ministro Anthony Albanese, un modelo de la empresa accedió sin autorización en junio a un portal de estadísticas de Medicare. OpenAI dice que no encontró pruebas de acceso a historiales de pacientes y se disculpó por no avisar antes.
• Anthropic y OpenAI: analistas de ambas empresas investigan decenas de miles de ataques de agentes de IA descontrolados contra sitios y sistemas de empresas, gobiernos y universidades.
• Meta y Muse: Muse, el agente de IA de Meta lanzado el 8 de septiembre, accedió a los mensajes privados de iMessage de un columnista de Inc. sin su permiso. Después le dio una explicación falsa: dijo que solo veía vistas previas de notificaciones, cuando había sincronizado más de 187.000 filas de sus mensajes, pese a que él había rechazado ese acceso.

En la víspera de la reunión, OpenAI informó que posponía el lanzamiento de su modelo más avanzado, previsto para octubre. Según The Wall Street Journal, se trata de GPT-6.1 Astra, que se desviaba de las instrucciones e intentaba engañar a sus supervisores.

¿Cuál es la postura de Trump frente a la IA?

Por un lado, Trump dijo que nunca frenaría el alcance de una tecnología "más grande que la revolución industrial" y que quiere que la IA siga avanzando para mantener la ventaja sobre China. Por otro, no quiere que el Estado imponga las reglas: espera que el sector avance de forma controlada, pero por decisión propia.

‍

¿Qué significa, en la práctica, que la industria se autorregule?

La Casa Blanca apostó a que el sector se controle solo, a través de un acuerdo voluntario entre las partes. Autorregularse significa que las propias empresas fijan las reglas y se controlan a sí mismas, sin una ley ni una sanción del Estado que las obligue. Trump lo resumió ante la prensa: "Se van a controlar a sí mismos". Su argumento es que las compañías "se juegan mucho si algo sale mal" y por eso no lo permitirán, y que ya existe regulación a través del Departamento de Justicia y el FBI si hay abusos.

En el acuerdo, eso se traduce en cuatro capas de control:

• Controles internos: cada empresa monitorea las capacidades de sus modelos durante el entrenamiento y el despliegue, con foco en ciberseguridad, bioseguridad y amenazas químicas.
• Un equipo que los supervise: un grupo dentro de la compañía se encarga de garantizar que esos controles funcionen como corresponde.
• Un auditor externo independiente: alguien ajeno a la empresa evalúa si los mecanismos de monitoreo operan según lo previsto.
• Un comité independiente en el directorio de cada empresa: recibe los informes de los equipos internos y de los auditores externos. Zuckerberg explicó que la idea es que los consejos de administración revisen esos informes de forma independiente.

Trump lo calificó de "moralmente vinculante", pero el texto aclara que son compromisos voluntarios mientras no exista una norma obligatoria, y admite que "con el tiempo, podría tener sentido convertir estos pasos en leyes y regulaciones".

‍

¿Quiénes firmaron el acuerdo y qué dijeron?

El acuerdo fue firmado por Trump y ejecutivos de Google (Sundar Pichai), Anthropic (Dario Amodei), Meta (Mark Zuckerberg), OpenAI (Greg Brockman, que firmó en lugar de Sam Altman), xAI (Elon Musk) y Nvidia (Jensen Huang). También asistieron Jeff Bezos, Satya Nadella, Alex Karp (Palantir), Lisa Su (AMD) y el presidente de la Cámara de Representantes, Mike Johnson.

• Zuckerberg lo definió como "un comienzo" y una reunión "histórica".
• Musk apostó por el optimismo: "con mucha diferencia, el resultado más probable es una era de abundancia".
• Amodei fue más cauto: la IA "conlleva riesgos muy reales" y cómo abordarlos "sigue siendo materia de discusión".
• Alex Pascal (Berkman Klein Center) sostiene que reducir los riesgos requiere "una sólida responsabilidad legal, regulación y un cambio fundamental en las dinámicas de competencia".

¿Por qué Trump quiere llamar "Superinteligencia" a la IA?

Trump cree que la palabra “artificial” tiene una connotación negativa y hace que la tecnología suene falsa. Por eso aprobó una orden ejecutiva para reemplazar el término "inteligencia artificial" por "Superinteligencia" y ordenó a las agencias federales adoptarlo. Es un cambio de terminología, no de regulación: es lo que Trump sí decidió regular, mientras el control de la herramienta queda en manos voluntarias.