Artículo publicado en Comentarios.info.

En los últimos días de septiembre, el presidente de los EEUU y los principales ejecutivos de empresas vinculadas a la IA firmaron un acuerdo voluntario y sin carácter vinculante conocido como “Acuerdo de la Casa Blanca sobre superinteligencia”. Establece cuatro niveles de controles voluntarios y auditorías de seguridad para los modelos avanzados, y consolida un enfoque regulador “suave” que descarta, por ahora, la intervención gubernamental. Junto con Trump, firmaron OpenAI, Anthropic, Google, Meta, xAI y Nvidia.

El breve documento, de una página (más otra exclusivamente de firmas), insta a los gigantes tecnológicos participantes a autorregularse mediante un marco interno y externo de cuatro niveles de control y auditoría:

• Controles internos, tanto en el entrenamiento como en la implementación de los modelos, para detectar amenazas y garantizar que no hackeen por cuenta propia.
• Equipos internos especializados que hagan cumplir los protocolos y solucionen los problemas que se presenten.
• Auditores externos independientes que verifiquen el funcionamiento de los sistemas de seguridad.
• Comités independientes dentro del consejo de administración de cada empresa, que supervisen y reciban los informes de auditoría de seguridad y aseguren la resolución de los asuntos que surjan.

A pesar de la relevancia de los firmantes, el acuerdo tiene poco de impactante. Básicamente, las empresas se comprometen a poner en práctica medidas de control y auditoría que cada una podría haber implementado por su cuenta. Además, al ser voluntario y no vinculante, no establece mecanismos externos para hacer cumplir lo acordado, ni supervisión gubernamental, y mucho menos sanciones legales en caso de incumplimiento por parte de alguna de las firmantes. Asimismo, el texto no aclara quién elige a esos auditores ni exige hacer públicos los resultados en materia de seguridad.

Un dato no menor es que no hay mención alguna de la desaceleración reclamada por algunos (no por todos). Porque no la habrá. Y, por ahora, tampoco habrá regulación sino, en el mejor de los casos, autorregulación. No obstante, el texto menciona que, con el tiempo, podría tener sentido convertir estos niveles de control y auditoría en leyes y regulaciones. Algo así como “primero probemos cómo funciona y después vemos”.

Por otra parte, la ausencia de empresas chinas (varias) o europeas (como Mistral) no es un error de cálculo ni de convocatoria. Sugiere que están lo suficientemente atrás como para no sentarlas a la mesa, pero no tanto como para que los EEUU puedan darse el lujo de frenar. Por eso Trump aceptó formar parte de la puesta en escena: el acuerdo no implica ninguna desaceleración que permita que la IA de otros países se acerque a la de los EEUU. Eso resulta particularmente relevante en un contexto en el que Washington considera mantener la ventaja tecnológica frente a China una prioridad estratégica. Objetivo cumplido para él.

En definitiva, queda la sensación de que el debate generado en los EEUU frente al avance “descontrolado” de la IA en realidad tapó la negligencia de algunos de los principales actores en el desarrollo de sus modelos, un terreno donde la seguridad debe ser parte intrínseca del producto. También, de que la postura altruista para frenar el avance de la IA tenía más gesto que sustancia: algunos de los mismos ejecutivos que dieron la voz de alarma terminaron firmando un pacto bastante desabrido.

(*) Enrique Carrier: Analista de mercado especializado en Internet, informática y telecomunicaciones, con más de 20 años de experiencia en el sector tecnológico. Además, es el editor de “Comentarios”, el newsletter semanal y blog de Carrier y Asociados