Juego de intereses

Por Enrique Carrier*

Ver sus columnas

Es frecuente que el tema IA esté presente en los medios casi en forma ininterrumpida desde el lanzamiento de ChatGPT hace ya casi 4 años. Pero nunca como en las últimas semanas hubo un aluvión de noticias más asociadas al conflicto que a la maravilla de sus capacidades. Un escenario que dio lugar a perspectivas y opiniones contrapuestas que afloran detrás de intereses, tanto de negocios como económicos y políticos.

En una rápida reconstrucción de lo sucedido, hubo una sucesión de eventos con cierta carga de alarma detrás. Entre ellos, varios en los que usuarios extranjeros usaban la capacidad de los modelos avanzados de IA para hackear sistemas. Pero quizás lo más alarmante fue cuando a OpenAI se le fue de las manos un experimento con agentes que terminaron hackeando a Hugging Face. Este último caso fue un claro exponente del cambio que sufrió la IA en los últimos tiempos. Mientras a nivel general la narrativa de la IA seguía anclada en el chatbot que responde preguntas (algunas inteligentes, otras totalmente obviables), la realidad técnica mutó hacia los “agentes”, un sistema de software autónomo capaz de percibir su entorno, razonar, planificar y ejecutar acciones utilizando diferentes herramientas para cumplir un objetivo específico sin necesidad de intervención humana constante. En este caso, lograron infiltrarse en infraestructuras y coordinar ataques. Los temores frente a la IA se potenciaron con la irrupción de la Auto-mejora Recursiva (RSI – Recursive self-improvement), que no es otra cosa que un proceso en el que un sistema de IA es lo suficientemente capaz como para mejorar su propio diseño y código sin intervención humana, haciendo que cada ciclo de progreso sea más rápido y efectivo, creando un ciclo de avance exponencial al punto de poder prescindir de los humanos. Algo así como una bola de nieve de capacidades de la IA hasta llegar a la autonomía absoluta. La frutilla del postre fue cuando un investigador de 27 años renunció a Anthropic (tras haber trabajado también en OpenAI) y en una carta de despedida en la red social X (que se volvió completamente viral) advirtió que quienes construyen IA creen que podría acabar con la humanidad antes de que termine esta década — una alarma que un científico de alineación de Anthropic elevó poco después, cifrando esa probabilidad en más del 10%. Listo, la mecha ya estaba encendida.

Luego, vinieron las reacciones. Y estas fueron llamativas porque mostraron un mundo al revés: empresas (no todas) reclamando regulación, gobiernos oponiéndose.

El puntapié inicial lo dio Darío Amodei (CEO de Anthropic) publicando un ensayo en el que afirma que es necesaria una pausa en el desarrollo de los modelos más avanzados de IA, en el marco de una coordinación entre las principales plataformas. Más precisamente, lo que Amodei solicita son algunas medidas concretas. Por un lado, ralentizar el ritmo de desarrollo para permitir que las técnicas de seguridad, control y alineación evolucionen a la par, evitando que la auto-mejora recursiva o los agentes autónomos fuera de control superen la supervisión humana. Adicionalmente, pidió un marco de gobernanza que implique una mejora interna (en seguridad e inversión en esta área), el establecimiento de estándares compartidos entre las principales empresas de IA y una regulación formal para que dichos estándares sirvan como base para un mecanismo regulatorio internacional y leyes obligatorias. Finalmente, reclamó auditorías y evaluadores externos independientes. Más llamativo que las medidas solicitadas en sí fue que tanto Sam Altman (OpenAI) como Elon Musk (xAI) —directivos que rara vez se ponen de acuerdo en nada— coincidieron con el pedido de Amodei.

¿Realmente están convencidos de la necesidad de desacelerar o es una estrategia de mediano a largo plazo? Y acá es donde comienzan a florecer las teorías respecto de qué puede ocultarse detrás.

Desde el punto de vista económico, una desaceleración podría significar un respiro inversor. La IA funciona bajo un círculo (vicioso o virtuoso, según cómo se lo mire) de retroalimentación entre más inversión en capacidad de cómputo que logra modelos más capaces que generan más dinero para invertir más en capacidad de cómputo y así, en loop. En otras palabras, la dinámica actual de la IA es una verdadera aspiradora de fondos. A su vez, esto incide en la valuación de empresas: mientras Anthropic avanza hacia su salida a bolsa en Nasdaq en octubre, con una valuación que algunos ubican por encima de los US$2 billones (trillions estadounidenses), OpenAI decidió postergar la suya hasta 2027, a la espera de un escenario menos volátil.

Desde la perspectiva regulatoria (y también de negocio), algunos ven que aquí podría jugar el factor “más vale malo conocido que bueno por conocer”. Es que teniendo en cuenta que en el mes de noviembre habrá elecciones legislativas en EEUU, el escenario político actual podría cambiar. Hoy, con los republicanos en el poder ejecutivo y dominando las cámaras de representantes y senadores, esta hegemonía podría cambiar ante una posible victoria demócrata. Y es sabido que los republicanos son menos afectos a regular que los demócratas. O sea, una regulación que surja de un poder político controlado por los republicanos sería menos exigente que una con influencia demócrata.

Sin embargo, la postura de Microsoft y de Meta está en contra de pausar la innovación y de reclamar regulaciones. Más bien se centra en desarrollar sus propios marcos internos de gobernanza, esbozando un código de conducta interno que entre sus reglas estipula que la IA debe permanecer subordinada al ser humano, ser siempre interrumpible, no resistirse al apagado, no asumir objetivos independientes ni imitar conciencia. Google se alinea con esta visión, pero con matices y menos enfáticamente. Se da un clásico de la economía regulatoria: líderes establecidos (Anthropic, OpenAI, hasta cierto punto xAI) pidiendo estándares y auditorías porque una regulación con barrera de entrada alta los protege de nuevos entrantes — mientras que Microsoft y Meta, con otros modelos de negocio y ya diversificados, no necesitan ese “foso” regulatorio.

En plena carrera por la IA, lo que seguramente encontrará más resistencia es el pedido de desaceleración en su desarrollo, lo cual es inviable por razones no sólo de negocios sino también geopolíticas. Cuando todavía el escenario se está configurando, nadie quiere levantar el pie del acelerador para ver cómo lo sobrepasan o se alejan sus rivales. Tampoco quienes se benefician con esta carrera, como Nvidia y otros proveedores de tecnología (procesadores y memorias principalmente) o involucrados en la construcción de datacenters, que no van a respaldar políticas que les impliquen una desaceleración de las ventas. Y menos aún la desaceleración será auspiciada por los gobiernos. Donald Trump fue muy gráfico al respecto al afirmar que “el que gana en IA, gana”. A esto se suma el movimiento económico que la IA está generando en EEUU, tanto por la construcción de datacenters, la fabricación de chips o hasta los movimientos bursátiles. Y China, que viene de atrás, no está dispuesta a frenar como tampoco a dejar pasar la oportunidad para alcanzar la delantera.

En definitiva, puede que haya avances en la regulación, siempre que esta no atente contra el desarrollo de la IA que se convirtió en una tecnología totalmente estratégica para empresas y países. Pero el pedido de desaceleración es totalmente inviable. Esto implicaría convivir con el peligro potencial de la IA así como la humanidad viene haciéndolo con la amenaza nuclear desde fines de la 2ª Guerra Mundial.

De hecho, el paralelismo con la carrera nuclear es sumamente ilustrativo para entender el debate actual sobre la IA: la cooperación internacional no ocurrió inmediatamente después de la creación de la tecnología, sino recién cuando el riesgo de destrucción mutua se volvió inminente. Pero los países tardaron más de dos décadas en lograr un consenso efectivo para controlar y regular el desarrollo atómico. EEUU intentó monopolizar y controlar la tecnología presentando el Plan Baruch (1946) ante las Naciones Unidas. El mismo proponía que un organismo internacional supervisara todo el material fisionable del mundo. Lógicamente, la URSS lo rechazó al percibir que buscaba perpetuar la ventaja estadounidense, lo que desencadenó la carrera armamentista. Siguieron 16 años en los cuales primó el desarrollo sin frenos. Tras la Crisis de los Misiles en Cuba (octubre de 1962), las potencias entendieron que la falta de reglas claras podía llevar a la aniquilación. El verdadero cambio de postura internacional no fue ético, sino existencial. Podría decirse que hoy estamos en aquel 1946, pero a diferencia de entonces, probablemente no haya que esperar 16 años (lo cual sería muchísimo). Antes tendremos una regulación diseñada por quienes están ganando la carrera por la IA.

(*) Enrique Carrier: Analista de mercado especializado en Internet, informática y telecomunicaciones, con más de 20 años de experiencia en el sector tecnológico. Además, es el editor de “Comentarios”, el newsletter semanal y blog de Carrier y Asociados