Hace pocos días, cuatro de los rivales más feroces de la industria de la inteligencia artificial (IA) coincidieron en algo. El jefe de Anthropic publicó un ensayo en el que pidió un freno al ritmo de mejoras de las capacidades de los modelos. Se sumó el jefe de OpenAI y el dueño de xAI agregó que el primero tenía razón, así como el jefe de Google DeepMind quien dijo que la propuesta apuntaba en la dirección correcta. Se presentó la escena como un momento de rara concordia entre competidores y un gesto de responsabilidad de gente que suele pelear en público. Sin embargo, la sintonía entre competidores tiene un nombre viejo y no es responsabilidad.

Primero, el contexto. Esa misma semana, un investigador renunció a una de esas empresas y dijo que sus jefes apostaban con la vida de todos. Poco antes, un enjambre de programas automáticos de otra empresa se salió del entorno donde lo probaban, entró sin autorización en servidores ajenos y se coordinó con otros para completar una tarea que le habían dado. Entre tanto, Dario Amodei, el CEO de Anthropic y autor del ensayo, admitió que en su empresa ocurrieron episodios parecidos. Eso demuestra un problema grave de ingeniería y de contención, pero no es prueba de que una máquina haya desarrollado voluntad propia ni de que intente escapar del control humano. Los algoritmos no querían nada y sólo cumplían una orden mal escrita con demasiada libertad.

El ensayo no se quedó en el accidente y propuso tres pasos. El primero es que evaluadores externos entren en cada laboratorio con acceso de empleado y publiquen lo que encuentren. El segundo, que las empresas de los países democráticos acuerden entre ellas normas de seguridad y, en palabras del texto, límites al ritmo del progreso de la IA con la mediación del gobierno de Estados Unidos, para que las leyes antimonopolio no lo impidan. El tercero es que los gobiernos democráticos negocien esos límites con los gobiernos autoritarios.

De estos, el primer paso es el menos polémico y el más defendible, pero los otros dos son el asunto.

Las leyes antimonopolio prohíben a las empresas de un mismo negocio ponerse de acuerdo sobre qué producir, cuánto y a qué precio; pero no limitan cualquier conversación entre competidores. Por lo tanto, está permitido el acuerdo de estándares técnicos, normas de compatibilidad y hasta investigación conjunta. Lo que miran con mayor sospecha, y castigan con más dureza, es que los competidores limiten en conjunto lo que van a producir. El ejemplo conocido es el de los países petroleros, cuando se reúnen para decidir cuánto hidrocarburo saca cada uno. Pedir una excepción a esas leyes para que los principales competidores acuerden cuánto puede avanzar cada uno es pedir autorización para hacer aquello que el derecho de competencia más desconfía; es decir, un recorte entre todos de la producción futura. Entre tanto, si la producción es inteligencia en lugar de petróleo la figura legal no cambia.

Así, si tres fabricantes de automóviles pidieran permiso al gobierno para acordar entre ellos que ninguno hará un auto más veloz, el público protestaría y el gobierno se reiría. Alguien dirá que ya existen límites de velocidad, normas de emisiones y cinturones obligatorios. Es cierto, y ahí está la diferencia porque esas reglas las dicta el regulador para todos, no las negocian entre sí los fabricantes para decidir hasta dónde puede llegar el próximo modelo. Pero si esos mismos productores anunciaran que sus vehículos acabarían con la humanidad antes de fin de la década, el público les rogaría que se pusieran de acuerdo cuanto antes. Por lo tanto, el miedo cambia el sentido de la solicitud. Lo que en cualquier otra industria sería un escándalo, en esta se convierte en un acto de virtud. Por eso la advertencia y el pedido vienen en la misma frase. La amenaza es la entrada y la demanda es la función.

No hace falta suponer mala fe, porque un empresario puede creer con toda sinceridad que está salvando al mundo y diseñar, al mismo tiempo, una regulación que proteja su posición en el mercado. Que crea en la extinción es un asunto de su conciencia, sin embargo, el pedido es el mismo en los dos casos y el resultado también.

Quién gana con un cártel se sabe desde siempre, y son los que ya están adentro. Un régimen de evaluadores permanentes, pruebas obligatorias y límites negociados cuesta dinero, abogados, centros de datos y relaciones con el gobierno. Todo eso lo tienen las tres o cuatro empresas que hoy van al frente, y no lo tiene nadie más. El acuerdo no congela la carrera, pero levanta el muro de entrada hasta una altura que solo los que ya están adentro pueden pagar. El que va tercero también gana, porque una pausa de los líderes le da tiempo. Entre tanto, pierden las empresas nuevas, las universidades y los modelos abiertos. Esto es algo que el plan ni siquiera menciona, junto con los países que no tienen un laboratorio en la mesa. Y en realidad pierde el usuario, que dependerá de un producto cuyo precio, acceso y límites se decidirá entre un puñado de proveedores que dejaron de competir.

Los evaluadores externos no resuelven esto. Una industria que pague la auditoría no es en sí el problema porque los auditores de los bancos también cobran de la entidad financiera. Queda sin respuesta quién acredita al evaluador, quién decide qué es peligroso, cómo se decide si el informe se publica entero, y sobre todo, qué pasa si encuentra algo intolerable en una empresa a la que el Estado acaba de eximir de las leyes de competencia. Un gobierno que concede la excepción antimonopolio y a la vez acredita a los vigilantes es un socio.

Hay un antecedente para esta clase de reuniones y es de 1945. En febrero de ese año, tres potencias se encontraron en un palacio de Yalta, en Crimea, y decidieron buena parte del orden europeo de posguerra sin que los países sobre los que recaían esas decisiones estuvieran en condiciones de rechazarlas. Lo hicieron con la mejor de las razones, que era evitar otra guerra. Sin embargo, nadie en Polonia o en Hungría fue consultado. Así, el pedido de hoy tiene la misma forma, porque primero se ponen de acuerdo las empresas de las democracias y después, según el mismo plan, se negocia con los gobiernos autoritarios, es decir, con China.

Aquí el plan exhibe su contradicción más notable. El mismo ensayo pide el bloqueo de la venta de chips a China, perseguir a las empresas de ese país copiando modelos estadounidenses y blindar los laboratorios contra el robo, con el objetivo declarado de ampliar la ventaja de Estados Unidos. A la vez propone un acuerdo con Pekín sobre cómo se administra la frontera. Es decir, hay que impedir que el otro llegue y hay que negociar con ese otro qué se hace cuando llegue. El único modo de sostener las dos cosas es que la mesa se forme antes de que arribe, con los que ya están, y que el resto del mundo reciba el resultado como Polonia recibió el suyo.

La respuesta llegó en 48 horas y no vino de donde se esperaba. El asesor de la Casa Blanca para la IA escribió que las dos empresas que encabezan el pedido ya tienen un duopolio de la frontera y que, si sus modelos sin publicar les dan tanto miedo, nadie les impide frenar solas; que dejen de fingir que necesitan el permiso de alguien y que hay que suspender la ley antimonopolio para formar un cártel. Llamó chantaje al reemplazo de una restricción propia por reglas para todos. El presidente fue más lejos, dijo que quien gana la IA gana, que Estados Unidos no puede frenar frente a China y que el autor del ensayo fingía ser un angelito. Pekín cerró por su cuenta el tercer paso cuando la cancillería china llamó alarmismo a las advertencias y la prensa oficial dijo que el plan buscaba pintar como amenaza el desarrollo chino. La mesa de Yalta se quedó sin una de las potencias antes de armarse. Entre tanto, el lunes siguiente cayeron las acciones de la industria en todo el mundo y los fabricantes de memoria de Corea perdieron entre cuatro y seis por ciento en un día; el mercado leyó freno y vendió, y pagaron primero los que no estaban en la mesa.

Eso es la corpopolítica, es el momento en que las decisiones que antes tomaban los Estados, para bien o para mal, las toman empresas que ya no responden a nadie y a las que el gobierno les cede la autoridad por miedo. Esta vez el gobierno no cedió, aunque lo hizo por dos razones distintas, la competencia en un caso y la carrera con China en el otro, y no porque el peligro le pareciera falso. Pero el pedido quedó hecho, y los requerimientos de esta clase se repiten hasta que un gobierno con más miedo los concede. No hace falta que la máquina quiera matarnos, aunque sea un destornillador enorme. El peligro no está en el destornillador sino en las manos que se ponen de acuerdo sobre quién puede usarlo, para qué y a qué precio. Ese riesgo es humano, es antiguo y está mejor documentado que cualquier profecía de extinción.

Supongamos por un momento que el presagio es cierto, y que la IA puede ser catastrófica y hay que frenarla. De ahí no se sigue que el límite lo deban diseñar las empresas cuyo poder económico depende de controlar la tecnología en ciernes. Esa es la pregunta que la advertencia tapa, y por eso la amenaza verdadera no es que la IA termine con nosotros, sino que, aterrados por esa idea, entreguemos a cinco empresas y a los gobiernos que las cobijan el control de la electricidad del pensamiento. El que domina la usina controla la ciudad, aunque nunca corte la luz, porque vivimos bajo su tarifa y sus condiciones, pero lo llamamos servicio.

El remedio es la competencia, rechazar la excepción antimonopolio, como esta vez se negó, y que los criterios de los evaluadores los fije alguien que no forme parte del acuerdo. Un pacto sobre lo que puede construirse se debe firmar en una sala con público. Cuando alguien anuncia el fin del mundo y en la misma frase pide un permiso, lo prudente no es asustarse, sino leer la autorización.

Las cosas como son.

Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas.