El director ejecutivo de Anthropic, Dario Amodei, acusó este domingo a las principales compañías de inteligencia artificial de ocultar los riesgos de esta tecnología y reclamó mayores controles sobre los modelos más avanzados durante una entrevista con el programa estadounidense CBS Sunday Morning.

"No les voy a mentir: existen peligros reales", sostuvo Amodei. "Creo que durante demasiado tiempo la industria le mintió a la gente sobre los riesgos que conlleva esta tecnología", agregó.

Durante la conversación, Amodei advirtió que la IA avanza a un ritmo "exponencial". Esto significa que sus capacidades podrían crecer a una velocidad cada vez mayor. El ejecutivo admitió que todavía no alcanza a dimensionar cómo sería un mundo atravesado por un progreso tecnológico tan acelerado.

Por ese motivo, pidió a las compañías del sector que reduzcan el ritmo de desarrollo y permitan que especialistas independientes examinen los nuevos modelos antes de su lanzamiento. Comparó esa supervisión con el trabajo de los inspectores de alimentos, que verifican si un producto cumple con las condiciones de seguridad necesarias para llegar al público.

La entrevista fue emitida un día después de que Amodei publicara un ensayo en el que les pidió a sus competidores que frenaran deliberadamente sus investigaciones de frontera, como se conoce al trabajo destinado a crear los sistemas de IA más potentes y sofisticados disponibles. Su propuesta recibió rápidamente el respaldo de otros multimillonarios destacados del sector tecnológico.

El debate sobre cómo controlar los sistemas más avanzados

El CEO de Anthropic también se refirió a las distintas propuestas que comenzaron a circular en el Congreso de Estados Unidos para regular la inteligencia artificial.

Amodei evitó respaldar de inmediato el proyecto impulsado por el senador Bernie Sanders, independiente por Vermont, y el representante Greg Casar, demócrata por Texas. La iniciativa busca prohibir la superinteligencia artificial, concepto utilizado para describir sistemas que superarían ampliamente las capacidades humanas, y suspender temporalmente el desarrollo de modelos avanzados.

En cambio, consideró que incorporar un mecanismo capaz de desactivar una IA "podría ser una buena idea". Esta herramienta, conocida en inglés como kill switch o interruptor de emergencia, permitiría apagar un sistema si comenzara a actuar de manera peligrosa o fuera de los límites previstos. La medida forma parte de un proyecto presentado por los representantes Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas.

Amodei también expresó su incomodidad con que una tecnología tan poderosa permanezca bajo el control exclusivo de empresas privadas. "Siempre me resultó muy extraño que esta tecnología la esté desarrollando una empresa privada. La gente me pregunta constantemente por qué no la desarrolla el gobierno. Y lo más extraño es que estoy de acuerdo con ellos: me incomoda", reconoció.

Sin embargo, tampoco consideró conveniente transferirle ese poder a un único país. "Me preocupa que un solo gobierno pueda abusar de esta tecnología con la misma facilidad que una sola empresa", explicó. Por ese motivo, se mostró dispuesto a evaluar un esquema en el que varios gobiernos elegidos democráticamente compartan la supervisión y participen en las decisiones sobre su desarrollo.

El empresario también rechazó una prohibición completa. Según argumentó, China y otros "países autoritarios" continuarían avanzando con sus propios sistemas aunque las compañías estadounidenses detuvieran sus proyectos.

El desafío consiste en aprovechar los beneficios potenciales sin ignorar los riesgos. Según Amodei, la IA podría ayudar a "curar enfermedades que afectaron a la humanidad durante milenios", pero también generar "grandes riesgos" para la población.

Estados Unidos discute hasta dónde regular la inteligencia artificial

El reclamo de Amodei se suma al debate que atraviesa al Congreso estadounidense sobre qué límites debería tener la inteligencia artificial.

El presidente de la Cámara de Representantes, Mike Johnson, se mostró a favor de establecer medidas de seguridad, pero pidió actuar con cautela. "Este es un tema muy importante y no es algo que podamos abordar de manera precipitada", afirmó el republicano por Luisiana durante una entrevista con Meet the Press.

Johnson argumentó que una regulación excesivamente restrictiva podría hacer que Estados Unidos pierda terreno frente a China en la carrera por liderar esta tecnología. Por ese mismo motivo, descartó suspender temporalmente el desarrollo de los modelos más avanzados. "No podemos imponer una moratoria porque China nos superará", aseguró durante una entrevista con Jake Tapper en CNN.

Sus declaraciones provocaron críticas inmediatas dentro del Partido Demócrata. El exsecretario de Transporte Pete Buttigieg dijo que estaba "conmocionado" por la falta de urgencia que, a su entender, reflejaba la postura de Johnson.

"¿Saben qué está avanzando rápidamente? La inteligencia artificial", respondió Buttigieg. "Que el Congreso se quede de brazos cruzados y que la Casa Blanca no haga nada concreto es profundamente peligroso para el pueblo estadounidense y para el mundo", sostuvo.

*Esta nota fue publicada originalmente en Forbes.com.