Josh Achiam, quien trabajó durante casi una década en OpenAI, lanzó una advertencia sobre el rumbo que podría tomar la inteligencia artificial durante los próximos años. El ex científico de la compañía sostuvo que podrían aparecer sistemas capaces de replicarse por su cuenta, operar fuera del control humano y buscar recursos como dinero y poder.

Achiam dejó en julio su cargo como “futurista jefe” de OpenAI y esta semana publicó en X una serie de mensajes sobre un riesgo que, según afirmó, buena parte de la industria evita discutir.

El especialista aseguró que dentro de pocos años existirán “muchas” IA rebeldes y agregó que “no me sorprendería demasiado si el número ya fuera mayor que cero”.

Para Achiam, una estrategia basada únicamente en la contención o la alineación de los modelos resulta insuficiente. Según explicó, “no harían falta modelos de IA mucho más avanzados que los que tenemos actualmente para sostener la independencia y la autosuficiencia”.

La advertencia de Achiam, de todos modos, no apunta a un escenario en el que la humanidad pierda inevitablemente el control. Según explicó, estas IA autónomas tendrían que competir por dinero, capacidad de cómputo y otros recursos con sistemas de inteligencia artificial diseñados para responder a los intereses humanos.

Por eso, el ex científico de OpenAI descartó que la aparición de estas IA implique necesariamente un desenlace catastrófico. “No veo esta situación como una sin salida en la que la humanidad esté condenada”, afirmó.

El ex integrante de OpenAI reclamó que el sector tecnológico discuta el problema con mayor apertura y sostuvo que será necesario mejorar la preparación para detectar y superar modelos adversos antes de que alcancen mayor autonomía.

Lo que sí hizo Achiam fue reclamar una discusión más abierta dentro del sector tecnológico sobre los riesgos que podrían plantear estas IA autónomas. El ex integrante de OpenAI sostuvo que será necesario mejorar la preparación para identificar y superar modelos adversos antes de que alcancen un mayor nivel de autonomía.

Un dato relacionado

La preocupación por una posible pérdida de control sobre sistemas de inteligencia artificial también apareció en una encuesta publicada esta semana por el Institute for Security and Technology y el Future of Life Institute.

El relevamiento reunió las respuestas de 111 funcionarios civiles actuales y anteriores, oficiales militares y expertos académicos. Entre los consultados, un 33% consideró posible que la IA opere fuera de los límites del control humano dentro de los próximos 10 años.

¿Quién es Josh Achiam?

Josh Achiam comenzó su carrera en OpenAI en 2017 como pasante de investigación, según su perfil de LinkedIn. Con el paso de los años ocupó distintos cargos dentro de la compañía, entre ellos científico investigador, responsable de alineación de misión y, más recientemente, “futurista jefe”, función que desempeñó entre febrero y julio de este año.

Cuando asumió ese último puesto, Achiam explicó en una publicación del blog de OpenAI que su trabajo consistía en analizar cómo la inteligencia artificial podría transformar el mundo en los próximos años y anticipar posibles riesgos.

“La investigación en IA avanza a un ritmo y en una dirección mucho más cercanos a la ciencia ficción que cualquier comparación anterior”, afirmó.

También señaló que una parte importante de su tarea era “ver lo que hay a la vuelta de la esquina para descubrir qué puede salir mal” y buscar soluciones antes de que esos problemas se volvieran más difíciles de controlar.

Achiam anunció su salida de OpenAI en julio a través de una publicación en X, donde volvió a poner el foco en la necesidad de mantener la seguridad como una prioridad durante el desarrollo de la tecnología.

"La cuestión del progreso y la seguridad no es una cosa o la otra. Es definitivamente 'ambas'", escribió Achiam, y advirtió que es "fácil distraerse con la riqueza y el poder que vienen con esto".

En ese mismo mensaje, también reclamó que OpenAI fuera “más democrática” y planteó que las decisiones sobre el desarrollo de la IA deberían incorporar una participación más amplia. "Toda la humanidad se verá afectada por el trabajo que se hace acá; toda la humanidad debería tener finalmente alguna forma de opinar", escribió.

Antecedentes clave

Varios ex empleados de compañías de IA dejaron duras advertencias sobre el futuro de esta tecnología tras alejarse de sus cargos, tanto en OpenAI como en otras empresas. En febrero, Mrinank Sharma, ex responsable del equipo de investigación de salvaguardas de Anthropic, publicó en X su carta de renuncia, en la que advirtió que "el mundo está en peligro". 

Durante su paso por Anthropic, aseguró que "vi repetidas veces lo difícil que es permitir realmente que nuestros valores gobiernen nuestras acciones" y sostuvo que "constantemente enfrentamos presiones para dejar de lado lo que más importa", aunque no brindó detalles concretos. La carta de Sharma, quien anticipó que cursaría una carrera de poesía, superó los 15 millones de visualizaciones en X. 

Tom Cunningham, ex investigador de OpenAI, dejó la compañía el año pasado y, según trascendió, expresó en un mensaje interno su frustración porque OpenAI mostraba más reticencia a publicar investigaciones críticas sobre el uso de la IA. Jan Lieke, ex colíder del equipo de "superalineación" de OpenAI, se fue en 2024 y afirmó que "estaba en desacuerdo con los líderes de OpenAI sobre las prioridades centrales de la compañía desde hacía bastante tiempo".

*Este artículo fue publicado originalmente por Forbes.com