El nuevo modelo GPT-6-Astra llega en medio de la preocupación por los riesgos que acompañan a este tipo de lanzamientos, entre ellos, la posibilidad de que se utilice para hackear sistemas y vulnerar las protecciones de las redes. Por ese motivo, OpenAI no habilitará Astra para todos los usuarios al mismo tiempo.

En el desarrollo de software a finales del siglo XX, el término "beta" se usaba con bastante frecuencia. Una empresa publicaba una versión preliminar de un programa para un grupo específico antes del lanzamiento oficial. Esas personas, por lo general con conocimientos técnicos avanzados, probaban el software y ayudaban a detectar errores.

En este caso, el objetivo de la etapa de pruebas controladas consiste en restringir el acceso a Astra a un pequeño grupo de confianza. Sin ese período previo de evaluación, sus capacidades podrían generar problemas de seguridad o afectar el funcionamiento habitual de los sistemas de una empresa.

Según explicó Katelyn Chedraoui en CNET, OpenAI declaró que Astra pasó por pruebas exhaustivas para detectar vulnerabilidades de ciberseguridad y que su lanzamiento será gradual. GPT-6-Astra estará disponible para expertos autorizados en ciberseguridad dentro del programa Daybreak de OpenAI a partir del jueves. Se trata de una instancia de acceso restringido que permite evaluar el modelo antes de una apertura más amplia. La empresa prevé habilitarlo para los suscriptores pagos de ChatGPT y a través de su API, la interfaz que permite integrar sus modelos en otros programas y servicios, durante los próximos días.

Si el equipo de Daybreak solo dispone de Astra durante unos días, queda una pregunta: ¿Alcanza ese tiempo para evaluar el sistema a fondo?

En esa misma nota, Chedraoui citó al científico jefe de OpenAI, Jakub Pachocki, quien se refirió al papel que las personas deberían conservar a medida que avance la inteligencia artificial.

"A medida que la IA adquiere mayor autonomía en su desarrollo, necesitamos que las personas sigan participando activamente", afirmó Pachocki. "Es fundamental que las personas puedan seguir decidiendo la dirección del progreso futuro y el que este genera", agregó.

Dar luz verde a la IA

Además, OpenAI integra una lista reducida de entidades que cuentan con el visto bueno de la Casa Blanca, de acuerdo con una política reciente del gobierno estadounidense. Según trascendió, el gobierno de Donald Trump creó un marco voluntario para la IA destinado a establecer reglas para modelos como Mythos y GPT-6-Astra. Sin embargo, los detalles permanecen bajo reserva, lo que deja varios interrogantes abiertos.

"Cuatro agencias federales fueron demandadas en medio de las peticiones para que se divulgue información sobre el marco secreto que la administración Trump utiliza para realizar revisiones de seguridad de modelos de IA de vanguardia antes de su lanzamiento", escribe Ashley Belanger en Ars Technica. 

"En un comunicado de prensa del miércoles en el que anunciaba la demanda, una organización sin fines de lucro no partidista llamada Protect Democracy alegó que ‘casi no se divulgaron detalles’ al público ni al Congreso. Para todos, excepto para unos pocos ‘socios de confianza’, sigue sin estar claro cómo es el proceso de revisión del gobierno, qué empresas participan en la creación del marco o qué autoridad legal tienen los funcionarios de Trump para realizar las revisiones", señaló.

Como uno de esos socios de confianza, cabe suponer que los principales directivos de OpenAI conocen los criterios que aplica el gobierno. Sin embargo, esa información no llega al público. La preocupación que plantean este artículo y otros informes es que un sistema con reglas poco transparentes puede abrir espacio a la corrupción y al favoritismo.

Un desastre total

Muchos especialistas consideran que Estados Unidos quedó rezagado en la regulación de la IA, en especial frente a los desafíos relacionados con la seguridad y la ciberseguridad. "La industria está suplicando a los gobiernos que tomen medidas", escribe Hadas Gold en CNN. Además, añadió: "Los líderes de las principales empresas de IA se sumaron a los pedidos para que se reduzca la actividad y se fomente la cooperación mundial en materia de estándares y seguridad".

Gold señala que una agencia británica figura entre los organismos de referencia en la regulación de la IA y cuenta con mucho más poder que su equivalente estadounidense, pese a que la mayoría de las grandes compañías del sector nacieron en Estados Unidos. El informe también recoge declaraciones de dos ex altos ejecutivos vinculados a Meta y OpenAI.

"Esto se parece a los inicios de la COVID… Hay una sensación de emergencia que es apropiada acá", señaló Joshua Saxe, ex experto técnico sénior de Meta. "Hay entre un 20% y un 30 % de probabilidades de que los métodos actuales de alineación y control fallen antes de que alcancemos una IA ampliamente sobrehumana", advirtió Paul Cristiano, ex alto cargo de OpenAI.

Buena parte de la inquietud, entonces, gira alrededor de un proceso que funciona dentro de la Casa Blanca, pero cuyos criterios, protocolos y mecanismos de control todavía no son públicos.

La generación de aprendices

Este último dato también se desprende de la cobertura de CNET mencionada anteriormente. Chedraoui explica que Astra marcó un cambio importante en la forma en que OpenAI desarrolla sus modelos, ya que versiones anteriores de su propia inteligencia artificial participaron en distintas etapas del proceso de entrenamiento. "Astra fue también el primer modelo de OpenAI que involucró de manera significativa a modelos de IA anteriores en el proceso de entrenamiento, con las generaciones más antiguas ayudando a entrenar al nuevo", escribe la periodista.

La idea es llamativa porque supone que una generación de modelos puede colaborar en la creación de la siguiente. Para entender mejor cómo funciona ese proceso, le pregunté a GPT qué papel podrían haber desempeñado versiones anteriores de OpenAI en el desarrollo de Astra. 

"Dado que soy GPT-5.6 Sol, los modelos de mi generación podrían haberse utilizado en el desarrollo de Astra. Eso no significa necesariamente que esta instancia en particular haya participado. Más bien, los modelos de la clase GPT-5.6 podrían implementarse internamente para realizar tareas como generar o seleccionar datos de entrenamiento, evaluar resultados, proporcionar señales/supervisión de entrenamiento, identificar fallos, ayudar con la codificación y depuración de la infraestructura de entrenamiento, y supervisar o solucionar problemas en las ejecuciones de entrenamiento", expresó el modelo.

En términos simples, los modelos anteriores pueden intervenir en distintas etapas del desarrollo de uno nuevo, ya sea para preparar datos, detectar errores, evaluar respuestas o colaborar en tareas técnicas vinculadas a su entrenamiento. La imagen de una generación que ayuda a formar a la siguiente deja una idea bastante clara de lo que ocurre detrás de escena. GPT-6-Astra, por así decirlo, se apoya sobre los hombros de gigantes.

En paralelo, todavía queda por determinar con precisión cómo funciona el marco impulsado por Donald Trump desde la Casa Blanca y qué criterios utiliza para revisar los modelos de IA antes de su lanzamiento. Por ahora, la falta de información pública mantiene abiertos varios interrogantes sobre un sistema que puede tener un peso cada vez mayor en el desarrollo de esta tecnología.

*Esta nota fue publicada originalmente en Forbes.com.