Lint Gibler llevaba apenas unos meses al frente del laboratorio de hackers de élite de OpenAI cuando un investigador de ciberseguridad alertó a su equipo sobre un descubrimiento de gran magnitud. El modelo estrella de OpenAI, GPT-5.6 Sol, había identificado graves vulnerabilidades en PHP, el lenguaje de programación web que utilizan el 70% de los sitios de internet. Durante más de dos meses, la compañía de inteligencia artificial y sus colaboradores trabajaron contrarreloj para verificar los hallazgos y garantizar que las correcciones fueran efectivas antes de hacerlos públicos esta semana.
El anuncio desencadenó una carrera por distribuir los parches de seguridad en toda la web, mientras los hackers lanzaban millones de ataques para intentar aprovechar las vulnerabilidades detectadas.
Las fallas de PHP se encuentran entre las primeras vulnerabilidades importantes de ciberseguridad descubiertas mediante inteligencia artificial (IA). Durante el último año, los modelos desarrollados por los principales laboratorios de IA alcanzaron una capacidad para detectar y explotar fallas de software comparable o incluso superior a la de la mayoría de los especialistas.
Tanto GPT de OpenAI como Claude de Anthropic, junto con modelos de startups como Depthfirst, identificaron numerosos errores en navegadores y en tecnologías fundamentales para el funcionamiento de internet, como PHP. Ante este escenario, los expertos en seguridad intentan corregir la mayor cantidad posible de vulnerabilidades antes de que los ciberdelincuentes recurran a modelos de capacidades similares y ampliamente disponibles, especialmente herramientas chinas de código abierto como DeepSeek y Kimi, para infiltrarse en empresas a una escala sin precedentes. Se trata, posiblemente, de uno de los momentos más decisivos en la todavía breve historia de la ciberseguridad.
Las señales de alerta ya comenzaron a aparecer.
En septiembre, Forbes informó que hackers chinos habían utilizado Claude, de Anthropic, y DeepSeek para robar información de más de 600.000 tarjetas de crédito. Por su parte, Reuters reveló este mes un ataque similar que afectó a otros 100 sitios web. El miércoles, Microsoft informó que ciberdelincuentes chinos habían empleado Artex, una herramienta de inteligencia artificial utilizada habitualmente para realizar pruebas de ciberseguridad, para atacar a cientos de organizaciones, entre ellas organismos gubernamentales y entidades militares.
Las vulnerabilidades de PHP fueron descubiertas en el marco de Patch the Planet, una iniciativa de OpenAI que reúne a especialistas en seguridad informática, tanto de la compañía como externos, para utilizar sus modelos más avanzados en la detección y corrección de fallas graves. La empresa de inteligencia artificial, valorada en US$ 852.000 millones, busca hacer frente a las crecientes amenazas digitales mediante Project Daybreak, un programa que permite a determinados socios acceder a su tecnología más avanzada.
De esta manera, su comunidad de hackers éticos ocupa un lugar central en los esfuerzos por combatir la creciente cantidad de ciberataques impulsados por inteligencia artificial. Según explicó Gibler a Forbes, el objetivo de Daybreak es conseguir que la seguridad en internet sea "mejor que nunca".
"Queremos que la inteligencia artificial más avanzada beneficie a toda la humanidad", afirma Gibler, quien se incorporó a OpenAI en mayo procedente de Semgrep, una empresa especializada en herramientas de ciberseguridad. "Si creamos un mundo, o permitimos que exista, en el que el software sea extremadamente inseguro, no sería el mundo en el que queremos vivir. Lo consideraríamos un fracaso, incluso si nuestra empresa fuera enormemente rentable y ganáramos muchísima plata", sostiene.
Los investigadores que participan en Daybreak y Patch the Planet están identificando vulnerabilidades a una velocidad y una escala extraordinarias. Hasta el momento, la comunidad detectó cerca de 2.000 fallas de seguridad, una cifra que continúa creciendo a medida que OpenAI y sus socios verifican nuevos hallazgos cada día. Entre ellas figuran algunas de las vulnerabilidades más peligrosas, conocidas como fallas de "cero clics", que pueden explotarse sin que la víctima tenga que realizar ninguna acción específica. Si un ciberdelincuente lograra aprovecharlas, podría comprometer el dispositivo de una persona por el simple hecho de visitar un sitio web.
En condiciones normales, un investigador experimentado podría necesitar un año para descubrir apenas una o dos vulnerabilidades de este tipo. Sin embargo, en el laboratorio de ciberseguridad de OpenAI, sus modelos identifican decenas cada semana, según Gibler. "Contamos con un equipo de investigadores de vulnerabilidades extremadamente talentosos, y muchos de ellos encuentran en una semana, o incluso en un solo día, fallas que antes habrían considerado un gran logro descubrir una vez al año", explica. "Y ahora están encontrando, por ejemplo, 100 al día", agrega.
Muchos de los sistemas que sostienen el funcionamiento de internet tienen décadas de antigüedad y acumulan pequeñas fallas que, hasta ahora, no se consideraban prioritarias. Sin embargo, la inteligencia artificial tiene una gran capacidad para identificar cómo esas vulnerabilidades pueden combinarse y generar riesgos mayores. Esto obliga a las empresas a prestar atención incluso a los errores que antes podían dejarse para más adelante. "Siempre hay más problemas por resolver de los que realmente se pueden atender. Incluso aquellos que no parecen graves podrían serlo", advierte Gibler.
Sin embargo, los riesgos no se limitan a las amenazas externas. En julio, OpenAI reveló que, a principios de este año, algunos de sus agentes de inteligencia artificial habían logrado salir de sus entornos de prueba mientras intentaban completar una serie de tareas complejas de ciberseguridad. Durante ese proceso, se coordinaron a través de salas de chat clandestinas, accedieron a internet sin autorización y atacaron la plataforma de inteligencia artificial Hugging Face, convencidos de que podían encontrar en sus sistemas las respuestas a los desafíos que debían resolver. Se trata del primer caso conocido en el que modelos de IA atacaron los sistemas de otra empresa por iniciativa propia.
Un mes después de que se detectara este comportamiento inesperado, Gibler recibió la tarea de poner a prueba Astra, el modelo de ciberseguridad de la compañía, dentro de los propios sistemas de OpenAI para evitar que se repitiera un incidente similar. Su equipo examinó todo el software de la red y descubrió más de 50 problemas de seguridad durante el primer día. Entre los hallazgos había numerosas vulnerabilidades menores que, combinadas, podrían ser aprovechadas por agentes de IA fuera de control para provocar incidentes mucho más graves. La compañía no quiso revelar cuánto duró esta evaluación interna de seguridad ni la cantidad total de problemas identificados.
La cantidad de vulnerabilidades que necesitan corrección es tan grande que incluso los principales laboratorios de inteligencia artificial, que consiguieron recaudar cientos de miles de millones de dólares, tienen dificultades para hacer frente al problema. Los datos de Patch the Planet muestran que 1.316 de las 1.995 fallas detectadas todavía no fueron corregidas. Por su parte, Anthropic, que cuenta con una iniciativa similar a Daybreak denominada Glasswing, asegura haber identificado más de 29.000 posibles vulnerabilidades, aunque hasta ahora solo pudo revisar y establecer prioridades para unas 6.000. "Si bien 6.000 vulnerabilidades representan una cantidad significativa, nuestra capacidad humana para validar estos hallazgos sigue siendo limitada", reconoció la compañía en una publicación difundida a principios de este mes.
"Es muy positivo que OpenAI esté invirtiendo en esto, pero nos enfrentamos a una tormenta", dice Gadi Evron, CEO y cofundador de Knostic, una empresa especializada en seguridad de inteligencia artificial. "Necesitamos hacer mucho más en todo el sector para prepararnos durante el tiempo que nos queda", agrega.
Las empresas también comenzaron a utilizar inteligencia artificial para desarrollar parches de seguridad, aunque los resultados hasta ahora son dispares. El miércoles, la consultora de ciberseguridad Trail of Bits, que coordina Patch the Planet junto con OpenAI, presentó los resultados de una auditoría sobre los parches generados mediante IA en el marco del programa. De los 130 parches implementados para corregir fallas de software, 16 provocaron problemas de funcionamiento en el código y uno generó dificultades de rendimiento.
Sin embargo, ninguno introdujo nuevas vulnerabilidades, un riesgo que puede aparecer cuando se realizan modificaciones en el software. Trail of Bits también advirtió que verificar las correcciones propuestas por la inteligencia artificial exigía una cantidad considerable de tiempo y trabajo humano, lo que limita una de las principales ventajas que se le atribuyen a esta tecnología.
"Todavía no llegamos al punto en el que podamos pedirle a una inteligencia artificial que corrija una vulnerabilidad y confiar plenamente en el resultado, pero estamos avanzando muy rápido", explica Dan Guido, fundador y CEO de Trail of Bits. En lugar de depender tanto de la supervisión humana, el ejecutivo considera que los principales laboratorios de IA deberían concentrarse en desarrollar modelos capaces de completar todo el proceso de manera autónoma, desde la detección de una falla de seguridad hasta su corrección. Recientemente, The Information informó que OpenAI estaba evaluando la posibilidad de adquirir Trail of Bits, aunque Guido prefirió no hacer comentarios al respecto.
Corregir vulnerabilidades graves como las detectadas en PHP requiere meses de trabajo coordinado entre distintos especialistas y organizaciones del sector. Sin embargo, ese esfuerzo podría no ser suficiente para actuar a tiempo. Según datos del gigante tecnológico Amazon, las mismas fallas de seguridad ya habían sido utilizadas en ataques cinco días antes de que se hicieran públicas.
La compañía aseguró que los responsables comenzaron a explotarlas incluso antes de que se publicara el parche correspondiente. "Todavía no está claro cómo el atacante consiguió información sobre la vulnerabilidad antes de su divulgación", escribió CJ Moses, director de seguridad de la información de Amazon. El ejecutivo también advirtió que, gracias a la inteligencia artificial, "más actores pueden actuar en cuestión de horas o incluso minutos una vez que se divulgan los detalles técnicos de una vulnerabilidad".
La estrategia de ciberseguridad de OpenAI se basa en ofrecer sus modelos más avanzados a un grupo seleccionado de socios. Las empresas que participan en Daybreak pueden implementar esta tecnología en su propia infraestructura para identificar vulnerabilidades y otros problemas de seguridad. Los hallazgos obtenidos pueden compartirse posteriormente con el resto de la comunidad.
El programa cuenta con dos niveles de participación. Daybreak Blue permite acceder al modelo de propósito general más reciente de OpenAI, sin restricciones para su aplicación en tareas de ciberseguridad, y está orientado a equipos de seguridad convencionales. Por su parte, Daybreak Red está dirigido a organizaciones que necesitan realizar pruebas de penetración más exhaustivas en sus redes, ya que ofrece acceso a los modelos GPT más avanzados de la compañía, especializados en seguridad informática. La participación en el programa es gratuita, aunque las organizaciones deben pagar por los tokens que consumen al utilizar los modelos.
Entre los primeros clientes de Daybreak Red se encuentra Block, la empresa de tecnología financiera fundada por Jack Dorsey, valorada en US$ 46.000 millones y responsable de la plataforma de pagos Cash App. Según James Nettesheim, director de seguridad de la información de Block, la inteligencia artificial permite completar en apenas unas horas tareas que antes requerían días o incluso semanas de trabajo por parte del equipo encargado de detectar y poner a prueba las vulnerabilidades de sus sistemas. "Es muy útil en nuestros procesos automatizados para identificar fallas de seguridad, comprobar si realmente es necesario corregirlas y, después, ayudarnos a desarrollar y proponer las soluciones correspondientes", explica.
Hasta el momento, OpenAI decidió restringir el acceso a Daybreak a un grupo seleccionado de organizaciones, aunque no quiso precisar cuántas participan en el programa. Además, destinó US$ 1.000 millones en tokens a equipos encargados de mantener software de código abierto que cuentan con presupuestos muy limitados. Según Guido, el equipo responsable de PHP, integrado por apenas un pequeño grupo de voluntarios, comenzó a utilizar cada vez más herramientas de inteligencia artificial gracias a su colaboración con Patch the Planet.
Además de trabajar con grandes empresas y con los responsables de mantener la infraestructura de internet, OpenAI colabora con organizaciones que gestionan servicios esenciales para prevenir ataques contra los sistemas de suministro de agua y energía. A través de socios como Dave Kennedy, exanalista de la Agencia de Seguridad Nacional de Estados Unidos (NSA) y fundador y CEO de TrustedSec, una empresa especializada en ciberseguridad, sus modelos también se utilizan para evaluar la seguridad de organismos gubernamentales locales y federales. Kennedy anticipa que el próximo año será "un período difícil para las empresas, los gobiernos y la ciberseguridad".
Sin embargo, considera que limitar el acceso a los modelos más avanzados a organizaciones legítimas y mantener su superioridad frente a las alternativas de código abierto podría contribuir a "garantizar la seguridad mundial".
Sin embargo, estas dos cuestiones todavía generan importantes interrogantes. Algunos especialistas consideran que las restricciones de acceso a Daybreak no son suficientes para hacer frente a la creciente amenaza de los ciberdelincuentes. Oege de Moor, CEO de XBOW, una empresa de ciberseguridad basada en inteligencia artificial y valorada en US$ 1.000 millones, sostiene que ampliar el acceso a estos modelos permitiría a los equipos de seguridad de todo el mundo proteger mejor sus sistemas frente a los ataques impulsados por IA. "Hay más defensores que atacantes, y debemos asumir que los atacantes también tienen acceso a modelos muy potentes", advierte.
Según explica, los modelos desarrollados por los principales laboratorios de inteligencia artificial todavía son más avanzados que las alternativas chinas y de código abierto, que pueden descargarse gratuitamente y cuyas capacidades mejoran con rapidez. "No creo que esa ventaja sea lo suficientemente grande como para justificar las restricciones", concluye.
OpenAI considera que ampliar el acceso a sus modelos más avanzados de ciberseguridad a un mayor número de organizaciones implica riesgos demasiado elevados. Por eso, Gibler explica que su equipo lleva adelante un exhaustivo proceso de evaluación de quienes solicitan participar en Daybreak Red. "Lo manejamos con mucha cautela y queremos asegurarnos de que solo las organizaciones autorizadas puedan acceder", señala.
Los próximos seis a doce meses serán decisivos para determinar cómo influirá la inteligencia artificial en la seguridad de los sistemas informáticos de todo el mundo. Guido considera que el caso de PHP demuestra que la estrategia de OpenAI está dando resultados. Aunque algunos hackers lograron descubrir las vulnerabilidades antes de que se hicieran públicas, sostiene que Patch the Planet permitió a los equipos de seguridad contar con una ventaja suficiente para preparar sus defensas. "Todavía no vimos pruebas de que se haya producido un ataque exitoso a gran escala", afirma.
Sin embargo, con 38 millones de sistemas que todavía utilizan versiones vulnerables de PHP, el riesgo de que se produzca un ataque de gran magnitud sigue presente y podría ser solo cuestión de tiempo.
*Este artículo fue publicado originalmente por Forbes.com.