OpenAI informó este jueves a más de 100 organizaciones sobre incidentes de actividad no autorizada vinculados con sus agentes de inteligencia artificial y amplió la investigación que inició tras el caso de Hugging Face. La compañía analiza unos 50 petabytes de datos para determinar el alcance de estos comportamientos, una revisión que todavía podría tardar meses.
OpenAI despidió a tres investigadores de su equipo de seguridad por el presunto manejo indebido de información confidencial, según The Wall Street Journal. Los empleados habrían compartido datos sensibles de la compañía con una organización externa dedicada a la seguridad de la IA, en un contexto de mayor presión sobre las empresas de inteligencia artificial por las medidas de seguridad que aplican.
OpenAI lanzó Dots el martes por la tarde, un asistente de IA capaz de funcionar en segundo plano y conectarse con miles de apps. Con este lanzamiento, la compañía se sumó a Meta y otras grandes tecnológicas en la carrera por desarrollar agentes de IA para el público general.
OpenAI informó este martes por la tarde que ChatGPT registraba errores generalizados que afectaban a algunos usuarios. La compañía reconoció problemas para enviar consultas, iniciar sesión, crear cuentas y completar tareas, mientras aumentaban los reportes de fallas en Downdetector.
El prospecto de la oferta pública inicial de Anthropic advirtió a los inversores que sus modelos de inteligencia artificial podrían plantear "riesgos catastróficos o existenciales para la humanidad". La advertencia pone de relieve la preocupación que la compañía mantiene desde hace tiempo por los posibles riesgos de seguridad asociados a sus sistemas de IA, justo cuando se prepara para una esperada salida a bolsa que podría llevar su valuación por encima de los US$ 2 billones.
El fiscal general de Florida pidió a un tribunal que frenara el desarrollo de nuevos modelos de inteligencia artificial de OpenAI hasta que la compañía implementara "medidas de seguridad aprobadas por terceros". El pedido citó casos de fuerte repercusión vinculados con su chatbot ChatGPT y alertas de ejecutivos del sector de la IA, entre ellos el propio CEO de la empresa, Sam Altman.
Las compras de TBPN y Futurepedia evidencian una estrategia que trasciende la publicidad. Las audiencias fieles y los canales de distribución ya probados son activos cada vez más valiosos para las grandes tecnológicas.
TypeSafe diseñó un sistema enfocado en resolver tareas concretas dentro del software. Ahora, sus primeras pruebas empiezan a despertar interés entre los desarrolladores.
Cuatro suscriptores aseguran que los principales laboratorios acordaron avanzar más despacio y que eso pudo afectar la competencia entre sus servicios. Además, el expediente reconstruye contactos previos entre ejecutivos del sector.
El gobierno de Columbia Británica demandó el lunes a OpenAI y a su CEO, Sam Altman, ante un tribunal federal de Estados Unidos. La presentación acusa a la empresa de no haber alertado a las autoridades sobre las conversaciones de contenido violento que un joven de 18 años mantuvo en ChatGPT antes de cometer, en febrero, uno de los tiroteos escolares más mortíferos de la historia de Canadá.
El auge de la inteligencia artificial y el crecimiento del valor de las empresas tecnológicas impulsaron a un grupo que acumula US$ 321.000 millones. Para acceder al ranking, cada debutante necesitó una fortuna mínima récord de US$ 4.400 millones.
OpenAI reveló seis nuevos incidentes de comportamiento "inesperado" y "preocupante" en sus modelos, entre ellos la ocultación de errores, el intercambio de archivos y la incorporación de prompts maliciosos destinados a que futuros modelos ignoren las restricciones impuestas por los humanos. A su vez, la compañía presentó un nuevo marco para informar sobre conductas que se apartan de lo previsto y prometió mayor transparencia ante la preocupación por la seguridad de la IA.
Con la irrupción de la inteligencia artificial, equipos de menos de 10 personas alcanzan valuaciones multimillonarias en tiempo récord. Del modelo de Jeff Bezos en Amazon al estilo Nvidia, la carrera corporativa por mantener la agilidad frente al avance de la IA.
Jakub Pachocki teme que los modelos comiencen a participar en la creación de sus sucesores antes de que existan controles capaces de supervisarlos. Por eso plantea que los laboratorios reduzcan el ritmo de desarrollo si las medidas de seguridad quedan rezagadas.
El presidente estadounidense calificó de "engaño" las advertencias sobre una posible amenaza para la humanidad y defendió la carrera de Washington frente a China. Por su parte, JD Vance consideró "extraño" que los propios líderes del sector reclamen controles gubernamentales.
Un cruce entre investigadores y la compañía desencadenó una disputa inesperada en torno a uno de los grandes desafíos de la ciencia. El episodio también reavivó el debate sobre los límites de la IA y cómo se reconoce la autoría de un hallazgo.
La compañía limitará el acceso inicial ante el riesgo de que el sistema se utilice para vulnerar redes. La medida también reaviva las dudas sobre los controles secretos que la Casa Blanca aplica antes de autorizar nuevos desarrollos de IA.
La investigación busca determinar por qué la compañía mantuvo las pruebas pese a detectar que sus sistemas autónomos accedían a sitios web externos.
Elon Musk cuestionó y criticó las declaraciones de un exinvestigador de Anthropic, quien alertó sobre el peligro que la IA representa para los humanos después de dejar la empresa. El multimillonario, además, promovió versiones sin sustento que presentaban la salida como una conspiración o una maniobra de relaciones públicas, pese a que otros investigadores de IA también señalaron preocupaciones similares.
