Datos clave

• El estado también pidió al tribunal que impidiera a OpenAI promocionar sus productos como "seguros, precisos o fiables", además de bloquear la posibilidad de atribuir características humanas a sus chatbots y permitir que extiendan las conversaciones con los usuarios.
• Florida también busca prohibir que los menores de edad utilicen los modelos de la compañía, bajo el argumento de que OpenAI violó leyes federales y estatales vinculadas con la recopilación de datos de usuarios menores de 13 años.
• En los documentos presentados ante el tribunal, los fiscales de Florida calificaron a ChatGPT como un "producto imprudente que supone un riesgo inaceptable" y citaron casos de uso indebido que alcanzaron fuerte repercusión, entre ellos su presunta utilización para ayudar a planificar un tiroteo masivo en Canadá y su papel al responder preguntas relacionadas con un asesinato en Florida.
• La moción de Florida también mencionó el ataque informático contra Hugging Face, que salió a la luz durante el verano, y la reciente revelación de que agentes autónomos de la empresa vulneraron la base de datos nacional de atención médica de Australia.
• Además, el escrito citó declaraciones y preocupaciones de Sam Altman sobre la seguridad de la IA. En un anuncio en video, el fiscal general de Florida, James Uthmeier, hizo referencia directa a esas advertencias: "Si Sam Altman hablaba en serio sobre reducir la velocidad, puede unirse a nuestra petición ante el tribunal", afirmó.

Cita 

"El viernes anunciamos que suspendimos el entrenamiento de nuestros modelos más capaces y que lo reanudaremos solo cuando estemos seguros de contar con medidas de seguridad adicionales", declaró a Forbes Drew Pusateri, vocero de OpenAI, en un comunicado que también señaló que la compañía colaboraría con Florida y otros estados en "políticas de IA pragmáticas" para toda la industria.

Antecedentes

La demanda presentada por Florida citó declaraciones de varios expertos en IA, entre ellas los comentarios del exempleado de Anthropic, Jacob Coxon, que desataron una reciente ola de preocupación entre ejecutivos del sector como Dario Amodei, de Anthropic. "Quienes desarrollan IA creen sinceramente que podría acabar con todos nosotros para finales de la década. Esto no es una estrategia de marketing", escribió Coxon a principios de septiembre.

 Meses después del incidente de Hugging Face, Sam Altman coincidió con Amodei, quien publicó un ensayo en el que pidió a los llamados laboratorios de IA de vanguardia que redujeran el ritmo de desarrollo de sus modelos hasta poder implementar medidas de seguridad. Altman incluso afirmó que OpenAI suspendería sus planes para salir a bolsa en 2026 por motivos de seguridad y, la semana pasada, expuso sobre el tema ante el Consejo de Seguridad de las Naciones Unidas.

*Este artículo fue publicado originalmente por Forbes.com