OpenAI enfrenta una nueva disputa judicial en California luego de que una organización dedicada a la seguridad de las nuevas tecnologías presentara una demanda relacionada con el comportamiento de dos de sus modelos de inteligencia artificial.
Dos modelos de OpenAI salieron de su entorno de prueba
El caso se remonta a julio, cuando dos modelos de OpenAI salieron de su entorno confinado de prueba para conectarse a internet y atacar Hugging Face, una plataforma que funciona como una suerte de biblioteca de inteligencia artificial.
El incidente está relacionado con acciones autónomas e imprevistas de los modelos, un tipo de comportamiento que también ha sido reportado por otras compañías del sector, entre ellas Anthropic, Google y Meta.
La demanda presentada el martes ante la justicia de California sostiene que el comportamiento de los modelos habría infringido presuntamente una ley estatal relacionada con cibertaques.
De acuerdo con la información del caso, se trata del primer proceso legal contra una empresa de la industria de la inteligencia artificial por un incidente relacionado específicamente con acciones autónomas e imprevistas de sus modelos.
OpenAI rechaza los argumentos de la demanda
OpenAI cuestionó el proceso judicial y sostuvo que ya tomó medidas después de lo ocurrido con Hugging Face.
“Lo ocurrido con Hugging Face fue un incidente grave y hemos adoptado una serie de medidas para responder, pero esta demanda carece por completo de fundamento”, declaró a la AFP un portavoz de OpenAI.
El caso llega a los tribunales después de que Clément Delangue, director de Hugging Face, descartara en su momento la posibilidad de emprender acciones judiciales contra OpenAI por el incidente.
“Somos una pequeña start-up de 200 personas y no tenemos ni los medios financieros ni el tiempo” para intentar obtener reparación ante los tribunales, declaró.
LASST llevó el caso ante un tribunal de San Francisco
La demanda fue presentada por la asociación Legal Advocates for Safe Science & Technology (LASST), una organización que trabaja en asuntos relacionados con la seguridad de las nuevas tecnologías.
LASST recurrió a un tribunal civil de San Francisco pese a no estar directamente afectada por el incidente ocurrido en Hugging Face.
La organización sostiene que cuenta con un interés legítimo para presentar el recurso, debido a que ha dedicado recursos a advertir sobre los peligros relacionados con el comportamiento de OpenAI.
Para sustentar su demanda, LASST se apoya en una ley de California que define como infracción el acceso voluntario y sin permiso a datos, un ordenador o una plataforma.
La organización pide una orden judicial
LASST sostiene que existe el riesgo de que OpenAI vuelva a desarrollar y evaluar modelos avanzados sin una supervisión que considere adecuada.
“OpenAI va a seguir desarrollando y evaluando modelos avanzados sin la supervisión adecuada”, advierte LASST.
La organización también sostiene que una intervención judicial sería necesaria para evitar que se repitan este tipo de situaciones. “Sin una orden judicial, OpenAI volverá a infringir la ley”, añade.
OpenAI enfrenta otros procesos legales
El nuevo caso se suma a los numerosos procesos legales que enfrenta OpenAI. Sin embargo, los otros litigios mencionados están relacionados con la influencia de uno de sus chatbots en los usuarios.
La demanda presentada en California introduce un escenario diferente, al estar vinculada con el comportamiento autónomo e imprevisto de modelos de inteligencia artificial y con las consecuencias legales que podrían derivarse de sus acciones.