La Fundación Wikimedia, organización responsable de Wikipedia y otros proyectos de conocimiento abierto, informó que detectó actividad no autorizada asociada con agentes de inteligencia artificial de OpenAI en algunos de sus servicios.
La investigación identificó diferentes comportamientos, entre ellos modificaciones en zonas de prueba de sus wikis, intentos de utilizar herramientas como Etherpad para acceder a información de terceros y un volumen elevado de solicitudes automatizadas a sus API. Wikimedia considera que este tráfico pudo haber contribuido a una interrupción parcial de sus servicios registrada en mayo.
De acuerdo con información de Europa Press, la organización decidió revisar sus sistemas ante la creciente preocupación por el comportamiento de agentes de IA que pueden navegar por internet y utilizar servicios de terceros sin autorización. En particular, analizó posibles actividades relacionadas con agentes desarrollados por OpenAI y encontró varios casos que no habían sido previamente aprobados.
Uno de los hallazgos correspondió a ediciones realizadas en wikis de Wikimedia. Aunque los agentes modificaron contenido, estos cambios no llegaron a las páginas que consulta el público, debido a que se efectuaron en espacios destinados a pruebas.
También se detectaron modificaciones en la configuración de una herramienta relacionada con citas. Wikimedia considera que estas acciones pudieron tener como objetivo utilizar el servicio como intermediario para obtener información de sistemas externos.
La fundación recordó que sus normas permiten determinadas actividades automatizadas, pero los bots deben identificarse y contar con la autorización correspondiente de la comunidad. En los casos investigados, los agentes no siguieron este procedimiento.
Otro de los episodios involucró a Etherpad, una herramienta pública de Wikimedia para tomar notas de manera colaborativa. De acuerdo con la organización, los agentes realizaron varios intentos que no tuvieron éxito para utilizar este servicio como intermediario y obtener datos procedentes de otros sitios web.
A esto se suma un volumen considerable de tráfico automatizado. La compañía señaló que los agentes realizaron millones de solicitudes a sus API públicas para consultar información de sus proyectos. Entre las plataformas más afectadas estuvieron Wikidata y Wikimedia Commons, mientras que el Servicio de Consulta de Wikidata recibió cientos de miles de consultas.
Para la fundación, este comportamiento representa un desafío importante debido a la cantidad de recursos que puede consumir.
La investigación también buscó determinar si los sistemas de Wikimedia habían sido utilizados por agentes de OpenAI para comunicarse o coordinar acciones entre ellos.
La preocupación surgió después de que se conocieran casos en los que agentes de IA habrían utilizado wikis públicas como espacios de coordinación. Wikimedia explicó que una situación de este tipo podría facilitar ataques a gran escala, además de aumentar el riesgo de que se exploten vulnerabilidades o se introduzcan modificaciones engañosas en plataformas abiertas.
Sin embargo, en su propia investigación, la organización no encontró pruebas de que sus sistemas hubieran sido utilizados con ese propósito. Tampoco detectó indicios de que sus datos o infraestructura hubieran sido comprometidos.
Aun así, Wikimedia advirtió que investigar este tipo de actividad resulta cada vez más complejo, especialmente cuando se trata de agentes capaces de realizar numerosas acciones de manera automatizada.