OpenAI está trabajando en nuevos modelos de inteligencia artificial (IA) que, en caso de utilizar contenido protegido por derechos de autor para su entrenamiento, puedan remunerar a los titulares de esos derechos.
El director ejecutivo de OpenAI, Sam Altman, ha participado recientemente en un congreso sobre IA que ha acogido la Casa Blanca (Estados Unidos), cuya finalidad era conseguir el compromiso de las grandes empresas detrás de esta tecnología para que sea seguro ponerla a disposición del público.
En este encuentro, Altman aseguró que defendía los sistemas que de derechos de autor, que aseguran que los autores cobran por el valor que crean. También lo ha defendido en el contexto de las IA generativas.
En este sentido, y como recogen en Axios, el directivo ha anticipado que están intentando desarrollar nuevos modelos “en los que si un sistema de IA está usando tu contenido, o si está usando tu estilo, te pagan por ello”.
Los grandes modelos de lenguaje que potencian las herramientas de IA generativa utilizan grandes cantidades de contenidos, muchos de ellos protegidos por derechos de autor, para su entrenamiento, lo que les permite aprender a generar contenidos nuevos, ya sean imágenes, videos, texto o música.
Sin embargo, este uso de dichos contenidos para los entrenamientos no siempre cuenta con la autorización por parte de quienes sostienen los derechos, como ha denunciado, por ejemplo, Universal Music Group.
El sello discográfico ya ha instado a plataformas de música en ‘streaming’ como Apple Music o Spotify a bloquear el entrenamiento de modelos de IA, debido a que con ello estarían violando los derechos de autor de las canciones que utilizan.
Asimismo, el pasado enero un grupo de artistas demandó a tres compañías dedicadas al arte digital -Stability AI, DeviantArt y Midjourney- por infringir derechos de autor en el desarrollo de obras artísticas creadas por IA con la herramienta Stable Difussion.
OpenAI, creadora de ChatGPT, lanza una herramienta; ¿en qué consiste?
En la tarde de este jueves -11 de mayo- se conoció que OpenAI lanzó una herramienta para averiguar y explicar el funcionamiento interno de los modelos de lenguaje grandes (LLM) en la inteligencia artificial (IA), que utiliza GPT-4 para analizar los modelos, explicarlos y anticipar cuáles serán los posibles problemas con los sistemas de IA.
Los modelos de lenguaje en el ámbito de la IA, como por ejemplo GPT de OpenAI, llegan a conclusiones y producen resultados sorprendentes de forma independiente, por lo que cada vez se implementan en más ámbitos y situaciones del día a día, aprendiendo más y volviéndose más inteligentes.
Sin embargo, la comprensión humana de cómo funcionan internamente estos modelos de lenguaje es limitada. Es difícil conocer con certeza por qué un modelo responde de la forma en la que lo hace para cada situación. También es complicado averiguar cómo aumentan su conocimiento, si lo hacen de forma sesgada o si utilizan el engaño.
De cara a comprender mejor el funcionamiento de los LLM, OpenAI ha lanzado una herramienta con la que se podrá analizar qué partes del modelo son responsables de cada función y de sus comportamientos.
Esta herramienta, según explica OpenAI en un comunicado en su web, se basa en un proceso automatizado que utiliza el modelo de lenguaje GPT-4 para “producir y puntuar explicaciones en lenguaje natural del comportamiento de las neuronas” de un LLM en concreto, en este caso GPT-2 y, posteriormente, aplicarlo a las neuronas en otro modelo de lenguaje.
Los modelos LLM están conformados por neuronas que identifican patrones específicos en el texto que introduce el usuario para poder generar una respuesta en consecuencia. Teniendo esto en cuenta, la herramienta de OpenAI divide el modelo de GPT-2 en distintas piezas y realiza un proceso de tres pasos.
En primer lugar, se genera una explicación sobre un tema mostrando secuencias de texto relevantes en el modelo que se está evaluando, en este caso GPT-2. Con base en ello, la herramienta analiza cada vez que una “neurona” se activa.
Después, se enseña todo ello al modelo GPT-4 que, con esta información, genera una explicación y una predicción sobre cómo se comportaría la neurona según el caso. Por último, la herramienta de OpenAI utiliza de nuevo GPT-4 para comparar el comportamiento de la neurona simulada en el segundo paso y la neurona real de GPT-2.
*Con información de Europa Press.