La empresa de inteligencia artificial Anthropic, desarrolladora de Claude, sorprendió al sector tecnológico al proponer una pausa global en el desarrollo de los sistemas de IA más avanzados.
La compañía argumentó que los modelos más recientes podrían evolucionar hasta un punto en el que resulten difíciles de controlar por los seres humanos.
Anthropic pide desacelerar el avance de la IA
En un informe, la firma con sede en San Francisco afirmó que una desaceleración mundial del desarrollo de la inteligencia artificial de última generación sería “probablemente una buena idea”. Sin embargo, advirtió que la medida solo tendría sentido si fuera adoptada de manera conjunta por las principales empresas y gobiernos involucrados en esta carrera tecnológica.
“Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología”, señaló.
El debate entre seguridad y competencia
Anthropic considera que un acuerdo de este tipo requeriría la participación de los principales desarrolladores de IA en países como China y Estados Unidos.
“Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas”, señaló.
No obstante, la propuesta ha sido cuestionada por algunos funcionarios de la Casa Blanca y actores de la industria, quienes consideran que frenar el desarrollo de la IA podría otorgar una ventaja estratégica a China.
La preocupación por sistemas cada vez más autónomos
La compañía también alertó sobre la llamada “superación recursiva”, un escenario en el que una inteligencia artificial pueda mejorarse a sí misma sin intervención humana.
“Aún no hemos llegado a ese punto, y la superación recursiva no es inevitable”, señala el informe.
Pese a ello, Anthropic advirtió que los avances podrían producirse más rápido de lo esperado y aseguró que existen señales de que la intervención humana está perdiendo protagonismo en el desarrollo de estos sistemas.
“Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA”, advirtió Anthropic.
*Con información de AFP.