Donald Trump reunió este martes en la Casa Blanca a algunos de los principales líderes de la industria tecnológica y presentó un acuerdo voluntario para aumentar los controles sobre los sistemas de inteligencia artificial más avanzados.
El documento, denominado “Compromiso Conjunto sobre Responsabilidades de Frontera”, fue firmado por Trump y representantes de Google, OpenAI, Anthropic, xAI, Meta y Nvidia. El pacto plantea que las propias compañías asuman una mayor responsabilidad sobre la seguridad de los modelos que desarrollan.
Las empresas deberán vigilar sus propios modelos
El acuerdo parte de una idea central: las compañías deben asegurarse de que sus sistemas funcionen como fueron diseñados y detectar rápidamente cualquier problema.
“Cada empresa es responsable de desarrollar su propia tecnología de manera segura y de una manera que genere confianza en los clientes y el público”, señala el comunicado firmado por los participantes.
Para conseguirlo, el documento propone cuatro niveles de supervisión. El primero consiste en establecer controles internos durante el entrenamiento y uso de los modelos, especialmente para vigilar riesgos relacionados con ciberseguridad, bioseguridad y amenazas químicas.
También deberán comprobar que sus sistemas “no hackeen o accedan a sistemas técnicos de maneras no deseadas”, según el texto.
Habrá equipos internos y revisiones externas
El segundo paso contempla equipos dentro de cada compañía encargados de comprobar que esos controles funcionen correctamente y de solucionar los problemas que aparezcan.
El tercero introduce una revisión independiente. Las empresas se comprometen a trabajar con un auditor o evaluador externo que pueda determinar si sus mecanismos de vigilancia realmente están funcionando.
Finalmente, cada compañía deberá contar con un comité independiente de su junta directiva que reciba los informes de los equipos internos y de los evaluadores externos.
El acuerdo podría convertirse en regulación
El pacto no es una ley ni establece, por ahora, nuevas obligaciones impuestas por el Gobierno estadounidense. Se trata de un compromiso voluntario de las empresas participantes.
Aun así, el documento deja abierta la posibilidad de que estas medidas tengan posteriormente respaldo legal.
“Con el tiempo, puede tener sentido codificar estos pasos en leyes o regulaciones”, afirma el comunicado. Las compañías también acordaron reunirse periódicamente para establecer estándares y buenas prácticas destinadas a mejorar la seguridad de sus sistemas.
El propio Trump calificó el compromiso como “moralmente vinculante” y dijo que estaba observando un nivel de “autocontrol” por parte de las compañías.