Google decidió mantener restringido, por ahora, el acceso a Gemini 4 Argon, su modelo de inteligencia artificial (IA) más potente. La compañía permitirá que solo un grupo seleccionado de expertos en ciberseguridad lo utilice mientras evalúa los riesgos asociados con sus capacidades.
Google limitará el acceso a Gemini 4 Argon
La compañía explicó que está dando voluntariamente al Gobierno de Estados Unidos acceso anticipado al modelo y que recogerá comentarios de los evaluadores antes de permitir su disponibilidad para el público general.
“Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, arquitecto en jefe de IA de Google, en la publicación con la que anunció Argon.
La decisión está relacionada con las capacidades del modelo en ciberseguridad. Expertos temen que sistemas de este nivel puedan ser utilizados para atacar bancos, hospitales y sistemas gubernamentales.
Una IA capaz de encontrar fallas que otros modelos pasan por alto
Google afirmó que Argon puede realizar tareas complejas de ingeniería de software, además de trabajos jurídicos y financieros y labores relacionadas con la defensa cibernética.
Uno de los aspectos que más destaca la compañía es su capacidad para detectar y corregir fallas críticas de software. Durante las primeras evaluaciones, Argon permitió identificar una vulnerabilidad en un programa utilizado por hospitales de todo el mundo que podía exponer información personal sensible, según Google.
La compañía también aseguró que el modelo está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.
Anthropic y OpenAI también refuerzan las restricciones
La estrategia de Google tiene similitudes con la adoptada por Anthropic, que mantiene su modelo más avanzado, Claude Mythos Preview, restringido a un grupo reducido de organizaciones de confianza.
Washington también obligó brevemente a Anthropic a suspender el acceso a Claude Mythos y Claude Fable, lanzados públicamente en junio. Posteriormente, se estableció un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento.
El anuncio de Google ocurrió un día después de que el presidente Donald Trump recibiera en la Casa Blanca a dirigentes del sector, entre ellos Dario Amodei, de Anthropic, y Sundar Pichai, de Google. En ese encuentro, las compañías participantes firmaron un acuerdo voluntario para vigilar los riesgos de sus sistemas de IA.
Anthropic y OpenAI, desarrolladora de ChatGPT, también han incorporado salvaguardas en sus modelos más avanzados.
El debate aumentó después de que OpenAI revelara que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
*Con información de AFP.