Herramientas como ChatGPT, Claude y Gemini se han convertido en asistentes constantes, sin embargo, este enorme potencial tecnológico no es un cheque en blanco. Las empresas que las crean han establecido una “línea roja”, un conjunto de fronteras éticas y de seguridad que la máquina no cruzará bajo ninguna circunstancia para evitar riesgos a la sociedad.
Las 3 fronteras prohibidas de la IA: Lo que nunca debe preguntar
Aunque la inteligencia artificial parece no tener límites, existen “líneas rojas” diseñadas por las tecnológicas para evitar que estas herramientas se conviertan en un peligro público y aunque cada una de las empresas tiene diferentes medidas, existen diferentes acuerdos que son globales y entre ellas se encuentra 3:
Cero complicidad con el delito
La IA tiene prohibido dar instrucciones para fabricar armas, explosivos o sustancias ilegales. Del mismo modo, rechazará cualquier petición para realizar ciberataques o buscar fallos en sistemas informáticos ajenos (vulnerabilidades) con el fin de robar datos o dañar programas.
Protección contra engaños políticos
Para evitar la manipulación de la sociedad, no se permite usar la IA para crear campañas de noticias falsas o desinformación masiva. Esto incluye los “deepfakes de texto”, que es cuando se intenta que la máquina imite a una persona real o figura pública para engañar a los demás.
Prioridad absoluta a la vida
Si un usuario realiza consultas sobre autolesiones o suicidio, la IA dejará de dar información general y ofrecerá automáticamente contactos de ayuda profesional y líneas de prevención. El sistema está entrenado para detectar señales de auxilio y priorizar la seguridad física de la persona.
¿Cómo se vigila y cuáles son las consecuencias?
Cada orden a la máquina (conocida como prompt) pasa por un filtro de seguridad en tiempo real antes de recibir respuesta, al intentar saltar esta normas, el usuario se arriesga a consecuencias severas:
- Avisos y registros: La infracción queda guardada en el historial.
- Cierre de cuenta (Baneo): Si reincide o intenta trucos lingüísticos para engañar al sistema, pueden suspender el acceso temporalmente o ser expulsado para siempre.
- Problemas legales: En casos de amenazas reales a la seguridad, las empresas pueden entregar la actividad a las autoridades.