La compañía advierte de que los recientes secuestros de cuentas en Instagram no se debieron a fallos de la inteligencia artificial, sino a una excesiva autonomía en procesos críticos de recuperación de identidad.
Los recientes secuestros de cuentas de alto perfil en Instagram han puesto el foco en un nuevo riesgo para la ciberseguridad. Según Check Point Software, los atacantes no tuvieron que manipular la inteligencia artificial ni vulnerar el sistema mediante técnicas avanzadas, sino que aprovecharon los amplios permisos concedidos al chatbot de soporte de Meta.
La compañía explica que los ciberdelincuentes lograron tomar el control de cuentas vinculadas a la Casa Blanca de la era Obama, Sephora y la Fuerza Espacial de Estados Unidos tras explotar un sistema automatizado capaz de modificar información sensible sin una verificación independiente adecuada.
Para Check Point, el problema no radica en que la IA pueda ser engañada mediante instrucciones maliciosas, sino en permitir que ejecute acciones críticas dentro de procesos relacionados con la identidad y el acceso a cuentas.
«No estamos ante una historia de jailbreak; sino frente a un tema de autorización. La IA no necesita estar comprometida para generar un riesgo de seguridad», señala Rafa López, Workspace Security Engineer de Check Point Software en España.
La compañía destaca que, a medida que los sistemas de inteligencia artificial evolucionan hacia modelos capaces de ejecutar acciones y no solo responder preguntas, las organizaciones deben revisar cuidadosamente los permisos que les conceden. Entre otras cuestiones, recomiendan evaluar si estos sistemas pueden modificar credenciales, acceder a información confidencial o aprobar solicitudes sensibles.
Para reducir riesgos, Check Point recomienda establecer límites claros a las acciones que puede realizar la IA, implementar mecanismos independientes de verificación de identidad, restringir permisos según el contexto y reforzar la detección de comportamientos anómalos.
Según la compañía, el futuro de la seguridad de la IA dependerá no solo de la protección de los modelos, sino también de las salvaguardas que rodean las herramientas, los permisos que reciben y la supervisión humana existente antes de ejecutar cualquier acción crítica.
