Actualmente, estamos transitando por una era donde hay un exacerbado hype por la IA, faltando muy poco para quererla meter «hasta en la sopa», pero muy pocos se han atrevido a hablar de los riesgos que implica esta tecnología emergente. Pues bien, recientemente, un investigador de seguridad descubrió que Gemini, la herramienta de IA desarrollada por Google, es vulnerable a un fallo de seguridad que permitiría a un atacante engañar a este chatbot de IA. Pero más preocupante aún es que Google se ha negado a reparar dicha brecha. ¿De qué se trata este fallo de seguridad en Gemini y por qué Google se ha negado a repararla? Indaguemos más a fondo sobre este preocupante incidente.
La brecha de seguridad descubierta recientemente en Gemini permite a los atacantes obtener datos personales de forma autónoma
Viktor Markopoulos, el investigador de seguridad que descubrió la vulnerabilidad, aseguró que la herramienta de IA, Gemini, es vulnerable a ataques de contrabando ASCII. Esta brecha permite a los atacantes, engañar a esta IA para poder así hacerse con los datos personales del usuario.
Vale, pero ¿Cómo funcionan los ataques de contrabando ASCII?
Los ataques de contrabando ASCII consisten en utilizar los caracteres especiales del estándar ASCII para crear cargas maliciosas que resultan invisibles para los usuarios. La idea es que los usuarios engañados introduzcan dichos caracteres en un campo de búsqueda y así los atacantes comenzarían a obtener datos relevantes de los usuarios.
Inicialmente, este tipo de vulnerabilidades eran detectadas y procesadas por los modelos de lenguaje grandes (LLM), por lo que, en sí, no se trata de una nueva modalidad de ataque. La cuestión es que, con el empeño que tienen muchas compañías de implementar chatbots de IA en todos los servicios que puedan, han provocado una gran susceptibilidad a este tipo de ataques. Gemini es uno de estos casos, pues Google la ha integrado en muchos de sus servicios online, por lo que dicha herramienta de IA tiene acceso a datos confidenciales de usuarios. Esto, sumándole además la capacidad que tiene esta herramienta de hacer tareas de forma automatizada, hace que la amenaza sea mayor.
Con estas integraciones, los atacantes ya no necesitan que el usuario introduzcan los caracteres alterados, pues con incrustar comandos ocultos en invitaciones o correos electrónicos, pueden indicarle al chatbot de IA que les proporcione detalles de ese usuario. Así, lo que sería un intento de phishing, los atacantes están aprovechando la automatización de estas herramientas de IA para extraer datos de usuarios de forma autónoma.
¿Esta vulnerabilidad afecta solo a Gemini o también compromete a otras herramientas de IA?
Gemini no es la única herramienta de IA que es susceptible a este tipo de ataques, pues de acuerdo con Markopoulos, DeepSeek y Grok también son vulnerables. ¿En qué servicios se están centrando los atacantes con estos chatbots de IA? En el caso de Gemini, los atacantes se están enfocando en las invitaciones de calendario y Gmail, con DeepSeek son las indicaciones, mientras que en Grok, el foco se centra en publicaciones de X. Por su parte, los chatbots de Claude, ChatGPT y Microsoft Copilot han mostrado resistencia con este tipo de ataques.
¿Y por qué Google se niega a reparar dicha brecha de seguridad en Gemini?
Muy a pesar de que Markopoulos le envió a Google toda la información junto con pruebas de demostración, la compañía desestimó esta vulnerabilidad de seguridad. ¿La razón? Pues que Google no considera este tipo de ataque como una brecha de seguridad, sino como «una táctica de ingeniería social». Con esto, Google eludió responsabilidad alguna por esta vulnerabilidad y se la achacó completamente al usuario, argumentando que este (el usuario) es el responsable.
Con ello podemos decir que Google no tiene planes de reparar o parchear dicha brecha de seguridad en Gemini.
