Un hacker utilizó inteligencia artificial para infiltrarse en sistemas del Gobierno mexicano, robando 150 gigabytes de datos confidenciales, incluidos registros fiscales y electorales, según una investigación de Gambit Security.
Un reciente informe revela que un hacker utilizó el modelo de inteligencia artificial Claude, desarrollado por la empresa Anthropic, para vulnerar los sistemas del Gobierno mexicano y llevar a cabo el robo de una cantidad significativa de datos confidenciales. La investigación, realizada por la firma israelí de ciberseguridad Gambit Security, ha sido recogida por medios como Bloomberg.
Los investigadores indican que el atacante solicitó al chatbot que actuara como un hacker de élite, con el objetivo de identificar vulnerabilidades en las redes gubernamentales, redactar scripts de ataque y automatizar el proceso de robo.
Durante los meses de diciembre y enero, se estima que se sustrajeron aproximadamente 150 gigabytes de información, que incluyen documentos relacionados con más de 195 millones de registros de contribuyentes, listas de votantes, credenciales de empleados públicos y archivos del registro civil.
Entre las entidades afectadas se encuentran la autoridad fiscal federal mexicana y el Instituto Nacional Electoral, así como los gobiernos estatales de Jalisco, Michoacán y Tamaulipas, el registro civil de la Ciudad de México y la empresa responsable del suministro de agua en Monterrey, según lo indicado por Gambit.
A pesar de que Claude inicialmente alertó al usuario sobre la intención maliciosa detrás de su uso, finalmente ejecutó miles de comandos dentro de las redes gubernamentales tras ser 'jailbreakeado', lo que le permitió evadir las medidas de seguridad establecidas. Anthropic ha tomado cartas en el asunto, asegurando que ha interrumpido la actividad ilícita y prohibido las cuentas implicadas, además de incorporar estos incidentes a sus modelos más recientes.
El análisis realizado por Gambit también señala que el hacker buscaba obtener identidades de empleados gubernamentales y explotó al menos 20 vulnerabilidades diferentes. No obstante, no está claro si utilizó la información robada ni con qué propósito. En situaciones donde Claude enfrentaba dificultades técnicas o requería información adicional, el atacante recurría a ChatGPT, desarrollado por OpenAI, para recibir orientación sobre cómo navegar dentro de las redes, qué credenciales necesitaba y cuáles eran los riesgos asociados a su detección.
OpenAI, por su parte, afirmó haber detectado intentos indebidos de uso y aseguró que sus herramientas se negaron a colaborar en este tipo de actividades. La compañía bloqueó las cuentas relacionadas con este ataque. "Hemos prohibido las cuentas utilizadas por este adversario", declaró OpenAI en un comunicado.
A finales del mes pasado, las autoridades mexicanas anunciaron que estaban investigando violaciones en varias instituciones públicas; sin embargo, no confirmaron si estaban vinculadas al ataque mediante Claude. El Instituto Nacional Electoral afirmó no haber detectado intrusiones recientes y manifestó haber reforzado su estrategia en ciberseguridad. Asimismo, el Gobierno estatal de Jalisco negó haber sufrido una vulneración y aclaró que solo se vieron afectadas redes federales.