La empresa de inteligencia artificial Anthropic ha desarrollado una herramienta generativa que se posiciona como la más potente del mercado. Sin embargo, la compañía ha decidido no ponerla a disposición del público debido a su potencial peligro. Esta innovadora creación lleva el nombre de Claude Mythos Preview y está diseñada para identificar y corregir vulnerabilidades en software crítico.
Actualmente, un selecto grupo de aproximadamente 40 empresas, entre las que se encuentran gigantes como Apple, Amazon, Google, Nvidia y Microsoft, están utilizando esta herramienta. Según declaraciones de Anthropic, Claude Mythos Preview tiene la capacidad de "superar a todos, excepto a los humanos más expertos", lo que plantea serias preocupaciones sobre su uso indebido si cayera en manos equivocadas.
Riesgos asociados y detección de vulnerabilidades
La firma liderada por Dario Amodei advierte que si esta tecnología es utilizada por un grupo cibercriminal, podría acarrear graves problemas tanto para empresas como para usuarios individuales. En palabras de la compañía, "dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan más allá de los actores comprometidos con su implementación segura". Las implicaciones podrían ser significativas para la economía y la seguridad nacional.
Claude Mythos Preview ya ha detectado miles de vulnerabilidades consideradas "de alta gravedad", incluyendo fallos en sistemas operativos y navegadores web reconocidos. Un ejemplo notable es un fallo de seguridad descubierto en OpenBSD, que llevaba 27 años sin ser identificado. Asimismo, la inteligencia artificial ha encontrado múltiples vulnerabilidades en el núcleo de Linux, lo que permitiría a un cibercriminal obtener control total sobre un sistema tras haber tenido acceso básico.
Preocupaciones regulatorias y uso empresarial
A medida que avanza el desarrollo y aplicación de Claude Mythos Preview, surgen inquietudes fuera del ámbito corporativo. De acuerdo con el Financial Times, reguladores financieros británicos están dialogando con la agencia gubernamental de ciberseguridad del Reino Unido y bancos importantes para evaluar los riesgos asociados a esta herramienta.
En Estados Unidos, figuras clave como el secretario del Tesoro Scott Bessent y el presidente de la Reserva Federal Jerome Powell han instado a ejecutivos bancarios a explorar las capacidades de Claude Mythos Preview. Algunos bancos, como JP Morgan Chase, ya han comenzado a implementar esta tecnología. Este movimiento resulta sorprendente dado que Anthropic figura en una lista negra del gobierno estadounidense, tras negarse a permitir que su tecnología sea utilizada para fines militares o sistemas de vigilancia nacionales.
Preguntas sobre la noticia
¿Qué es Claude Mythos Preview?
Claude Mythos Preview es una herramienta de inteligencia artificial generativa creada por la empresa Anthropic, que se considera la más potente del mercado. Actualmente, se utiliza para detectar y corregir vulnerabilidades de seguridad en programas de software críticos.
¿Por qué Anthropic no pone esta IA en manos de los usuarios?
La compañía teme que si Claude Mythos Preview cayera en manos equivocadas, como un grupo cibercriminal, podría causar grandes problemas a empresas y usuarios debido a su capacidad para detectar y explotar vulnerabilidades de software.
¿Qué tipo de vulnerabilidades ha encontrado Claude Mythos Preview?
La IA ha detectado miles de vulnerabilidades de alta gravedad, incluyendo fallos en sistemas operativos y navegadores web. Por ejemplo, descubrió un fallo de seguridad de 27 años en OpenBSD y varias vulnerabilidades en el núcleo de Linux.
¿Qué preocupaciones han surgido sobre el uso de esta IA?
Existen preocupaciones sobre los riesgos que plantea Claude Mythos Preview, especialmente entre reguladores financieros y agencias gubernamentales, quienes están evaluando su impacto potencial en la economía, la seguridad pública y la seguridad nacional.
Si (
No(
