La inteligencia artificial, como el modelo Mythos de Anthropic, podría facilitar bioterrorismo al permitir la síntesis de virus y neurotoxinas. Se requieren medidas de seguridad avanzadas para mitigar estos riesgos.
La inteligencia artificial (IA) está a punto de incorporar la biología a su repertorio de habilidades avanzadas. El modelo Mythos, desarrollado por Anthropic, ha visto suspendida su comercialización general debido a sus capacidades de piratería informática. Recientemente, este modelo logró superar una tercera parte de las tareas más complejas en procesamiento de datos biológicos, superando las capacidades de todos los humanos evaluados. Mythos ha demostrado ser capaz de realizar tareas como la ingeniería inversa de células a partir de datos de ADN sin procesar.
El potencial que ofrece la IA plantea preocupaciones sobre su uso indebido. La capacidad para sintetizar virus, generar neurotoxinas o crear formas de vida artificial representa un riesgo significativo. Este aspecto oscuro contrasta con la promesa positiva que trae la democratización del conocimiento a través de la inteligencia artificial. Existe el temor de que individuos con intenciones maliciosas puedan utilizar esta tecnología para causar estragos a gran escala.
Los riesgos asociados con la bioseguridad son considerablemente más graves que los relacionados con ciberseguridad. Un virus diseñado artificialmente podría provocar millones de muertes, dejando poco espacio para aprender de errores pasados. A diferencia del software, que puede ser corregido rápidamente, los organismos biológicos son mucho menos flexibles y requieren avances significativos en ciencia fundamental para garantizar su seguridad antes del lanzamiento al público.
Aunque los modelos actuales de IA son altamente competentes en teoría, todavía no han sido probados en aplicaciones prácticas dentro del laboratorio. Anthropic advierte que Mythos podría pronto guiar a novatos en experimentos complicados, lo que plantea preguntas sobre su preparación real para manejar tales responsabilidades.
Dada la naturaleza intrínsecamente peligrosa de estos modelos —similares a armas nucleares— es crucial implementar medidas efectivas para su control. Las estrategias actuales para asegurar estos sistemas no son suficientes. Por ejemplo, aunque se están desarrollando técnicas para rechazar solicitudes peligrosas, un estudio reciente reveló que el 90% de los participantes aún lograron extraer información sobre virología que debería haber estado bloqueada.
Otra estrategia consiste en eliminar información sensible durante el entrenamiento del modelo. Sin embargo, un modelo avanzado podría deducir información prohibida basándose en principios fundamentales. Esto se ha evidenciado anteriormente cuando intentos similares fracasaron al tratar de eliminar contenido inapropiado de bases de datos utilizadas para entrenar generadores de imágenes.
Es vital prestar atención al ámbito físico y regular más estrictamente las tecnologías relacionadas con la biología sintética. Los servicios gubernamentales deberían aplicar normativas que limiten el acceso a estas tecnologías solo a investigadores verificados. A diferencia del desarrollo nuclear, donde los materiales son escasos y rastreables, crear virus letales utilizando tecnología accesible es relativamente sencillo y difícilmente supervisable por las autoridades.
Para avanzar hacia salvaguardias efectivas, será necesario desarrollar nuevas técnicas científicas. Algunas propuestas incluyen realizar ajustes post-entrenamiento en los modelos o enseñarles a favorecer respuestas incorrectas en ciertas áreas específicas. Además, desactivar neuronas activadas durante trabajos relacionados con biología sintética podría requerir avances significativos en nuestra comprensión actual sobre redes neuronales.
Hasta que se implementen estas innovaciones, es esencial que los gobiernos restrinjan el acceso a sistemas capaces de facilitar actos terroristas biológicos, especialmente aquellos modelos abiertos cuya difusión no puede ser controlada una vez liberados al público. Es imperativo permitir que investigadores responsables utilicen la IA para avanzar en campos científicos como el tratamiento del cáncer sin comprometer la seguridad global frente a amenazas potenciales.
La inteligencia artificial puede permitir a individuos malintencionados sintetizar virus, generar neurotoxinas o crear formas de vida peligrosas. Esto representa un riesgo significativo para la humanidad, ya que un virus diseñado podría causar millones de muertes sin margen para aprender de errores previos.
Se sugiere limitar el acceso a tecnologías que faciliten el bioterrorismo, especialmente modelos de IA de código abierto. Además, es crucial desarrollar nuevas salvaguardias científicas y normativas que regulen el acceso a tecnologías como la síntesis de ADN.
A diferencia de las armas nucleares, donde los materiales son escasos y rastreables, en biología es relativamente fácil utilizar tecnología disponible en el mercado con fines letales. Esto dificulta la supervisión efectiva por parte del Estado.