La empresa de inteligencia artificial Anthropic reveló que usuarios intentaron emplear sus modelos Claude para investigación biológica que podría apoyar el desarrollo de armas biológicas.
La compañía publicó el 10 de septiembre de 2026 un informe de inteligencia de amenazas en el que documenta cinco casos de estudio específicos, interrumpidos entre diciembre de 2025 y agosto de 2026.
Los modelos involucrados fueron Claude Haiku, Sonnet y Opus. Las cuentas asociadas fueron prohibidas y los hallazgos se incorporaron a las salvaguardas de la empresa.
Anthropic compartió la información con autoridades gubernamentales y socios de la industria donde correspondía, según detalló en el documento.
Investigación biológica de doble uso bajo la lupa
Los casos documentados incluyeron patógenos como el virus chikungunya, gripe aviar altamente patógena, orthopoxvirus —familia que abarca la viruela y el mpox— y toxinas derivadas de venenos.
En el caso del chikungunya, un usuario solicitó ayuda para redactar una solicitud de subvención con investigación de ganancia de función sobre transmisibilidad y evasión inmune. La solicitud estaba asociada a un instituto de investigación militar.
El informe señala que los actores eludieron controles de acceso por regiones no soportadas y realizaron esfuerzos para ofuscar el propósito de la investigación y evadir las salvaguardas.
«Biological misuse is one of the most serious risks of frontier AI models. Without the correct safeguards, such capabilities could have catastrophic consequences»
La dificultad de distinguir investigación legítima de malintencionada
Anthropic enfatizó que no puede afirmar que existiera intención de daño. La investigación biológica legítima, como la destinada a vacunas, puede solaparse con usos de doble propósito.
«The same information that can be used to develop a biological weapon could also be used to develop, for example, a vaccine or a cure for a disease»
Jacob Klein, jefe de inteligencia de amenazas de Anthropic, describió la complejidad de estos casos. «You are not seeing someone in a comic book kind of way say, ‘Hey, I want to build a biological weapon to kill everybody.’ It’s an incredibly nuanced situation», afirmó.
La empresa no identificó instituciones, países ni agentes biológicos específicos, al no poder concluir si se trataba de investigación legítima o no.
El informe también advirtió que evaluaciones previas con modelos más antiguos mostraban capacidades por debajo del umbral para asistir significativamente en investigación biológica peligrosa, pero que esto ya no es una certeza con los modelos más nuevos.
Ninguno de los casos de uso indebido involucró los modelos Claude Fable o Mythos-class, salvo una excepción en destilación ilícita.
