La compañía afirma que detectó y frenó durante 2026 investigaciones con sus modelos que podían contribuir al desarrollo de patógenos peligrosos, aunque no pudo determinar la finalidad de esos estudios.
Anthropic afirmó el jueves 10 de septiembre que ha detectado y bloqueado durante 2026 varios usos de sus modelos de inteligencia artificial en investigaciones que podrían haber contribuido al desarrollo de armas biológicas, según el informe de la compañía citado en la información facilitada.
La empresa señaló que no pudo determinar si los estudios identificados perseguían fines legítimos o maliciosos. No obstante, decidió bloquearlos ante el riesgo de que sus modelos pudieran ayudar a desarrollar patógenos peligrosos.
En el documento, Anthropic sostiene que las evaluaciones de capacidad aportan indicios sobre lo que un modelo puede hacer, pero no permiten demostrar que esas capacidades vayan a emplearse en el mundo real para crear armas biológicas.
La compañía también indicó que no tenía constancia de que alguna empresa privada hubiera compartido públicamente pruebas de un posible uso indebido de sus plataformas para desarrollar armas biológicas.
Contexto y consecuencias
Anthropic asegura haber desarrollado sistemas de detección destinados a identificar y bloquear usos de sus modelos que puedan entrañar riesgos. La medida afecta a solicitudes o investigaciones que la empresa considere potencialmente vinculadas al desarrollo de agentes biológicos peligrosos, incluso cuando no pueda establecer la intención de quien las realiza.
Qué cambia ahora
La información facilitada no detalla cuántos casos fueron bloqueados ni identifica a los responsables de las investigaciones. Anthropic ha comunicado que mantendrá sus mecanismos de detección y bloqueo para este tipo de usos de sus modelos.
Fuentes
- Informe de Anthropic citado en la información facilitada (sin URL).