Anthropic empêche l'utilisation de son IA pour des armes biologiques

Anthropic a annoncé jeudi avoir bloqué des tentatives d'acteurs malveillants utilisant ses modèles d'IA pour des cyberattaques, de la surveillance, et des recherches pouvant mener à des armes biologiques. Selon son troisième rapport sur les abus depuis mars 2025, des demandes ont été faites pour que Claude aide à rédiger une demande de financement pour une recherche de type gain de fonction sur le virus chikungunya, visant à accroître sa transmissibilité. L'IA a rejeté ces requêtes. Le rapport montre que, entre décembre 2025 et août 2026, les abus provenaient de vendeurs de logiciels espions, d'individus politiquement motivés et de groupes sponsorisés par des États. Anthropic souligne que les cyberattaques de plus en plus complexes ne requièrent plus de compétences de pointe. Ce constat intervient alors qu'un chercheur d'Anthropic a démissionné deux jours plus tôt, dénonçant l'absence de responsabilité dans le développement de l'IA.