Anthropic : analyses de sécurité IA gratuites pour l’open source

Ses propres chiffres expliquent ce virage. En six mois, les modèles d’Anthropic ont signalé plus de 29 000 vulnérabilités potentielles, dont environ 6 000 ont été examinées par ses équipes. Près de 5 000 rapports non vérifiés ont été envoyés à des mainteneurs qui avaient demandé à tout recevoir. Quand ses testeurs d’intrusion ont contrôlé 97 failles critiques ou graves réparties sur 48 projets, 85 répondaient à ses critères de divulgation et une était un faux positif. wolfSSL indique que tous ses 74 rapports sauf deux étaient valables.

Ce scanner est l’un des deux volets de ce qu’Anthropic appelle sa Cyber Mission, rapporte The Register. L’autre associe ses modèles à des ingénieurs sur site auprès d’exploitants d’infrastructures critiques, avec des partenaires comme CrowdStrike, Deloitte, Palo Alto Networks, PwC et Rockwell Automation. Les critères d’éligibilité ressemblent à ceux d’OSS-Fuzz de Google : seuls les projets établis, à l’impact critique sur les infrastructures et la sécurité des utilisateurs, sont admis. Certains projets peinent déjà face à un déluge de rapports de bugs générés par l’IA, note The Verge.

Les développeurs qui s’appuient sur des bibliothèques open source populaires obtiennent des correctifs plus vite si les mainteneurs suivent le rythme ; le travail de relecture leur revient.