Attaquez votre IA avant les autres.
RednBlue est un outil français de test de robustesse de l'IA, exécuté en local : il attaque vos modèles de vision et de langage sur votre propre machine, repère les entrées qui les font céder, puis émet un rapport signé que chacun peut vérifier.
pip install rednblue
PyPI
Illustration. Les entrées restent sur votre machine ; seuls les métriques et des empreintes partent pour la notation.
- Exécution locale
- PyTorch · ONNX · YOLO · LLM APIs
- Certificats signés Ed25519
- Hébergé en France
On attaque comme le ferait un adversaire.
Une perturbation invisible à l'œil suffit à faire changer d'avis un modèle. RednBlue la cherche pour vous, à plusieurs intensités, et mesure si la prédiction tient.
JB SPE LPI TM RAG AGT BD EXTPuis on vous aide à vous défendre.
Et on publie où nos défenses échouent.
rnb defend| Défense | Statut sur notre banc |
|---|---|
llm.sanitizer | preview 0 prompt bénin bloqué sur 511, en 5 langues |
llm.egress | preview aucune fuite de notre suite n'est passée |
llm.tool_policy | preview liste d'outils et schémas d'arguments stricts |
llm.guard | experimental a échoué à son évaluation adaptative |
Défenses vision : pas encore. Les défenses tournent en local, ne sont pas notées et n'apparaissent sur aucun certificat. C'est une réduction de risque, pas une protection garantie.
Un résultat que votre client peut vérifier lui-même.
- Test localLe CLI attaque 10 entrées sur votre machine.
- Envoi chiffréMétriques, hashes et attestation du run. Jamais les images, jamais les poids.
- Note et signatureLe serveur recalcule la note (barème 1.2) et signe le certificat.
- Vérification publiqueUn code suffit pour vérifier le rapport.
Résultats déclarés par votre machine, notés par RednBlue, non rejoués indépendamment. Preuve technique pour vos dossiers EU AI Act (art. 15), NIST AI RMF et ISO/IEC 42001, pas une certification réglementaire.
Du rouge au bleu.
Né de la recherche en robustesse adversariale, publié en open sur PyPI, durci version après version.
- v2Premier CLI public sur PyPI : attaques adversariales sur classifieurs, en local.
- v3.0LLM, RAG et agents rejoignent la vision. Cartes d'attention et application de bureau.
- v3.4Barème 1.2 strict, attestation de run, certificats notés et signés par le serveur. Preuves LLM envoyées seulement sur demande.
- v4.0 betaBlue team en preview (défenses LLM) et profil d'imagerie médicale, local uniquement.
- Défenses visionSur la feuille de route.
Questions fréquentes
Qu'est-ce que RednBlue ?
RednBlue est un outil français de test de robustesse adversariale pour l'IA. Un CLI Python (pip install rednblue) attaque vos modèles de vision (classifieurs d'images, détecteurs YOLO) et vos applications LLM (chatbots, pipelines RAG, agents) sur votre propre machine. Le serveur RednBlue note ensuite les résultats et signe un certificat vérifiable.
RednBlue est-il un outil de red teaming IA européen ?
Oui. RednBlue est développé en France et sa plateforme est hébergée en France (Scaleway). Le « Red » désigne les attaques ; la version 4.0 bêta ajoute un volet « Blue » : des défenses LLM en preview.
Mes poids de modèle ou mes données quittent-ils ma machine ?
Non. Les attaques s'exécutent en local. Pour la vision, le serveur reçoit des métriques chiffrées, les 5 meilleures prédictions de chaque image, des empreintes des images et un alias haché du modèle. Pour les LLM, il reçoit des scores et des identifiants hachés ; le texte des tests et des extraits de réponse seulement avec --share-evidence.
Quels modèles puis-je tester ?
Classifieurs PyTorch et ONNX, détecteurs Ultralytics YOLOv5, YOLOv8 et YOLO11, et applications LLM via un fichier Python, une API de fournisseur (OpenAI, Anthropic, Gemini, Mistral, Cohere) ou un endpoint HTTP.
Comment la note est-elle calculée ?
Selon le barème publié 1.2 : on mesure si la prédiction du modèle tient sous chaque attaque, à plusieurs intensités ε. GOLD ≥ 90 %, SILVER ≥ 75 %, BRONZE ≥ 60 %, sinon FAIL. Une seule attaque qui casse le modèle à la plus faible intensité suffit à donner FAIL. Sans étiquettes, la note est plafonnée à SILVER.
Un rapport RednBlue me rend-il conforme à l'EU AI Act ?
Non. C'est une preuve technique à verser à votre dossier pour l'article 15 (exactitude, robustesse, cybersécurité), le NIST AI RMF ou l'ISO/IEC 42001. Ce n'est pas une certification réglementaire, et les résultats sont déclarés par votre machine, non rejoués indépendamment.
Comment vérifier un rapport ?
Avec le code du rapport sur la page « Vérifier » : elle contrôle la signature Ed25519, l'empreinte SHA-256 du modèle, la date et la version du barème.
En quoi est-ce différent d'ART ou de Foolbox ?
ART et Foolbox sont d'excellentes bibliothèques que l'on programme soi-même. RednBlue fournit un plan de test fixe et versionné, une notation identique pour tous et un rapport signé et vérifiable, avec les tests vision et LLM dans le même CLI.
Lire : ce que 400 tests adversariaux font à un ResNet18 standard →
Votre modèle tient-il sous attaque ?
Compte gratuit. Les tokens sont attribués par notre équipe : écrivez-nous pour démarrer.