Framework d'IA responsable
Avant de déployer un système IA, il est essentiel d'évaluer son impact éthique et sociétal. Ce framework fournit une checklist structurée pour prendre des décisions éclairées.
Les 6 piliers de l'IA responsable
1. Équité et non-discrimination
- Le système traite-t-il tous les groupes de manière équitable ?
- Les biais ont-ils été testés et mitigés ?
- Les populations vulnérables sont-elles protégées ?
2. Transparence et explicabilité
- L'utilisateur sait-il qu'il interagit avec une IA ?
- Peut-on expliquer les décisions du système ?
- Les limites sont-elles communiquées clairement ?
3. Privacy et protection des données
- Les données personnelles sont-elles minimisées ?
- Le consentement est-il recueilli de manière éclairée ?
- Les données sont-elles sécurisées bout-en-bout ?
4. Sûreté et robustesse
- Le système est-il résistant aux attaques (injection, adversarial) ?
- Les cas d'erreur sont-ils gérés de manière sûre ?
- Un humain peut-il intervenir à tout moment ?
5. Responsabilité et gouvernance
- Qui est responsable en cas de préjudice ?
- Existe-t-il un processus de recours ?
- La chaîne de responsabilité est-elle documentée ?
6. Impact sociétal et environnemental
- Quel est l'impact sur l'emploi ?
- L'empreinte carbone est-elle acceptable ?
- Le système contribue-t-il au bien commun ?
Checklist de décision Go/No-Go
Questions éliminatoires (un "non" = No-Go)
- [ ] Le système peut-il causer un préjudice physique ou psychologique grave ?
- [ ] Le système discrimine-t-il des groupes protégés sans justification ?
- [ ] Le traitement des données est-il illégal (RGPD, AI Act) ?
- [ ] Le système prend-il des décisions irréversibles sans supervision humaine ?
Questions d'évaluation (scoring 1-5)
| Critère | Score | Commentaire |
|---|---|---|
| Bénéfice pour l'utilisateur final | /5 | |
| Risque de préjudice | /5 | (1=élevé, 5=faible) |
| Qualité des données d'entraînement | /5 | |
| Robustesse aux cas limites | /5 | |
| Transparence pour l'utilisateur | /5 | |
| Possibilité de recours humain | /5 | |
| Conformité réglementaire | /5 |
Score minimum pour Go : 25/35
Niveaux de risque (AI Act)
Risque inacceptable (interdit)
- Scoring social
- Manipulation subliminale
- Exploitation des vulnérabilités
- Surveillance biométrique de masse
Haut risque (obligations strictes)
- Recrutement et RH
- Scoring de crédit
- Accès à l'éducation
- Systèmes judiciaires
- Infrastructure critique
Risque limité (transparence)
- Chatbots (informer que c'est une IA)
- Deepfakes (étiquetage obligatoire)
- Systèmes de recommandation
Risque minimal (pas d'obligation)
- Filtres spam
- Jeux vidéo
- Outils de productivité personnelle
Processus de review éthique
1. Self-assessment : L'équipe remplit la checklist 2. Peer review : Une autre équipe challenge les réponses 3. Comité éthique : Pour les cas à haut risque 4. Suivi post-déploiement : Monitoring continu des impacts
Quand refuser un projet
Il est parfois responsable de dire non :
- Le ratio risque/bénéfice est défavorable
- Les données disponibles sont insuffisantes ou biaisées
- Pas de possibilité de supervision humaine
- L'impact sur les personnes vulnérables est disproportionné