Évaluer le risque d’une fonction IA

Quelle fonction demande le plus de soin

Une évaluation du risque dit quel tort une fonction IA peut causer, donc quel soin elle exige avant sa mise en service. Elle compte, car un planificateur de menus et un tri de CV peuvent utiliser le même modèle sans présenter le même risque.

Cette leçon donne des informations générales et non un conseil juridique. Vérifiez les règles qui vous concernent, et demandez l’avis d’un juriste quand une décision touche une personne.

À la fin de cette leçon

Remarque

Je peux évaluer le risque d’une fonction IA et dire qui en est responsable.

Mots clés

Mot	Ce que ça veut dire
Niveau de risque	un niveau qui dit quel soin la fonction exige
Décision automatique	un résultat qu’aucune personne ne relit avant qu’il agisse
Réversible	un mauvais résultat peut être corrigé
Responsable	la personne nommée qui répond de la fonction
Redevable	tenu de rendre des comptes : expliquer et réparer

Les cellules que les étudiants remplissent restent vides dans cet aperçu.

Quatre questions donnent un niveau

Posez quatre questions sur une fonction. Agit-elle sur des personnes ? Une personne relit-elle chaque résultat avant qu’il agisse ? Peut-on corriger un mauvais résultat ? Combien de personnes touche-t-elle ?

Quatre réponses ajoutent des points. La fonction agit sur des personnes. Personne ne relit les résultats. On ne peut pas les annuler. Elle touche plus de mille personnes. Le total donne un niveau. Le niveau lance la discussion, il ne la clôt pas.

Exemple détaillé : deux fonctions

Fonction	Personnes	Automatique	Non annulable	Plus de 1000	Score et niveau
Suivi de commande	non	oui : 2	non	non	2, faible
Tri des CV	oui : 2	oui : 2	oui : 2	non	6, élevé

Les cellules que les étudiants remplissent restent vides dans cet aperçu.

Chaque fonction a un responsable nommé

Un rôle comme « l’équipe données » n’est pas un responsable. Un responsable est une personne que l’on interroge quand la fonction fait du tort, et qui peut l’arrêter.

Certains pays ont des règles sur les décisions prises seulement par un système au sujet de personnes. Elles demandent souvent qu’un humain puisse les revoir. C’est un résumé, pas un conseil juridique : cherchez les règles qui vous concernent.

Une erreur courante

Attention

Beaucoup pensent que le modèle décide du risque, donc qu’un modèle sûr donne une fonction sûre. Le risque vient de ce que la fonction fait, à qui, et de la possibilité de revenir en arrière. Évaluez la fonction, jamais le modèle.