Niveaux d’incidence : quelle supervision pour un système d’IA?

Plus un système d’IA touche aux droits, à l’argent, à la santé ou à la sécurité des gens, plus il exige de supervision humaine. Les gouvernements classent les systèmes par niveau d’incidence pour décider de l’ampleur de cette supervision. Ce simulateur simplifié est un petit registre des risques : répondez à quelques questions courantes sur un système d’IA, cochez la mesure de protection qui réduit chaque risque, et voyez le niveau d’incidence (I à IV) et la supervision qu’il comporte. Il illustre l’idée derrière l’Évaluation de l’incidence algorithmique (EIA) du gouvernement du Canada.

Choisissez un exemple de système, ou répondez vous-même aux questions. Chaque risque a sa propre mesure de protection à côté : cochez-la pour voir combien de points elle retire et si elle change le niveau d’incidence. Le résultat reste visible pendant que vous répondez. La règle pour les dirigeants : classer d’abord, contrôler ensuite.

Ce que cet outil enseigne : Répondez à des questions courantes sur un système d’IA, puis ajoutez la mesure de protection qui réduit chaque risque et voyez à quel niveau d’incidence et à quelle supervision il aboutit. Cet outil illustre la classification selon le risque, la façon dont chaque contrôle vise un risque précis, et pourquoi les mesures de protection réduisent le risque sans jamais l’éliminer.

Le simulateur de niveaux d’incidence met entre vos mains l’idée que la supervision augmente avec l’incidence, présentée dans le cours AI Fundamentals for Professionals (en anglais) (s’ouvre dans un nouvel onglet) de DAVHILL.

Classer les systèmes d’IA selon le risque avant de choisir les contrôles fait partie du module de clôture du cours Intro to Data Science (en anglais) (s’ouvre dans un nouvel onglet) de DAVHILL.