Assurance et audit de l'IA : fondements et pratique
- Niveau
- L2 Intermédiaire
- Temps d'étude
- environ 24 heures (estimation de planification)
- Statut
- Prévu
- Prérequis
- Un cours de niveau L1 dans le domaine, ou un examen d'entrée
Modifie les calendriers de conformité et les hypothèses de planification des organisations qui déploient des systèmes d'IA à haut risque dans l'UE.
Acquis d'apprentissage
- Define AI assurance and the other key terms of the discipline and use them correctly in a written case
- Explain AI system impact assessment and AI risk management frameworks with a worked example and its source
- Appliquer la méthode de la discipline à un cas documenté et expliquer chaque résultat avec sa source
- Analyse a named case against auditing AI management systems, stating evidence, date and limits
Modules
-
AI system impact assessment
- AI system impact assessment
- AI risk management frameworks
- Auditing AI management systems
-
Évaluation de la conformité au titre du règlement européen sur l'IA
- Évaluation de la conformité au titre du règlement européen sur l'IA
- Assurance cases and evidence
- Documentation : fiches de modèle, fiches de système et dossiers techniques
-
Assurance et supervision de l'IA agentique
- Assurance et supervision de l'IA agentique
- Tests d'intrusion (red teaming) et évaluation par des tiers
- Surveillance après commercialisation et signalement des incidents
-
Laboratoire : la méthode de la discipline
- La couverture des contrôles s'exprime en deux chiffres, conçue et opérationnelle ; l'efficacité opérationnelle est jugée sur un échantillon d'enregistrements, et la taille de l'échantillon borne le taux d'exceptions qu'un auditeur peut écarter, de sorte que l'opinion repose autant sur le nombre d'enregistrements prélevés que sur ce qu'ils ont montré.
- Appliquer la méthode à un cas documenté et expliquer chaque résultat
- Lire les sources de la méthode et les valeurs indiquées
Laboratoires avec les outils de l'Academy
Méthode
- D'une liste de contrôles à une opinion d'audit : ce qu'un échantillon d'enregistrements peut établirLa méthode de la discipline, présentée sur la page de la discipline avec ses sources citées, appliquée à un cas documenté
Instrument
- Propagateur d'orbiteUn instrument de la faculté, sur la page de la faculté, exécuté sur les données du jumeau numérique de la faculté
- Registre d'évaluationUn instrument de la faculté, sur la page de la faculté, exécuté sur les données du jumeau numérique de la faculté
Constructeur de jumeau
- Constructeur de jumeau numériqueConstruire le lieu de la faculté en 3D, activer ou désactiver les couches et lire les crédits et les dates de chacune
Couche cartographique
- Lumières nocturnes de ce soir, coupures (bande jour/nuit VIIRS)Une couche cartographique ouverte admise par le registre des licences de l'Academy, lue dans les outils cartographiques
- Étendue du bâti et des établissements humains, 2010 (HBASE, Landsat)Une couche cartographique ouverte admise par le registre des licences de l'Academy, lue dans les outils cartographiques
- Densité de population, 2020 (GPW v4.11)Une couche cartographique ouverte admise par le registre des licences de l'Academy, lue dans les outils cartographiques
Salle Foundry
- Assurance room, NXS-NSFAssurance cases and audit findings for AI systems
- Salle Benchmarks, NXS-LABÉvaluation par des tiers de systèmes d'IA sur des tâches déterminées
Évaluation
- 40%
Compte rendu de laboratoire
Appliquer la méthode de la discipline à un cas documenté et expliquer chaque résultat avec sa source et sa date
- 40%
Note de cas
Appliquer les méthodes de la discipline à un lieu ou à une organisation nommés, en précisant les données probantes et les limites
- 20%
Contrôle des termes clés
Réponses courtes sur les termes clés, notées par rapport aux définitions
Mode de dispensation
- En ligne à votre rythme, avec les laboratoires dans le navigateur
- Étude en cohorte sur six à huit semaines, avec une revue de laboratoire hebdomadaire
- Co-dispensé avec une institution partenaire, dans le cadre de ses propres cours
Devenir partenaire de ce cours
- Co-enseigner un module et apporter un cas actuel tiré de votre travail
- Accueillir une cohorte pour vos apprenants, avec votre propre calendrier et votre propre évaluation
- Contribuer un laboratoire : un jeu de données que votre institution publie en accès ouvert, ou un modèle
- Examiner le contenu du cours et ses références avant son ouverture
- Traduire le cours et adapter ses cas à votre région
Comment les institutions et les experts participent
Dans le LMS de l'Academy
- Course on the learning platform
- Intermediate, 4 sections
- Groupe de cohorte
- A community group for each cohort of learners
- Réalisation
- Recorded on completion of the assessed work
Références 4
- Council of the European Union, Artificial intelligence: Council and Parliament agree to simplify and streamline rules,
- Raji et al., Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing, 2020
- Mökander, Schuett, Kirk and Floridi, Auditing large language models: a three-layered approach, 2023
- Schuett, Three lines of defense against risks from AI, 2023