Politiques publiques / Numérique et intelligence artificielle
Intelligence artificielle dans l'action publique
Un organisme public peut utiliser l'intelligence artificielle pour rechercher une information, préparer un document, orienter une demande ou analyser des données. Le choix doit partir du service attendu et des effets sur les personnes. XXI Avocats accompagne la définition des usages, leur encadrement juridique et les décisions à prendre pendant leur mise en œuvre.
Le domaineVos questionsLes défis futurs et comment les anticiperNotre travailMissions possiblesPublications et formationsPremier échange
Choisir des usages qui répondent aux missions du service
La politique d'intelligence artificielle publique concerne les compétences de l'organisme, ses données, ses achats, l'organisation du travail et les relations avec les usagers. Une administration, une collectivité ou un établissement doit pouvoir expliquer pourquoi il retient un outil, quelle fonction il lui confie et qui reste responsable de l'action menée.
Les usages diffèrent selon la matière. Un assistant documentaire, une aide au diagnostic, un classement de demandes et une recherche d'anomalies ne présentent pas les mêmes risques ni les mêmes exigences. Les règles du service concerné restent applicables : accès aux droits, santé, éducation, emploi ou contrôle ne peuvent être ramenés aux seules conditions techniques du système.
Distinguer information, recommandation et décision
Une réponse générée peut être inexacte ; une recommandation peut orienter le travail des agents ; une décision peut modifier les droits d'une personne. Il faut reconstituer le processus réel, y compris lorsque le système intervient en amont ou que son résultat est repris presque systématiquement. La présence d'une validation humaine ne suffit pas si l'agent ne peut pas examiner les éléments ni prendre une autre décision.
La politique de déploiement doit aussi considérer les moyens nécessaires, la sécurité, la dépendance au fournisseur et les coûts d'exploitation. L'étude du Conseil d'État de 2022 rapproche ces questions de la confiance, de l'équité, de la primauté humaine et de la soutenabilité. Ses recommandations offrent des repères ; elles ne constituent pas, à elles seules, le régime juridique actuel de chaque usage. Intelligence artificielle et action publique : étude de 2022.
Les questions à résoudre avant et pendant le déploiement
Définir le besoin et apprécier les alternatives
Le projet doit préciser le résultat attendu : retrouver des pièces, réduire des erreurs, faciliter une orientation ou préparer un travail. L'examen porte sur les conditions dans lesquelles le résultat sera utile et sur la comparaison avec une autre organisation ou un autre outil. Une expérimentation doit disposer d'un périmètre, de critères d'appréciation et d'une décision de poursuite, de correction ou d'arrêt.
Qualifier les données, le système et les rôles
Les données disponibles ne sont pas toutes utilisables pour le même objectif. Il faut examiner leur origine, leur qualité, la finalité du traitement, les informations sensibles et les droits des personnes. L'entraînement, l'adaptation d'un modèle et l'utilisation du service sont des opérations à distinguer. Le responsable du traitement et les prestataires doivent être identifiés à partir de leur rôle réel.
Le règlement européen sur l'intelligence artificielle ajoute des exigences selon la destination du système, les risques et la qualité de fournisseur ou de déployeur. Tous les outils ne sont pas des systèmes à haut risque. La qualification et le calendrier doivent être vérifiés avec les autres règles. Le texte consolidé au 27 juillet 2026 distingue notamment les échéances des systèmes à haut risque : 2 décembre 2027 pour ceux de l’annexe III et 2 août 2028 pour ceux liés aux produits de l’annexe I, sous leurs conditions respectives. Ces échéances ne suspendent pas les obligations déjà applicables, notamment en matière de données et de décisions administratives.
L’analyse d’impact sur les droits fondamentaux prévue pour certains déploiements à haut risque doit être distinguée de l’analyse d’impact relative à la protection des données. Leur champ, leurs contenus et leurs possibilités de rapprochement doivent être examinés. L’organisme doit savoir quelles personnes peuvent être affectées et comment seront traités les risques identifiés, avant d’arrêter ses engagements et son calendrier.
Permettre un contrôle humain effectif
Les agents doivent connaître les limites de l'outil et disposer des informations nécessaires pour vérifier le résultat. Il faut déterminer les usages autorisés, les situations qui demandent un autre examen, les responsabilités de validation et la manière de signaler une erreur. Le temps disponible, les compétences et les contraintes de travail font partie de cette analyse.
Lorsqu'un traitement contribue à une décision concernant une personne, l'analyse porte également sur l'information, les explications et les recours. L'article 22 du règlement général sur la protection des données vise les décisions fondées exclusivement sur un traitement automatisé qui produisent des effets juridiques ou affectent significativement une personne de façon similaire. Son principe, ses exceptions et leurs garanties ne doivent pas être confondus avec les règles applicables à tout outil d'aide. Profilage et décision entièrement automatisée.
Obtenir du fournisseur les moyens de suivi
Le contrat doit être rapproché du fonctionnement réel : données transmises, hébergement, documentation, accès aux journaux utiles, maintenance et modifications du modèle. Les obligations de confidentialité, les droits sur les données et les livrables, l'assistance en cas d'incident et les conditions de sortie doivent être précisées. L'organisme doit pouvoir vérifier un résultat contesté et maintenir le service si l'outil devient indisponible.
Les défis futurs et comment les anticiper
Des modèles qui changent après leur mise en service
Une mise à jour peut modifier les résultats, les fonctions ou les conditions de traitement. Le suivi doit permettre de connaître le changement, d'en mesurer les effets et de décider si de nouveaux tests ou une nouvelle qualification sont nécessaires. Le protocole de modification et le contrat doivent préciser qui informe, qui vérifie et qui autorise la poursuite.
Des outils qui prennent en charge davantage d'opérations
Un assistant peut évoluer vers un système capable d'effectuer des recherches, de renseigner des applications ou de déclencher une action. Le projet doit alors définir les habilitations, les actes qui exigent une validation et les moyens d'interrompre l'exécution. La traçabilité doit permettre de retrouver l'instruction donnée, les informations utilisées et les actions effectivement réalisées.
La qualité du service au-delà de la rapidité annoncée
L'évaluation doit rapprocher les gains de temps des erreurs, des demandes de réexamen, de l'accessibilité et du travail de vérification. Les effets sur les publics peuvent varier selon la langue, les données disponibles ou la situation de la personne. Ces constats servent à corriger l'usage et à décider de son extension ; une performance moyenne ne suffit pas à établir la qualité du traitement de chaque situation.
Les coûts et les ressources nécessaires doivent également être suivis : prestations, formation, contrôles, hébergement et continuité. Une dépendance accrue à une solution justifie de préparer une alternative et les conditions de reprise des données.
Le travail du cabinet avec vos équipes
Le directeur de mission examine le service concerné, les objectifs et le parcours des données avec les équipes juridiques, opérationnelles et techniques. Il identifie les décisions à préparer et propose les démarches utiles : qualifier un usage, obtenir une information du fournisseur, revoir une clause ou limiter une fonction avant le déploiement. Il prend l’initiative de reprendre l’analyse lorsqu’un résultat contesté, un changement de modèle ou un nouveau public affecte les conditions retenues.
Le travail combine les règles de la politique publique, les compétences de l'organisme, la commande publique, la protection des données et l'encadrement de l'IA. Les expertises techniques nécessaires sont associées dans le périmètre convenu. Les points d'étape permettent de réexaminer l'analyse lors d'une modification, d'un incident ou d'un changement d'usage.
Décisions algorithmiques et droits des usagers · Données publiques, partage et réutilisation · Commande publique
Des missions possibles
Les missions suivantes présentent des travaux envisageables et des livrables à convenir. Elles ne désignent pas des prestations réalisées ni des résultats obtenus.
Cadrer un projet ou une expérimentation
Le cabinet examine les usages proposés, les compétences de l'organisme, les données et les effets attendus. Il prépare une note de qualification, les conditions de l'expérimentation et les décisions de lancement ou d'adaptation, avec les équipes chargées du service et de son évaluation.
Préparer l'achat et le contrat
La mission précise les fonctions, les exigences juridiques et les informations à demander aux candidats. Elle peut comprendre les clauses du marché, les critères liés au besoin, les conditions de réception et les modalités de suivi, de modification et de réversibilité. Les exigences sont rapprochées des possibilités de preuve et de contrôle.
Organiser l'usage d'un assistant par les agents
Le travail définit les tâches autorisées, les données qui peuvent être utilisées, les validations et les situations exclues. Les livrables peuvent comprendre des instructions d'usage, une répartition des responsabilités, un circuit de signalement et les clauses à revoir avec le fournisseur. La formation des agents est préparée selon leurs fonctions.
Examiner un système déjà utilisé
Des erreurs, une nouvelle version ou une évolution réglementaire conduisent à revoir le dispositif. Le cabinet rapproche les cas signalés, les documents et les obligations applicables. Il prépare les corrections, les mesures provisoires éventuelles et les informations à obtenir, puis restitue les choix de poursuite, de limitation ou d'arrêt.
Répondre à une contestation ou à un contrôle
Le travail reconstitue le rôle du système et des personnes dans la décision ou l'incident. Il réunit les pièces, examine les échéances et prépare les explications, les mesures correctrices et les observations ou recours adaptés. L'analyse distingue la conformité de l'outil de la légalité de la décision prise dans un dossier particulier.
Préparer une modification ou une sortie du service
La mission examine les droits sur les données, les livrables, les historiques et les obligations contractuelles. Elle prépare les conditions de transition, de restitution et de continuité avec les responsables du service. Les difficultés constatées peuvent conduire à revoir les clauses et les contrôles pour les usages futurs.
Publications et formations
La présentation de XXI Institut situe sa démarche de recherche et de débat public. Elle permet de distinguer les propositions d’évolution de l’action publique des obligations applicables au projet ; ce renvoi général ne désigne pas une publication particulière sur l’IA.
Le programme Intelligence artificielle et décision publique propose un travail sur les usages, les responsabilités et leur contrôle. Il n’annonce pas de session programmée ; ses modalités sont à confirmer.
XXI Formations : préparer un programme sur mesure — usages autorisés, responsabilités, achats et contrôle des résultats peuvent être travaillés avec vos équipes à partir de leurs outils et de leurs missions.
Préparer un premier échange
Indiquez le service concerné, les usages envisagés ou existants, le fournisseur et le stade du projet. Signalez les décisions attendues et les échéances. Les pièces techniques, contractuelles ou confidentielles sont transmises selon des modalités convenues avec le cabinet.
Revenir au domaine Numérique et intelligence artificielle · Sous-page suivante : Décisions algorithmiques et droits des usagers