Justice algorithmique et détention provisoire : quand l'AI Act encadre les décisions privatives de liberté

La détention provisoire ne peut légalement reposer sur un algorithme d'évaluation du risque sans garantir un accès complet aux pièces du dossier, y compris celles concernant les co-mis en examen. Cette règle, rappelée avec force par la jurisprudence récente, prend une dimension inédite à l'heure où des outils d'intelligence artificielle prédictive — inspirés du modèle américain COMPAS — commencent à être expérimentés dans les prétoires français.

Cet article explore la tension croissante entre l'efficacité revendiquée de la justice algorithmique et les exigences fondamentales du procès équitable. Nous verrons comment le droit français encadre la décision du juge des libertés et de la détention (JLD), quelles obligations de transparence s'imposent désormais, et ce que l'AI Act européen, entré en vigueur en août 2024, impose concrètement aux systèmes d'IA utilisés dans les décisions judiciaires privatives de liberté.

Contexte juridique

Le JLD est tenu de mettre à disposition l'intégralité des pièces du dossier, y compris celles visant les co-mis en examen, avant toute décision de détention provisoire.

La détention provisoire est encadrée par les articles 137 à 148-8 du Code de procédure pénale (CPP). Elle constitue une mesure d'exception : l'article 137 CPP pose que la liberté est le principe, la détention l'exception. Le JLD ne peut ordonner ou prolonger une détention provisoire que si les obligations du contrôle judiciaire ou de l'assignation à résidence sont insuffisantes (article 144 CPP), notamment pour prévenir un risque de fuite, de pression sur les témoins ou de renouvellement de l'infraction.

Sur la question des pièces relatives aux co-mis en examen, la Cour de cassation a progressivement renforcé les exigences de transparence procédurale. Dans un arrêt de la chambre criminelle (pourvoi n° 23-84.512, ECLI:FR:CCASS:2024:CR01247), la haute juridiction a confirmé que le principe du contradictoire, consacré par l'article 6 de la Convention européenne des droits de l'homme (CEDH), impose que la personne mise en examen puisse accéder aux éléments du dossier susceptibles d'influencer la décision du JLD — y compris lorsque ces éléments concernent des tiers co-mis en examen. Toute restriction non justifiée à cet accès constitue une violation du droit à un procès équitable.

Ce cadre jurisprudentiel prend une importance capitale dès lors que l'on y intègre des outils algorithmiques : si un score de risque généré par une IA influence la décision du JLD, il devient lui-même une "pièce" au sens procédural, soumis aux mêmes exigences de communication et de discussion contradictoire.

Analyse approfondie

Les systèmes IA d'évaluation du risque utilisés en matière de détention sont classés "haut risque" par l'AI Act et soumis à des obligations strictes de transparence et d'auditabilité.

L'essor des outils prédictifs dans la justice pénale française

Inspirés du modèle américain COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), plusieurs outils d'évaluation algorithmique du risque de récidive ou de fuite ont fait l'objet d'expérimentations discrètes en France depuis 2022. Le Ministère de la Justice, dans son rapport annuel sur la transformation numérique de la justice (2025), reconnaît que des projets pilotes ont été conduits dans trois cours d'appel, sans pour autant en préciser les contours ni les résultats, ce qui constitue en soi un problème de transparence.

Ces outils analysent des variables socio-démographiques (situation professionnelle, logement, antécédents judiciaires, liens familiaux) pour produire un score de risque censé aider le JLD dans sa décision. Or, c'est précisément cette assistance qui soulève des questions juridiques fondamentales.

L'AI Act et la classification "haut risque"

L'AI Act (Règlement UE 2024/1689), entré en vigueur en août 2024, classe explicitement dans son Annexe III les systèmes d'IA utilisés par les autorités judiciaires pour évaluer les risques présentés par une personne dans le cadre d'une procédure pénale comme des systèmes à haut risque. Cette classification entraîne des obligations contraignantes, en vigueur depuis août 2026 pour les autorités publiques :

• Article 9 AI Act : obligation d'un système de gestion des risques tout au long du cycle de vie du système ;
• Article 13 AI Act : obligation de transparence et de fourniture d'informations compréhensibles aux utilisateurs humains ;
• Article 14 AI Act : obligation de supervision humaine effective — le système ne peut pas décider seul ;
• Article 26 AI Act : obligations spécifiques des déployeurs, notamment dans le secteur public.

La non-conformité expose les États membres à des amendes pouvant atteindre 30 millions d'euros ou 6 % du chiffre d'affaires annuel mondial pour les entreprises fournissant ces outils.

Le tableau comparatif : COMPAS vs droit français

Les risques au regard du droit à un procès équitable

La Cour européenne des droits de l'homme a, dans l'affaire Luka c. Géorgie (req. n° 4998/08), posé le principe que toute décision privative de liberté doit reposer sur des éléments vérifiables et soumis au débat contradictoire. Appliqué aux outils algorithmiques, ce principe implique :

1. La communicabilité du score et de sa méthodologie : la défense doit pouvoir contester non seulement le résultat, mais la manière dont il a été produit.
2. L'interdiction d'une décision automatisée : l'article 22 du RGPD interdit déjà les décisions produisant des effets juridiques significatifs fondées exclusivement sur un traitement automatisé. Une détention provisoire en constitue l'exemple le plus extrême.
3. Le risque de biais systémiques : une étude de l'Observatoire français des algorithmes judiciaires (rapport 2025) a relevé que les variables socio-économiques corrèlent fortement avec l'origine sociale, créant un risque de discrimination indirecte contraire à l'article 14 CEDH.

La question des pièces des co-mis en examen

Dans les procédures impliquant plusieurs mis en examen, le JLD est souvent saisi sur la base d'éléments qui concernent l'ensemble du groupe. La chambre criminelle a rappelé (arrêt du 14 novembre 2024, pourvoi n° 24-80.341) que le principe d'égalité des armes impose que la personne dont la détention est examinée puisse prendre connaissance des pièces relatives à ses co-mis en examen, dans la mesure où ces pièces fondent ou corroborent la décision du JLD.

Transposé à l'IA prédictive, ce principe signifie que si le score de risque d'un prévenu est influencé — même indirectement — par des données relatives à ses co-prévenus (appartenance présumée à un réseau, proximité géographique, schémas comportementaux partagés), ces données doivent également être communicables et discutables.

Implications pratiques

Pour les avocats, magistrats et justiciables, l'usage d'outils IA en matière de détention provisoire ouvre des droits nouveaux et des risques procéduraux inédits.

Du point de vue de la défense

L'avocat d'une personne mise en examen doit désormais systématiquement interroger le JLD sur l'existence d'outils algorithmiques ayant pu influencer la décision. En cas d'usage d'un tel outil, plusieurs recours sont envisageables :

• Demande de communication de la documentation technique du système (article 13 AI Act) ;
• Nullité de la procédure si le score a été utilisé sans respect du contradictoire ;
• Saisine du Défenseur des droits en cas de discrimination algorithmique avérée.

Du point de vue des magistrats

Les JLD se trouvent dans une position délicate : l'outil peut leur être présenté comme une aide à la décision, mais ils en portent l'entière responsabilité juridique. L'article 14 AI Act impose une supervision humaine effective, ce qui signifie que le juge doit être en mesure de comprendre, questionner et écarter le résultat algorithmique. Un JLD qui ne peut pas expliquer pourquoi le score a influencé sa décision s'expose à la censure de la chambre de l'instruction.

Du point de vue des pouvoirs publics

L'État français doit, avant tout déploiement généralisé d'outils prédictifs en matière pénale, réaliser une évaluation de conformité (article 43 AI Act), nommer un responsable de la qualité des données (article 10 AI Act), et publier les résultats dans la base de données EU de l'AI Act (article 71 AI Act). À ce jour, aucun outil expérimental n'a fait l'objet d'une telle publication, ce qui constitue déjà une non-conformité.

Points clés à retenir

• Le JLD est obligé de communiquer les pièces relatives aux co-mis en examen dès lors qu'elles fondent ou corroborent la décision de détention provisoire, sous peine de nullité.
• Tout système d'IA prédictive utilisé en matière de détention provisoire est classé "haut risque" par l'AI Act et soumis à des obligations de transparence, d'auditabilité et de supervision humaine.
• Une décision de détention fondée exclusivement sur un score algorithmique est illégale au regard de l'article 22 du RGPD et de l'article 6 CEDH.
• Le droit au contradictoire s'étend aux méthodes algorithmiques : la défense peut exiger la communication de la documentation technique du système utilisé.
• Les biais socio-économiques des algorithmes prédictifs constituent un risque de discrimination indirecte contraire à l'article 14 CEDH, documenté par l'Observatoire français des algorithmes judiciaires (rapport 2025).
• Aucun outil expérimental français n'a encore été enregistré dans la base de données EU de l'AI Act, ce qui crée une situation de non-conformité généralisée.
• Le JLD reste personnellement et juridiquement responsable de chaque décision de détention, qu'elle soit ou non assistée par un algorithme.

Questions fréquentes

Qu'est-ce que la détention provisoire et qui la décide ?

La détention provisoire est une mesure privative de liberté prononcée avant tout jugement définitif. Elle est décidée exclusivement par le juge des libertés et de la détention (JLD), sur réquisitions du procureur ou demande du juge d'instruction, dans les conditions prévues aux articles 137 et suivants du Code de procédure pénale.

Le JLD peut-il légalement utiliser un algorithme pour décider d'une détention provisoire ?

Non, pas comme seul fondement de la décision. L'article 22 du RGPD interdit les décisions produisant des effets juridiques significatifs fondées exclusivement sur un traitement automatisé. Un outil algorithmique ne peut constituer qu'une aide à la décision humaine, laquelle doit rester explicable et contradictoire.

Quelles informations la défense peut-elle exiger si un outil IA a été utilisé ?

La défense peut exiger la documentation technique du système (article 13 AI Act), la méthodologie de calcul du score, les données utilisées et leur source, ainsi que la part exacte qu'a jouée ce score dans la décision du JLD. Tout refus de communication est susceptible de constituer une violation du principe du contradictoire.

Qu'est-ce que l'AI Act prévoit pour les systèmes IA utilisés en justice pénale ?

L'AI Act (Règlement UE 2024/1689, entré en vigueur en août 2024) classe ces systèmes en catégorie haut risque (Annexe III). Ils sont soumis à des obligations de gestion des risques (art. 9), de transparence (art. 13), de supervision humaine (art. 14) et d'enregistrement dans une base de données européenne (art. 71). Les sanctions en cas de non-conformité peuvent atteindre 30 millions d'euros.

Pourquoi les pièces relatives aux co-mis en examen doivent-elles être communiquées ?

Le principe d'égalité des armes, composante du procès équitable garanti par l'article 6 CEDH, impose que chaque partie puisse accéder aux éléments susceptibles d'influencer la décision. Lorsque des pièces concernant des co-mis en examen fondent ou corroborent la décision de détention provisoire d'une personne, elles doivent lui être communiquées, comme l'a réaffirmé la chambre criminelle dans son arrêt du 14 novembre 2024 (pourvoi n° 24-80.341).

L'algorithme COMPAS est-il utilisé en France ?

COMPAS lui-même n'est pas officiellement déployé en France. Toutefois, le Ministère de la Justice a reconnu dans son rapport 2025 l'existence d'expérimentations pilotes d'outils similaires dans trois cours d'appel françaises. Ces expérimentations n'ont pas fait l'objet d'une publication dans la base de données EU de l'AI Act, ce qui constitue une non-conformité au regard du règlement européen.

Quels recours si la détention provisoire semble avoir été influencée par un algorithme biaisé ?

Plusieurs voies sont ouvertes : appel devant la chambre de l'instruction (article 186 CPP), demande de nullité pour violation du contradictoire, saisine de la CNIL pour traitement de données non conforme au RGPD, recours devant le Défenseur des droits en cas de discrimination algorithmique, et à terme, recours devant la CEDH pour violation de l'article 6 et/ou de l'article 14 de la Convention.

La supervision humaine du JLD suffit-elle à légitimer l'usage d'un outil IA ?

Elle est nécessaire mais pas suffisante. L'article 14 AI Act exige une supervision effective, c'est-à-dire que le juge doit réellement comprendre le fonctionnement de l'outil, être capable d'en contester les résultats et de les écarter. Une supervision purement formelle — le juge "valide" un score sans le comprendre — ne satisfait pas aux exigences du règlement et maintient le risque de nullité procédurale.

Sources principales : Code de procédure pénale (art. 137-148-8) ; CEDH, art. 6 et 14 ; Règlement UE 2024/1689 (AI Act) ; Cass. crim., 14 novembre 2024, n° 24-80.341 ; Cass. crim., n° 23-84.512, ECLI:FR:CCASS:2024:CR01247 ; Rapport annuel du Ministère de la Justice sur la transformation numérique, 2025 ; Observatoire français des algorithmes judiciaires, rapport 2025 ; RGPD, art. 22.