La Clinique : Justice numérique

Ce projet, mené en partenariat avec l'Organisation européenne des consommateurs (BEUC), examine le cadre réglementaire et les lacunes en matière de protection des assistants IA génératifs au sein de l'UE. Les étudiants analysent les services d'assistants IA destinés aux consommateurs, les risques de préjudices matériels et immatériels qu'ils présentent, ainsi que les cadres réglementaires européens pertinents, notamment la loi sur l'IA, le RGPD, le droit de la consommation et les règles de sécurité des produits. Ils recensent également la jurisprudence internationale et les mesures d'application prises à l'échelle mondiale.

Parallèlement à leurs recherches juridiques, les étudiants utilisent un protocole structuré pour mener des études empiriques exploratoires évaluant les pratiques, les interactions des utilisateurs et le ciblage démographique. Ce travail permet d'identifier les conceptions trompeuses, dangereuses ou abusives susceptibles d'enfreindre la réglementation européenne.

Le projet vise à produire un document de synthèse regroupant les conclusions juridiques et empiriques. Il met en lumière les tendances en matière de préjudices, les angles morts réglementaires et des recommandations concrètes. Les étudiants présenteront leurs conclusions directement à la BEUC et dans le cadre du programme de clinique juridique, contribuant ainsi aux efforts de plaidoyer et de sensibilisation menés par l'UE concernant les pratiques néfastes liées à l'IA.

• Partenaire : Bureau européen des unions de consommateurs (BEUC)
• Tuteur : Lyubomir Nikiforov 

La vérification de l’âge devient un outil de plus en plus important pour protéger les mineurs en ligne. En Europe comme ailleurs dans le monde, les gouvernements et les autorités de régulation envisagent, adoptent ou appliquent des mesures exigeant des utilisateurs qu’ils prouvent leur âge avant d’accéder à certains services en ligne. Si ces mesures visent à protéger les enfants, elles soulèvent également des questions complexes en matière de vie privée, de protection des données et de droits fondamentaux.

Ce projet comparera les approches juridiques et techniques développées en Australie, aux États-Unis, au Royaume-Uni et au niveau européen. Il examinera les modalités concrètes de la vérification de l’âge, les entités devant en assurer la mise en œuvre, ainsi que les garanties nécessaires pour prévenir une collecte excessive de données, une surveillance accrue ou des phénomènes d’exclusion.

Le projet portera une attention particulière aux personnes susceptibles de rencontrer des difficultés pour prouver leur âge, notamment celles qui ne disposent pas de pièces d’identité appropriées ou de smartphones, les personnes en situation de handicap, ainsi que les individus affectés par des technologies d’estimation de l’âge inexactes ou biaisées. Il évaluera par ailleurs les avantages et les limites, sur le plan pratique, d’une régulation fondée sur les risques, de l’établissement de listes de services restreints et du recours à différents prestataires de vérification.

Ce projet s’inscrit dans une actualité particulièrement pertinente, alors que de nouvelles législations et directives réglementaires façonnent rapidement l’avenir de l’accès aux services en ligne et de la protection des mineurs dans cet environnement. Son objectif est d’identifier des approches qui demeurent proportionnées, inclusives et respectueuses des droits fondamentaux.

• Partenaire : Commission Nationale de l'Informatique et des Libertés (CNIL)
• Tutrice : Tamara Bivol 

Les produits fondés sur l’intelligence artificielle (IA) engendrent des préjudices de diverses natures au sein de l’Union européenne. Le droit de la responsabilité et les contentieux judiciaires constitueront les principaux leviers pour traiter les dommages, accidents et erreurs découlant d’un secteur de l’IA en pleine expansion. À l’heure actuelle, les juridictions des 27 États membres de l’UE sont amenées à se prononcer sur bon nombre de ces préjudices. Or, jusqu’à présent, il n’existait aucune plateforme centralisée permettant aux chercheurs, aux décideurs politiques, aux juristes et aux développeurs de prendre connaissance des types de préjudices invoqués et des décisions rendues par les tribunaux à travers l’Union — décisions qui contribuent, de fait, à la formation d’une jurisprudence.

Dans le cadre du projet clinique « Justice numérique » (Digital Justice) de cette année, les étudiants mèneront des recherches sur les incidents liés à l’IA au sein de l’UE. Ils concevront un portail en ligne interactif, accessible aux avocats, juges, décideurs politiques, universitaires, développeurs et à toute personne intéressée, afin de permettre le suivi de ces dossiers et de mieux appréhender le paysage juridique de la responsabilité en matière d’IA en Europe. Ils publieront également des analyses portant sur les tendances jurisprudentielles, les évolutions du secteur et la mise en application concrète des différents régimes juridiques européens.

En alliant recherche juridique, développement web, analyse et sensibilisation du public, ce projet offre l’opportunité d’apporter une contribution significative à la recherche juridique sur l’IA et de jeter les bases d’une protection des individus contre les préjudices potentiels.

• Partenaire : Ecole de droit de Sciences Po et Center for Democracy and Technology Europe
• Tutrice : Jenna Kaplan

La transformation numérique du commerce, des services et des forces de vente s’est accélérée ces dernières années avec l’intégration de l’intelligence artificielle (IA) au sein des entreprises. L’IA représente à la fois une opportunité — en permettant l’automatisation de certaines tâches pénibles — et une menace pour certains emplois, qui pourraient disparaître.

Les représentants du personnel jouent un rôle de protection des salariés : ils portent leurs préoccupations, tant individuelles que collectives, mènent des négociations collectives et exercent leur droit d’alerte pour anticiper d’éventuelles suppressions de postes.

Ils veillent à ce que les employeurs n’imposent pas de systèmes d’IA sans prendre en compte l’évolution des compétences des salariés, et sans tirer profit des incertitudes juridiques actuelles. En effet, le cadre juridique régissant l’usage de l’IA en entreprise est complexe. L’articulation entre les réglementations européennes sur l’IA et les règles françaises — qu’elles soient législatives, réglementaires ou issues de la négociation collective — rend difficile, pour les salariés comme pour leurs représentants, l’évaluation des risques en jeu.

Le « Kit IA » a pour vocation d’aider les représentants du personnel à appréhender les enjeux et les risques liés à l’IA — en définissant clairement ce qu’est l’IA, en identifiant les principales règles applicables et en recensant les leviers d’action possibles. Il permet également d’engager une analyse approfondie des impacts de l’IA sur l’emploi, au sein du périmètre couvert par la CFTC-CSFV.

• Partenaire : CFTC-CSFV (Fédération des Syndicats Commerce, Services et Force de vente)
• Tutrice : Pauline Bousch

Le droit des patients sur leur matériel biologique et leurs données personnelles constitue un enjeu central du débat juridique dans le domaine médical. Le consentement, l’absence d’opposition et la sécurité des données sont censés garantir la protection des patients ; toutefois, le cadre réglementaire — bien qu’existant — demeure complexe, tant pour les médecins que, surtout, pour les patients eux-mêmes. Avec l’essor de l’intelligence artificielle, la protection des données médicales contre tout usage abusif devient primordiale.

Ce projet porte sur les données et les droits des patients dans le cadre du recueil d’échantillons biologiques et de données personnelles pour la recherche médicale non interventionnelle, au sein de la Direction de la Recherche, de l’Innovation et de la Stratégie (DRIS) du GHU Nord de l’AP-HP (Assistance Publique – Hôpitaux de Paris). L’objectif est d’élaborer des guides techniques destinés aux patients, aux professionnels de santé menant des projets de recherche, ainsi qu’à l’équipe juridique de la DRIS, précisant les règles et textes réglementaires applicables.

Pour ce faire, les étudiants mènent des recherches sur la réglementation relative au consentement, à l’absence d’opposition, à la protection des données et à la lisibilité des textes, tout en examinant les obstacles à leur mise en œuvre rencontrés par les professionnels de santé et les patients. Parallèlement à ces travaux de recherche, les étudiants travaillent sur des cas pratiques et mènent des échanges approfondis avec l’équipe juridique de l’AP-HP, afin d’identifier les besoins spécifiques de chaque public concerné.

• Partenaire : Assistance Publique - Hôpitaux de Paris (AP-HP)
• Tutrice : Héloïse Croisille