Les outils d'intelligence artificielle (IA) générative s'intègrent rapidement à notre quotidien, et de nouveaux services et cas d'usage destinés aux consommateurs émergent presque chaque jour. Parmi eux, les « compagnons IA », des chatbots conçus pour simuler des relations humaines grâce à des interactions conversationnelles, émotionnelles et réalistes, soulèvent des préoccupations particulièrement vives en matière de protection des consommateurs.

En partenariat avec le Bureau européen des unions de consommateurs (BEUC), ce projet étudiera la réglementation actuelle des compagnons IA génératifs utilisés dans l'Union européenne (UE) et identifiera les lacunes en matière de protection. Les étudiants analyseront les principaux services de compagnons IA disponibles pour les consommateurs européens et les risques de préjudices matériels et immatériels qu'ils présentent. Ils réaliseront une étude et une analyse approfondie des règles européennes pertinentes, notamment en matière de protection des données, de droit de la consommation, de sécurité des produits et du cadre législatif émergent relatif à l'IA. Ils collecteront également de manière systématique la jurisprudence, les décisions réglementaires et autres mesures d'application prises dans l'UE et dans le monde entier concernant l'IA générative, en particulier les compagnons IA.

Parallèlement à ce travail juridique, les étudiants mèneront des tests exploratoires sur une sélection d'applications de compagnons IA, en suivant un protocole de recherche. Ils analyseront la commercialisation de ces systèmes, leurs interactions avec les utilisateurs, les langues et les groupes d'âge, et détermineront si leur conception ou leurs réponses enfreignent la réglementation européenne, notamment la loi sur l'IA, la directive sur les pratiques commerciales déloyales ou le règlement général de protection des données (RGPD). Cette étude empirique permettra d'identifier des schémas concrets de pratiques trompeuses, dangereuses ou abusives.

L'objectif du projet est d'élaborer un rapport qui synthétisera les résultats juridiques et empiriques. Ce rapport mettra en lumière les tendances en matière de préjudices et de répression, identifiera les lacunes réglementaires et formulera des recommandations pour renforcer la protection des consommateurs et les stratégies de répression concernant les assistants vocaux génératifs. Les étudiants présenteront et discuteront de leurs conclusions avec l'équipe du BEUC, contribuant ainsi directement aux actions de sensibilisation et de plaidoyer menées au sein de l'UE sur les pratiques néfastes liées à l'IA.

• Partenaire : Bureau européen des unions de consommateurs (BEUC)
• Tuteur : Lyubomir Nikiforov 

Depuis l’essor des grands modèles linguistiques, l'impact de l'intelligence artificielle et en particulier de l'IA générative sur le travail culturel et créatif fait l’objet de vifs débats académiques, juridiques et politiques. Dans ce contexte, les voix des créateurs, avec leurs besoins, leurs préoccupations et mobilisations très diversifiés sont souvent restées inaudibles. A l’heure où le règlement européen sur l'IA entre dans sa phase initiale d'application et de transposition nationale en France, de nouvelles obligations apparaissent pour certains systèmes d'IA afin de renforcer la transparence concernant les données utilisées pour l'entraînement de l'IA, ayant des implications directes sur les droits d’auteur. Toutefois, de nombreuses incertitudes subsistent quant à la mise en œuvre concrète de ces règles soulevant des questions essentielles pour les créateurs.

Dans le cadre de ce projet, des étudiants de la Clinique collaborent avec des experts juridiques
et des auteurs au sein du Syndicat National des Auteurs et des Compositeurs (SNAC) afin de
produire des réflexions communes sur ces défis dans un contexte règlementaire complexe. S'appuyant sur leur expertise en droit, notamment en droits d'auteur et aux règles relatives à la protection des données personnelles, à la gouvernance des données et au développement responsable des technologies, les étudiants engageront un dialogue avec le SNAC, dresseront une cartographie des règles et initiatives juridiques existantes et analyseront le cadre actuel afin d’identifier des solutions potentielles pour la protection des auteures.

Le projet a vocation à contribuer à une meilleure compréhension des enjeux juridiques soulevées par l'IA en mettant en lumière les lacunes du droit positif, les réponses envisagées au niveau national et européen, ainsi que les perspectives d'une régulation plus équilibrée et plus protectrice, au sein de laquelle la créativité peut pleinement s'épanouir. Son objectif final est la publication, au cours du second semestre, d'un ‘legal explainer’ comprenant les questions et ressources clés. Conçu pour être facilement accessible et utile, ce guide constituera un véritable outil de référence pour les créateur et tous acteurs concernés devant naviguer dans ces problématiques. Son contenu sera intégré au nouveau site web du SNAC afin de compléter leur collection de ressources consacrées à l'IA générative et les résultats de leur groupe de travail dédié.

• Partenaire : Syndicat national des auteurs et compositeurs (SNAC)
• Tutrice : Marta Arisi