Les outils d'intelligence artificielle (IA) générative s'intègrent rapidement à notre quotidien, et de nouveaux services et cas d'usage destinés aux consommateurs émergent presque chaque jour. Parmi eux, les « compagnons IA », des chatbots conçus pour simuler des relations humaines grâce à des interactions conversationnelles, émotionnelles et réalistes, soulèvent des préoccupations particulièrement vives en matière de protection des consommateurs.
En partenariat avec le Bureau européen des unions de consommateurs (BEUC), ce projet étudiera la réglementation actuelle des compagnons IA génératifs utilisés dans l'Union européenne (UE) et identifiera les lacunes en matière de protection. Les étudiants analyseront les principaux services de compagnons IA disponibles pour les consommateurs européens et les risques de préjudices matériels et immatériels qu'ils présentent. Ils réaliseront une étude et une analyse approfondie des règles européennes pertinentes, notamment en matière de protection des données, de droit de la consommation, de sécurité des produits et du cadre législatif émergent relatif à l'IA. Ils collecteront également de manière systématique la jurisprudence, les décisions réglementaires et autres mesures d'application prises dans l'UE et dans le monde entier concernant l'IA générative, en particulier les compagnons IA.
Parallèlement à ce travail juridique, les étudiants mèneront des tests exploratoires sur une sélection d'applications de compagnons IA, en suivant un protocole de recherche. Ils analyseront la commercialisation de ces systèmes, leurs interactions avec les utilisateurs, les langues et les groupes d'âge, et détermineront si leur conception ou leurs réponses enfreignent la réglementation européenne, notamment la loi sur l'IA, la directive sur les pratiques commerciales déloyales ou le règlement général de protection des données (RGPD). Cette étude empirique permettra d'identifier des schémas concrets de pratiques trompeuses, dangereuses ou abusives.
L'objectif du projet est d'élaborer un rapport qui synthétisera les résultats juridiques et empiriques. Ce rapport mettra en lumière les tendances en matière de préjudices et de répression, identifiera les lacunes réglementaires et formulera des recommandations pour renforcer la protection des consommateurs et les stratégies de répression concernant les assistants vocaux génératifs. Les étudiants présenteront et discuteront de leurs conclusions avec l'équipe du BEUC, contribuant ainsi directement aux actions de sensibilisation et de plaidoyer menées au sein de l'UE sur les pratiques néfastes liées à l'IA.
- Partenaire : Bureau européen des unions de consommateurs (BEUC)
- Tuteur : Lyubomir Nikiforov
