Centre d'études sur l'intégration et la mondialisation (CEIM)

Vers une gouvernance éthique de l'intelligence artificielle : enjeux, défis et perspectives

Guy-Philippe Wells — 2025-05-10T22:11:34Z

Résumé

Cette veille explore les mécanismes de régulation de l'intelligence artificielle (IA), en distinguant d'abord les concepts de régulation, réglementation et de gouvernance, puis en analysant les transformations profondes de la gouvernance à l'ère numérique. Il met en évidence l'évolution d'un modèle étatique vers une gouvernance en réseau impliquant acteurs publics et privés. Cinq défis majeurs sont identifiés : la vitesse des transformations technologiques, la question de la responsabilité, l'opacité des algorithmes, la protection des données personnelles, et les enjeux éthiques. À travers les approches réglementaires de l'Union européenne, des États-Unis et de la Chine, ainsi que des initiatives internationales comme celles de l'OCDE ou de l'UNESCO, le texte illustre la difficulté d'instaurer un cadre réglementaire harmonisé face aux divergences géopolitiques et culturelles. La régulation de l'IA touche également la sphère culturelle, notamment à travers les enjeux de découvrabilité des œuvres. Les algorithmes de recommandation influencent profondément l'accès du public aux contenus culturels, risquant de marginaliser les créations locales ou minoritaires. Le texte souligne les biais linguistiques et culturels des modèles d'IA, ainsi que la standardisation croissante de la création artistique. Toutefois, il montre aussi le potentiel positif de l'IA en matière de découvrabilité et d'inclusion, à condition d'un encadrement transparent, éthique et démocratique. La régulation de l'IA n'est donc pas nécessairement un frein à l'innovation, mais une condition nécessaire à son intégration harmonieuse dans la société.

1. Régulation et réglementation 3

2. Régulation et technologie 5

3. Cinq défis 6

4. Cadres réglementaires existants 8

5. Perspectives mondiales 10

6. Régulation de l'IA et découvrabilité 11

Conclusion 13

Voir le PDF ci-dessous :

IA et culture : données d'entraînement et propriété intellectuelle – Octobre 2024

Guy-Philippe Wells — 2024-10-27T00:00:40Z

Résumé

La question du rapport entre le développement des modèles d'intelligence artificielle (IA) et les droits de propriété intellectuelle s'est mise à l'avant-plan en Europe et aux États-Unis au cours des derniers mois. Le sujet au cœur des polémiques est l'utilisation de données d'entraînement privées ou protégées par des droits de propriété intellectuelle (PI) pour développer des modèles d'IA. Cette veille présente les deux principaux lieux de débats au cœur de la réflexion sur la régulation de l'IA, l'Europe et les États-Unis, particulièrement dans le secteur de la culture où plusieurs s'inquiètent de ses avancées.

Table des matières

1. Actualités

1.1 Europe : la voie réglementaire
1.2 États-Unis : la voie judiciaire
1.3 Conclusion

2. Les modèles d'IA pour la création musicale

2.1 Apprentissage supervisé

2.2 Réseaux de neurones récurrents (RNN) et LSTM

2.3 Transformers (GPT, BERT, etc.)

2.4 Modèles génératifs contradictoires (GAN)

2.5 Modèles de Markov et autres approches probabilistes

2.6 IA de style Jukebox (OpenAI)

Voir PDF :

https://ceimia.org/limpact-de-lia-sur-la-decouvrabilite-dans-le-secteur-culturel-octobre-2024/

L'équité dans la répartition des redevances des plateformes : une réforme nécessaire des mécanismes de répartition

LATICCE, Guy-Philippe Wells — 2024-07-18T11:34:08Z

L'équité dans la répartition des redevances des plateformes : une réforme nécessaire des
mécanismes de répartition
Par Guy-Philippe Wells, Directeur scientifique au LATICCE
Les mécanismes de répartition des redevances versées par les plateformes numériques d'écoute
en ligne (PNEL) tel que Spotify ont été définis il y a une vingtaine d'années alors que les revenus
qui en étaient tirés par les artistes et le producteurs étaient marginaux. Aujourd'hui, il s'agit
clairement de la source de revenus la plus importante pour l'industrie de la musique. Vu la
faiblesse de la rémunération qu'elles offrent à de très nombreux artistes et la concentration
importante des versements vers quelques milliers d'artistes à travers le monde, n'est-il pas
temps de questionner ce modèle et de mesurer ses impacts sur les industries de la musique
locales ? Nous présentons dans cette veille le modèle de répartition utilisé par la plupart des
PNEL et mettons en lumière ses principales faiblesses. Nous présentons également un modèle
alternatif qui a le potentiel d'être plus équitable pour les artistes et les producteurs des marchés
moins populeux comme l'est le Québec, un modèle centré sur les préférences individuelles des
usagers des PNEL.

Table des matières
PARTIE 1 : Des plateformes plus payantes pour les artistes québécois ? 3
1.1 Le Market Centric Payment System (MCPS) 5
1.2 Le User Centric Payment System (UCPS) 9
1.3 Une concentration des revenus vers les artistes « professionnels » 11
1.4 Conclusion 12
PARTIE 2 : Actualités 13
2.1 Universal et l'IA 13
2.2. Intelligence artificielle, culture et médias : un nouvel ouvrage sur l'IA paru aux Presses
de l'Université Laval 14
2.3 Commerce numérique, culture et enjeux de réglementation 14
PARTIE 3 : Résumés d'articles scientifiques 15
Moreau, F. et coll. 2023. Implementing a user-centric payment system in the music
streaming market : a comparative static approach from user data. 15
Shank, D. et coll. AI composer bias : Listeners like music less when they think it was
composed by an AI. Journal of Experimental Psychology : Applied, Vol 29(3), Sep 2023. 15

Voir PDF ci-joint :

Algorithme et pratiques d'écoute sur les plateformes : Un état des lieu

Guy-Philippe Wells — 2024-06-11T23:40:48Z

Algorithme et pratiques d'écoute sur les plateformes : Un état des lieux
Par Guy-Philippe Wells, Directeur scientifique au LATICCE

Résumé

Cette veille étudie la relation entre les algorithmes et les pratiques d'écoute des usagers des
plateformes numériques d'écoute en ligne (PNEL). L'écoute de musique par les usagers des
PNEL à l'aide des algorithmes qu'elles conçoivent est limitée. Il n'en demeure pas moins que ce
type d'écoute est le seul qui met directement en contact les amateurs de musique avec des
œuvres qu'ils ne connaissent pas. Également, nous sommes d'avis que ce type d'écoute est
appelé à progresser au cours des prochaines années, d'où l'importance de bien comprendre
ses mécanismes et ses impacts. Nous discutons ensuite de l'effet des plateformes sur la
concentration de l'écoute auprès d'un petit nombre d'artistes. Ceux-ci bénéficient d'une part
substantielle des redevances de plus en plus élevées que les PNEL versent aux producteurs et
aux artistes. Finalement, nous proposons l'idée que les PNEL devraient intégrer à leurs
objectifs, au moment de la conception et de l'évolution de leurs algorithmes, à la fois la
satisfaction de leurs usagers et une meilleure expression de la diversité culturelle mondiale.

PARTIE 1 : Argent, plateformes et algorithmes 3
1.1 La part d'écoute algorithmique 4
1.2 Algorithmes et diversité culturelle 6
1.3 Le débat commerce-culture 9
1.4 Le débat sur l'impact des PNEL sur les revenus des artistes 11
1.5 Objectifs collectifs et préférences individuelles 14
Conclusion 16
PARTIE 2 : ACTUALITÉ 17
OK Computer 17
PARTIE 3 : Résumés d'article scientifiques 18

Métadonnées : un outil de découvrabilité efficace ?

Guy-Philippe Wells — 2024-04-01T23:06:00Z

Résumé

La transition vers l'écoute de la musique à l'aide des plateformes numériques d'écoute en ligne
(PNEL) a été pour plusieurs l'occasion d'enrichir leur vocabulaire personnel d'une expression
qui y est liée : les métadonnées. Dans cette veille, nous étudions une partie des interactions
entre cet outil technique et les usagers des PNEL afin de voir de quelles façons il a le potentiel
d'agir comme barrière à la découvrabilité des œuvres musicales. Nous traitons de la question
de la qualité et la richesse des métadonnées et de leurs impacts sur la découvrabilité sur les
PNEL des œuvres musicales d'ici. Dans la section “actualités”, nous présentons : 1) la stratégie
d'investissement en intelligence artificielle du gouvernement fédéral, rendue publique il y a
quelques jours ; 2) un récent développement de OpenIA qui permet à l'intelligence artificielle de
reproduire la voix d'un être humain à partir d'un clip de 15 secondes. Enfin, la section
“publications scientifiques” porte sur deux articles scientifiques ; le premier traite de l'impact de
la recommandation sur la diversité de l'écoute alors que le second souligne les dangers que les
recommandations culturelles basées sur l'IA font peser sur la démocratie culturelle.
PARTIE 1 : Des oeuvres en manque d'identité 2
1. Contexte 2
2. Trois problématiques : l'identification, la mesure, l'adaptation 3
3. Conclusion 8
PARTIE 2 : Actualités 9
PARTIE 3 : Publications scientifiques 11

Vers un algorithme bienveillant

LATICCE, Guy-Philippe Wells — 2024-02-21T19:52:24Z

VERS UN ALGORITHME BIENVEILLANT

Par Guy-Philippe Wells, directeur scientifique du LATICCE

Projet IA et découvrabilité

Mandaté par le ministère de la Culture et des Communications du Québec, le CEIMIA mène un projet de recherche ambitieux qui vise à tirer profit des plus récents développements en IA afin de réduire les barrières qui nuisent à la découvrabilité des contenus culturels francophones dans les environnements numériques. C'est dans ce contexte que le CEIMIA déploie une stratégie de valorisation de l'écosystème de recherche québécois centrée autour du développement de deux solutions concrètes d'IA responsable : un outil de bonification automatique de métadonnées musicales et un système de recommandation bienveillant permettant la mesure de la découvrabilité des contenus en ligne. Cette veille technologique mensuelle est le fruit d'une collaboration entre le CEIMIA et le LATICCE UQAM, laboratoire de recherche sur la découvrabilité des œuvres culturelles. Elle fait état des développements rapides de l'IA et de leurs impacts sur la découvrabilité des oeuvres culturelles pour aider à mieux comprendre les enjeux qui s'inscrivent à la croisée des deux disciplines.

Résumé

Ce mois-ci, nous portons un regard sur le concept de la bienveillance des algorithmes, concept au cœur de notre projet de recherche. Nous faisons également état de deux projets visant l'encadrement législatif de l'environnement numérique, le premier à la suite d'un rapport commandé par le gouvernement du Québec et déposé il y a quelques jours et le second présentant une résolution adoptée par l'Union européenne en janvier 2024. Finalement, nous avons sélectionné deux articles qui peuvent être utiles dans la réflexion entourant notre projet de recherche.
PARTIE 1 : Qu'est-ce qu'un algorithme bienveillant ?
1. La conception originale
2. Les interrelations entre les algorithmes et les utilisateurs
3. Des principes pour l'IA
4. Vers un algorithme bienveillant
PARTIE 2 :
1.ACTUALITÉ
PARTIE 3 :
1.RÉSUMÉS D'ARTICLES SCIENTIFIQUES