Twitch a activé l’entraînement de l’IA pour tous les streamers, puis a expliqué pourquoi il n’était pas soumis à consentement préalable

Le 12 août, Twitch a dévoilé un nouveau paramètre de compte intitulé « Entraînement de l’IA générative ». Les streamers ont constaté qu’il était déjà activé.

Ce paramètre détermine si Amazon peut utiliser votre chaîne pour entraîner ses modèles d’IA générative. Et pas seulement le stream en direct. La propre description de Twitch couvre les streams, les enregistrements à la demande, les clips, les messages du chat, ainsi que les images et les textes que vous publiez sur votre chaîne, le tout servant à alimenter des modèles qui génèrent ou synthétisent du texte, de l’audio, des images et des vidéos. Si vous souhaitez vous y opposer, l’option se trouve dans les paramètres de la chaîne, sous Sécurité et confidentialité, et non dans le tableau de bord des créateurs où vous vous attendriez à la trouver.

Ce qui en a fait un sujet d’actualité plutôt qu’une simple note de bas de page dans une politique, c’est l’explication donnée.

Ce qui ne devait pas être dit

Cette semaine-là, Twitch a organisé un stream Patch Notes au cours duquel Mike Minton, directeur produit, et Mary Kish, responsable de la communauté, ont répondu aux questions d’environ 3 000 créateurs. Le chat s’est rempli de la question évidente : pourquoi faut-il refuser plutôt que donner son consentement préalable ?

Minton a répondu sans détour. « Si c’était sur consentement préalable, personne n’accepterait », a-t-il déclaré, ajoutant qu’il s’agissait honnêtement de la réponse.

Il a presque certainement raison, et c’est bien là le problème. Si un choix par défaut a autant de valeur pour une plateforme, c’est précisément parce qu’il permet d’obtenir le consentement de personnes qui auraient refusé si on le leur avait demandé. Tout argument sur les frictions qu’ajoute un consentement préalable revient en réalité à discuter du nombre de personnes dont on s’attend à ce qu’elles disent non.

Lorsqu’on lui a demandé si Amazon avait déjà entraîné ses modèles sur les contenus des créateurs avant l’apparition de ce paramètre, Minton a répondu qu’il n’en savait rien, car il ignorait ce qu’Amazon avait fait. Il a reconnu séparément que l’entraînement sur des contenus Twitch était mené à l’échelle de prototypes depuis au moins 2024. Le nouveau bouton ne s’applique qu’à partir de maintenant ; si la réponse à cette question est donc oui, il n’y change rien.

Lisez les exclusions avant de vous rassurer

Désactiver l’option a une portée plus limitée qu’il n’y paraît. Twitch indique que les sous-titres et AutoMod continuent de fonctionner sur votre chaîne quoi qu’il arrive, au motif que les outils de sécurité protègent tout le monde et ne peuvent pas être désactivés pour chaque utilisateur. Twitch affirme que ces fonctionnalités ne conservent pas de données pour l’entraînement des modèles, une distinction importante, mais qu’il faut également accepter sur parole.

La partie que la plupart des gens ont manquée concerne le chat. Votre paramètre régit votre chaîne. Lorsque vous écrivez dans le chat de quelqu’un d’autre, c’est la préférence du propriétaire de la chaîne qui détermine si vos messages sont utilisés. Vous pouvez refuser entièrement l’utilisation de vos propres contenus et tout de même figurer dans le jeu de données d’entraînement de chaque stream que vous regardez.

Pourquoi cela nous concerne

Il serait facile de classer cette affaire dans la catégorie des polémiques du streaming, mais il s’agit de la même question que nous suivons toute l’année sous trois autres angles. En juillet, nous avons parlé de Godot qui interdit purement et simplement les contributions générées par l’IA et du recensement Steam montrant qu’un nouveau jeu sur trois déclare désormais utiliser l’IA. Twitch en est la troisième facette : non pas ce que produit l’IA, ni ce que vous devez déclarer, mais ce qui vous est pris pour construire cette technologie au départ.

Les conflits autour de l’extraction de données de ces dernières années concernaient le web ouvert, où personne n’avait de contrat et où chacun disposait de l’avis d’un avocat. Ici, c’est différent. Il s’agit de créateurs liés formellement à une plateforme, selon des conditions rédigées par celle-ci, et ces conditions ont changé sous leurs pieds au moyen d’un bouton dont quelqu’un devait leur signaler l’existence. Roblox, Discord, itch.io, YouTube et toutes les plateformes de contenu généré par les utilisateurs qui hébergent les créations des internautes disposent désormais d’un exemple concret de la manière de procéder et de la façon dont cela est accueilli.

Pour toute personne qui crée sur une plateforme, le conseil pratique est banal, mais mérite d’être répété. Vérifiez les paramètres par défaut de chaque service qui héberge votre travail, vérifiez-les de nouveau après les mises à jour du produit et considérez la phrase « nous avons ajouté un paramètre » comme un signal vous invitant à lire ce que ce paramètre exclut réellement. C’est dans l’écart entre l’annonce et les exclusions que se cachent les conditions les plus intéressantes.

Nous développons une plateforme sur laquelle les gens créent, alors la norme que nous voudrions voir appliquée à notre égard mérite d’être énoncée clairement. Un choix par défaut qui ne fonctionne que parce que les gens ne le remarquent pas n’est pas un consentement, c’est une collecte. Si un choix est réellement bénéfique pour la personne qui le fait, le lui demander ne vous coûte rien.

Références

• TechCrunch : Amazon entraînera par défaut ses modèles sur les contenus des streamers Twitch, sauf s’ils refusent
• VGC : « Si c’était sur consentement préalable, personne n’accepterait »
• Engadget : les streamers Twitch peuvent désormais refuser qu’Amazon entraîne ses modèles d’IA générative sur leurs contenus
• Gizmodo : face à la réaction des utilisateurs, Twitch ajoute un paramètre permettant de refuser l’entraînement de l’IA