L'été dernier, Valve a déclaré qu'elle s'inquiétait des problèmes juridiques potentiels liés aux jeux réalisés avec l'aide de modèles d'IA formés sur des œuvres protégées par le droit d'auteur et qu'elle « réfléchissait à la manière d'intégrer [l'IA] dans nos politiques d'évaluation déjà existantes ». Après des mois d'enquête, la société derrière la plateforme de distribution de jeux en ligne Steam a partagé ses conclusions en annonçant un nouvel ensemble de règles pour les développeurs qui, selon elle, « nous permettra de publier la grande majorité des jeux qui utilisent [des outils d'IA] ».Tout a commencé l'année dernière par les propos d'un développeur qui a affirmé que Valve a rejeté sa soumission de jeu sur Steam en raison de la présence d’assets artistiques générés par l’IA qui semblaient s’appuyer sur du matériel protégé par le droit d’auteur appartenant à des tiers. Valve a expliqué que la propriété légale de ces assets générés par l’IA était incertaine, et qu’il fallait que le développeur confirme qu’il possède les droits sur tout le contenu utilisé dans le jeu, y compris celui utilisé dans le jeu de données qui a entraîné l’IA à créer les assets.
Répondant au pseudonyme Potterharry97, il avait initialement publié un article sur le rejet en mai où il a admis « qu'une grande partie des actifs ont une certaine implication de l'IA dans sa création » grâce à l'utilisation de Stable Diffusion. Dans un article de suivi publié fin juin, il a expliqué que la soumission initiale était conçue comme une première version d'espace réservé, « avec 2-3 actifs/sprites qui étaient évidemment générés par l'IA ».
Cette utilisation « évidente » de l'IA a apparemment déclenché une sonnette d'alarme chez un modérateur de Valve, qui aurait répondu que Valve avait « identifié la propriété intellectuelle... qui semble appartenir à un ou plusieurs tiers. En particulier, [Nom du jeu ici] contient des actifs artistiques générés par l'intelligence artificielle qui semblent s'appuyer sur du matériel protégé par des droits d'auteur appartenant à des tiers ».
« Comme la propriété légale de ces œuvres générées par l'IA n'est pas claire, nous ne pouvons pas distribuer votre jeu tant qu'il contient ces actifs générés par l'IA », a-t-il indiqué dans la suite de son message, « à moins que vous ne puissiez confirmer de manière affirmative que vous possédez les droits sur toutes les propriétés intellectuelles utilisées dans l'ensemble de données qui a entraîné l'IA à créer les éléments de votre jeu ».
Potterharry97 a à nouveau soumis le jeu avec quelques modifications artistiques pour supprimer « tout signe évident d'IA ». Mais le développeur a déclaré que la réponse de Valve indiquait « qu'après [avoir pris] notre temps pour mieux comprendre la technologie d'IA utilisée pour créer [le jeu] », Valve « refusait toujours de distribuer [le jeu], car il n'est pas clair si la technologie d'IA sous-jacente utilisée pour créer les actifs dispose de droits suffisants sur les données de formation ».
« Je ne savais même pas que l'art de l'IA n'était pas autorisé, car j'en avais entendu parler, et j'ai même vu moi-même quelques exemples assez évidents », a écrit potterharry97 dans le fil de commentaires sous le message initial.
Dans une déclaration en réaction à cette affirmation, la représentante de Valve PR, Kaci Boyle, a déclaré que l'objectif de l'entreprise n'était « pas de décourager l'utilisation [de l'IA] sur Steam ; au lieu de cela, nous cherchons à l'intégrer dans nos politiques d'examen déjà existantes. » Elle a poursuivi en disant que le processus d'examen actuel de l'entreprise tient compte de la loi actuelle sur le droit d'auteur et que « bien que les développeurs puissent utiliser ces technologies d'IA dans leur travail... ils ne peuvent pas enfreindre les droits d'auteur existants »
Le contenu généré par IA signe son retour sur Steam, mais sous certaines conditions
Les développeurs qui utilisent des outils d'IA « dans le développement [ou] l'exécution de leur jeu" seront désormais autorisés à mettre leurs jeux sur Steam, à condition qu'ils divulguent cette utilisation dans l'enquête de contenu standard lors de la soumission à Steam. Cette intégration de l'IA sera divisée en deux catégories : le contenu "pré-généré" qui est "créé avec l'aide d'outils d'IA pendant le développement" (par exemple, l'utilisation de DALL-E pour les images du jeu) et le contenu "généré en direct" qui est "créé avec l'aide d'outils d'IA pendant l'exécution du jeu" (par exemple, l'utilisation de la technologie NPC de Nvidia alimentée par l'IA).
Ces informations seront communiquées sur les pages du Steam Store pour ces jeux, ce qui devrait aider les joueurs qui souhaitent éviter certains types de contenu IA. Mais ces informations ne seront pas suffisantes pour les jeux qui utilisent une IA générée en direct pour un "contenu sexuel réservé aux adultes", que Valve déclare "ne pas être en mesure de publier... pour le moment".
Mettre en place des garde-fous
En ce qui concerne le contenu pré-généré par l'IA, Valve prévient que les développeurs doivent encore s'assurer que leurs jeux "n'incluront pas de contenu illégal ou de contrefaçon". Mais cette promesse ne s'applique qu'au "contenu généré par l'IA" et n'aborde pas le statut du droit d'auteur du contenu utilisé par les modèles d'apprentissage eux-mêmes. Le statut de ces modèles d'entraînement était une préoccupation majeure de Valve l'été dernier, lorsque l'entreprise a évoqué "l'incertitude juridique liée aux données utilisées pour entraîner les modèles d'IA", mais ces préoccupations ne méritent même pas d'être mentionnées dans les nouvelles règles d'aujourd'hui.
Pour le contenu généré en direct, en revanche, Valve demande aux développeurs "de nous dire quel type de garde-fou vous mettez sur votre IA pour vous assurer qu'elle ne génère pas de contenu illégal". Ces garde-fous devraient permettre d'éviter des situations comme celle d'AI Dungeon, qui, en 2021, a suscité la controverse pour avoir utilisé un modèle OpenAI susceptible de générer du contenu sexuel mettant en scène des enfants dans le jeu. Valve indique qu'une nouvelle "surcouche dans le jeu" permettra aux joueurs de soumettre des rapports s'ils rencontrent ce type de contenu inapproprié généré par l'IA dans les jeux Steam.
La déclaration de Valve
En juin dernier, nous vous avions communiqué que même si notre objectif restait de proposer le plus de jeux possible sur Steam, nous avions besoin de temps pour en savoir plus sur l'évolution rapide et juridiquement opaque de la technologie de l'IA, en particulier compte tenu de la portée mondiale de Steam.
Aujourd'hui, après avoir passé les derniers mois à en apprendre davantage sur cet outil et à discuter avec des équipes de développement, nous apportons des changements dans notre façon de considérer les titres qui utilisent l'IA. La grande majorité de ces jeux pourra ainsi être publiée sur la plateforme.
Tout d'abord, nous avons mis à jour le questionnaire sur le contenu que les équipes de développement remplissent lorsqu'elles soumettent un jeu pour évaluation sur Steam. Ce questionnaire inclut désormais une nouvelle section relative à la divulgation d'utilisation de l'IA, dans laquelle vous devrez décrire comment l'IA est utilisée dans le développement et l'exécution de votre titre. Cette utilisation y est divisée en deux grandes catégories.
- Contenu prégénéré : tout type de contenu (images, code, sons, etc.) créé à l'aide de l'IA pendant le développement. Conformément à l'accord de distribution Steam, vous vous engagez à ce que votre jeu n'inclue pas de contenu illégal ou contrevenant aux droits d'autrui, et que celui-ci soit en accord avec vos ressources marketing. Lors du processus d'évaluation, nous évaluerons le contenu de votre jeu généré par l'IA de la même manière que le contenu non généré par l'IA. Nous vérifierons également que votre jeu tient ses engagements.
- Contenu généré en direct : tout type de contenu créé à l'aide de l'IA pendant que le jeu est en cours d'exécution. En plus de respecter les règles précédemment énoncées pour le contenu prégénéré, vous devrez indiquer les garde-fous mis en place afin qu'aucun contenu illégal ne soit généré par l'IA.
Valve utilisera ces informations dans le cadre de l'évaluation de votre jeu avant sa sortie. Une grande partie sera également publiée sur la page du magasin Steam de votre titre, afin que votre clientèle puisse également comprendre comment le jeu utilise l'IA.
De plus, un nouveau système a été mis en place sur Steam : il permet de signaler tout contenu illégal au sein d'applications incluant du contenu généré en direct par l'IA. Grâce à l'overlay en jeu, les joueurs et joueuses peuvent facilement envoyer un signalement dès la découverte d'un contenu qui, à leur avis, aurait dû être détecté par les garde-fous en place lors de la génération de l'IA.
Les modifications apportées aujourd'hui sont le fruit de mures réflexions : nous comprenons désormais mieux les tenants et aboutissants ainsi que les risques propres à ce domaine, et nous avons longuement discuté du sujet avec les équipes de développement utilisant l'IA et celles élaborant des outils d'IA. Cette nouvelle approche va permettre de grandement faciliter la sortie de jeux utilisant l'IA sur Steam. La seule exception à cette règle concerne le contenu pour adultes à caractère sexuel généré en direct par l'IA. Nous ne sommes pas en mesure de publier ce type de contenu pour le moment.
Comprendre tout cela nous a pris un certain temps. Nous nous excusons auprès des équipes de développement si cela a pu compliquer les prises de décisions relatives à leurs jeux. Mais précipiter notre choix sur un sujet aussi complexe aurait encore bien plus desservi nos partenaires comme la communauté. Nous continuerons de tirer les leçons des jeux accueillis sur Steam et des avancées de la législation en matière d'IA. Nous pourrons revenir sur cette décision si nécessaire.
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">Put it on the Epic Games Store. We don’t ban games for using new technologies.</p>— Tim Sweeney (@TimSweeneyEpic) <a href="https://twitter.com/TimSweeneyEpic/status/1698028441994506322?ref_src=twsrc%5Etfw">September 2, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Conclusion
Depuis un an au moins, de nombreux développeurs de jeux ont commencé à adopter une variété d'outils d'IA pour la création de tout ce qui va de l'arrière-plan et des dialogues des PNJ en passant par la capture de mouvements et la génération de voix. Mais certains d'entre eux ont adopté une position intransigeante à l'égard de tout ce qui pourrait supplanter le rôle de l'homme dans la création de jeux. « Nous sommes extrêmement opposés à l'idée que quoi que ce soit de créatif puisse ou doive prendre la place de spécialistes qualifiés, c'est-à-dire nous-mêmes », a déclaré l'année dernière Rebecca Ford, directrice de la création chez Digital Extremes, à la CBC.
En septembre, le PDG d'Epic Games, Tim Sweeney, a réagi aux informations selon lesquelles un jeu alimenté par ChatGPT avait été banni de Steam en accueillant explicitement ce type de jeux sur l'Epic Games Store. « Mettez-les sur Epic Game Store. Nous n'interdisons pas les jeux qui utilisent de nouvelles technologies », a écrit Sweeney sur X/Twitter.
Source : Steam
Et vous ?
Que pensez-vous de la décision de Valve concernant le contenu généré par IA ? Les garde-fous vous semblent-ils suffisant pour endiguer les dérives ? Dans quelle mesure ? De façon plus générale, êtes-vous pour ou contre l'utilisation de l'IA dans la génération d'un jeu ? Si vous êtes pour, en termes de pourcentage, quelle proportion de l'IA devrait être autorisée dans la création d'un jeu ? Ou alors pour quelle(s) partie(s) (générer le scénario, générer les décors, les dialogues des PNJ, s'attaquer à des parties plus importantes du jeu ? Si vous êtes contre, pouvez-vous expliquer pourquoi ?Voir aussi :
Cinq ans après sa bataille ouverte contre Steam, Epic Games Store n'est toujours pas rentable. Epic espérait récolter la moitié de tous les revenus des jeux sur PC en 2021 Valve bannit les jeux avec du contenu généré par IA : une mesure nécessaire ou excessive ? L'éditeur de Steam indique son incertitude sur la façon d'appliquer le droit d'auteur 
Envoyé par wax78
