L'été dernier, Valve a déclaré qu'elle s'inquiétait des problèmes juridiques potentiels liés aux jeux réalisés avec l'aide de modèles d'IA formés sur des œuvres protégées par le droit d'auteur et qu'elle « réfléchissait à la manière d'intégrer [l'IA] dans nos politiques d'évaluation déjà existantes ». Après des mois d'enquête, la société derrière la plateforme de distribution de jeux en ligne Steam a partagé ses conclusions en annonçant un nouvel ensemble de règles pour les développeurs qui, selon elle, « nous permettra de publier la grande majorité des jeux qui utilisent [des outils d'IA] ».Tout a commencé l'année dernière par les propos d'un développeur qui a affirmé que Valve a rejeté sa soumission de jeu sur Steam en raison de la présence d’assets artistiques générés par l’IA qui semblaient s’appuyer sur du matériel protégé par le droit d’auteur appartenant à des tiers. Valve a expliqué que la propriété légale de ces assets générés par l’IA était incertaine, et qu’il fallait que le développeur confirme qu’il possède les droits sur tout le contenu utilisé dans le jeu, y compris celui utilisé dans le jeu de données qui a entraîné l’IA à créer les assets.
Répondant au pseudonyme Potterharry97, il avait initialement publié un article sur le rejet en mai où il a admis « qu'une grande partie des actifs ont une certaine implication de l'IA dans sa création » grâce à l'utilisation de Stable Diffusion. Dans un article de suivi publié fin juin, il a expliqué que la soumission initiale était conçue comme une première version d'espace réservé, « avec 2-3 actifs/sprites qui étaient évidemment générés par l'IA ».
Cette utilisation « évidente » de l'IA a apparemment déclenché une sonnette d'alarme chez un modérateur de Valve, qui aurait répondu que Valve avait « identifié la propriété intellectuelle... qui semble appartenir à un ou plusieurs tiers. En particulier, [Nom du jeu ici] contient des actifs artistiques générés par l'intelligence artificielle qui semblent s'appuyer sur du matériel protégé par des droits d'auteur appartenant à des tiers ».
« Comme la propriété légale de ces œuvres générées par l'IA n'est pas claire, nous ne pouvons pas distribuer votre jeu tant qu'il contient ces actifs générés par l'IA », a-t-il indiqué dans la suite de son message, « à moins que vous ne puissiez confirmer de manière affirmative que vous possédez les droits sur toutes les propriétés intellectuelles utilisées dans l'ensemble de données qui a entraîné l'IA à créer les éléments de votre jeu ».
Potterharry97 a à nouveau soumis le jeu avec quelques modifications artistiques pour supprimer « tout signe évident d'IA ». Mais le développeur a déclaré que la réponse de Valve indiquait « qu'après [avoir pris] notre temps pour mieux comprendre la technologie d'IA utilisée pour créer [le jeu] », Valve « refusait toujours de distribuer [le jeu], car il n'est pas clair si la technologie d'IA sous-jacente utilisée pour créer les actifs dispose de droits suffisants sur les données de formation ».
« Je ne savais même pas que l'art de l'IA n'était pas autorisé, car j'en avais entendu parler, et j'ai même vu moi-même quelques exemples assez évidents », a écrit potterharry97 dans le fil de commentaires sous le message initial.
Dans une déclaration en réaction à cette affirmation, la représentante de Valve PR, Kaci Boyle, a déclaré que l'objectif de l'entreprise n'était « pas de décourager l'utilisation [de l'IA] sur Steam ; au lieu de cela, nous cherchons à l'intégrer dans nos politiques d'examen déjà existantes. » Elle a poursuivi en disant que le processus d'examen actuel de l'entreprise tient compte de la loi actuelle sur le droit d'auteur et que « bien que les développeurs puissent utiliser ces technologies d'IA dans leur travail... ils ne peuvent pas enfreindre les droits d'auteur existants »
Le contenu généré par IA signe son retour sur Steam, mais sous certaines conditions
Les développeurs qui utilisent des outils d'IA « dans le développement [ou] l'exécution de leur jeu" seront désormais autorisés à mettre leurs jeux sur Steam, à condition qu'ils divulguent cette utilisation dans l'enquête de contenu standard lors de la soumission à Steam. Cette intégration de l'IA sera divisée en deux catégories : le contenu "pré-généré" qui est "créé avec l'aide d'outils d'IA pendant le développement" (par exemple, l'utilisation de DALL-E pour les images du jeu) et le contenu "généré en direct" qui est "créé avec l'aide d'outils d'IA pendant l'exécution du jeu" (par exemple, l'utilisation de la technologie NPC de Nvidia alimentée par l'IA).
Ces informations seront communiquées sur les pages du Steam Store pour ces jeux, ce qui devrait aider les joueurs qui souhaitent éviter certains types de contenu IA. Mais ces informations ne seront pas suffisantes pour les jeux qui utilisent une IA générée en direct pour un "contenu sexuel réservé aux adultes", que Valve déclare "ne pas être en mesure de publier... pour le moment".
Mettre en place des garde-fous
En ce qui concerne le contenu pré-généré par l'IA, Valve prévient que les développeurs doivent encore s'assurer que leurs jeux "n'incluront pas de contenu illégal ou de contrefaçon". Mais cette promesse ne s'applique qu'au "contenu généré par l'IA" et n'aborde pas le statut du droit d'auteur du contenu utilisé par les modèles d'apprentissage eux-mêmes. Le statut de ces modèles d'entraînement était une préoccupation majeure de Valve l'été dernier, lorsque l'entreprise a évoqué "l'incertitude juridique liée aux données utilisées pour entraîner les modèles d'IA", mais ces préoccupations ne méritent même pas d'être mentionnées dans les nouvelles règles d'aujourd'hui.
Pour le contenu généré en direct, en revanche, Valve demande aux développeurs "de nous dire quel type de garde-fou vous mettez sur votre IA pour vous assurer qu'elle ne génère pas de contenu illégal". Ces garde-fous devraient permettre d'éviter des situations comme celle d'AI Dungeon, qui, en 2021, a suscité la controverse pour avoir utilisé un modèle OpenAI susceptible de générer du contenu sexuel mettant en scène des enfants dans le jeu. Valve indique qu'une nouvelle "surcouche dans le jeu" permettra aux joueurs de soumettre des rapports s'ils rencontrent ce type de contenu inapproprié généré par l'IA dans les jeux Steam.
La déclaration de Valve
En juin dernier, nous vous avions communiqué que même si notre objectif restait de proposer le plus de jeux possible sur Steam, nous avions besoin de temps pour en savoir plus sur l'évolution rapide et juridiquement opaque de la technologie de l'IA, en particulier compte tenu de la portée mondiale de Steam.
Aujourd'hui, après avoir passé les derniers mois à en apprendre davantage sur cet outil et à discuter avec des équipes de développement, nous apportons des changements dans notre façon de considérer les titres qui utilisent l'IA. La grande majorité de ces jeux pourra ainsi être publiée sur la plateforme.
Tout d'abord, nous avons mis à jour le questionnaire sur le contenu que les équipes de développement remplissent lorsqu'elles soumettent un jeu pour évaluation sur Steam. Ce questionnaire inclut désormais une nouvelle section relative à la divulgation d'utilisation de l'IA, dans laquelle vous devrez décrire comment l'IA est utilisée dans le développement et l'exécution de votre titre. Cette utilisation y est divisée en deux grandes catégories.
- Contenu prégénéré : tout type de contenu (images, code, sons, etc.) créé à l'aide de l'IA pendant le développement. Conformément à l'accord de distribution Steam, vous vous engagez à ce que votre jeu n'inclue pas de contenu illégal ou contrevenant aux droits d'autrui, et que celui-ci soit en accord avec vos ressources marketing. Lors du processus d'évaluation, nous évaluerons le contenu de votre jeu généré par l'IA de la même manière que le contenu non généré par l'IA. Nous vérifierons également que votre jeu tient ses engagements.
- Contenu généré en direct : tout type de contenu créé à l'aide de l'IA pendant que le jeu est en cours d'exécution. En plus de respecter les règles précédemment énoncées pour le contenu prégénéré, vous devrez indiquer les garde-fous mis en place afin qu'aucun contenu illégal ne soit généré par l'IA.
Valve utilisera ces informations dans le cadre de l'évaluation de votre jeu avant sa sortie. Une grande partie sera également publiée sur la page du magasin Steam de votre titre, afin que votre clientèle puisse également comprendre comment le jeu utilise l'IA.
De plus, un nouveau système a été mis en place sur Steam : il permet de signaler tout contenu illégal au sein d'applications incluant du contenu généré en direct par l'IA. Grâce à l'overlay en jeu, les joueurs et joueuses peuvent facilement envoyer un signalement dès la découverte d'un contenu qui, à leur avis, aurait dû être détecté par les garde-fous en place lors de la génération de l'IA.
Les modifications apportées aujourd'hui sont le fruit...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par wax78
