Apple renforce les règles contre les deepfakes et la nudification

Lire en : English · Français · Deutsch · Español

Apple serre la vis sur ce qui peut apparaître dans l’App Store. La société a annoncé de nouvelles règles de modération qui ciblent explicitement le contenu généré par l’IA, les images non consenties et les applications qui dissimulent leur véritable fonction derrière des fonctionnalités trompeuses. Concrètement : les apps qui génèrent des deepfakes nus ou sexualisés, ou qui ajoutent une capacité nocive après la revue, risquent d’être retirées et leurs comptes développeurs éventuellement fermés.

Les changements portent sur une mise à jour des guidelines qui identifient désormais la création de contenu par IA comme un domaine délicat pour les revues d’apps. L’objectif, selon Apple, est de limiter le contenu susceptible de nuire à des personnes réelles et de s’assurer que les utilisateurs comprennent ce que fait une app avant de l’installer. L’entreprise précise qu’elle retirera des apps et mettra fin à des comptes développeurs qui n’agissent pas lorsqu’un problème est identifié.

Parmi les ajouts notables figure une mise à jour décrivant les défis liés au contenu généré par les utilisateurs, notamment les questions d’images intimes non consenties et les préoccupations relatives à la propriété intellectuelle. Si Apple interdit depuis longtemps le contenu sexuellement explicite, cette mise à jour pousse vers des garde-fous proactifs contre les outils d’IA capables de générer de telles images sans consentement.

Apple a également durci sa position sur les fonctionnalités cachées avec une nouvelle règle exigeant que les apps soient transparentes sur leur fonctionnement ; les développeurs qui dissimulent des fonctionnalités ou utilisent l’obfuscation pour masquer des capacités s’exposent au retrait de l’App Store et à la perte d’accès au Developer Program.

Au-delà du contenu et des fonctionnalités cachées, Apple a élargi son langage anti-exploitation dans la section légale. Les règles indiquent désormais que les apps qui facilitent la traite des êtres humains ou l’exploitation d’enfants seront retirées entièrement de la distribution. Cela reflète une volonté plus large de s’attaquer aux pires abus dans les écosystèmes de logiciels mobiles.

Concrètement, cela signifie que les développeurs doivent s’attendre à un examen plus poussé de toute app qui utilise l’IA pour générer des images ou qui pourrait être détournée pour produire du contenu nuisible. Cela indique aussi que des apps apparemment inoffensives doivent veiller à ne pas dissimuler ni maquiller leurs véritables capacités lors de la revue.

Il n’y a pas de spectacle grandiose ici, mais l’évolution compte si vous téléchargez beaucoup d’apps depuis l’App Store. Elle élève le niveau de ce qui est autorisé et clarifie ce qui peut entraîner la disparition d’une app des écrans d’accueil d’iPhone et d’iPad.