Les empereurs des applications mobiles sont nus. Apple et Google ont gagné des millions de dollars grâce à des applications d’IA permettant de « déshabiller » des personnes, alors même que les deux entreprises affirment interdire ce type de logiciels sur leurs boutiques, selon une nouvelle étude.
Des chercheurs de l’organisation à but non lucratif Tech Transparency Project ont identifié 55 applications de ce type sur le Play Store de Google et 47 sur l’App Store d’Apple. Au total, ces applications auraient été téléchargées 705 millions de fois et généré 117 millions de dollars de revenus. Le groupe a publié ses conclusions mardi, dans un contexte d’indignation mondiale après que des utilisateurs ont utilisé le bot d’IA Grok d’Elon Musk pour retirer numériquement les vêtements de personnes. Des régulateurs au Royaume-Uni ont même envisagé d’interdire l’application.
« Grok n’est que la partie émergée de l’iceberg », a déclaré Katie Paul, directrice du Tech Transparency Project, au média The Register.
« Les publications avaient lieu sur X, donc le monde entier pouvait les voir. Mais certains de ces autres outils permettent de créer des contenus encore plus explicites, ce qui nous a vraiment poussés à nous pencher sur le problème. »
Réactions de Google et silence d’Apple
Interrogé par The Register, Google a indiqué que son enquête était en cours et qu’il avait déjà supprimé plusieurs applications.
« Lorsque des violations de nos règles nous sont signalées, nous enquêtons et prenons les mesures appropriées », a expliqué un porte-parole de Google par e-mail.
« La plupart des applications mentionnées dans ce rapport ont été suspendues du Google Play Store pour violation de nos politiques. »
Apple, de son côté, n’a pas répondu aux sollicitations du Register. Selon l’enquête, Apple diffusait également des publicités sponsorisées — une autre source de revenus — lorsque les utilisateurs recherchaient des termes qui auraient pourtant dû être interdits par sa politique, a précisé Katie Paul.
« Lorsque vous tapez le mot “nudify” dans l’App Store, selon leurs règles, rien ne devrait apparaître. Or, non seulement Grok apparaît en premier, mais Apple affichait aussi une publicité sponsorisée pour une application de nudification », a-t-elle expliqué.
« Cette application fait partie de celles qui ont été retirées après que nous les avons contactés. Non seulement elle était disponible sur l’App Store, mais Apple gagnait aussi de l’argent en la promouvant via des annonces lorsque les utilisateurs recherchaient le mot “nudify”. »
Des images intimes non consenties, créées en quelques clics
Le Tech Transparency Project a testé les versions gratuites des applications à l’aide d’un modèle féminin généré par IA et habillé, puis a demandé aux applications de rendre la femme totalement ou partiellement nue. Pour les applications de « face-swap », les chercheurs ont vérifié si le visage d’une femme habillée pouvait être superposé sur l’image d’une femme nue. Dans les deux cas, les tests ont réussi, démontrant la facilité avec laquelle des images intimes non consenties peuvent être créées.
Toutes ces applications étaient encore disponibles au 21 janvier. Apple en a toutefois retiré 25 après avoir été contacté par les chercheurs. Google a suspendu plusieurs d’entre elles et a annoncé l’ouverture d’un examen plus large des applications présentes sur sa boutique, selon Katie Paul.
Un problème récurrent dans les boutiques d’applications
Ce nouveau rapport intervient environ un mois après une précédente enquête du Tech Transparency Project, qui révélait que les deux plateformes vendaient des applications développées par des entités sanctionnées par le gouvernement américain en raison de liens avec la guerre en Ukraine et des violations des droits humains en Chine.
Dans ce cas, l’ONG avait identifié 52 applications sur l’App Store d’Apple ayant des liens directs avec des entreprises russes, chinoises ou autres, visées par des sanctions économiques du département du Trésor américain. Chaque application mentionnait un développeur, un vendeur ou un détenteur de droits correspondant à une entité sanctionnée.
Une situation similaire avait été observée sur le Google Play Store, avec 18 applications liées à des organisations sanctionnées par les États-Unis — environ un tiers du nombre trouvé chez Apple.
Après la publication de cette enquête en décembre, Apple et Google ont retiré les applications concernées et publié des offres d’emploi pour des responsables de conformité chargés de vérifier les applications au regard des sanctions.
Des risques majeurs pour les consommateurs et la sécurité
Ce qui inquiète le plus Katie Paul, ce sont les conséquences pour les consommateurs si Apple et Google sont prêts à ignorer ouvertement des lois susceptibles de leur valoir de lourdes sanctions économiques dans leurs pays d’origine.
« Là, il s’agissait de sanctions, donc d’un domaine avec de vraies conséquences juridiques. Imaginez maintenant tous les autres types d’applications nuisibles pour lesquelles il n’y a pas de conséquences légales », explique-t-elle.
« Avec les applications de nudification, nous avons constaté de nombreux problèmes inquiétants sur les deux boutiques. Le plus alarmant, c’est que certaines étaient commercialisées pour des enfants à partir de 9 ans. Elles ne ciblent pas seulement les adultes, mais sont aussi poussées vers les enfants. »
Autre sujet de préoccupation : les lois chinoises sur la protection des données, qui obligent les entreprises à transmettre certaines informations au gouvernement.
« Dans le cas des applications de nudification, cela signifie que ces images nues non consenties de citoyens américains pourraient se retrouver entre les mains du gouvernement chinois », avertit Katie Paul.
« C’est une violation majeure de la vie privée, en plus d’un risque pour la sécurité nationale, surtout si des personnalités politiques sont visées par ce type de contenus et que ceux-ci tombent ensuite entre les mains des autorités chinoises. »
Selon elle, le problème se situe à l’interface entre les règles affichées et leur application réelle. Les politiques interdisent clairement ces applications, mais dans les faits, elles continuent de se multiplier.
« Nous vivons dans un monde où il est impossible de se déconnecter de cette technologie », conclut-elle auprès de The Register.
« Ces entreprises se présentent comme garantes de la sécurité et de la fiabilité de leurs boutiques d’applications. Sur leurs pages destinées aux développeurs, elles affirment disposer de processus de contrôle très stricts — y compris pour les sanctions — mais nous ne voyons pas ces contrôles réellement appliqués. »
En savoir plus sur Gnatepe
Subscribe to get the latest posts sent to your email.
