Dans une lettre obtenue en exclusivité, Apple a expliqué aux sénateurs américains comment il travaillait en coulisses pour faire face à l'augmentation virale des deepfakes à caractère sexuel produits par Grok au début de cette année. Voici les détails.

Apple a travaillé en coulisses pour aborder la controverse autour de Grok

Au début de cette année, après que les utilisateurs ont découvert que le chatbot pouvait facilement répondre aux demandes de forcer les gens dans les photos, en particulier les femmes, à se déshabiller, Apple a été soumis à une forte pression pour retirer Grok et l'application X de l'App Store.

Apple est resté largement silencieux pendant la controverse, mais selon un rapport de NBC News, la société a déterminé en coulisses que "X et Grok violaient les règles" et a "menacé secrètement de retirer Grok de l'App Store."

Le rapport poursuit en indiquant qu'Apple a "contacté les équipes de X et Grok après avoir reçu des plaintes concernant le scandale et après avoir vu les nouvelles" et a "demandé aux développeurs d'applications de créer un plan pour améliorer la modération du contenu."

En réponse, X a soumis une mise à jour de l'application Grok pour examen, mais a été rejetée car "les modifications n'étaient pas suffisantes." La société d'Elon Musk a ensuite proposé des versions révisées des applications X et Grok, dont une seule a été acceptée.

Selon la lettre d'Apple, NBC News :

"Apple a examiné les demandes ultérieures des développeurs et a déterminé que X avait résolu de manière significative ses violations, mais l'application Grok continuait de rester non conforme. En conséquence, nous avons rejeté la demande de Grok et avons informé le développeur que des modifications supplémentaires seraient nécessaires pour corriger la violation, sinon l'application pourrait être retirée de l'App Store. […] Après des interactions et modifications supplémentaires du développeur de Grok, nous avons déterminé que Grok s'était considérablement amélioré et avons donc approuvé sa dernière demande."

Ces détails n'avaient pas été rendus publics jusqu'à présent, mais ils aident à expliquer les changements complexes de modération annoncés par xAI à un moment où les retours atteignaient un pic. Ces changements incluaient des restrictions sur qui pouvait utiliser les outils d'image de Grok et des limitations concernant les modifications impliquant des photos de vraies personnes.

Cependant, dans un rapport séparé publié aujourd'hui, NBC News souligne que Grok "continue de produire des images à caractère sexuel sans le consentement des personnes" et documente des dizaines d'exemples de telles situations au cours du dernier mois.

Le rapport note que le volume des images a considérablement diminué depuis janvier, mais qu'un groupe d'utilisateurs a réussi à contourner les restrictions pour habiller les femmes "dans des vêtements plus révélateurs, comme des serviettes, des soutiens-gorge de sport, des costumes de Spider-Woman ajustés ou des costumes de lapin."

Pour lire le rapport payant de la lettre qu'Apple a envoyée aux sénateurs américains, cliquez ici. Pour lire le rapport sur les problèmes persistants de Grok concernant les deepfakes à caractère sexuel, cliquez ici.

Produits à vérifier sur Amazon

  • David Pogue – 'Apple : Les 50 premières années'
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2ème génération) – Pack de 4
  • Apple Watch Series 11
  • Adaptateur CarPlay sans fil