Meta a retiré une fonctionnalité controversée qui permettait aux utilisateurs de modifier des photos de comptes Instagram publics à l’aide de l’IA. La fonctionnalité, déployée plus tôt cette semaine aux côtés d’autres outils d’IA, « n’a pas atteint sa cible » et n’est plus disponible, selon l’entreprise.
La fonctionnalité
Plus tôt cette semaine, Meta a annoncé Muse Image, un nouveau générateur d’images par IA développé par Meta Superintelligence Labs. L’une des fonctionnalités permettait aux utilisateurs de générer des images en mentionnant avec @ les comptes Instagram publics qu’ils souhaitaient utiliser comme référence. La fonctionnalité n’était pas conçue pour alerter les utilisateurs lorsque leurs photos étaient utilisées de cette manière, ce qui a provoqué une réaction immédiate.
La levée de boucliers
TechCrunch a publié son propre guide sur la manière de désactiver cette fonctionnalité. Les préoccupations portaient sur la vie privée et le risque d’utilisation malveillante, en particulier pour générer des images non consenties.
Meta fait marche arrière
Dans un article de blog publié vendredi, Meta a annoncé le retrait de la fonctionnalité. Dylan Byers, partenaire fondateur de Puck News, a été le premier à partager cette décision.
« Notre intention était de fournir un outil créatif utile et de donner aux utilisateurs le contrôle sur la manière dont leur contenu public pouvait être référencé de cette façon », a écrit l’entreprise. « Nous avons entendu les retours selon lesquels cette fonctionnalité n’a pas atteint sa cible, elle n’est donc plus disponible. »
Un schéma récurrent d’utilisation abusive de l’IA
Depuis l’intégration de l’IA dans les réseaux sociaux, la technologie a fréquemment été détournée – souvent pour générer des images non consenties de célébrités féminines dénudées. Les plateformes ont tenté d’y remédier, mais les garde-fous se sont souvent révélés insuffisants.
Byers note que la décision de supprimer la fonctionnalité est intervenue « face aux critiques des utilisateurs et des agences de talents, dont la CAA ».
