Logo HARRIS MEDIA (2023) 50Logo HARRIS MEDIA (2023) 50Logo HARRIS MEDIA (2023) 50Logo HARRIS MEDIA (2023) 50
  • L’AGENCE
    • AGENCE PODCAST
  • EXPERTISES
    • PODCAST DE MARQUE
    • RADIO D’ENTREPRISE
    • SON BINAURAL 360°
  • CHIFFRES DU PODCAST
  • VOIX VIP
  • VOIX IA
  • RÉFÉRENCES
    • Liste Marques Clientes
    • UROCAST
    • CAISSE DES DÉPÔTS
    • IMAGINE 2030 par ENGIE
  • Mentions Légales
  • Politique de confidentialité
Contact
✕

Une IA clône les voix d’Emma Watson et de Rick Sánchez pour envoyer des messages racistes et transphobes.

Comme le disait l’oncle Ben, un grand pouvoir implique de grandes responsabilités, mais parfois ce pouvoir est utilisé par des personnes malveillantes ou carrément mauvaises.
L’un d’entre eux est un logiciel vocal, développé pour « les créateurs et les éditeurs qui recherchent les meilleurs outils pour raconter des histoires » et qui permet de prendre une vraie voix pour qu’elle lise des textes, comme s’ils étaient dits par des humains…

Une IA vocale clone la voix de Emma Watson pour envoyer des messages racistes

Les débuts des dérives du clonage vocal par IA ?

Des anciens employés de Google et de Palantir ont révélé lundi avoir découvert un grand nombre d’abus dans l’utilisation du clonage vocal lors de leur phase bêta récemment lancée. Bien qu’ils n’aient pas précisé les exemples, selon Motherboard, ces abus pourraient inclure ceux trouvés sur 4chan où plusieurs utilisateurs ont utilisé le logiciel pour générer des voix similaires à celles de célébrités et publier des commentaires toxiques, incluant des messages racistes.

Parmi les messages falsifiés avec des voix de célébrités, il y en a un qui imite celui de l’actrice Emma Watson, lisant une partie du livre Mein Kampf de Hitler, ainsi qu’un autre avec la voix de Rick Sanchez de Rick & Morty disant :

« Je vais frapper ma femme Morty. Je vais battre ma salope de femme Morty. Je vais la tuer Morty« , faisant référence aux allégations de violence domestique auxquelles est confronté Justin Roiland, l’interprète du personnage.

L’éditeur de ce logiciel de clonage de voix n’a pas souhaité faire de commentaires sur cette affaire.
La seule déclaration publique s’est faite sur Twitter, où on a affirmé que, même si l’utilisateur peut être identifié pour tout audio généré, l’éditeur préfère résoudre le problème en mettant en place des mesures de sécurité supplémentaires.

Et VOTRE MARQUE ? Quand passe-t-elle à l’action ?

Envie de nous parler de VOTRE FUTUR PROJET ?

UN CONSEIL ? UN CAFÉ ?

Contactez-nous

HARRIS MEDIA
Podcast de Marque
Radio d'Entreprise
Son Binaural Immersif
Voix Off & IA

  • Mentions Légales
  • Politique de confidentialité
Copyright © 1989-2023 HARRIS MEDIA - Podcast de Marque en Son Binaural Immersif. Tous Droits Réservés sous Copyright © #00053238-1

    VOTRE NOM (obligatoire)

    VOTRE EMAIL PRO (obligatoire) (nom@votredomaine.xx)
    IMPORTANT ! Nous ne donnerons aucune suite aux emails gratuites provenant de services tels que Gmail, Hotmail, etc...

    VOTRE TÉLÉPHONE (obligatoire)

    QUEL EST LE BUT DE VOTRE MESSAGE ? (obligatoire)

    Expliquez-nous brièvement votre projet...

    Bonjour ✋

    Nous aidons votre marque à mieux communiquer grâce à des contenus audio et vidéo réalisés sur mesure et à forte valeur ajoutée.

    Commencer une conversation

    Cliquez ici pour discuter avec moi !

    Recherchez notre site web maintenant

    Latest Posts

    Clonage Vocal: Une Technologie à Double Tranchant ?

    23/03/2023

    Clonage Vocal:Une Technologie à Double Tranchant ? Introduction Le clonage vocal est une technologie d’imitation qui permet à un utilisateur de recréer virtuellement la voix d’un orateur. On estime que […]

    Alain-Dorval-(ID)

    Alain DORVAL

    01/01/2015

    Alain DORVALLa voix légendaire deSylvester STALLONEmais aussi de NICK NOLTE. Alain Dorval est une légende vivante du doublage français. Alain Dorval est aussi la voix de Pat Hibulaire de DISNEYet […]

    Emmanuel-Curtil-(ID)

    Emmanuel CURTIL

    Emmanuel CURTILvoix française de Jim Carrey, The Mask, Le Roi Lion Emmanuel Curtil n’est pas un humain,c’est un ovni, une mitraillette-vocale ! Emmanuel Curtil est de loin le plus POLYVALENT de […]

    Richard-Darbois-(ID)

    Richard DARBOIS

    Richard DARBOISLa légendaire voix de Harrison Ford, Danny Glover, NRJ, NRJ 12. Richard Darbois est assurément la voix la plus « prestigieuse » de France. Richard Darbois est parfait pour du branding haut […]

    patrick poivey

    Patrick POIVEY

    Patrick POIVEY (Bruce Willis, Rire & Chanson, etc…) était assurément LA voix qui bénéficiait auprès du public du plus haut capital-sympathie ! La voix française du mythique Bruce Willis au service […]

    Détailler un projet
    FAQ
    À Bientôt !
    X
    Bienvenue chez
    Puis-je vous aider ?
    ×