Alexa a une nouvelle voix - celle de votre parent décédé

Alexa a une nouvelle voix – celle de votre parent décédé

Espace réservé pendant le chargement des actions d’article

Appuyé au sommet d’un chevet table lors du sommet technologique Amazon de cette semaine, un Echo Dot a été invité à effectuer une tâche: “Alexa, grand-mère peut-elle finir de me lire ‘Le Magicien d’Oz’?”

La voix généralement joyeuse d’Alexa a explosé depuis le haut-parleur intelligent sur le thème des enfants avec un design de panda : “D’accord !” Puis, alors que l’appareil commençait à raconter une scène du Lion lâche implorant du courage, le twang robotique d’Alexa a été remplacé par un narrateur à consonance plus humaine.

“Au lieu de la voix d’Alexa lisant le livre, c’est la voix de la grand-mère de l’enfant”, a expliqué mercredi avec enthousiasme Rohit Prasad, vice-président senior et scientifique en chef de l’intelligence artificielle Alexa, lors d’un discours liminaire à Las Vegas. (Le fondateur d’Amazon, Jeff Bezos, est propriétaire du Washington Post.)

La démo était le premier aperçu de la nouvelle fonctionnalité d’Alexa, qui, bien qu’encore en développement, permettrait à l’assistant vocal de reproduire la voix des personnes à partir de courts clips audio. L’objectif, a déclaré Prasad, est d’établir une plus grande confiance avec les utilisateurs en insufflant à l’intelligence artificielle les “attributs humains de l’empathie et de l’affect”.

La nouvelle fonctionnalité pourrait “rendre [loved ones’] les souvenirs durent », a déclaré Prasad. Mais si la perspective d’entendre la voix d’un parent décédé peut toucher le cœur, elle soulève également une myriade de problèmes de sécurité et d’éthique, ont déclaré des experts.

“Je ne pense pas que notre monde soit prêt pour une technologie de clonage de voix conviviale”, a déclaré Rachel Tobac, directrice générale de SocialProof Security, basée à San Francisco, au Washington Post. Une telle technologie, a-t-elle ajouté, pourrait être utilisée pour manipuler le public à travers de faux clips audio ou vidéo.

“Si un cybercriminel peut reproduire facilement et de manière crédible la voix d’une autre personne avec un petit échantillon de voix, il peut utiliser cet échantillon de voix pour se faire passer pour d’autres personnes”, a ajouté Tobac, un expert en cybersécurité. “Ce mauvais acteur peut alors faire croire aux autres qu’il est la personne qu’il se fait passer, ce qui peut entraîner une fraude, une perte de données, une prise de contrôle de compte, etc.”

Ensuite, il y a le risque de brouiller les frontières entre ce qui est humain et ce qui est mécanique, a déclaré Tama Leaver, professeur d’études Internet à l’Université Curtin en Australie.

“Vous ne vous souviendrez pas que vous parlez aux profondeurs d’Amazon … et de ses services de collecte de données s’il parle avec votre grand-mère ou la voix de votre grand-père ou celle d’un être cher perdu.”

“À certains égards, c’est comme un épisode de” Black Mirror “”, a déclaré Leaver, faisant référence à la série de science-fiction envisageant un avenir sur le thème de la technologie.

L’ingénieur de Google qui pense que l’IA de l’entreprise a pris vie

La nouvelle fonctionnalité Alexa soulève également des questions sur le consentement, a ajouté Leaver – en particulier pour les personnes qui n’auraient jamais imaginé que leur voix serait entendue par un assistant personnel robotique après leur mort.

“Il y a une vraie pente glissante à utiliser les données des personnes décédées d’une manière qui est à la fois effrayante d’une part, mais profondément contraire à l’éthique d’autre part parce qu’ils n’ont jamais envisagé que ces traces soient utilisées de cette manière”, a déclaré Leaver.

Ayant récemment perdu son grand-père, Leaver a déclaré qu’il comprenait la “tentation” de vouloir entendre la voix d’un être cher. Mais la possibilité ouvre une écluse d’implications que la société pourrait ne pas être prête à assumer, a-t-il dit – par exemple, qui a les droits sur les petits extraits que les gens laissent dans les éthers du World Wide Web ?

« Si mon grand-père m’avait envoyé 100 messages, aurais-je le droit d’introduire cela dans le système ? Et si je le fais, à qui appartient-il ? Amazon possède-t-il alors cet enregistrement ? » Il a demandé. « Ai-je renoncé aux droits sur la voix de mon grand-père ?

Prasad n’a pas abordé ces détails lors du discours de mercredi. Il a cependant postulé que la capacité à imiter les voix était le produit de “vivre incontestablement à l’âge d’or de l’IA, où nos rêves et la science-fiction deviennent une réalité”.

Ce modèle d’IA tente de recréer l’esprit de Ruth Bader Ginsburg

Si la démo d’Amazon devenait une véritable fonctionnalité, Leaver a déclaré que les gens pourraient devoir commencer à réfléchir à la façon dont leur voix et leur ressemblance pourraient être utilisées à leur mort.

« Dois-je penser dans mon testament que je dois dire : ‘Ma voix et mon histoire picturale sur les réseaux sociaux sont la propriété de mes enfants, et ils peuvent décider s’ils veulent réanimer cela en discutant avec moi ou non ? ‘ » s’est demandé Leaver.

« C’est une chose bizarre à dire maintenant. Mais c’est probablement une question à laquelle nous devrions avoir une réponse avant qu’Alexa ne commence à parler comme moi demain », a-t-il ajouté.

#Alexa #une #nouvelle #voix #celle #votre #parent #décédé

Leave a Comment

Your email address will not be published.