IA, aïe aïe aïe

L’Intelligence Artificielle s’est développée sans bruit. Ce n’est qu’avec la présentation de ChatGPT en décembre, que le grand public a pu prendre conscience de l’avancée colossale de ces algorithmes ultra-performants. Mais aussi de leurs promesses et de leurs menaces. D’ailleurs, le 2 mai, la sonnette d’alarme a été tirée par un chercheur, et pas n’importe lequel… Geoffrey Hinton lauréat du prix Turing en 2019. C’est l’un des pères fondateurs de l’IA. Il a œuvré à la création d’une technologie à la racine de tous les systèmes d’IA, ChatGPT inclus. Aujourd’hui, il en vient à regretter son invention. Il juge nos perspectives d’avenir sous IA «effrayantes».

Il met en avant le premier danger, qui est déjà visible. Son œuvre peut facilement être transformée en outil de désinformation et mettre en péril la démocratie.  Fake news, opinion manipulé diverses, économie perturbée, artistes spoliés, démocratie menacée… selon un moratoire par une centaine d’experts mondiaux… De plus en plus de gens dénoncent le manque de cadre et de contrôle de l’utilisation de l’IA.

Et la voix dans tout ça

De plus en plus d’entreprises dans le domaine de la voix recourent à l’intelligence artificielle pour réduire les coûts de production des enregistrements. Et parfois au mépris des droits des comédiens, qui s’organisent contre le phénomène.

Enregistrer un livre audio, ça prend du temps et de l’argent. Des coûts de production qui poussent les sociétés à recourir à l’IA vocale, pour des montants bien inférieurs à ce que proposent les maisons d’édition. Basée à Londres, DeepZen est l’une des sociétés en pointe de cette nouvelle industrie. Cette petite entreprise a commencé en concoctant une base vocale, enregistrant les voix de plusieurs acteurs auxquels elle a demandé d’exprimer différents registres d’émotions. Puis, l’IA a permis de cloner les voix, pour leur faire lire à peu près n’importe quel texte.

Pour exploiter cette base, la société a «signé un accord de licence avec toutes les voix» utilisées, explique Taylan Kamis, DG de DeepZen, à l’AFP. «Nous payons pour les enregistrements, […] et nous versons des royalties à chaque fois que nous utilisons la voix pour un projet», précise-t-il. Une précision importante, car certaines plateformes profitent pour le moment d’une «zone grise». Elles créent des voix de synthèses à partir de plusieurs voix réelles sans rien reverser aux auteurs. Elles aspirent les narrations des livres audio disponibles en ligne, puis les mélangent et ensuite construisent une voix de synthèse unique et artificielle élaborée à partir de voix réelles.

Des pratiques dont les sociétés se défendent mais qui inquiètent les comédiens. 

Une fronde qui s’organise

Depuis, le monde des voix hausse le ton. Ainsi, fin mai, professionnels, associations et syndicats de l’UE se sont unis au sein d’une même structure, United Voice Artists (UVA). Ils ont signé un manifeste mondial et interpellé les pouvoirs publics sur «les risques que font courir les IA génératives sur nos métiers».

Dans le sillage de l’IA Act, voté le 14 juin par le Parlement européen, l’heure est surtout à la mobilisation pour établir une législation claire. Les demandes de l’UVA, dans son manifeste, se déclinent en trois points majeurs. Tout d’abord la traçabilité (chaque produit généré par l’IA doit être signalé comme tel), ensuite la transparence (rémunérer les données humaines soumises à des droits et des autorisations) et enfin la mise en place de quota.

Aux USA, à Hollywood, les acteurs viennent de se mettre en grève. Parmi leurs revendications les dérives et dangers de l’IA pour leur profession. Ils réclament des garanties contre le clonage de leur voix et de leur image sans consentement.

Dans le monde actuel, impossible de faire sans IA. Mais quelque soit le domaine dans lequel elle est utilisée, il devient urgent qu’elle soit surveillée, contrôlée et règlementée.

Source : liberation.fr
Intégralité de l’article à retrouver sur le site