Une coalition de plus de 300 experts en technologie, en IA et en éthique numérique dans le monde entier plaide pour une intervention gouvernementale pour lutter contre les deepfakes, invoquant des inquiétudes quant à leur impact sociétal.
Plus de 300 experts dans les domaines de la technologie, de l’intelligence artificielle (IA), de l’éthique numérique et de la sécurité des enfants du monde entier se sont réunis pour signer une lettre ouverte exhortant les gouvernements à prendre des « mesures immédiates » pour lutter contre les deepfakes.
La lettre, publiée le 21 février et intitulée « Perturber la chaîne d’approvisionnement des deepfakes », exhorte les gouvernements, les décideurs politiques et les dirigeants politiques à « imposer des obligations » dans la chaîne d’approvisionnement pour mettre fin à la prolifération des deepfakes.
Il présente trois lignes d’action principales, la première étant de criminaliser pleinement la pornographie juvénile deepfake – même avec des enfants fictifs.
Il demande également des sanctions pénales à l’encontre de quiconque « crée ou facilite sciemment la propagation de deepfakes nuisibles », ainsi que des exigences pour les développeurs et les distributeurs de logiciels afin qu’ils garantissent que leurs produits médiatiques ne créent pas de deepfakes nuisibles et des sanctions si leurs mesures ne sont pas conformes aux normes. .
Les signataires de la lettre comprennent l’homme politique américain et partisan de la cryptographie Andrew Yang, le psychologue cognitif Steven Pinker, deux anciens présidents estoniens et des centaines d’autres intellectuels de pays tels que les États-Unis, le Canada, le Royaume-Uni, l’Australie, le Japon et la Chine.
Andrew Critch, chercheur en IA à l’Université de Californie à Berkeley au Département de génie électrique et d’informatique et auteur principal de la lettre, a déclaré :
« Les deepfakes constituent une menace énorme pour la société humaine et causent déjà des dommages croissants aux individus, aux communautés et au fonctionnement de la démocratie. »
Il a déclaré que lui et ses collègues avaient créé la lettre afin que le public mondial puisse montrer son soutien aux efforts législatifs visant à mettre fin aux deepfakes par une « action immédiate ».
Joy Buolamwini, fondatrice de l’Algorithmic Justice League et auteur de Unmasking AI, a déclaré que le besoin de « droits biométriques » est devenu « de plus en plus évident ».
« Même si personne n’est à l’abri des abus algorithmiques, ceux qui sont déjà marginalisés dans la société portent un fardeau encore plus lourd. 98 % des deepfakes non consensuels concernent des femmes et des filles. C’est pourquoi il nous appartient à tous de dénoncer les utilisations néfastes de l’IA.»
Elle a déclaré qu’il devait y avoir « des conséquences graves en cas d’abus flagrants de l’IA ».
Parmi les autres organisations impliquées dans la création et la diffusion de la lettre figurent le Machine Intelligence and Normative Theory Lab et le Center for AI Safety.
Aux États-Unis, la législation actuelle ne cible pas suffisamment et n’interdit pas la production et la diffusion de deepfakes. Toutefois, les événements récents ont incité les régulateurs à agir plus rapidement.
En réponse à une vague de deepfakes viraux impliquant la chanteuse pop Taylor Swift qui a inondé les plateformes de médias sociaux, les législateurs américains ont commencé à réclamer une législation d’action rapide pour criminaliser la production d’images deepfake.
Quelques jours plus tard, les États-Unis ont interdit les voix générées par l’IA utilisées dans les appels automatisés frauduleux après la circulation d’un deepfake utilisant l’effigie du président Joe Biden. Le 16 février, la Federal Trade Commission des États-Unis a proposé de mettre à jour les réglementations interdisant l’usurpation d’identité d’entreprises ou d’agences gouvernementales par l’IA à des fins de protection des consommateurs.