Un nouveau projet de loi du conseil municipal criminaliserait l’utilisation abusive de l’intelligence artificielle et d’autres technologies pour influencer les élections locales, a appris The Post.
Les vidéos, courriers, enregistrements audio et autres matériels de campagne « intentionnellement manipulés pour décrire le discours ou la conduite d'un candidat » qui n'ont jamais eu lieu seraient interdits en vertu du projet de loi de la conseillère Julie Menin, qui devrait être présenté mercredi.
L'interdiction s'appliquerait à toute élection de maire, d'avocat public, de contrôleur, de président d'arrondissement et de conseil municipal à New York.
Il couvre l'utilisation abusive de la technologie au cours des 60 derniers jours précédant chaque élection, période pendant laquelle la plupart des publicités sont diffusées et les électeurs prêtent plus d'attention aux courses.
Les contrevenants s’exposeraient à un an de prison et à une amende de 2 500 $.
Menin (Démocrate de Manhattan) a déclaré au Post qu'elle souhaitait interdire l'utilisation abusive de l'IA dans la politique de Big Apple avant que cela ne devienne un problème comme dans d'autres parties du monde.
« Les images et vidéos générées par l’IA ont proliféré, suscitant de vives inquiétudes quant à leur utilisation dans les campagnes politiques », a-t-elle déclaré. « Les images trompeuses érodent l’éducation aux médias et peuvent avoir un impact négatif sur notre processus électoral. »
Une telle manipulation du matériel électoral « ne sera pas tolérée et doit être interdite », a-t-elle ajouté.
Certains États – dont la Californie, le Minnesota, le Texas et Washington – ont déjà mis en place des lois criminalisant le partage et la création de contenu « deepfake » pour influencer les élections, ou la manipulation numérique d’images sexuelles d’autrui.
Il n’existe pas de lois de ce type au niveau national protégeant les campagnes contre les abus de l’IA.
En décembre, Menin a présenté une résolution non contraignante exigeant que la Commission électorale fédérale interdise aux candidats politiques de « utiliser une intelligence artificielle trompeuse » pour influencer les électeurs.
Les publicités politiques utilisant des outils d’IA comme ChatGPT et DALL-E ont déjà saturé les campagnes électorales à l’échelle nationale et mondiale – y compris de fausses images du candidat républicain à la présidentielle Donald Trump résistant à son arrestation et de sa femme Melania criant après la police.
Jusqu’à présent, l’exemple le plus tristement célèbre d’abus de l’IA dans la politique de New York est un faux enregistrement chargé de jurons publié en ligne le mois dernier du patron démocrate de Manhattan, Keith Wright, dénigrant la députée de l’État Inez Dickens (Démocrate de Manhattan).
« Elle a fini », dit la version IA du leader démocrate dans un audio choquant. «J'ai creusé sa tombe et elle s'y est roulée. F-k cette salope. Paresseux. Incompétent. »
Le clip a commencé à circuler quelques jours seulement après que le fils de Wright, Jordan, a annoncé qu'il faisait une offre pour le siège de Dickens représentant Harlem.
Wright a déclaré qu'il était furieux de l'enregistrement « deepfake ».
Il n'existe aucun exemple connu d'utilisation de l'intelligence artificielle dans les courses à New York pour manipuler les électeurs.
Mais en décembre, la conseillère municipale nouvellement élue Susan Zhuang (Démocrate de Brooklyn) a admis avoir soumis des réponses générées par l'IA pour une interview de questions-réponses avec le média City & State après avoir été dénoncée par The Post.
