Le maire de New York utilise l’IA pour faire des appels automatisés dans des langues qu’il ne parle pas

Le maire de New York, Eric Adams, a fait l’objet de critiques pour avoir utilisé l’intelligence artificielle pour faire des appels automatisés aux habitants dans des langues qu’il ne parle pas.

Adams utilise l’IA pour des appels automatisés dans des langues qu’il ne parle pas

Adams a déclaré que les appels, qui visaient principalement à promouvoir la location de salles et de concerts, étaient un moyen d’atteindre les résidents qui parlent des langues autres que l’anglais.

Cependant, des critiques ont fait valoir que les appels sont trompeurs et que Adams devrait être transparent sur le fait qu’ils sont générés par l’IA.

« C’est profondément contraire à l’éthique, surtout aux frais des contribuables », a déclaré Albert Fox Cahn, directeur exécutif du Surveillance Technology Oversight Project (STOP). « Utiliser l’IA pour convaincre les New-Yorkais qu’il parle des langues qu’il ne parle pas est profondément orwellien. »

Les appels automatisés ont été réalisés par une société appelée Phone2Action, qui utilise l’IA pour générer des voix qui ressemblent à celles de vraies personnes.

L’appel automatisé en espagnol du maire Adams est particulièrement troublant, car il est difficile de le distinguer de sa voix réelle.

« Le maire se fait complètement faux », a déclaré Cahn. « Oui, nous avons besoin d’annonces dans toutes les langues maternelles des New-Yorkais, mais les deep fakes ne sont qu’un projet vaniteux effrayant. »

Adams a défendu ses appels automatisés, affirmant qu’ils étaient un moyen de toucher les résidents qui parlent des langues autres que l’anglais.

« Est-ce éthiquement juste ou faux ? J’ai une chose, je dois diriger une ville et je dois être capable de parler aux gens dans les langues qu’ils comprennent », a-t-il déclaré.

La Ville a mis en ligne l’appel automatisé du maire en espagnol sur YouTube pour tous ceux qui souhaitent l’écouter.

Ce que vous devez savoir

• Le maire de New York, Eric Adams, a fait l’objet de critiques pour avoir utilisé l’intelligence artificielle pour faire des appels automatisés aux habitants dans des langues qu’il ne parle pas.
• Les appels, qui visaient principalement à promouvoir la location de salles et de concerts, sont trompeurs, selon des critiques.
• Adams a défendu ses appels automatisés, affirmant qu’ils étaient un moyen de toucher les résidents qui parlent des langues autres que l’anglais.

Pourquoi c’est important

L’utilisation de l’IA pour générer des voix qui ressemblent à celles de vraies personnes est une technologie émergente qui soulève des questions éthiques.

Dans le cas des appels automatisés du maire Adams, les critiques soutiennent que les appels sont trompeurs et que Adams devrait être transparent sur le fait qu’ils sont générés par l’IA.

Il est important de se rappeler que les appels automatisés sont des outils puissants qui peuvent être utilisés à des fins légitimes ou malveillantes. Il est important d’être conscient des limites de ces outils et de faire preuve de prudence lorsqu’on y est confronté

Source : The Verge