Microsoft a bloqué les invites liées aux Twin Towers après que des utilisateurs de son générateur d’images Bing ont créé des images offensantes mettant en vedette des personnages animés bien-aimés.
DALL-E 3 de Microsoft bloque les images offensantes
Les utilisateurs de Bing Chat et du générateur d’images Bing ont utilisé ces outils pour créer des photos de Bob l’éponge, Kirby, des pilotes de Neon Genesis Evangelion et bien d’autres pilotant un avion dans les Twin Towers.
Microsoft a déclaré qu’il prévoyait d’améliorer ses systèmes pour aider à prévenir la création de contenu nuisible.
« Comme pour toute nouvelle technologie, certains tentent de l’utiliser d’une manière qui n’est pas prévue, c’est pourquoi nous mettons en œuvre une gamme de garde-fous et de filtres pour faire de Bing Image Creator une expérience positive et utile pour les utilisateurs », a déclaré Caitlin Roulston, directrice des communications chez Microsoft.
Le blocage de certains contenus pourrait cependant arriver un peu tard, car des affiches sur des sites comme 4chan guidaient les gens sur la façon de manipuler des outils gratuits comme Bing Chat et Stable Diffusion pour créer et distribuer des images racistes.
Microsoft devrait continuer à améliorer ses systèmes de sécurité pour empêcher les utilisateurs de créer du contenu offensant.