Un nouveau rapport de Stanford HAI (Human-Centered Artificial Intelligence) a révélé que les développeurs de modèles de fondation d’IA ne publient pas suffisamment d’informations sur leur impact potentiel sur la société.
Développeurs d’IA : plus de transparence !
L’indice de transparence des modèles de fondation, publié aujourd’hui, a évalué 10 des modèles d’IA les plus populaires, y compris Llama 2 de Meta, BloomZ et GPT-4 d’OpenAI.
Les chercheurs ont attribué à chaque modèle une note de 0 à 100 en fonction de la quantité d’informations qu’il divulgue sur sa construction, son fonctionnement et son utilisation.
Meta a obtenu le score le plus élevé, 54 %, suivi de BloomZ avec 53 % et GPT-4 avec 48 %.
Cependant, aucun des modèles n’a obtenu une note élevée en matière d’impact sociétal. Les chercheurs ont constaté que les développeurs ne divulguent pas d’informations sur la manière dont leurs modèles sont utilisés, sur les risques potentiels ou sur la manière de signaler les problèmes.
Rishi Bommasani, responsable de la société au Stanford Center for Research on Foundation Models et l’un des chercheurs de l’indice, affirme que l’objectif est de fournir une référence aux gouvernements et aux entreprises.
« Ce que nous essayons de réaliser avec l’indice, c’est de rendre les modèles plus transparents et de désagréger ce concept très amorphe en éléments plus concrets qui peuvent être mesurés », explique Bommasani.
Les chercheurs exhortent les entreprises à être plus transparentes sur leurs modèles de fondation d’IA.
« La transparence est essentielle pour garantir que les modèles d’IA sont utilisés de manière responsable et éthique », déclare Bommasani.
Le rapport de Stanford HAI est une mise en garde importante pour les développeurs de modèles d’IA.
L’indice montre que les entreprises doivent faire plus pour divulguer des informations sur leurs modèles, en particulier sur leur impact potentiel sur la société.
Source : The Verge