Dans sa dernière mesure de sécurité, Apple a décidé d’interdire à ses employés d’utiliser des outils d’intelligence artificielle générative tels que ChatGPT. Ce chatbot développé par OpenAI enregistre les conversations des utilisateurs pour former les systèmes d’intelligence artificielle de l’entreprise.
La peur que des informations confidentielles saisies dans ces systèmes soient divulguées ou collectées a conduit Apple à restreindre l’utilisation d’outils d’IA comme ChatGPT. D’après un rapport du Wall Street Journal, les employés d’Apple ont également été avertis de ne pas utiliser l’assistant de programmation à l’IA de GitHub, Copilot. Le journaliste de Bloomberg, Mark Gurman, a tweeté que ChatGPT figurait depuis « des mois » sur la liste des logiciels restreints chez Apple.
Apple a de bonnes raisons de se méfier. Par défaut, OpenAI conserve toutes les interactions entre les utilisateurs et ChatGPT. Ces conversations sont collectées pour former les systèmes d’OpenAI et peuvent être examinées par des modérateurs afin de vérifier qu’elles ne violent pas les conditions d’utilisation de l’entreprise.
OpenAI conserve les conversations pendant 30 jours avant de les supprimer
En avril, OpenAI a lancé une fonctionnalité permettant aux utilisateurs de désactiver l’historique des conversations (coïncidence notable, peu de temps après que plusieurs pays de l’Union européenne ont commencé à enquêter sur l’outil pour d’éventuelles violations de la vie privée). Cependant, même avec cette option activée, OpenAI conserve les conversations pendant 30 jours et se réserve le droit de les examiner « pour abus » avant de les supprimer définitivement.
Étant donné l’utilité de ChatGPT pour des tâches telles que l’amélioration du code et la génération d’idées, il est compréhensible que Apple soit préoccupée par le risque que ses employés saisissent des informations sur des projets confidentiels dans le système. Ces informations pourraient ensuite être vues par l’un des modérateurs d’OpenAI. Des recherches ont montré qu’il était également possible d’extraire des données d’entraînement à partir de certains modèles linguistiques via leur interface de chat, bien qu’il n’y ait aucune preuve que ChatGPT lui-même soit vulnérable à de telles attaques.
Apple n’est pas la seule entreprise à instituer une telle interdiction. JP Morgan, Verizon et Amazon figurent également parmi les entreprises qui ont pris des mesures similaires.
Cependant, l’interdiction d’Apple est notable étant donné qu’OpenAI a récemment lancé une application iOS pour ChatGPT. Cette application est gratuite, prend en charge la saisie vocale et est disponible aux États-Unis. OpenAI prévoit de lancer l’application dans d’autres pays prochainement, ainsi qu’une version Android.