Quand Elon Musk se fait dépasser par sa propre IA
S’il ne contrôle pas ses propres données, pourquoi contrôlerait-il les vôtres ?
Chers voisins du Vaisseau,
Cette semaine, deux histoires sont remontées des archives terriennes. Elles ont un point commun : à chaque fois, l’outil est allé plus loin que ce que voulait celui qui s’en servait. Et à chaque fois, ce n’était pas un débutant. C’était le créateur de l’outil lui-même, ou un patron de la tech.
Je vous les raconte, puis je vous dis pourquoi elles devraient nous rendre prudents.
ACTE 1 : ELON MUSK ET SES LEGO
Pour montrer que son assistant Grok sait faire des achats en ligne, Elon Musk publie une capture d’écran : Grok a trouvé et commandé des sets Lego Star Wars, pour 241,34 $ au total.
Problème : la capture n’est pas floutée. Des informations personnelles liées à la commande y apparaissent. Des internautes essaient ensuite de faire annuler la commande en passant par l’assistant du site de Lego. Musk a indiqué que les Lego étaient bien arrivés.
Ça pourrait s’arrêter là, en simple maladresse. Sauf que le 10 octobre, Musk va plus loin : il conseille aux utilisateurs de Grok de photographier leur carte bancaire et de l’envoyer dans la conversation, pour que l’assistant puisse acheter seul.
Relisez ça. L’homme qui vient d’exposer sa propre commande vous demande de lui envoyer votre carte.
ACTE 2 : LE PDG ET SES COMPTES
Shane Mac dirige XMTP Labs, une entreprise de technologie. Il configure un agent Grok Bot (les assistants autonomes de xAI, lancés en bêta en août) pour surveiller ses finances personnelles. L’agent a un accès en lecture seule à son compte courant et à son épargne. Il n’a pas accès à Slack.
Selon le récit qu’il a lui-même publié sur X le 6 octobre, le solde de son épargne et ses plus grosses dépenses du mois se retrouvent pourtant affichés dans un canal Slack interne de son entreprise, devant ses employés.
L’explication : un autre agent Grok Bot de son compte avait accès à Slack. Et les agents d’un même compte partagent le même environnement. Selon la documentation de xAI citée par plusieurs analyses, des agents séparés ne doivent pas être considérés comme une frontière de sécurité. Autrement dit, la porte qu’on croyait fermée entre deux agents n’en est pas une.
xAI a parlé d’une confusion de canaux et a corrigé les permissions. Shane Mac a tout débranché : Google, ses calendriers, ses comptes bancaires, Stripe. Elon Musk avait promis que xAI dédommagerait les utilisateurs qui subiraient des pertes financières à cause de Grok Bot.
On peut débattre de la part d’erreur de configuration. Mais retenez une chose : un patron de la tech, qui avait pris la précaution de limiter les accès, n’a pas vu venir ce qui allait se passer.
SI MÊME EUX NE SAVENT PAS…
C’est là que je veux en venir.
On nous présente ces outils comme des assistants dociles : donnez-leur vos comptes, vos mails, votre carte, ils s’occupent de tout. Ceux qui nous le disent sont censés savoir mieux que personne comment ils fonctionnent.
Or, cette semaine, le créateur de Grok expose ses propres données en faisant sa publicité. Et un dirigeant de la tech voit un agent faire ce qu’il ne lui avait pas autorisé.
Alors la question est simple : si Musk ne contrôle pas ses propres données, pourquoi tiendrait-il aux vôtres à votre place ?
Ce n’est pas une question de méchanceté. C’est une question de mécanique. La technologie va plus vite que ceux qui la fabriquent. Et quand elle déborde, ce n’est pas eux qui paient en premier.
ET OÙ VONT VOS DONNÉES, ENSUITE ?
Il y a l’accident, et il y a l’usage normal. Et l’usage normal n’est pas plus rassurant.
J’en avais parlé en février dans Le problème derrière l’entraînement des IA, puis en mars dans Elon Musk ne veut pas te montrer ses données. Mais il veut les tiennes. Quelques rappels :
- Par défaut, X peut partager vos publications publiques et vos conversations avec Grok avec xAI pour entraîner ses modèles. On peut le désactiver dans les paramètres de confidentialité de X, mais cela ne vaut que pour la suite : ce qui a déjà servi a servi.
- En Europe, ça a coincé. En août 2024, après une action du régulateur irlandais, X a accepté de suspendre l’utilisation des données des utilisateurs européens pour l’entraînement et de supprimer celles déjà collectées. En avril 2025, ce même régulateur a ouvert une enquête formelle pour vérifier si X avait respecté cet engagement.
- Vos conversations peuvent finir sur Google. En août 2025, Forbes a découvert que plus de 370 000 conversations avec Grok étaient indexées par le moteur de recherche. Le bouton « partager » créait une page publique, sans prévenir clairement qu’elle pouvait être trouvée par n’importe qui. On y trouvait des questions médicales, psychologiques, des noms, et au moins un mot de passe.
Mettez ces trois points à côté des deux histoires de la semaine. On demande aujourd’hui aux agents IA d’accéder à nos comptes, à notre carte, à nos messages. Ce sont exactement les données les plus précieuses. Et on les confie à des systèmes dont les créateurs eux-mêmes se font surprendre.
CE QUE JE FERAIS, MOI
Je ne vous dis pas de tout jeter. Je vous dis de ne pas obéir à un conseil juste parce qu’il vient de celui qui a fabriqué l’outil.
- N’envoyez jamais la photo de votre carte bancaire à un assistant, quel qu’il soit.
- Ne donnez à un agent que l’accès minimum, et partez du principe que ce que voit un agent, un autre peut le voir.
- Désactivez le partage pour l’entraînement dans les paramètres de confidentialité de X si vous utilisez Grok.
- Ne partagez pas vos conversations avec une IA par lien public : considérez qu’elles peuvent être lues par tout le monde.
- Avant de brancher un compte, demandez-vous ce qui se passerait s’il était affiché devant tout le monde. Si la réponse vous fait peur, ne le branchez pas.
LE MOT DE LA FIN
Dans beaucoup de récits de science-fiction, la machine échappe à son créateur. On imagine ça comme un grand moment dramatique, une révolte, une alarme qui hurle.
Cette semaine, ça a ressemblé à une capture d’écran mal recadrée et à un message dans un Slack d’entreprise. Pas de révolte. Juste un outil qui fait un peu plus que ce qu’on lui demandait.
C’est peut-être comme ça que ça commence, toujours.
QLVVP, chers voisins. 🖤🦇
Sources
- Commande Lego de Musk : Statesman, Gadget Review
- Conseil de photographier sa carte : Selectra
- Shane Mac et Grok Bot : Techdirt, Brief IA, Cybernews
- Fonctionnement de Grok Bot : Vellum
- Enquête du régulateur irlandais : GRC Report
- Conversations Grok indexées : Fortune, 9to5Mac