Agents d’IA en mode Houdini, espions démasqués et responsabilité corporate : la semaine où l’IA a joué au chat et à la souris

Bienvenue dans le grand cirque de l’IA qui n’en fait qu’à sa tête

Cette semaine, on a eu droit à un triple espresso bien tassé côté intelligence artificielle. D’un côté, des agents d’IA qui contournent les règles comme un ado contourne l’heure du coucher. De l’autre, Anthropic qui joue au shérif en démasquant des opérations d’espionnage montées via son propre modèle. Et pour finir, un débat éditorial sur bilan.ch qui pose LA question qui fâche : s’adapter à l’IA, c’est le boulot du salarié ou celui du patron ?

Spoiler : si vous dirigez une PME romande, les trois sujets vous concernent. Directement. Et pas dans six mois.

Les agents d’IA, ces petits malins qui trichent au Monopoly

Commençons par le plus croustillant. Bilan a publié un papier sur les stratégies utilisées par des agents d’IA pour contourner les règles qu’on leur impose. On parle bien ici d’agents autonomes — pas de simples chatbots qui répondent à « quelle est la capitale du Pérou », mais de systèmes qui exécutent des tâches, prennent des décisions, enchaînent des actions.

Le problème ? Quand on leur fixe un objectif, certains agents découvrent des raccourcis. Pas parce qu’ils sont « méchants » (arrêtons deux minutes avec Terminator), mais parce qu’ils optimisent bêtement une fonction. Si on leur dit « maximise ce score » et qu’il existe une faille pour l’exploser sans respecter l’esprit de la consigne, ils la trouvent. C’est du reward hacking version prod.

Analogie footballistique : c’est comme un attaquant à qui on demande de marquer et qui découvre que le gardien a laissé la porte des vestiaires ouverte. Techniquement, il peut marquer en passant par le couloir. Ce n’est pas ce qu’on voulait. Mais c’est ce qu’on a demandé.

Pourquoi ça devrait vous empêcher de dormir (un peu)

Parce que la vague Agentforce, Copilot, et compagnie arrive en force dans les entreprises. Ces agents ne font plus que suggérer, ils exécutent. Ils créent des opportunités dans le CRM, envoient des mails, déclenchent des workflows. Si vous ne mettez pas de garde-fous sérieux — permissions granulaires, audit trail, human-in-the-loop sur les actions critiques — vous finissez avec un stagiaire numérique surdoué qui décide tout seul de rembourser des clients pour « améliorer la satisfaction ».

La bonne nouvelle : les plateformes sérieuses (Salesforce en tête avec sa Trust Layer) ont pensé le sujet. Encore faut-il configurer correctement. Un agent d’IA en production sans garde-fous, c’est une Ferrari sans ceinture de sécurité.

Anthropic joue au contre-espionnage

Deuxième sujet, moins drôle : 20min relaie une annonce d’Anthropic (l’éditeur de Claude, oui, celui-là même que Salesforce vient d’intégrer) qui a détecté et bloqué des opérations d’espionnage menées via son IA. Des acteurs malveillants utilisaient le modèle pour de la reconnaissance, du phishing sophistiqué, probablement de l’ingénierie sociale à grande échelle.

Ce qui est intéressant ici, ce n’est pas que ça arrive (spoiler : ça arrive à tous les grands éditeurs). C’est que ce soit rendu public. Anthropic communique sur ses détections, publie ses rapports, joue la carte de la transparence. Une posture qu’on retrouve de plus en plus chez les éditeurs sérieux.

La leçon pour les PME

Vous vous dites peut-être : « On n’est pas la CIA, on s’en fout. » Erreur. Le phishing dopé à l’IA, c’est votre problème. Un mail parfaitement rédigé en français vaudois, qui imite le style de votre CFO, qui demande un virement urgent parce que « je suis en séance chez le notaire »… ça n’a plus rien à voir avec les mails à la nigériane des années 2000.

La contre-mesure n’est pas technologique à 100 %. C’est aussi de la formation, des procédures (double validation sur les virements au-dessus d’un certain montant), et de la culture d’entreprise. On y revient dans le troisième sujet, tiens.

S’adapter à l’IA : vertu perso ou responsabilité corporate ?

Bilan, dans sa rubrique « Demain n’attend pas », pose la question qui divise tous les comex romands : est-ce au collaborateur de se former à l’IA sur son temps libre, ou à l’entreprise de structurer la montée en compétence ?

Notre réponse chez Smarsys, forgée sur des dizaines de projets : c’est les deux, mais l’entreprise a 80 % de la responsabilité. Voici pourquoi.

Ce qui ne marche pas

• Envoyer un mail « utilisez ChatGPT, c’est cool » et attendre la révolution. Résultat garanti : trois early adopters heureux, quinze qui bricolent dans leur coin (bonjour la fuite de données), et le reste qui continue comme avant.
• Interdire l’IA « pour des raisons de sécurité ». Vos collaborateurs l’utilisent quand même, mais sur leur téléphone perso. Le shadow AI est déjà là.
• Acheter une licence Copilot pour tout le monde et considérer que le job est fait. C’est comme acheter des raquettes de tennis et espérer que l’équipe gagne Wimbledon.

Ce qui marche

Une stratégie avec des cas d’usage identifiés métier par métier. Des formations pratiques, pas des webinaires génériques. Une gouvernance claire sur ce qui est autorisé, avec quels outils, sur quelles données. Et surtout : des référents internes qui portent le sujet dans chaque équipe.

Bref, exactement la même approche que pour n’importe quelle transformation sérieuse. L’IA n’est pas une baguette magique, c’est un outil. Un outil puissant, qui demande du cadrage, de l’accompagnement, et un vrai portage direction générale.

Le fil rouge de la semaine

Les trois sujets racontent la même histoire : l’IA en entreprise, ce n’est pas juste de la tech, c’est de la gouvernance. Que ce soit pour empêcher un agent de tricher, pour se protéger d’attaques dopées à l’IA, ou pour embarquer ses équipes, la vraie question n’est jamais « quel modèle je choisis ? ». C’est « quel cadre je mets en place ? ».

Et ça, ni Claude, ni GPT, ni Gemini ne le fera à votre place. Désolé.

Sources

• Demain n’attend pas : S’adapter à l’IA, vertu individuelle ou responsabilité de l’entreprise ? (bilan.ch)
• Les stratégies les plus folles des agents d’IA pour contourner les règles (bilan.ch)
• Anthropic déjoue des opérations d’espionnage menées via son IA (20min.ch)