Bienvenue dans la semaine où tout le monde s’est rappelé que l’IA, c’est pas magique
On nous avait vendu 2025 comme l’année où l’intelligence artificielle allait tout résoudre : le cancer, le réchauffement climatique, la rupture de stock de PQ chez Migros. Et voilà qu’en quelques jours, on a droit à un triplé gagnant qui remet l’église au milieu du village : une étude qui montre que l’IA peut fragiliser le crédit bancaire qu’elle est censée sécuriser, un pape qui appelle à « désarmer » l’IA, et l’action Salesforce qui se prend -35% depuis son plus haut. Ambiance.
Bonne nouvelle : chez Smarsys, on adore ces moments. Parce que c’est exactement quand le marché arrête de fantasmer qu’on peut commencer à faire du vrai boulot. Décryptage.
1. L’IA dans la banque : l’arbitre qui se trompe avec assurance
The Conversation a publié une analyse qui devrait faire transpirer quelques directeurs des risques. Le pitch : les banques utilisent massivement des modèles de scoring basés sur l’IA pour décider qui mérite un crédit. Sauf que ces modèles, entraînés sur des données historiques, peuvent reproduire des biais, amplifier des corrélations bidons, et surtout — c’est ça le pire — donner une fausse impression de fiabilité.
Le problème, c’est pas l’IA. C’est la confiance aveugle.
Imaginez un arbitre VAR au foot qui rendrait ses décisions sans qu’on puisse jamais revoir l’action. C’est exactement ce qui se passe quand un modèle de credit scoring devient une boîte noire. Il dit « non » à votre demande de crédit, personne ne sait vraiment pourquoi, et tout le monde fait confiance parce que « c’est l’algorithme qui l’a dit ».
Le vrai sujet ici, c’est la gouvernance des modèles : traçabilité, explicabilité, monitoring du drift, audit régulier. Bref, tout ce qu’on appelle de la business analyse sérieuse appliquée à la data science. C’est moins sexy qu’un démo d’agent autonome qui code tout seul, mais c’est ce qui sépare un projet IA qui crée de la valeur d’un projet qui crée des litiges.
2. Le pape s’invite dans le débat IA
Pendant ce temps, à Rome, Léon XIV prend la parole. Selon la RTS, le souverain pontife a appelé à « désarmer l’intelligence artificielle pour protéger l’humain ». Quand le Vatican commence à parler éthique de l’IA, c’est qu’on a quitté le terrain des geeks pour entrer dans celui des grands débats de société.
Et franchement, il a un point. Pas sur le côté « l’IA va nous tuer tous » (spoiler : non), mais sur la question de la place de l’humain dans la décision. Quand on automatise des décisions qui touchent la vie des gens — un crédit refusé, un dossier RH écarté, un diagnostic médical orienté — la question n’est pas « est-ce que ça marche ? » mais « qui est responsable quand ça plante ? ».
La leçon pour les PME romandes
Avant de déployer un agent IA dans votre CRM, votre ERP ou votre support client, posez-vous trois questions :
- Quelle décision je délègue à la machine, et laquelle je garde sous contrôle humain ?
- Comment je trace ce que l’IA a fait, et pourquoi ?
- Si demain un client conteste, je peux expliquer la décision ?
Si vous ne savez pas répondre, vous n’êtes pas prêt à déployer. Et c’est ok. C’est même sain.
3. Salesforce à -35% : panique ou opportunité ?
Troisième news qui pique : selon TIKR, l’action Salesforce a perdu environ 35% depuis son plus haut sur 52 semaines, et tout le monde attend les résultats du Q1 2027 pour voir si la trajectoire se redresse. Les analystes financiers s’agitent, les forums spéculent, les LinkedIn influencers prédisent la fin du SaaS.
Ce que ça veut dire (et ce que ça ne veut PAS dire)
Ce que ça veut dire : le marché digère. Après l’euphorie IA générative de 2023-2024, les investisseurs deviennent plus exigeants. Ils ne veulent plus des promesses, ils veulent du revenu récurrent qui rentre et de l’adoption mesurable des nouvelles fonctionnalités IA.
Ce que ça ne veut PAS dire : que Salesforce est en train de couler. La plateforme reste le leader mondial du CRM, l’écosystème est gigantesque, et les investissements sur Agentforce et la couche data continuent. Une action qui corrige, ce n’est pas une techno qui meurt — demandez à Apple, qui a connu une dizaine de « krachs » depuis 2010 et qui se porte plutôt bien.
Pour une PME qui utilise ou envisage Salesforce, l’enjeu n’est pas le cours de bourse. C’est : est-ce que la plateforme répond à mes besoins métier et est-ce que je sais en tirer du ROI ? Et là, la réponse dépend bien plus de la qualité de votre implémentation que du sentiment de Wall Street.
Le fil rouge de la semaine
Trois actus, un même message : l’IA et le cloud, c’est pas de la magie, c’est de l’ingénierie. Quand on l’oublie, soit on prend des décisions de crédit foireuses, soit on déçoit les marchés financiers, soit on se fait sermonner par le pape. Quand on s’en souvient, on construit des projets qui durent, qui créent de la valeur, et dont on peut expliquer le fonctionnement à un audit.
Chez Smarsys, on est plutôt team « ingénierie sérieuse + ironie bienveillante ». Si vous voulez en parler autour d’un café (ou d’une démo Salesforce), vous savez où nous trouver.
Sources
- The Conversation — Quand l’intelligence artificielle fragilise le crédit bancaire qu’elle est censée sécuriser
- RTS — Le pape Léon XIV appelle à désarmer l’intelligence artificielle pour protéger l’humain
- TIKR — Salesforce Stock Is Down 35% From Its 52-Week High
🤖 Comment cet article a été produit
Veille RSS automatisée, rédaction par Claude Opus 4.7 (API Anthropic), supervision éditoriale et brand voice par l'équipe Smarsys. Visuel généré par GPT Image 2 (OpenAI). Un pipeline maison construit sur Make.com + WordPress, similaire à ce que nous déployons pour nos clients. Envie du même setup chez vous ?
