L’IA qui code l’IA, le Pape effacé et la superintelligence : faut-il débrancher la prise ?

Bienvenue dans la semaine où la science-fiction a pris sa carte de presse

Trois actus, un fil rouge : l’intelligence artificielle vient officiellement de quitter la rubrique « tech sympa » pour s’installer en une de tous les journaux romands. Entre une IA qui efface le Saint-Père d’une photo, une IA qui s’apprête à concevoir elle-même sa propre descendance, et un débat sur la superintelligence qui n’est plus cantonné aux conventions de geeks à San Francisco, on a de la matière. Beaucoup de matière.

Alors on enfile le maillot, on siffle le coup d’envoi, et on essaie de comprendre ce que ça change concrètement pour une PME romande qui essaie juste de facturer ses clients sans drame existentiel.

Acte 1 : quand l’IA joue à la gomme avec le Pape

La Tribune de Genève a sorti cette semaine une chronique « Encre bleue » qui raconte comment l’intelligence artificielle a tout simplement effacé le Saint-Père d’une image. Anecdote ? Pas vraiment. C’est le symptôme d’un truc plus profond : les outils génératifs hallucinent, suppriment, recadrent, inventent — et personne en bout de chaîne ne vérifie toujours ce qui sort de la machine.

Traduction business : si vous laissez un modèle génératif produire vos visuels marketing, vos résumés de réunion ou vos synthèses commerciales sans relecture humaine, vous allez un jour expliquer à un client pourquoi son nom a disparu d’un contrat ou pourquoi le logo de votre concurrent s’est invité sur votre brochure. Ça arrive. Ça arrivera encore.

La leçon pour les équipes

L’IA générative, c’est un excellent stagiaire : rapide, jamais fatigué, mais qui invente avec aplomb quand il ne sait pas. La règle qu’on applique chez Smarsys avec nos clients : aucun output IA en production sans validation humaine. Surtout sur du contenu client-facing. C’est la base. Et c’est encore largement ignoré.

Acte 2 : l’IA qui code l’IA, ou le moment « Inception »

Le Temps a publié un article qui pose la question frontalement : l’intelligence artificielle sera bientôt capable de créer toute seule l’IA de demain. Faut-il s’inquiéter de cette perte prochaine de contrôle humain ?

Pour comprendre ce que ça veut dire, imaginez Pep Guardiola qui forme un assistant qui forme un autre assistant qui finit par recruter, entraîner et faire jouer l’équipe sans que Pep ne mette plus les pieds au stade. Sauf que là, l’assistant ne dort jamais, ne prend pas de vacances et itère cent fois par seconde. C’est ça, l’auto-amélioration récursive des modèles.

Ce que ça change pour vous, concrètement

À court terme : pas grand-chose dans votre quotidien de DSI ou de directrice commerciale. Vos contrats Salesforce, vos pipelines BI, vos workflows ERP continuent de tourner. À moyen terme, en revanche, ça change tout sur deux points :

• La vitesse d’innovation : les nouvelles fonctionnalités IA arriveront plus vite que vos cycles budgétaires. Préparez vos roadmaps en conséquence.
• La gouvernance : si demain un modèle se reconfigure tout seul, comment vous auditez ce qu’il fait sur vos données clients ? Question ouverte, et urgente.

C’est précisément pour ça que les plateformes sérieuses (Salesforce, AWS, Azure, Google Cloud) investissent massivement dans des couches de contrôle, traçabilité et gouvernance. Ce ne sont pas des gadgets marketing : c’est ce qui vous permettra demain de dire à votre auditeur « voici exactement ce que l’IA a fait, quand, et pourquoi ».

Acte 3 : la superintelligence quitte la science-fiction

La RTS enfonce le clou : le débat sur une intelligence artificielle supérieure à l’humain n’est plus l’apanage des romans de Asimov ou des conventions de transhumanistes californiens. Il est dans les commissions parlementaires, dans les comités d’éthique, dans les couloirs de l’ONU.

Est-ce qu’on doit paniquer ? Non. Est-ce qu’on doit ignorer ? Non plus. Le bon angle, c’est celui du pilote d’avion : on ne refuse pas de voler parce que la météo peut être mauvaise, on s’équipe d’instruments, on suit des procédures, on s’entraîne aux scénarios dégradés.

Le plan de vol pour une PME romande

Voilà notre check-list « avant décollage IA » qu’on déroule avec nos clients :

• Cartographier vos données sensibles avant de les balancer dans un modèle. Tout n’a pas vocation à finir dans un prompt.
• Choisir l’hébergement selon le contexte. AWS, Azure, Google Cloud, Infomaniak, un cloud souverain européen : chacun a son cas d’usage. Une fintech zurichoise n’a pas les mêmes contraintes qu’un e-commerce vaudois. Le bon réflexe : poser la question secteur par secteur, données par données.
• Garder l’humain dans la boucle sur tout ce qui touche au client, au juridique, au financier.
• Former vos équipes. Une IA mal utilisée par quelqu’un qui ne la comprend pas, c’est pire qu’une absence d’IA.

Le mot de la fin : ni techno-béat, ni techno-flippé

Les trois articles de la semaine racontent la même histoire : l’IA est devenue un sujet de société, plus un sujet de geek. Et ça, c’est plutôt sain. Ça veut dire qu’on va enfin avoir des vraies conversations sur les usages, les garde-fous, et la valeur métier.

Chez Smarsys, on continue à penser que l’IA est une opportunité massive pour les PME romandes — à condition de la déployer comme on déploie un ERP : avec méthode, avec gouvernance, et avec des humains compétents qui gardent la main sur le manche. Le reste, c’est de la littérature.

Sources

• Encre bleue: quand l’intelligence artificielle efface le Saint-Père — Tribune de Genève
• L’IA sera bientôt capable de créer toute seule l’IA de demain — Le Temps
• L’humanité face à une IA supérieure : un débat qui quitte la science-fiction — RTS