Trahi par son chatbot ? L’interview de Nahia Gorrichon.

« On voit actuellement que tout le monde apprend à créer des agents, mais très peu apprennent à les arrêter. Pourtant, demain, la compétence clé ne sera pas de coder avec l’IA… mais de savoir quand ne pas l’utiliser. » Nahia, sur la gouvernance IA de The eye of Nahia.

 

L’IA, utile et dangereuse à la fois.

Nahia Gorrichon, ancienne data scientist, conférencière, consultante et désormais formatrice, a troqué le code pur contre la gouvernance IA après avoir vu l’envers du décor. Son constat ? « L’IA, quand on veut ou non, on va vivre avec. Mais il faut avancer avec elle de manière consentie et sécurisée. »

Son déclic ? En tant que développeuse, elle a réalisé que coder à la main ne suffirait plus dans quelques années. Mais surtout, elle a compris que l’IA, mal maîtrisée, pouvait devenir une bombe à retardement pour les entreprises et pour les devs eux-mêmes.

Gouvernance IA : les 3 pièges qui coûtent cher aux entreprises.

Copier-coller des données sensibles ➡️ Fuites et piratages.

Nahia a vu des horreurs dans le milieu médical : « certains croient qu’anonymiser, c’est juste enlever le nom et le prénom. Mais si tu mets « Monsieur X, 45 ans, diabétique, habite à Lyon et prend ce traitement » en croisant les données, tu retrouves le patient en 2 secondes. »

Pire : avec l’IA, le prompt hacking (piratage via des requêtes malveillantes) devient un jeu d’enfant. Exemple ? « Un selfie avec une tasse de café de ton entreprise en arrière-plan ? En 2 secondes, on sait où tu travailles. »

Risque : fuites de données clients, sanctions RGPD, perte de confiance.

Dépendre d’un seul outil ➡️ panique garantie.

« Si Claude ferme demain et qu’on a tout fait sur Claude, on se retrouve en panique. »  Nahia insiste : ne jamais mettre tous ses œufs dans le même panier.

Les entreprises qui basculent 100 % de leurs processus sur un seul modèle (Mistral, Claude, etc.) sans backup ni logs risquent de tout perdre du jour au lendemain.

Risque : arrêt brutal des opérations, perte de temps et d’argent pour tout migrer en urgence.

L’IA comme solution magique ➡️ erreurs coûteuses.

Son exemple préféré ? Une entreprise qui a entraîné un chatbot sur des données obsolètes et mal nettoyées. Résultat : “Il a commencé à promettre un iPad gratuit à chaque nouveau client. Ils s’en sont rendu compte… une heure après. 500 clients avaient déjà bénéficié de l’offre.”

Problème : l’entreprise n’avait ni les iPad, ni le budget pour honorer cette promo fantôme. « La crédibilité, elle prend un coup. Et le DG se retrouve avec 500 iPad sur les bras… qu’il n’a pas. »

Risque : perte de crédibilité, coûts imprévus, communication de crise.

Gouvernance IA : le kit de survie pour les devs.

Pour Nahia, la solution passe par trois piliers : l’humain, les processus et la traçabilité. Voici sa méthode, testée et approuvée sur le terrain.

Étape 1 : Commencer par l’humain.

« Je commence jamais par l’outil, je commence par l’humain. » Nahia observe une journée type des équipes pour découvrir :

• Quels outils d’IA sont utilisés en cachette (ChatGPT ici, un plugin là, un GPT maison par-ci).
• Quels sont les vrais besoins (souvent différents de ce que pensent les managers).
• Quelles sont les peurs (ex. : “Je déteste que l’IA fasse X à ma place”).

Objectif ➡️️ créer un dialogue entre devs, managers et DSI pour aligner les attentes.

Étape 2 : Créer une charte interne.

Nahia aide les entreprises à rédiger des règles claires :

• Quelles données peuvent être partagées avec l’IA ? (Jamais de données sensibles sans anonymisation réelle).
• Quels outils sont autorisés ? (Ex : interdire les versions gratuites de ChatGPT pour les données clients).
• Qui est responsable en cas de problème ?

« Beaucoup de salariés font n’importe quoi parce qu’on ne leur donne pas les bons outils. Ils ont un besoin réel, mais on leur dit « ça viendra… »et « ça viendra »se situe entre « maintenant » et « jamais ». »

Résultat ➡️️ moins de risques, plus de cohérence.

Étape 3 : Automatiser les logs et la traçabilité.

« Si on commence par le socle, ça permet de faire des économies. »

Nahia recommande d’intégrer dès le départ :

• Des logs automatiques pour chaque décision prise par l’IA.
• Des sauvegardes des prompts et des outputs.
• Un système de validation (ex. : un humain vérifie les résultats critiques).

Avantages :

• Pouvoir justifier chaque décision en cas de problème.
• Éviter de devoir tout refaire si un modèle est mis à jour ou interdit.

Devenir un dev « IA-aware » : les compétences qui feront la différence.

Pour Nahia, le métier de dev évolue : moins de code brut, plus de supervision et de gouvernance. Voici comment s’adapter.

Ce qui change dans le métier de développeur.

« Moi, je sais très bien que coder, ça ne servira plus à grand-chose d’ici quelques mois. Mais l’expertise humaine, elle peut servir sur d’autres aspects. »

Les devs doivent passer de « je code » à « je contrôle, j’audite, je décide » :

• Valider les outputs : repérer les hallucinations ou les biais.
• Comprendre les limites : savoir quand l’IA n’est pas la solution (ex. : tâches créatives ou éthiques).
• Former les équipes : expliquer les risques aux non-tech (managers, RH, etc.).

3 actions concrètes pour démarrer dès aujourd’hui.

Tester l’IA sur ses propres données.

« Faire des petits tests sur leurs données à eux, ça a un effet waouh. Ils voient directement l’impact. »

• Prenez un cas réel de votre entreprise (ex. : un jeu de données clients).
• Lancez un modèle d’IA dessus et observez :
  • Les erreurs (hallucinations, incohérences).
  • Les limites (ce que l’IA ne comprend pas).
  • Les risques (fuites, dépendance).

Résultat : une prise de conscience immédiate des enjeux.

Se former aux risques et pas seulement aux outils.

Nahia déconseille les formations qui promettent de “devenir expert IA en 24h”. À la place, elle recommande de maîtriser :

• Le prompt hacking : comment des requêtes malveillantes peuvent extraire des données sensibles.
• Les hallucinations : pourquoi l’IA invente des infos (et comment les détecter).
• Les coûts cachés : temps de maintenance, dépendance, réputation.

« Actuellement, tout le monde apprend à créer des agents. Très peu apprennent à les arrêter ».

Parler le langage des managers.

“Si tu arrives avec tes grands sabots et que tu parles d’IA, tu bloques la moitié des gens. Il faut parler de risques de réputation, de chiffre d’affaires, de temps perdu.”

Pour convaincre sa hiérarchie, un dev doit :

• Éviter le jargon : remplacer “modèle de langage” par “outil qui peut nous faire gagner du temps… ou nous coûter cher”.
• Mettre en avant les gains : “Avec une charte IA, on évite les fuites de données et les amendes RGPD.”
• Proposer des solutions : “On teste sur un petit projet avant de tout basculer.”

Expert en gouvernance, la compétence clé de demain.

Nahia résume sa philosophie en une phrase : “Si l’entreprise développe l’IA parce qu’il ne faut pas louper la vague et faire comme les concurrents, alors les conséquences seront énormes.”

Son conseil aux devs ? Devenir des experts de la gouvernance IA :

✅ Savoir quand l’utiliser et quand ne pas le faire.
✅ Comprendre les risques (sécurité, éthique, juridique).
✅ Rester humain : certaines tâches (créativité, éthique, communication) doivent rester entre nos mains.

“On est sur une des révolutions les plus importantes qu’on ait connues. Mais contrairement à Internet, ici, en quelques secondes, tu peux tout détruire. Alors autant être prêt.”

Pour en savoir plus sur la protection des données, jetez un œil à notre article sur le RGPD 👈