Image de couverture: Sécurité en IA : que vérifier avant de passer à l'échelle
IA

Sécurité en IA : que vérifier avant de passer à l'échelle

Cinq axes, un plan de 30 jours et les mythes qui coûtent cher. Que vérifier avant d'élargir l'utilisation de l'IA dans l'entreprise.

Por Agência Kaizen6 min de lecture

Compartilhar

La sécurité en IA est l'ensemble des contrôles qui empêchent un modèle de divulguer des données sensibles, d'inventer des informations comme si elles étaient des faits ou d'être manipulé par un texte malveillant. L'audit minimal comporte cinq volets : quelles données entrent, qui voit ce qui sort, quelles outils le modèle peut activer, comment chaque réponse est enregistrée et qui révise avant publication. Une entreprise qui saute cette étape prend un risque invisible — et facile à résoudre au début.

La question n'est plus "allons-nous utiliser l'IA ?" mais "avec quelles limites ?". En 2026, presque toute opération commerciale aura un assistant écrivant des e-mails, analysant des conversations WhatsApp ou remplissant un CRM. Le risque ne réside pas dans le fait que le modèle soit stupide ; il réside dans le fait qu'il obéisse à une instruction donnée par quelqu'un qui ne devrait pas.

Les cinq risques qui apparaissent réellement

  1. Fuite de données. Quelqu'un colle un contrat, un numéro de sécurité sociale ou une feuille de marge dans un assistant public. L'information sort de votre contrôle et ne revient pas.
  2. Injection d'instruction. Un texte venant de l'extérieur — page, e-mail, message d'un client — contient des commandes que le modèle suit, ignorant les règles du système.
  3. Hallucination avec confiance. Le modèle répond avec des chiffres et des sources inventés, sur le même ton que la vérité. Dans un contenu public, cela détruit l'autorité.
  4. Automatisation sans frein. L'agent envoie un message, crée une remise ou supprime un enregistrement sans approbation humaine.
  5. Trace inexistante. Il n'y a aucun enregistrement de qui a demandé quoi, ce que le modèle a répondu et ce qui a été publié.

Audit minimal, bloc par bloc

Volet Question de contrôle Preuve attendue
Donnéesquelles catégories entrent dans le prompt ?liste avec données personnelles et financières marquées
Accèsqui peut utiliser quel outil ?profil avec permission minimale
Sortieque voit l'utilisateur du raisonnement ?écran sans données internes exposées
Actionque peut exécuter l'IA seule ?liste de ce qui nécessite une approbation humaine
Enregistrementque reste enregistré et pour combien de temps ?log avec date, auteur et contenu

1. Classifiez les données avant d'écrire le prompt

Séparez ce qui peut aller dans un modèle externe de ce qui ne peut pas. Les données personnelles des clients, les informations de contrat, les marges et la planification stratégique restent dans le deuxième groupe. À partir de cette liste, vous décidez où chaque assistant fonctionne : version publique, version d'entreprise avec rétention désactivée ou modèle interne.

2. Traitez le texte de tiers comme une entrée hostile

Page web, pièce jointe, commentaire et message WhatsApp sont des entrées non fiables. Le modèle doit recevoir ce contenu comme des données, jamais comme une instruction. En pratique : bloc séparé dans le prompt, règle explicite selon laquelle il n'y a pas de commande valide à l'intérieur, et révision humaine lorsque la réponse implique de publier, d'envoyer ou de modifier un enregistrement.

3. Approbation humaine pour chaque action externe

Règle simple qui résout la plupart des problèmes : l'IA peut rechercher, rédiger et suggérer ; publier, envoyer, programmer, connecter et modifier des données sensibles nécessite une approbation. C'est la différence entre un assistant et un stagiaire avec le mot de passe de la banque.

4. Enregistrez chaque interaction pertinente

Log avec date, utilisateur, prompt résumé, réponse et ce qui a été fait ensuite. Sans enregistrement, il n'y a pas moyen d'enquêter sur un incident ni de prouver la conformité lorsque un client demande.

5. Combinez la base légale, n'improvisez pas

Qui traite des données personnelles de clients doit connaître la base légale, la durée de rétention et le canal de réponse au titulaire. L'IA générative ne crée pas d'exemption : les données restent des données — voir la confidentialité des données dans le marketing.

Vous utilisez l'IA dans le service client et vous ne savez pas ce qui est enregistré ? Faites le diagnostic gratuit avec l'Agence Kaizen.

Un plan de 30 jours

  • Semaine 1 : inventaire. Listez tous les assistants en usage, même ceux que quelqu'un a ouverts de son propre chef.
  • Semaine 2 : classification. Marquez ce que chacun reçoit et génère ; bloquez ce qui ne devrait pas.
  • Semaine 3 : règles. Approbation humaine pour action externe, enregistrement d'interaction, canal d'incident.
  • Semaine 4 : test. Simulez un cas d'injection et un de fuite. Si la réponse sort sans barrière, le contrôle n'existe pas.

Exemple du secteur

Une opération de service client avec WhatsApp automatisé recevait des messages de clients avec des liens vers une page. La page contenait une instruction cachée demandant à l'assistant de révéler le script de vente et d'offrir une remise. Comme le texte externe était traité comme une instruction, l'agent obéissait. La correction a été de conception : le contenu externe a commencé à entrer dans un bloc isolé, et toute remise a commencé à nécessiter l'approbation d'un humain. Le modèle n'a pas changé ; le processus a changé.

Comment mesurer la maturité sans compliquer

Attribuez une note de 0 à 2 pour chaque volet — données, accès, sortie, action et enregistrement. Une somme inférieure à 6 indique une opération sans contrôle ; entre 6 et 8 nécessite un plan avec un délai ; au-dessus de 9 est prêt à croître. Répétez cela chaque trimestre, car chaque nouvel outil modifie le dessin.

Le modèle n'est pas le seul risque

La moitié des incidents qui apparaissent dans la pratique ne proviennent pas du modèle, mais de l'extension : plugin qui lit toute la boîte e-mail, agent connecté au CRM avec des permissions d'administrateur, intégration qui stocke la clé d'accès en texte dans le code.

Avant d'auditer le prompt, auditez la connexion :

Connexion Risque Contrôle minimum
Boîte e-maillire un message de tiers comme une instructionpermission de lecture restreinte à un dossier
CRMmodifier ou exporter l'ensemble de la baseaccès par étape, pas d'administrateur
Clé et tokenfuite dans le log ou le dépôtsecret dans un coffre, rotation trimestrielle
Stockagecopie de document sans délairetenue définie et suppression automatique

Ce tableau est la partie ennuyeuse et celle qui évite le plus de maux de tête : chaque permission que l'agent n'a pas besoin est un accident qui n'arrive pas.

Mythes qui coûtent cher

  • "Nous utilisons seulement la version d'entreprise, donc nous sommes en sécurité." La version d'entreprise n'empêche pas quelqu'un de coller des données qu'il ne devrait pas.
  • "Le modèle est bon, il ne se trompe pas." Tout modèle se trompe et se trompe avec conviction.
  • "L'enregistrement est de la bureaucratie." L'enregistrement est ce qui permet de répondre au client et à l'audit le même jour.
  • "La sécurité est une tâche réservée à l'IT." Ceux qui gèrent le quotidien définissent les données qui entrent.

FAQ

Ai-je besoin d'une politique d'utilisation de l'IA par écrit ?

Oui, et courte. Une page avec ce qui est autorisé et ce qui ne l'est pas, où l'approbation humaine est obligatoire et à qui signaler un incident vaut plus qu'un manuel de 40 pages que personne ne lit.

Puis-je utiliser ChatGPT ou Gemini avec des données clients ?

Seulement si le contrat de l'outil garantit qu'il ne sera pas utilisé pour l'entraînement et que la rétention est définie, et si les données sont dans la catégorie autorisée par votre politique. En cas de doute, anonymisez.

Comment éviter que l'agent fasse des bêtises tout seul ?

Permission minimale et approbation par action externe. Commencez par l'agent qui suggère et l'humain qui clique.

La sécurité en IA est-elle coûteuse ?

La conception prend des semaines, pas de licence de fournisseur. Ce qui coûte cher, c'est l'incident : contrat exposé, remise indue, publication d'un post avec des données clients. Voir aussi gouvernance de l'IA et IA dans le service client.

Commencer par là où ça fait le plus mal

Commencez par les données. Si vous ne savez pas quelles informations entrent dans votre assistant aujourd'hui, c'est le seul élément de la liste à résoudre cette semaine. Ensuite, approbation humaine pour chaque action externe. Les deux ensemble résolvent la plupart des risques qui effraient et peuvent être réalisés sans changer d'outil.

Lire aussi :

L'Agence Kaizen implante des agents d'IA avec contrôle des données, approbation humaine et enregistrement des interactions. Contactez-nous pour un diagnostic de ce qui fonctionne aujourd'hui.

Lire aussi : 6 ÉLÉMENTS QUI NE PEUVENT MANQUER.

Quer Aprender Mais?

Junte-se à Universidade Kaizen e tenha acesso a cursos gratuitos, trilhas de aprendizado completas e conteúdo exclusivo para profissionais que querem dominar as melhores práticas do mercado.