Points clés
- Lorsque l’IA d’une organisation donne de mauvaises réponses, la cause tient généralement à l’information qu’on lui a fournie, pas au modèle.
- La couche d’information comporte six volets : les sources et leur autorité, les entités et les relations, les autorisations, la provenance, la fraîcheur et la rétroaction.
- L’améliorer est un travail concret : choisir un domaine, nommer des responsables, retirer le contenu périmé, ajouter des métadonnées et tester avec de vraies questions.
- Les dirigeants n’ont pas besoin d’expertise technique pour piloter ce travail. Ils doivent poser les bonnes questions.
Lorsqu’un assistant d’IA indique à un employé la mauvaise politique de congé parental, cite un prix de l’an dernier ou n’arrive pas à dire quels contrats appartiennent à un client, le réflexe est de blâmer le modèle. Or, le plus souvent, le modèle a fait ce qu’on lui demandait avec ce qu’on lui avait donné. Le problème, c’était l’information.
La plupart des échecs de l’IA en organisation sont des échecs d’information. Le savoir est éparpillé entre les lecteurs partagés, les boîtes de courriel et les systèmes. Des documents se contredisent. Personne ne sait quelle version est à jour. Un contexte important n’existe que dans la tête des gens. L’IA ne règle pas ces problèmes. Elle les met en lumière, rapidement et à grande échelle.
La bonne nouvelle, c’est que la situation peut se corriger, et que la corriger profite à bien plus qu’à l’IA. Ce guide explique en termes simples la couche d’information sur laquelle repose l’IA.
Pourquoi le modèle n’est qu’une couche parmi d’autres
Les modèles d’IA modernes sont polyvalents, mais ils ne savent rien de votre organisation à moins que vous ne le leur disiez. Dans la plupart des systèmes d’IA en organisation, le modèle répond aux questions à l’aide d’information récupérée dans vos documents et vos systèmes au moment où la question est posée. (Notre guide sur ce que signifie entraîner l’IA sur votre organisation explique comment cela fonctionne.) Si l’information récupérée est erronée, périmée ou incomplète, un meilleur modèle donnera simplement une mauvaise réponse mieux formulée.
C’est pourquoi une intelligence fiable repose d’abord sur une information structurée, des relations explicites, la provenance, les autorisations et des sources faisant clairement autorité.
Les six volets de la couche d’information
| Volet | La question à laquelle il répond |
|---|---|
| Sources et autorité des sources | Quelle information est officielle, et laquelle l’emporte lorsque deux sources divergent? |
| Entités et relations | Quels sont les éléments importants de notre organisation, et comment sont-ils liés? |
| Autorisations | Qui a le droit de voir quoi, et l’IA le respecte-t-elle? |
| Provenance | D’où vient cette réponse, et quelqu’un peut-il la vérifier? |
| Fraîcheur | Est-ce toujours à jour, et qui s’en assure? |
| Rétroaction | Quand quelque chose cloche, comment le corrige-t-on? |
Sources et autorité des sources
Tous les documents ne se valent pas. Une politique approuvée par le conseil d’administration a préséance sur la présentation qui la résume. Un système de référence a préséance sur un tableur que quelqu’un a exporté au dernier trimestre. Établir les sources faisant autorité, c’est décider, sujet par sujet, quelles sources sont officielles, et veiller à ce que les systèmes d’IA les privilégient. Sans cela, l’IA accorde la même valeur à une ébauche et à une version définitive.
Entités et relations
Les entités sont les éléments qui comptent pour votre organisation : clients, produits, projets, lieux, contrats, personnes, politiques. Les relations décrivent la façon dont ils sont liés : tel client détient tels contrats, tel produit est régi par telle politique, telle équipe est responsable de tel processus. Lorsque ces éléments sont définis explicitement, plutôt que sous-entendus dans des centaines de documents, l’IA peut répondre à des questions qui en font intervenir plusieurs. Cela favorise aussi la cohérence : un seul nom convenu pour chaque client ou produit, plutôt que cinq variantes.
Autorisations
Un assistant d’IA ne doit jamais devenir un moyen de contourner les contrôles d’accès. Si un employé ne peut pas ouvrir directement le dossier sur la rémunération des cadres, l’assistant ne devrait pas le lui résumer. Les autorisations doivent suivre l’information jusque dans le système d’IA. C’est un enjeu de sécurité et, lorsque des renseignements personnels sont en cause, un enjeu de protection de la vie privée.
Provenance
La provenance, c’est savoir d’où vient l’information. En IA, cela se traduit par des réponses qui citent leurs sources pour qu’une personne puisse les vérifier, et des registres indiquant quelles sources ont alimenté quels résultats. C’est la provenance qui rend l’IA vérifiable et qui permet aux gens de lui faire confiance à juste titre plutôt qu’aveuglément.
Fraîcheur
L’information vieillit. Les politiques sont révisées, les prix changent, les gens changent de poste. Chaque source importante a besoin d’un responsable et d’un cycle de révision, et les versions remplacées doivent être retirées ou clairement signalées, plutôt que de rester dans un dossier où l’IA pourra les trouver.
Rétroaction
Aucune couche d’information n’est parfaite au lancement. Les utilisateurs ont besoin d’un moyen simple de signaler les réponses erronées ou inutiles, et quelqu’un doit être chargé de remonter chacune jusqu’à sa cause : une mauvaise source, un document manquant, une lacune dans les autorisations ou une consigne ambiguë.
Des étapes concrètes pour la structurer
Nul besoin d’un programme de données pluriannuel avant d’obtenir des résultats utiles. Commencez petit et élargissez progressivement :
- Choisissez un domaine. Ciblez un champ où l’IA serait clairement utile, comme les questions sur les politiques RH, l’information sur les produits ou un processus précis de service à la clientèle.
- Faites l’inventaire des sources. Dressez la liste des endroits où se trouve aujourd’hui l’information pertinente, y compris les endroits non officiels que les gens consultent réellement.
- Nommez des responsables et des sources de référence. Pour chaque sujet, désignez la source qui fait autorité et la personne chargée d’en assurer l’exactitude.
- Faites le ménage. Retirez les doublons et les versions remplacées, et résolvez les contradictions.
- Ajoutez des métadonnées. Associez à chaque source son responsable, sa date d’entrée en vigueur, son public cible, son niveau de sensibilité et ses autorisations.
- Définissez les entités clés. Entendez-vous sur les entités et les relations centrales du domaine, et utilisez des noms cohérents.
- Testez avec de vraies questions. Recueillez les questions que les gens posent réellement, vérifiez les réponses et remontez chaque échec jusqu’à sa cause.
- Mettez en place la rétroaction et la révision. Facilitez le signalement et planifiez des révisions régulières des sources et des échecs.
Une fois qu’un domaine fonctionne bien, les méthodes, les outils et les habitudes se transposent au suivant. Les gens en profitent aussi : une bibliothèque de politiques propre et bien encadrée aide autant un nouvel employé qu’un assistant d’IA.
Les organisations bilingues devraient prévoir la question linguistique dès le départ. S’il existe des versions anglaise et française d’une politique, décidez comment elles sont liées, laquelle fait autorité en cas d’écart et comment les deux restent à jour. Au Québec, les exigences relatives à la langue française rendent cette réflexion particulièrement importante.
Les questions que les dirigeants devraient poser
Les dirigeants n’ont pas besoin de comprendre les chaînes de récupération d’information ou les graphes de connaissances pour bien piloter ce travail. Ils doivent poser les bonnes questions à leurs équipes et à leurs fournisseurs :
- Lorsque notre IA donne une réponse, pouvons-nous voir d’où elle vient?
- Qui décide quelle source fait autorité lorsque des documents divergent?
- L’IA respecte-t-elle les mêmes autorisations d’accès que nos employés?
- Comment savons-nous que l’information qu’elle utilise est à jour, et qui est responsable d’y veiller?
- Que se passe-t-il lorsque quelqu’un signale une mauvaise réponse? Qui la corrige, et dans quel délai?
- Quels renseignements personnels le système utilise-t-il, et avons-nous confirmé nos obligations avec nos conseillers juridiques?
- Comment testons-nous la qualité avant et après les changements?
Si les réponses sont vagues, la contrainte se situe probablement dans la couche d’information, et non dans le modèle. Les questions de surveillance et de responsabilité rejoignent directement notre approche en matière d’IA responsable.
Comment Trained peut vous aider
Trained aide les organisations canadiennes à structurer la couche d’information sur laquelle repose l’IA : sources, autorité, entités, relations, autorisations, provenance et rétroaction. Nous commençons par un domaine où l’IA peut être utile, bâtissons les fondations informationnelles nécessaires et les relions aux systèmes et aux flux de travail qui les utilisent. C’est un volet central de notre travail d’entraînement de modèles et de connaissances. Si votre IA ne vaut que ce que vaut votre information, parlons de votre information.