IA souveraine
Déterminez quelles charges de travail exigent une résidence ou un contrôle canadiens, et lesquelles n’en ont pas besoin.
IA responsable · Canada
Rendez l’IA utile sans sacrifier la reddition de comptes.
L’IA responsable n’est pas un projet à part. C’est la façon dont l’IA est entraînée, déployée et supervisée au quotidien : qui décide, quelles données sont utilisées, comment les réponses sont vérifiées et à qui revient la responsabilité du résultat.
Notre approche
Une éthique opérationnelle, pas théorique.
Une gouvernance qui n’existe qu’en PDF ne change rien à ce qui se passe quand quelqu’un utilise l’IA un mardi après-midi.
Nous aidons les organisations à traduire leurs principes en pratiques concrètes : former les équipes à utiliser l’IA de façon responsable dans leur rôle, et concevoir des systèmes où les autorisations, la révision, la journalisation et l’escalade appliquent automatiquement les règles.
Ce que nous intégrons
Dix engagements concrets.
Appliqués proportionnellement au risque de chaque cas d’usage. Un résumé de réunion n’exige pas les mêmes contrôles qu’un système qui touche l’emploi d’une personne, ses prestations ou son accès aux services.
Supervision humaine
Déterminez quelles décisions l’IA ne devrait jamais prendre seule, où une approbation est requise et ce que les réviseurs vérifient réellement.
Protection de la vie privée
Limitez l’IA à l’information dont elle a besoin, respectez les conditions dans lesquelles les renseignements personnels ont été recueillis et tenez les données sensibles à l’écart des outils inappropriés.
Une explicabilité adaptée au cas d’usage
Un assistant de rédaction et un système qui influe sur l’admissibilité d’une personne n’exigent pas du tout le même niveau d’explication. Adaptez la norme aux enjeux.
Tests de biais et d’équité
Vérifiez les écarts de rendement et les effets disproportionnés lorsque les résultats touchent des personnes, avant le lancement et à mesure que les systèmes évoluent.
Qualité des données
Une information peu fiable, périmée ou contradictoire produit une IA peu fiable. La qualité est une question de responsabilité, pas seulement un enjeu technique.
Sûreté et sécurité
Protégez les systèmes d’IA contre les usages abusifs, les fuites de données et la manipulation, et limitez ce à quoi les agents peuvent accéder et ce qu’ils peuvent faire.
Provenance et vérifiabilité
Sachez d’où vient une réponse, quelles sources et quel modèle ont été utilisés, et qui a approuvé le résultat.
Correction et escalade
Facilitez le signalement des erreurs, leur correction à la source et l’escalade des cas que l’IA ne devrait pas traiter.
Responsabilité
Chaque résultat obtenu avec l’appui de l’IA a un responsable désigné. L’automatisation change la façon de travailler, pas la personne qui en répond.
Des politiques traduites dans le comportement des systèmes
Les règles deviennent des autorisations, des étapes de révision, de la journalisation et des voies d’escalade, pour que la gouvernance fonctionne sans dépendre de la mémoire de chacun.
Les questions auxquelles nous aidons à répondre
L’IA responsable commence par des questions précises.
Des réponses claires à ces questions, pour chaque cas d’usage, valent mieux que n’importe quel énoncé de principes.
- Quelles décisions l’IA ne devrait-elle pas prendre seule?
- Où l’approbation humaine est-elle requise?
- À quelle information un système d’IA peut-il accéder?
- Quelles données ne devraient pas être utilisées du tout?
- Comment l’autorité des sources est-elle établie?
- Comment les résultats sont-ils vérifiés et corrigés?
- Comment les biais et les effets disproportionnés sont-ils évalués?
- Qui est responsable d’un résultat automatisé?
- Comment les systèmes sont-ils surveillés à mesure que les modèles et les données évoluent?
- Comment les politiques deviennent-elles des autorisations, des flux de travail, de la journalisation et des voies d’escalade?
Contexte canadien
Ancré dans l’approche canadienne en matière de protection de la vie privée et de reddition de comptes.
Les organisations canadiennes évoluent dans un cadre qui comprend la loi fédérale sur la protection des renseignements personnels dans le secteur privé, des régimes provinciaux distincts au Québec, en Alberta et en Colombie-Britannique, des règles sectorielles et, pour les institutions fédérales, la Directive sur la prise de décisions automatisée. La loi québécoise sur la protection des renseignements personnels prévoit des obligations de transparence pour les décisions fondées exclusivement sur un traitement automatisé.
Nous tenons compte de ces réalités dans la formation et la conception des systèmes, et nous renvoyons aux orientations d’organismes comme le Commissariat à la protection de la vie privée du Canada. Nous ne sommes pas un cabinet d’avocats et nous collaborons avec vos conseillers juridiques et votre responsable de la protection des renseignements personnels lorsqu’une interprétation juridique est nécessaire.
Une IA conçue pour le CanadaQuestions
Questions fréquentes sur l’IA responsable
Qu’est-ce que l’IA responsable?
L’IA responsable consiste à concevoir, déployer et exploiter l’IA de façon qu’elle soit utile, équitable, sécuritaire, respectueuse de la vie privée et soumise à une reddition de comptes. Concrètement, cela suppose une supervision humaine claire, une utilisation appropriée des données, des tests, la provenance, la correction et des responsables désignés pour les résultats.
Le Canada réglemente-t-il l’IA?
L’approche canadienne continue d’évoluer. Le projet de Loi sur l’intelligence artificielle et les données (LIAD) n’a pas été adopté. Les lois existantes sur la protection des renseignements personnels, les règles sectorielles et, pour les institutions fédérales, la Directive sur la prise de décisions automatisée encadrent déjà l’utilisation de l’IA. Les organisations devraient confirmer leurs obligations actuelles auprès de leurs conseillers juridiques.
Pouvez-vous nous rendre conformes?
Trained n’est ni un cabinet d’avocats ni un auditeur et ne certifie pas la conformité. Nous aidons les organisations à traduire leurs obligations et leurs politiques en formation concrète, en conception de systèmes, en contrôles et en flux de travail, en collaboration, au besoin, avec leurs conseillers en droit et en protection de la vie privée.
Devons-nous avoir une politique sur l’IA avant de commencer?
Une politique courte et pratique est utile, mais elle n’a pas besoin d’être parfaite dès le départ. Nous élaborons souvent la politique parallèlement aux premières formations et des premiers cas d’usage, pour qu’elle reflète l’usage réel de l’IA dans votre organisation.
Poursuivre la lecture
Opérations d’IA
Des flux de travail où la révision, l’escalade et la reddition de comptes sont intégrées dès la conception.
Formation en IA
Une formation à l’usage responsable conçue en fonction de vos rôles, de vos outils et de vos politiques.
Où l’IA a-t-elle besoin de garde-fous dans votre organisation?
Dites-nous comment l’IA est utilisée aujourd’hui et ce qui vous préoccupe. Nous vous aiderons à la rendre utile et responsable.