Ingénieures et ingénieurs, garants d’une IA responsable

Souvent perçue comme une irruption soudaine de la science-fiction dans notre quotidien, l’intelligence artificielle (IA) s’inscrit dans une série d’évolutions amorcées dès la première révolution industrielle, qui ont façonné les économies.

Promesse de solutions à des problèmes complexes, cette innovation présente néanmoins des risques, dont l’amplification de problèmes sociétaux et environnementaux. Qui plus est, l’évolution des technologies d’IA ne montre aucun signe d’essoufflement : les avantages économiques qu’elles génèrent, tout au long de leur cycle de vie, alimentent la course à la rentabilité et les dynamiques de pouvoir dans un paysage géopolitique complexe.

Dans ce contexte, comment les encadrer? Devant ces défis, une IA responsable et digne de confiance s’impose, une IA éthique et sûre, tant dans sa conception que dans son utilisation des outils et des données. Dans cet effort, le rôle des ingénieures et des ingénieurs est crucial.

LA TRANSPARENCE COMME GARDE-FOU

Bien qu’il existe différentes approches, un consensus se dessine autour de cadres de référence d’une gouvernance responsable de l’IA. La Déclaration de Montréal, qui vise à orienter le développement de l’IA vers une voie éthique, en fait partie. Les principes de l’OCDE, qui reposent sur des valeurs clés comme la croissance inclusive, l’équité, la robustesse, la transparence et l’explicabilité constituent un autre repère largement reconnu.

La transparence et l’explicabilité sont les fondements de la traçabilité, qui permet de mieux repérer et de comprendre les algorithmes de l’IA. Non seulement elles limitent les risques d’atteinte à la vie privée et à la sécurité des données, mais elles contribuent aussi à réduire l’asymétrie de l’information relative à ces systèmes. Elles facilitent également leur audit afin d’en assurer la conformité aux normes, règlements et lois.

Pour encadrer le cycle de vie de l’IA, la transparence doit porter non seulement sur les algorithmes, mais aussi sur les modalités d’utilisation et sur la gouvernance des données. Un manque de transparence peut favoriser l’insertion de biais et de pratiques discriminatoires, entraîner une distorsion des faits et des formes de manipulation émotionnelle, ou encore compromettre le respect de la propriété intellectuelle. Il faut aussi tenir compte des répercussions environnementales, notamment de l’empreinte carbone, ainsi que de la consommation d’eau et du recours à des minéraux critiques. Devant l’opacité des systèmes d’apprentissage profond, il devient prioritaire de rendre explicites les biais et les mécanismes internes.

IMPUTABILITÉ : TOUS GARDIENS DES PRATIQUES RESPONSABLES

L’IA responsable n’est pas une destination. C’est plutôt un voyage : son déploiement exige un audit proactif et des boucles de rétroaction continues afin de réajuster périodiquement ses composants et paramètres, puis de réentraîner le modèle – une démarche itérative essentielle pour corriger les dérives potentielles, garantir un usage conforme à l’intérêt du public et maintenir la fiabilité du système dans le temps.

Dans la course au progrès technologique, l’accent a longtemps été mis sur la technique, malgré les risques de dérives. Dans le secteur des TI et du numérique, ce‑e démarche a souvent laissé aux seules équipes de conception et de développement le soin de veiller à ce que les systèmes servent l’intérêt public, sans disposer des outils ni de l’encadrement adéquats. Or, les ingénieures et ingénieurs ont une responsabilité envers le public.

Par conséquent, il est essentiel qu’ils comprennent la technologie et ses effets, développent leur sens critique et s’ouvrent à des collaborations multidisciplinaires et multipartites, tout en poursuivant une formation continue. Une telle compréhension systémique leur perme‑ra de repérer les défis et d’en tenir compte aux différentes étapes du cycle de vie des projets d’ingénierie.

Depuis quelques années, en plus des cadres de référence précédemment cités, des ressources et des outils pratiques à l’attention des développeurs ont vu le jour. Citons entre autres l’AI Risk Management Framework du NIST ou l’Ethically Aligned Design d’IEEE. D’autres documents, comme le guide Data Justice in Practice: A Guide for Developers, du PMIA, offrent une analyse approfondie de dimensions fondamentales, dont la justice appliquée à la gouvernance des données. Ces ressources peuvent servir de repères pour concevoir des systèmes responsables.

L’IA responsable n’est pas facultative. C’est un impératif éthique et professionnel pour les ingénieures et ingénieurs. Il est essentiel qu’ils développent un regard critique et une vision d’ensemble. Une telle démarche suppose d’élargir leurs perspectives afin de prendre en compte l’ensemble des conséquences sociétales de l’IA. Alors, collègues ingénieures et ingénieurs, honorons la tradition canadienne de l’ingénierie responsable en endossant sans attendre le rôle de garants d’une IA au service du bien commun.

Notes
Gemini a été utilisé comme outil de reformulation d’idées originales des auteurs par souci d’efficacité; un travail d’édition humain a été réalisé.