Action IA - Ensemble pour le développement et l’adoption responsable dans l’industrie

Action IA, ensemble pour le développement et l’adoption responsable dans l’industrie, a été organisé cette semaine par Obvia (Observatoire international sur les impacts sociétaux de l’IA et du numérique) dans les locaux d’Ubisoft et avec la collaboration du Conseil de l'innovation du Québec, pour réfléchir collectivement à l’utilisation éthique de l’IA. Le mix des participant.es, à la fois issu du monde académique, de la recherche et professionnel, ont pu rendre les échanges très riches. 

Prendre de la hauteur, avoir une vision plus globale et constater des études scientifiques ont permis d’amener un autre angle à l’utilisation de l’IA.

Voici ce que j’ai retenu de cette journée :

L’IA dans le domaine du jeu vidéo – Yves Jacquier - Directeur exécutif La Forge Ubisoft

On a toujours parlé d'IA dans ce secteur d'activité. Mais cette fois, on commence à en voir les impacts sur :
👥 nos talents
🚑 notre usage juste et sécuritaire
🤝 nos partenaires (fournisseurs…)
📝 notre modèle d’affaire : coût, mise à l’échelle

Selon Yves Jacquier, l'IA ne place pas la barre plus haut. Bien utilisée, elle élève plutôt le niveau de base. 
Elle est peut-être actuellement survendue et a des promesses parfois encore exagérées, mais elle est là pour rester. De son avis, le marché du jeu va tripler dans les prochaines idée. Grâce à l’IA, les coûts diminuent drastiquement et les délais de production sont divisés par 2 pour les tâches à valeur non ajoutées. Ça leur permet non seulement de se concentrer sur la création, mais aussi de former davantage leurs équipes sur la créativité technique. Par exemple pour les images, c’est l’artiste qui contrôle l’outil. L’image est magnifiée par la qualité artistique du prompt. 

L’IA doit donc assister les créateurs, et non automatiser la création.

Pour répondre à une question sur l’impact environnemental, le conférencier a souligné que même si Ubisoft permet à tous.tes les employé.es de manier l’IA, il les sensibilise (avec une alarme) pour les conscientiser à son utilisation (en comparant par exemple l’impact de la création d’une image avec les GES d’autres actions communes).

L’évaluation éthique pour une IA digne de confiance – Andréane Sabourin Laflamme – Collège André Laurendeau, LENA.IA et Obvia)

L’éthique est devenue essentielle dans l’usage de l’IA, même avant l’intervention du droit. 

La session a souligné l'importance de financements pour évaluer l'éthique. Elle s'est aussi interrogée sur la capacité de l'IA à remettre en question des processus longtemps figés. On peut utiliser les services d'un organisme comme Z-Inspection par exemple, qui permet d’auditer les risques de l'IA.

Est-ce qu'au final, l’IA nous permet de remettre en question nos processus en place depuis des années ? C’est peut-être l’occasion de faire des introspections et d’apporter des correctifs. 

Envisager les enjeux éthiques et de responsabilité sociale dès la conception : le cas d’EmoSciens – Pierrich Plusquellec – Université de Montréal – Obvia

Pierrich était déjà venu nous en parler au dernier #trumontreal, et avait provoqué bien des commentaires. 
Il a exploré l'analyse des expressions faciales pour prédire les émotions, utilisant des technologies comme le Facial Action Coding System (basé sur une étude auprès de plus de 740 000 participants à travers le monde). L’agencement des activités du visage exprime une émotion, qui est une réaction. Cependant, nos sensibilités différentes et notre contexte ne nous permettent pas de les interpréter de la même façon. Pour preuve, une démonstration en direct nous a permis de constater à main levée que nous ne reconnaissions pas au même moment une micro-émotion dans une vidéo.

L’analyse automatique d’expression faciale devient cas d’usage : que ce soit pour analyser les émotions à la projection d’une bande annonce de film, pour mesurer les profils émotionnels des enfants en classe, pour détecter les humeurs dans les centres commerciaux… C’est à haut risque mais à très haut potentiel.
Dans le cas de son projet EmoScienS, l’objectif est de pouvoir détecter les émotions afin de répondre aux enjeux de stress chronique, burn out, dépressions...

Former les acteurs des organisations aux enjeux éthiques : pourquoi et comment – Joé T. Martineau – HEC Montréal – Obvia

L'éthique est une discipline philosophique portant sur les jugements moraux et dont le concept est donc très proche de celui de la morale. On parle aussi de philosophie morale pour désigner cette discipline. C'est une réflexion fondamentale de tout peuple afin d'établir ses normes, ses limites et ses devoirs.

C’est un travail réflexif continu, une démarche de prévention et de résolution des enjeux.
Jusqu’à présent, on parlait surtout de conformité avec une approche légale, des règles, de la surveillance et de la discipline. On a surtout formé les gens à ne pas frauder. 
Ces enjeux sont aujourd’hui nouveaux avec l’IA : on essaie de mieux comprendre les biais, d’appréhender la transformation du travail et ses impacts. La loi n’est pas non plus encore là pour nous appuyer. On parle donc davantage d’intégrité et de valeurs avec l’éthique organisationnelle. 

Comment y réfléchir ?  Grâce à des équipes multi disciplinaires et grâce au développement de capacités et compétences individuelles ET organisationnelles :

• Capacités organisationnelles
  -    Valeurs organisationnelles, politiques et normes
  -    Pratiques et outils de gestion
  -    Structures, allocation des ressources
  -    Programme d'éthique organisationnelle
  -    Culture éthique de l'organisation
  -    Éthique et numérique
• Compétences individuelles
  -    Sensibilité aux enjeux éthiques
  -    Empathie et ouverture d'esprit
  -    Affirmation des valeurs
  -    Prise de décision éthique
  -    Leadership éthique

L’éthique de l’IA remet de l’avant l’éthique dans les organisations. Elle est donc vu comme une compétence professionnelle, et elle est à développer !
À nous de prendre la balle au bond, car l'éthique est souvent initiée par les RH ou l’équipe dirigeante en PME.

La perspective d’IBM pour un déploiement responsable de l’IA – Joshua Artzy-McCendie - IBM

Les enjeux les plus fréquents dans les projets développés par l’entreprise sont la conformité et la cybersécurité. 

IBM préconise d'établir 5 différents piliers pour une IA digne de confiance :
▶️ Transparent: être ouvert à l’inspection. On doit savoir qui a déployé le modèle, quand et à partir de quelles données
▶️ Explicable : les résultats/décisions doivent être faciles à comprendre, on doit pouvoir se justifier
▶️ Équitable : avoir une impartialité et partialité atténuée, conscientisation des biais
▶️ Robuste : gérer efficacement les conditions exceptionnelles et minimiser les risques de sécurité
▶️ Privé: être alimenté par des données de haute intégrité et conforme aux normes commerciales

Avec à cette introspection, on a vu des recul de son utilisations. Par exemple, la reconnaissance faciale était tendance, avec une mode à l'essai et à l'adoption. Aujourd’hui, avec ce qui c'est passé dans certains milieux (abus de détection dans le domaine de la sécurité par exemple), on est plus craintif. IBM a même du mal à promouvoir ces solutions. 
La responsabilité et les piliers permettent donc de remettre en question certains cas d’usage.

Panel: Actions à entreprendre pour accélérer le développement et le déploiement responsable de l’IA dans l’industrie

La discussion a rapidement viré sur une vision plus large de l’entreprenariat au Québec. 
D’après le panéliste Richard Chénier, l’IA doit être Utile, Utilisable et Utilisée. Et surtout, on doit enlever toute la «bullshit » qui l'entoure. On doit être plus créatif, et plus productif. 
Le Québec est parmi les meilleurs au monde avec un excellent talent per capita en IA. Et pourtant, on ne convertit pas grand-chose au niveau des startups.  
Selon les données de l’OCDE, on est actuellement avant dernier au niveau de la productivité, et on nous sommes les moutons noirs au Québec. 
🔺 En Alberta, on dénombre 700 startups par million d’habitant, 
🔺 En Ontario, 550
🔺 Et au Québec… 330 

On doit Stimuler la productivité et moins compter sur les financements publics. 
Comme l’a si bien imagé Anne Nguyen, nous sommes les routes du Québec ! À nous d’agir en co-responsabilité si on souhaite que ça change, et connecter les besoins d'affaires et l'IA
À ma question de modèles ou d’exemples à l’étranger, Richard Chénier a entre autres cité la Suède, les Pays Bas et Israël qui exportent 2 fois plus que les autres pays de moins de 50 millions d'habitants. La Colombie Britannique a fait également très bonne figure avec les États-Unis. Le succès pour les pays moins peuplés est dans l’exportation, sur laquelle nous semblons être trop timides au Québec.

Bien d'autres sujets et conférencier.ères intéressant.es sont intervenu.es. Je pense à Cynthia Chassigneux entre autres. Les thèmes ayant déjà été traités précédemment de notre blogue, ils n'ont pas été soulignés dans celui-ci. 

Le succès de cette édition en appelle une autre. Félicitations à toute l’équipe d’Obvia pour leur organisation et la richesse des sujets abordés.