Avec qui j’ai conversé d’intelligence artificielle : 
 — SA : Sofian Audry, artiste numérique spécialisé en robotique.
 — JP : Joëlle Pineau, chercheuse et professeure en intelligence artificielle et robotique. 
 — MB : Mitchel Benovoy, PhD et président de Corstem, une compagnie qui utilise l’IA pour aider le diagnostic des maladies cardiovasculaires.

C’est quoi l’Intelligence artificielle ? 

JP — Il y a deux paradigmes en IA. La première stratégie est de programmer la machine, de lui donner une liste d’instructions et de règles claires (classique IA). La deuxième, c’est l’apprentissage. La machine reçoit des exemples et reproduit des comportements (machine learning/​deep learning).

SA — Au début des recherches sur l’IA dans les années 60, on cherchait à créer un programme informatique intelligent. On sait que les humains intelligents jouent aux échecs. Donc, on se dit que si on peut créer un ordi qui peut bien jouer aux échecs, on est sur la bonne voie. Les résultats sont impressionnants puisque les ordinateurs sont très bons pour regarder quinze coups d’avance et prendre des décisions. On se dit que si on continue comme ça on va pouvoir s’attaquer à toutes sortes d’autres problèmes informatiques comme de bâtir un ordinateur qui peut parler, etc. Erreur : parce que jouer aux échecs est un problème assez facile pour l’ordinateur. Les problèmes les plus difficiles à résoudre sont les choses que les humains font sans s’en rendre compte : parler, marcher, reconnaitre des gens, des voix, conduire des voitures, des vélos, lire entre les lignes quand quelqu’un nous parle, avoir de l’intuition… Parce que l’intuition, ce n’est pas magique, ce sont des liens qu’on fait cérébralement, basés sur des informations qu’on a eues dans le passé sans le réaliser.

JP — Avant, toute l’IA développée entrait dans le 1^er paradigme. Maintenant, ce qu’on développe le plus est le système par apprentissage, le machine learning. On cherche à créer par algorithmes, qui sont des séries de codes informatiques, de gros réseaux de neurones, qui permettent à la machine d’apprendre par elle-même, par la répétition ou par son interaction avec des humains. Par apprentissage, on ne peut pas vraiment prévoir ce qui sortira de la machine, mais elle est beaucoup plus flexible.

MB — La révolution du machine learning date du début 2000, moment où les deux courants se scindent. Le but de tout ça est de voir si on peut reproduire ou dépasser ce qu’un humain fait. Puisque le concept d’intelligence n’est pas clair, on se demande plutôt comment dépasser les performances humaines connectées à la cognition humaine.

Qu’est-ce qui t’excite de l’intelligence artificielle ? 

MB — Ses capacités décisionnelles en utilisant des sources d’information extrêmement larges qui dépassent les capacités humaines.

SA — Le feeling de créer. L’abstraction disparait rapidement puisque coder devient rapidement très concret. On voit les résultats de nos choix très vite. Il n’y a pas de place pour l’erreur. Aussi, si on est capables de faire une machine aussi intelligente qu’un humain, on aura compris ce qu’est un humain. Si on le fait, on l’a compris.

MB — Personnellement, je ne crois pas qu’une machine aussi intelligente que l’humain nous permettra de comprendre l’humain. La complexité des systèmes d’IA est tellement grande que c’est difficile de comprendre leur fonctionnement. Par contre, peut-être qu’il y aura des chercheurs synthétiques IA qui essayeront de s’y pencher…

JP — Moi, ce qui m’excite, c’est le défi. La curiosité de résoudre des problèmes. On peut aller dans le très pratique en recherche. On teste nos découvertes avec des gens. On a l’occasion de faire toutes sortes de collaborations.

Parle-moi de Siri. 

JP — On n’a pas beaucoup d’informations sorties sur Siri. Tout ce qui se fait chez Apple est très secret. On ne sait pas sur quoi les chercheurs travaillent. On sait par contre que Siri est constituée des deux paradigmes d’IA. Certaines fonctions doivent être remplies de manière automatique, mais on ne sait pas lesquelles. Ce qu’on sait c’est qu’Apple garde la mainmise sur Siri et ne la laisse pas être à l’image de ce que ses créateurs souhaitaient. C’est pourquoi l’équipe de Dag Kittlaus, le cocréateur de Siri, travaille actuellement sur VIV, une assistance similaire, mais qui incorpore beaucoup plus de machine learning et dont les fonctions seront beaucoup plus vastes.

SA — On ne sait pas exactement pourquoi on comprend les mots quand on les entend. Notre réseau de neurones dans notre tête détecte des patterns, extrait des formes et conclut que c’est tel ou tel mot qui est entendu, et tout ça se fait sans qu’on s’en rende compte. Il y a beaucoup de subtilités dans la langue, des bruits, des changements de rythmes, toutes ces choses altèrent notre perception. Rien dans notre cerveau dit : j’ai entendu tel phonème donc j’ai entendu ce mot. Ce qui est intéressant avec Siri, c’est qu’elle analyse un flux vocal, une onde sonore et la transforme en mots. Puis, elle est capable d’utiliser ces données pour les transformer en requête. Elle fait du knowledge representation : être capable d’extraire le sens d’une phrase et d’utiliser le sens pour accéder à la bonne information.

Quelles sont les applications de l’IA qui sont déjà dans nos vies et auxquelles on ne pense pas ? 

JP — Les machines qui utilisent la reconnaissance de la parole, la reconnaissance de l’image, la détection de fraudes bancaires, les engins de recherche, le choix du contenu dans nos interactions en ligne.

SA — Au quotidien, notre feed Facebook, nos préférences sur Netflix ou Spotify, apprennent de notre comportement, de nos habitudes. On est capable de générer le profil multidimensionnel d’un utilisateur. Tu vas sur Internet, tu regardes des choses, tu utilises ta carte de crédit : on te connait. On te propose alors certaines nouvelles ciblées, on t’amène sur certains sites web où tu ne verras pas la même chose que moi à cause de ton adresse IP. Le marketing est le marché principal des réseaux sociaux.

MB — Par contre, ce n’est qu’une petite tranche de l’IA qui sert à vendre de la publicité. La plupart des systèmes n’ont rien à voir avec la pub, mais visent des applications potentiellement bénéfiques en santé, en finances, dans le domaine manufacturier, etc.

Quels sont les enjeux sociaux de l’IA ?

JP — Ma vraie inquiétude ce n’est pas le développement d’un agent super puissant qui va prendre le contrôle du monde, c’est la collecte de données pour faire de l’argent. Google vient d’ouvrir un labo d’IA à Montréal, il faudra choisir éthiquement quelles compagnies nous favorisons en informatique.

SA — L’informatique est la technologie la plus importante qui a des répercussions immenses dans toutes les sphères de la société. Pour les prochaines décennies, l’IA est une technologie qui va créer une 4^e révolution industrielle. On remplacera certaines tâches intellectuelles par des machines. Ça aura un impact majeur qui pourrait être désastreux.

MB — Par contre, l’IA nous fournira du temps et de l’objectivité dans le processus décisionnel. Je crois que l’IA a un potentiel énorme d’améliorer notre quotidien, mais puisqu’on est encore très tôt dans le déploiement des systèmes autonomes, il va y avoir des erreurs… qui peuvent parfois être regrettables.

SA — C’est fascinant de tenter de créer quelque chose à notre image. Mais ça peut être problématique, car étant donné que ce champ de recherche a été beaucoup entre les mains d’hommes blancs, il y a un phénomène relié au patriarcat. On vit dans une société patriarcale, société des hommes où on cherche à reproduire une société d’hommes. Dans beaucoup de sociétés traditionnelles, les femmes n’étaient pas considérées comme des êtres humains et seuls les enfants hommes étaient désirés. Si on était capables de contourner la biologie, la société patriarcale serait capable de reproduire la société des hommes, de créer des robots hommes sans avoir besoin des femmes. C’est un territoire intéressant à étudier pour les chercheurs et les artistes. Y aurait-il un territoire alternatif ? De la place à revendiquer pour des robots féministes ? Pour moi, les artistes peuvent travailler dans des zones où personne ne peut aller, des zones insondables pour la science et les autres secteurs de la société. Ça m’intéresse d’essayer de contribuer à penser autrement ces technologies-là. Les sortir de la mainmise du capitalisme et des grandes entreprises.

Sommes-nous dans une phase de naïveté extraordinaire face à l’IA ?

MB — Non, je ne pense pas. Au contraire, ça fait plusieurs décennies que la science-fiction nous prépare à ce qui va venir.

SA — Les gens commencent à comprendre ce qui se passe. Ce qui est désolant c’est qu’on nous mette dans des situations où on vient nous chercher en faisant appel à des choses profondément ancrées en nous. On a tous besoin de se sentir entourés, de s’identifier, de ne pas se sentir seuls. On se sert de ça pour nous faire rentrer dans des réseaux, et on nous fait signer des contrats disant que toutes nos informations appartiennent à ces réseaux. On ne profite pas du service Facebook, on est le produit que Facebook vend aux publicitaires.

JP — Je crois que les mêmes technologies développées pour vendre des bidules peuvent aider grandement. Entre autres en santé, en analyses des données.

SA — Oui, il faut aussi réfléchir au côté lumineux des technologies. Beaucoup de gens y travaillent sans chercher à faire des profits. Il y a des mouvements citoyens autour des logiciels, des logiciels libres, de l’activisme.

MB — J’ai un regard positif sur la technologie et ce que ça peut rapporter à la société. Mon idéal serait que la contrainte de devoir subvenir à ses besoins par le travail soit grandement diminuée et que l’homme moyen ait plus de temps pour s’éduquer, se divertir et contribuer à l’avancement de l’espèce.

Devrions-nous avoir peur ? 

SA — Il y a beaucoup de craintes mal placées : on va se faire annihilés par des IA supérieures, etc. C’est un problème auquel il faut réfléchir, mais on est très loin de ça. C’est comme si on s’inquiétait de la surpopulation sur Mars avant d’envoyer un seul humain là-bas. Le vrai problème, c’est le retard critique de la société civile.

MB — Ce qui me fait peur c’est l’adoption ou le déploiement trop rapide de systèmes pas tout à fait au point qui pourraient générer de graves erreurs.

JP — La peur vient de l’inconnu. Les gens qui sont dans le domaine ont moins peur, pas juste parce qu’ils font l’autruche, mais parce qu’ils ont apprivoisé quelque chose et aussi parce que c’est très difficile de faire des prédictions. Même les experts n’y arrivent pas. Ce qui est différent c’est que le monde de l’informatique est plus difficile à comprendre, donc c’est normal que les conversations soient moins rationnelles.

Si on embrasse la dystopie qui veut que bientôt, les robots vont avoir pris la place de beaucoup d’humains, qu’est-ce les humains auront de mieux à faire ? 

MB — Il y aura un changement fondamental de la structure de la société… Mais je crois qu’un frein important au développement personnel et sociétaire est l’obligation de travailler pour subvenir à nos besoins. Si ce travail est effectué par l’IA ou par des robots, peut-être que tout ce nouveau temps libre pourra contribuer à l’avancement positif de l’espèce.

SA — Ce que j’espère, mais je n’y crois pas trop, c’est qu’on va être capable comme société de redistribuer la richesse. Si on automatise les tâches, on devrait avoir plus de temps libre et plus de richesse. Ce serait bien d’avoir la capacité de travailler moins et de se concentrer sur d’autres aspects de la vie. Mais, ce que je pense qui est en train de se passer c’est un clivage entre les gens, avec l’augmentation des écarts de richesse et du taux de chômage. Le capitalisme est basé sur le travail. Si les gens et les états voyaient l’éducation comme une richesse en soit, les gens pourraient prendre beaucoup de temps à apprendre. On pourrait repenser les décisions politiques. Les gens s’y intéressent peu, entre autres parce qu’ils ont peu de moyens d’intervenir.

Qu’en est-il de l’éthique ?

SA — Chez Google, par exemple, ils ont des comités d’éthique, mais ils font à peu près 80 % de leurs profits avec de la publicité. Peut-être que ça va changer, mais c’est une compagnie privée et je ne pense pas que je pourrais avoir foi en un philosophe qui travaille pour Google. Le problème, c’est que les premières victimes du retrait de l’état dans le financement des recherches fondamentales, ce sont les sciences humaines.

JP — Ce n’est pas la spécialité de ceux qui développent la technologie de discuter de l’éthique. Ils se sentent obligés de le faire, car personne ne le fait, parce que tout arrive très vite et tout est très spécialisé. Peu de gens peuvent faire le pont, mais ça devrait s’améliorer, car il y a une volonté des deux côtés.

Les humains sont-ils des machines ? Nous transmettons-nous des choses dans l’invisible qui ne sont pas reproductibles ? 

MB — Nous sommes un peu des machines, mais un peu autre chose. Nous nous transmettons des phéromones !

SA — Non. La télépathie n’existe probablement pas et si elle existe, c’est un phénomène naturel, donc reproductible en théorie.

JP — L’homme est une machine avec une physiologie différente que nos machines de silicones, donc, dans cet esprit, au moment où la machine synthétique rejoint la machine biologique ou vice versa, il n’y a plus de différence. Des gens ont déjà des implants pour l’audition ou pour le cœur. Mais, nous devrons faire un bon bout de chemin comme humanité pour accepter de nous rapprocher des machines.

Comment ralentir ce qui va trop vite ? 

MB — Impossible.

SA — En perdant du temps ensemble.

JP — Ralentir quoi exactement ? Quand on est dans une auto, on appuie sur les freins. Quand ma vie bouge trop vite, je prends un bain. Quand on est pris dans une vague trop forte, mieux vaut nager avec, que contre courant. Ça dépend vraiment de ce qui impose le mouvement. Dans le cas de l’avancement de la technologie, je crois qu’il faut comprendre, discuter, enseigner, au besoin encadrer. Je ne pense pas qu’on puisse ralentir le progrès des technologies, mais on peut réfléchir aux balises nécessaires.