Philosophe, essayiste et président du Think Tank Generation Libre, Gaspard Koenig a réalise un voyage au cœur de l’intelligence artificielle ! Dans son dernier livre, La Fin de l’individu, il revient sur les promesses ainsi que sur les risques de cette technologie.

Dans votre dernier ouvrage, La Fin de l’individu, vous remarquez que les valeurs du confucianisme correspondent parfaitement aux caractéristiques de l’IA. Ce qui n’est pas le cas de la culture occidentale. Cela veut-il dire que nous sommes condamnés à être derrière la Chine en termes d’IA ?

Les Etats-Unis ont été en avance en recherche fondamentale et sur le développement de la technologie. La Chine, comme le dit Kai-Fu Lee, est dans l’âge de la mise en œuvre. Dans cet âge de la mise en œuvre, c’est la quantité de données disponibles ainsi que la capacité de déployer ces technologies d’IA de manière extensive qui importent. Sur ce point, il semblerait que la Chine n’ait aucun tabou et aucune restriction. En ce qui nous concerne, on voit mal comment nos régulations, qui sont par ailleurs justifiées, pourraient ne pas impacter la recherche en IA. Du fait de ces restrictions, on se prive non seulement d’outils mais aussi de base de données et donc de capacités d’amélioration. En Chine, l’IA est conforme à la culture et aux aspirations de la société. Il y a donc un enthousiasme généralisé autour de cette technologie.

Ce qui m’intéresse c’est de savoir si un modèle alternatif, utilisant les technologies de manière moins efficace mais plus respectueuse de nos vies privées, peut exister ou si, progressivement, le modèle chinois va s’imposer.

A Los Angeles vous avez rencontré des activistes qui luttent contre la police prédictive. Que pensez-vous de PredPol ?

Je n’ai pas pu rencontrer le Département de la Police de Los Angeles. Je n’ai donc eu qu’un seul avis. Ce qui est sûre, c’est que l’avis que j’ai eu est extrême et qu’il ne propose aucune solution si ce n’est le retrait du monde. La question de la police prédictive renvoie à l’éternel dilemme entre efficacité et liberté. Si cette technologie permet à des policiers d’effectuer de meilleures patrouilles et de lutter plus efficacement contre les crimes, il devient compliqué d’être complètement contre. Pour autant, il est crucial de comprendre les connexions de données sur lesquelles reposent ces systèmes. Les citoyens doivent avoir le droit de contrôler leurs données. Y compris si cela génère des algorithmes sous-optimaux et crée une policie predictive moins peformante.

Vous proposez en effet de laisser à chaque individu la possibilité d’être maitre de ses données et d’acquérir une forme d’autonomie numérique. Ne craignez-vous pas que l’on préfère le bien-être à la liberté ?

La solution que je propose laisse à chacun la possibilité de faire ce choix. Celui qui préfère le bien être pourra accepter le nudge et fournir ses données. Celui qui veut rester « libre », pourra également protéger ses données, moyennant une compensation financière. Entre les deux, une palette de choix différenciés va naturellement émerger. Certains choisirons de livrer leurs données pour l’e-commerce mais de ne pas partager leur géolocalisation. D’autres refuseront de fournir leurs données aux industries pharmaceutiques mais accepteront d’aider la recherche médicale. Si un choix collectif se dégage, il se dégagera en ordre spontané, selon les choix qu’auront fait des millions d’individus. Dans cet équilibre social, ceux qui voudront vivre de manière extrêmement protégée pourront toujours le faire. Il s’agira donc de passagers clandestins qui bénéficieront d’avancées auxquelles ils n’ont pas contribué. Mais il y a toujours eu des passagers clandestins. On profite tous des poches sanguines alors que nous ne donnons pas tous notre sang. En dépit de cela, je préfère protéger ces passagers clandestins. Ils constituent ces zones d’ombre qui rendent la société sous optimale mais qui permettent l’erreur, la divergence, l’essai et donc le progrès

Vous remarquez que derrière son ordinateur on a la possibilité de déjouer une IA. Dans un contexte urbain, cela parait beaucoup plus compliqué…

Ces stratégies d’offuscation ne constituent pas une solution structurelle. Elles sont déployées par une minorité activiste. Je suis certain que ces mêmes activistes vont développer des solutions afin d’échapper au regard des IA en ville. A Hong Kong, c’est déjà le cas puisque des manifestants ont créé des stickers pour tromper des caméras de surveillance. Ces systèmes vont sans doute s’améliorer et, à leur tour, déjouer les résistances… Dans Minority Report, John Anderton (le protagoniste) se fait greffer des yeux pour déjouer la reconnaissance rétinienne. Ce cas est évidemment extrême mais il montre qu’il est toujours possible de tromper le système.

Manifestants utilisant des lasers pour déjouer des systèmes de reconnaissance faciale à Hong Kong. (Philip Fong/AFP/Getty Images)

Une question connexe à celle que vous posez concerne les réglementations. Dans les Smart Cities, va-t-on obliger les citoyens à utiliser des voitures autonomes ? A 100km de Pékin, Xi Jinping essaye de construire ex nihilo une Smart City pour les voitures autonomes. Dans ce cas, la question de savoir si on laisse des gens conduire de manière déconnectée devient une question de politique publique. A mon sens, il est important de pouvoir circuler dans une ville sans avoir à dire où l’on va et dans une voiture qui nous appartient.

On voit justement émerger, notamment en Chine, des villes « autonomous-car-centered ». On a reproché au XXe siècle de produire des villes auto-centrées. Ne sommes-nous pas en train de répéter les erreurs du passé ?

La technologie doit nous aider dans la constitution de nos vies et non l’inverse. C’est ce que j’ai vu dans les ports autonomes en Chine. Les ports sont des lieux de vie merveilleux qui ont été chantés depuis des siècles. Dans le cas des ports autonomes, non seulement il n’y a pas d’humains mais s’il y avait un humain, cela engendrerait des disfonctionnements. Cette même logique amène à la construction de villes, entre autres en Chine, absolument affreuses. D’ailleurs, pendant leurs vacances, les chinois ne vont pas visiter Hangzhou mais viennent à Paris et prennent des photos en s’émerveillant du Marais et du Boulevard Haussmann. La beauté qu’ils voient et qu’ils reconnaissent en tant qu’être humain est une beauté qui a été constituée par ordre spontané pendant des siècles. Si on avait utilisé une IA pour construire Paris, il n’y aurait pas un seul touriste dans les rues. Ce qui se construit en Chine ne tient pas compte des besoins anthropologiques élémentaires. En procédant de la sorte, on risque de transformer les êtres humains en machine au lieu de leur permettre de

s’épanouir grâce à la machine.

A quoi ressemble votre ville idéale ?

Ma ville idéale va nécessairement me surprendre et naître de processus inattendus, de constructions spontanées et de recherches individuelles imparfaites. Il m’est donc impossible, par définition, de la prévoir.