Derrière les coulisses, les algorithmes prennent une place grandissante dans nos vies. Les appels à la réglementation se multiplient – mais de quoi parle-t-on au juste ? Et quelles sont les implications pour nos systèmes judiciaires ?
Éléments de réponse avec Aurélie Jean, entrepreneuse et scientifique numéricienne, et Jean-Marc Meilleur, Partner chez Gosselin & de Walque et ancien Procureur du Roi.
Leur conversation chez BeCentral le 9 novembre a été mise en images par l’équipe cartoonbase.
Pour rendre l’expérience à la fois interactive, mémorable et accessible, nous avons développé le tout nouveau format de conférence Picture This : nos illustrateurs ont complété en live les dessins imaginés à l’avance en prenant appui sur les contributions de nos invités (découvrez-les ci-dessous !).
Voici les 4 points clés du débat :
1. Il faut dompter les algorithmes, non les réglementer
Facebook doit-il publier ses algorithmes ? Non, répond Aurélie Jean, et cela pour plusieurs raisons.
Imposer la publication des algorithmes à tous les acteurs sur le marché européen par exemple risquerait de freiner le déploiement de nombreux outils sans pour autant apporter la transparence souhaitée.
Car lorsqu’un algorithme est entraîné sur un jeu de données, la publication du code ne suffira pas à révéler toute sa logique : elle est construite implicitement par cet apprentissage.
Une telle législation favoriserait d’ailleurs les gros acteurs, qui pourraient alors aisément tirer profit de l’innovation d’une start-up.
Aurélie Jean appelle à se focaliser sur l’explicabilité plutôt que la transparence : il s’agit de rendre le fonctionnement de l’algorithme compréhensible pour tous.
Quant aux efforts de réglementation, Jean-Marc Meilleur rejoint Aurélie Jean pour dire qu’ils devront se focaliser sur des mesures qui favorisent cette explicabilité.
Réglementer les pratiques de développement, notamment en matière de testing, c’est créer un cadre qui permette de détecter les biais algorithmiques avant leur déploiement à grande échelle.
Car ce n’est pas l’algorithme qui est raciste, mais bien le caractère des données sur lesquelles il est entrainé.
Dompter, c’est donc imposer davantage d’explicabilité, en réglementant des pratiques plutôt que les algorithmes eux-mêmes.
2. Combattons l’opacité pour démystifier la question de la responsabilité
Lorsqu’un examen de dépistage manque de révéler une tumeur, à qui la faute ? Le docteur, le technicien, l’entreprise qui a développé le scanner ?
L’exemple que nous propose Aurélie Jean illustre que la question complexe de la responsabilité, si souvent au centre des débats sur les algorithmes, n’est pas nouvelle, ni spécifiquement liée à la « boîte noire » au cœur des outils digitaux.
Elle est toutefois étroitement liée à celle de l’opacité : pour qu’un juge puisse par exemple trancher que c’est l’imprudence du développeur qui a causé un dommage, il faut pour cela qu’il puisse examiner et comprendre le fonctionnement de l’algorithme qu’il a développé.
C’est encore une fois l’explicabilité qui joue un rôle clé ici.
Diminuer l’opacité en améliorant l’explicabilité permettra de mieux déterminer les responsabilités de chacun.
Comme le rappellent nos invités, les utilisateurs ont aussi leur part de responsabilité : si la réglementation peut contribuer à rendre les réseaux sociaux plus sûrs pour les mineurs par exemple, l’éducation peut jouer un rôle tout aussi important.
3. Un algorithme ne pourra jamais rendre justice à lui tout seul
Nous avons vu l’impact que la loi peut avoir sur les algorithmes. Qu’en est-il de l’impact des algorithmes sur la loi ? Allons-nous vers une société où les algorithmes rendent justice ?
En un mot : non. Si les algorithmes peuvent permettre d’améliorer le cadre dans lequel la justice opère – par exemple en empêchant la création de « bulles de filtres » sur les réseaux sociaux –, l’automatisation de l’appareil judiciaire serait un abus dangereux.
Jean-Marc Meilleur le rappelle, la justice est une œuvre humaine : un juge doit toujours pouvoir justifier sa décision, qui ne pourra dès lors être dictée par un algorithme.
Le profilage des juges à partir de décisions rendues est d’ailleurs interdit en France afin de prévenir les abus qui pourraient en résulter.
Aurélie Jean pointe le problème majeur de la jurisprudence : puisqu’un algorithme sera entraîné sur base de jugements rendus antérieurement, une justice algorithmique rendrait impossible les revirements jurisprudentiels, pourtant essentiels pour faire évoluer le droit.
4. D’ici 30 ans, les algorithmes pourraient nous sauver la vie
Quels aspects de nos vies seront transformés par les algorithmes d’ici 2050 ? Et faut-il accélérer ou au contraire prévenir ces transformations ?
Les algorithmes sont porteurs de grands espoirs dans le domaine médical, explique Aurélie Jean. La médecine prédictive a le potentiel de sauver des vies, par exemple en détectant des cancers avant l’apparition des premiers symptômes.
Par contre, elle met en garde contre l’ingérence de ces outils technologiques dans nos rapports amoureux, et plus globalement les relations humaines.
L’enjeu, comme le synthétise Jean-Marc Meilleur : créer un cadre réglementaire qui contribue au développement de ces bienfaits – tout en prévenant les dérives.
Il souligne que la mise à jour du cadre légal en Belgique est à la traîne par rapport à l’évolution rapide des technologies, privant ainsi la justice des outils nécessaires pour accomplir cette tâche d’envergure.
Nos invités s’accordent pour dire que les accords multilatéraux représentent un enjeu crucial dans ce contexte.
Le livre d’Aurélie Jean « Les algorithmes font-ils la loi ? » est disponible aux Éditions de l’Observatoire.
Inscrivez-vous à notre newsletter pour recevoir une invitation pour nos prochains évènements Picture This !
