Achter de schermen nemen algoritmes een steeds prominentere rol in ons leven in. Oproepen voor regulering worden steeds luider, maar waar hebben we het precies over? En wat zijn de implicaties voor ons rechtssysteem?
Inzichten met Aurélie Jean, ondernemer en datascientist, en Jean-Marc Meilleur, partner bij Gosselin & de Walque en voormalig openbaar aanklager.
Hun gesprek bij BeCentral op 9 november werd geïllustreerd door het cartoonbase-team.
Om de ervaring interactief, gedenkwaardig en toegankelijk te maken, hebben we het gloednieuwe conferentieformaat genaamd “Picture This” ontwikkeld. Onze illustratoren hebben live tekeningen gemaakt op basis van de inbreng van onze gasten, als aanvulling op de vooraf bedachte visuals (bekijk ze hieronder!).
Hier zijn de 4 belangrijkste punten uit de discussie:
1. We moeten algoritmen beheersen, niet reguleren.
Moet Facebook zijn algoritmen publiceren? Nee, zegt Aurélie Jean, en dat om verschillende redenen. Het verplicht stellen van de publicatie van algoritmen voor alle spelers op de Europese markt zou bijvoorbeeld de implementatie van veel tools kunnen belemmeren zonder noodzakelijkerwijs de gewenste transparantie te bieden.
Als een algoritme wordt getraind op een dataset, is het simpelweg publiceren van de code niet voldoende om zijn volledige logica bloot te leggen, aangezien deze impliciet wordt opgebouwd tijdens dit leerproces.
Een dergelijke wetgeving zou ook grotere spelers kunnen bevoordelen, waardoor het voor hen gemakkelijker wordt om te profiteren van de innovatie van een start-up.
Aurélie Jean pleit voor een focus op verklaring in plaats van transparantie – de werking van het algoritme begrijpelijk maken voor iedereen.
Wat betreft regelgevende inspanningen, is Jean-Marc Meilleur het eens met Aurélie Jean en benadrukt hij dat ze zich moeten richten op maatregelen die deze verklaring bevorderen.
Het reguleren van ontwikkelingspraktijken, met name op het gebied van testen, creëert een kader dat algoritmische vooroordelen kan detecteren voordat ze op grote schaal worden ingezet.
Dit komt doordat het algoritme op zichzelf niet inherent vooringenomen is, maar eerder de aard van de gegevens waarop het is getraind.
Daarom betekent het temmen van algoritmes dat er meer verklaring wordt afgedwongen door praktijken te reguleren in plaats van de algoritmes zelf.
2. Laten we strijden tegen ondoorzichtigheid om de kwestie van verantwoordelijkheid te ontmystificeren.
Als een screeningsonderzoek een tumor niet detecteert, wie is er dan verantwoordelijk? De arts, de technicus of het bedrijf dat de scanner heeft ontwikkeld?
Het voorbeeld dat Aurélie Jean presenteert, illustreert dat de complexe kwestie van verantwoordelijkheid, die vaak het middelpunt vormt van debatten over algoritmen, niet nieuw is en niet specifiek gerelateerd is aan de “black box” in het hart van digitale tools.
Echter, dit is nauw verwant aan de kwestie van ondoorzichtigheid: om bijvoorbeeld te oordelen dat nalatigheid van de ontwikkelaar schade heeft veroorzaakt, moet een rechter in staat zijn om het functioneren van het door hen ontwikkelde algoritme te onderzoeken en begrijpen.
Opnieuw speelt verklaringsmogelijkheid hier een cruciale rol.
Het verminderen van ondoorzichtigheid door de verklaringsmogelijkheid te verbeteren zal helpen bij het effectiever vaststellen van verantwoordelijkheden.
Zoals onze gasten ons eraan herinneren, dragen gebruikers ook een deel van de verantwoordelijkheid. Hoewel regelgeving kan bijdragen aan het veiliger maken van sociale netwerken voor minderjarigen, kan onderwijs een even belangrijke rol spelen.
3. Een algoritme kan nooit op zichzelf rechtvaardigheid verschaffen.
We hebben gezien welke invloed de wet op algoritmes kan hebben, maar wat is de invloed van algoritmes op de wet? Gaan we naar een samenleving waar algoritmes recht spreken?
In één woord: nee. Hoewel algoritmes kunnen helpen het kader waarbinnen recht wordt gesproken te verbeteren – bijvoorbeeld door de creatie van “filterbubbels” op sociale media te voorkomen – zou het automatiseren van het rechtssysteem een gevaarlijke misbruik zijn.
Zoals Jean-Marc Meilleur ons eraan herinnert, is rechtvaardigheid een menselijke inspanning: een rechter moet altijd in staat zijn zijn beslissing te rechtvaardigen, die niet kan worden voorgeschreven door een algoritme.
In feite is het profileren van rechters op basis van hun beslissingen verboden in Frankrijk om mogelijke misbruiken te voorkomen.
Aurélie Jean benadrukt een belangrijk probleem met jurisprudentie: aangezien een algoritme zou worden getraind op basis van eerder uitgesproken vonnissen, zou algoritmische rechtvaardigheid het ontwikkelen van juridische precedenten onmogelijk maken, die essentieel zijn voor de evolutie van de wet.
4. In de komende 30 jaar kunnen algoritmes mogelijk levens redden.
Welke aspecten van ons leven zullen tegen 2050 worden getransformeerd door algoritmes? En moeten we deze transformaties versnellen of juist voorkomen?
Algoritmes bieden veelbelovende mogelijkheden in de medische sector, zoals uitgelegd door Aurélie Jean. Voorspellende geneeskunde heeft het potentieel om levens te redden, bijvoorbeeld door kanker te detecteren voordat de eerste symptomen zich voordoen.
Echter, ze waarschuwt voor de inmenging van deze technologische hulpmiddelen in onze romantische relaties en breder gezien in menselijke interacties.
De uitdaging, zoals Jean-Marc Meilleur samenvat, is om een regelgevend kader te creëren dat de ontwikkeling van deze voordelen bevordert en tegelijkertijd misbruik voorkomt.
Hij merkt op dat het juridisch kader in België achterloopt bij de snelle evolutie van technologie, waardoor het rechtssysteem niet over de noodzakelijke tools beschikt om deze omvangrijke taak aan te kunnen.
Onze gasten zijn het erover eens dat multilaterale overeenkomsten een cruciaal aspect zijn in deze context.
Meld je aan voor onze nieuwsbrief om een uitnodiging te ontvangen voor onze aankomende “Picture This” evenementen!
