Geef niet het algoritme de schuld

Enige tijd geleden verscheen in het Parool een ingezonden stuk van David Graus. Hij stoorde zich aan de manier waarop de pers schreef over de “anti vaccinatie”-resultaten die Bol.com liet zien bij een zoekopdracht naar boeken over vaccinatie. Reden voor de Nationale AI-Cursus om David hierover een aantal vragen te stellen.


1. Vind jij dat journalisten hier een verkeerd beeld schetsten?

David Graus
(Foto door: BeeldstudioKB)

In het bol.com ‘geval’ ging het in mijn ogen echt om een verkeerde interpretatie.

Journalisten tonen soms een verkeerd beeld van technologie en AI. Het is sexy om algoritmen te vrezen of te beschuldigen van van alles. De oorzaak daarvan kan onbegrip van journalisten zijn, maar ook “technologen” met wollige verhalen die (commercieel) baat hebben bij het ingewikkelder presenteren van technologie.

Het is belangrijk om skeptisch te blijven, en helemaal als journalist. Maar ik merk vaak een soort van fatalisme als het gaat over technologie, bijvoorbeeld wanneer het gaat over verzamelen van data, of sturende of discriminerende algoritmen. Maar helaas, algoritmen zijn niet simpelweg goed of slecht.

Ik doe zelf een beetje aan “tegenwicht voor evenwicht” wanneer ik mijn standpunten overbreng, en werp me zo graag op als ‘algoritmebeschermheer.’

David Graus

2. Zat Bol.com ook niet een beetje fout?

Bol.com verwerkt zo’n zoekopdracht op een simpele manier: ze laten zien wat ze in hun database hebben gerelateerd aan dat specifieke woord. De manier waarop die resultaten zijn geordend wordt bepaald door een algoritme (relevantie).

Technisch is er een boel mogelijk—in theorie—zoals expliciet diversiteit in je zoek- of aanbevelingsalgoritme inbouwen. In het academische veld van de zoek- en aanbevelingstechnologie is de gemeenschap al sinds jaar en dag daarmee bezig, maar in de praktijk is er nog niet veel van te zien. De kloof tussen onderzoek en praktijk is hier nog vrij groot, en bol.com moet natuurlijk vooral verkopen.


3. Google krijgt ook regelmatig kritiek over hun “google images” resultaten bij gevoelige opdrachten.

Ik bespeur altijd een gekke tegenstelling bij critici die claimen dat Google of Facebook hun verantwoordelijkheid moeten nemen, omdat dat vaak ook betekent dat we ze tot hoeder van de waarheid promoveren. Zo geven we juist de partijen die we zo bekritiseren de macht onze werkelijkheid te dicteren. Zo’n verantwoordelijkheid moeten we die big techs niet geven, denk ik.

Leg daarom vooral ook verantwoordelijkheid bij de gebruikers! Door mediawijsheid kunnen we beter in staat zijn rare resultaten te begrijpen. Daarbij is het niet belangrijk te begrijpen hoe een algoritme in technisch detail werkt, maar slechts aan de buitenkant; een black box waar iets in gaat, en iets uit komt, kan voldoende zijn om over te kunnen redeneren.

Gelukkig hoeft er niet één one-size-fits-all oplossing te zijn; ik denk dat aan de ene kant “awareness” of mediawijsheid een belangrijke rol moet spelen, maar dat daarnaast de big techs best scheve dingen recht kunnen zetten; dat gebeurde eerder met Google Images resultaten, of bij YouTube’s recente ingreep om complottheorie-filmpjes uit aanbevelingen te filteren.


4. Wat is je advies voor Bol.com?

Ik vind hun standpunt te makkelijk, en vind dat ze zouden moeten nadenken over wat ze willen verkopen (en persoonlijk zou ik zeggen: weg met die anti-vaxx meuk). Of met de hand ingrijpen op de zoekresultaten, of een disclaimer toevoegen.

Maar dat ben ik. Wat beter worden betreft: dit overstijgt technologie of een implementatie van een zoekmachine, dit gaat over bedrijfsvisie. Het staat ons vervolgens vrij om daar iets van te vinden. Don’t blame it on the algorithm, dus 😉

Lees hier het hele stuk van David, of volg hem dvdgrs via Twitter.


Geef niet het algoritme de schuld