‘Don’t be evil’

Top researcher bij Google neemt ontslag. Of wordt ze ontslagen? Timnit Gebru vindt dat haar onderzoek niet serieus wordt genomen en stelt ultimatum. Google vroeg haar om haar naam terug te trekken van een onderzoek dat ze had verricht met academici van buiten het bedrijf. Het onderzoek voldeed niet aan de eisen van Google’s eigen intern ‘review’ proces. Ze weigerde. Haar contract werd beëindigd. Ze schreef een memo aan collega’s om haar beklag te doen over de cultuur bij Google. ‘Je leven wordt slechter als je de kant kiest van mensen die niet gehoord worden, als je andere leiders ongemakkelijk maakt,’ in haar woorden.

Gebru is vrouw en zwart. Ze was mede-leider van de AI Ethics afdeling. Haar onderzoek waarschuwde dat grote bedrijven meer zouden moeten doen om ervoor te zorgen dat AI niet ‘historische vooroordelen over geslacht en beledigende teksten’ bevestigt.

Na haar vertrek schreef de NAACP een petitie. ‘Dit is wraak op dr Gebru, en het is een bedreiging voor mensen die pleiten voor rechtvaardige en ethische AI – vooral voor zwarte en gekleurde mensen – in heel Google.’ Die brief is inmiddels ondertekend door 1.600 Google medewerkers en 1.900 van buiten het bedrijf. Techmeme, het clubblad van Silicon Valley, opent ermee.  De Engelse krant The Guardian. doet uitgebreid verslag.

Maar wat zegt Google? Haar baas, man en blank, schrijft een open brief die op mij alleszins redelijk over komt.  We hebben nu eenmaal ‘tegenlezers’ om ervoor te zorgen dat onderzoek dat onder onze naam geschiedt, van voldoende kwaliteit is, zegt hij. En noemt voorbeelden.

Bij Google werken 120.000 mensen die stuk voor stuk veel slimmer zijn dan De Bicker. Voordat we gaan oordelen dat Google toch ‘evil’ is geworden, ondanks alle beloftes bij de oprichting, moeten we toch even hoor en wederhoor toepassen. Lees de stukken, zou ik zeggen.