‘Don’t be evil’

Top researcher bij Google neemt ontslag. Of wordt ze ontslagen? Timnit Gebru vindt dat haar onderzoek niet serieus wordt genomen en stelt ultimatum. Google vroeg haar om haar naam terug te trekken van een onderzoek dat ze had verricht met academici van buiten het bedrijf. Het onderzoek voldeed niet aan de eisen van Google’s eigen intern ‘review’ proces. Ze weigerde. Haar contract werd beëindigd. Ze schreef een memo aan collega’s om haar beklag te doen over de cultuur bij Google. ‘Je leven wordt slechter als je de kant kiest van mensen die niet gehoord worden, als je andere leiders ongemakkelijk maakt,’ in haar woorden.

Gebru is vrouw en zwart. Ze was mede-leider van de AI Ethics afdeling. Haar onderzoek waarschuwde dat grote bedrijven meer zouden moeten doen om ervoor te zorgen dat AI niet ‘historische vooroordelen over geslacht en beledigende teksten’ bevestigt.

Na haar vertrek schreef de NAACP een petitie. ‘Dit is wraak op dr Gebru, en het is een bedreiging voor mensen die pleiten voor rechtvaardige en ethische AI – vooral voor zwarte en gekleurde mensen – in heel Google.’ Die brief is inmiddels ondertekend door 1.600 Google medewerkers en 1.900 van buiten het bedrijf. Techmeme, het clubblad van Silicon Valley, opent ermee.  De Engelse krant The Guardian. doet uitgebreid verslag.

Maar wat zegt Google? Haar baas, man en blank, schrijft een open brief die op mij alleszins redelijk over komt.  We hebben nu eenmaal ‘tegenlezers’ om ervoor te zorgen dat onderzoek dat onder onze naam geschiedt, van voldoende kwaliteit is, zegt hij. En noemt voorbeelden.

Bij Google werken 120.000 mensen die stuk voor stuk veel slimmer zijn dan De Bicker. Voordat we gaan oordelen dat Google toch ‘evil’ is geworden, ondanks alle beloftes bij de oprichting, moeten we toch even hoor en wederhoor toepassen. Lees de stukken, zou ik zeggen.

De App

Australië heeft de eerste ‘contact app.’ Binnen enkele uren hadden 1,1 miljoen Australiërs hem gedownload. De NHS in Engeland denkt dat het een betere oplossing heeft gevonden dan de API van Google en Apple (goede uitleg van de BBC hier). Duitsland doet het tegenovergestelde: geen ‘eigen app eerst,’ die centraal zou registreren, maar juist een decentrale registratie via bluetooth, zoals de Apple/Google samenwerking aanwijst.

Handherkenning

Amazon ontwikkelt een scanner voor zijn supermarktketen ‘Whole Foods’ die handen herkent. Niet vingerafdrukken, gewoon de grootte en de vorm van de hand. Een zwaai is voldoende, je hoeft niets aan te raken. Systeem is nog niet perfect, doel is volgend jaar. Wordt nu getest bij de snoepautomaten in Amazon’s kantoren in New York. Psychologisch makkelijker te accepteren dan gezichtsherkenning. Bijkomend voordeel voor de winkelier: als je je portemonnee niet hoeft te trekken dan geef je makkelijker geld uit.

Pirate Bay

Opgericht in 2003 door twee Zweden, vele malen gesloten door autoriteiten, belast met miljoenen euro’s aan boetes, om telkens opnieuw ergens anders op te duiken. Napster was de bekendste van de zogenaamde vroege ‘peer-to-peer file sharing’ websites, maar bestaat allang niet meer; Pirate Bay telt nu naar schatting 50 miljoen gebruikers. Waarom? Het is lekker goedkoop natuurlijk, en makkelijk te gebruiken. De ideologische bezetenheid van de oprichters, die vinden dat internet de wereld kan verbeteren door kennis te democratiseren. Maar ook omdat de legale filmwereld nog steeds geen goede manier heeft gevonden om een breed aanbod legaal beschikbaar te maken. De groei van Netflix bewijst dat mensen bereid zijn te betalen; maar het aanbod van Netflix is mager.