Waarom GDPR niet deugt

Nog een fragment uit het interview in Der Spiegel met AI-expert Pedro Domingos. De nieuwe Europese regelgeving die onze privacy zou moeten beschermen, de General Data Protection Regulation (GDPR), werkt niet omdat hij zich te veel richt op begrijpelijkheid. Algoritmes moeten voor iedereen te begrijpen zijn anders zouden ze kunnen worden misbruikt. Maar dat is onmogelijk, zegt Domingos, en ook niet wenselijk. Veel AI kan nu al dingen die mensen niet begrijpen, en dat is niet erg; veel wetenschappelijke ontdekkingen zijn ook per ongeluk gedaan, in onwetendheid (penicilline, röntgenstraling). Beter om te richten op effecten: als Facebook onze data verzamelt om er geld mee te verdienen is dat niet erg – maar je zou Facebook moeten kunnen verplichten om iets tegenover hun gewin te zetten. Bijvoorbeeld: dat ze helpen om het waarheidsgehalte te bepalen van de mededelingen op hun netwerk. (Engelse uitgebreide versie hieronder)

Domingos: The European Union’s General Data Protection Regulation (GDPR) is putting too much value on the factor of explainability — meaning why an algorithm decides this way rather than that way. Let’s take the example of cancer research, where machine learning already plays an important role. Would I rather be diagnosed by a system that is 90 percent accurate but doesn’t explain anything, or a system that is 80 percent accurate and explains things? I’d rather go for the 90 percent accurate system.

DER SPIEGEL: Why can’t we have both — accuracy and explainability?

Domingos: The best learning algorithms are these neural network-based ones inspired by what we find in humans and animals. These algorithms are very accurate as they can understand the world based on a lot of data at a much more complex level than we can. But they are completely opaque. Even we, the experts, don’t understand exactly how they work. We only know that they do. So, we should not allow only algorithms which are fully explainable. It is hard to capture the whole complexity of reality and keep things at the same time accurate and simple.

DER SPIEGEL: How, then, should AI be regulated?

Domingos: There is no law detailed enough to compete with the complexity of things that algorithms can do. What can be regulated, though, are the dangers that come from overly crude objective functions such as Facebook’s algorithms maximizing the time you spend on their site. These can be regulated by saying: OK, you have these business elements in your objective function because you need to make money. But you should also have these societal goals like, for example, the truth value of the things that are being said.

Herhaalde waarschuwing

Veel media van het ‘linkse midden’ verliezen hun geloofwaardigheid met tirades tegen president Trump. De New York Times, de Washington Post en zelfs sommige schrijvers van The New Yorker gaan zich te buiten aan artikelen die qua toon niet zouden misstaan in Breitbart. Uitzondering is Adam Gopnik, die zijn boosheid telkens weer sublimeert tot elegante, waterdichte en ter zake doende essays. De beledigingen en dreigementen van Trump zijn schadelijk en we moeten er niet aan wennen, zegt hij. ‘Woorden hebben in een democratie niet zo zeer een heilige als wel een praktische waarde. Het is de munteenheid van open samenlevingen, die zijn gebaseerd op het vervangen van wapens door woorden.’ (…)

‘De kern van liberale democratie, het echte revolutionaire concept, is niet vrijheid – iedereen is voor vrijheid. (…) Wat revolutionair is, is het tegenovergestelde idee: dat je je eigen vrijheid moet intomen om de vrijheid van een ander mogelijk te maken.’ Gopnik zegt het veel beter dan ik kan samenvatten ….

'De mens lijdt het meest ....'

.. door het lijden dat hij vreest.’ Grafiek toont welke doodsoorzaken ons ‘s nachts wakker houden; waar de media het meest over schrijven; en wat in werkelijkheid de belangrijkste doodsoorzaken zijn. Hart- en vaatziekten op kop.

De AI-wedloop

Interview met schrijver Pedro Domingos. “Wie domineert in Artificial Intelligence, domineert de wereld,” zei Vladimir Poetin. Domingos is het eens. Waarom? “AI verlaagt de kosten van kennis, enorm,’ zegt hij. ‘Eén goede effectieve machine kan het werk van een miljoen mensen doen, voor commerciële doeleinden of voor spionage.’ Europeanen zien voornamelijk gevaren, Amerikanen mogelijkheden. Zijn boek ‘The Master Algorithm’ is vertaald in China en wordt aanbevolen door Xi Jinping – maar niet vertaald in Duits of Frans. Worden we geknecht door de computer? ‘Daar zijn we bang voor, maar dat gaat niet gebeuren. Wat wel kan gebeuren is dat we vrijwillig de macht aan de machine overdragen. Dat zien we in de geschiedenis, hoe graag we leiders gehoorzamen en doen wat de goden zeggen. Psychologisch zijn we helemaal in staat om alles over te dragen aan de AI. Maar uiteindelijk neemt niet AI de beslissingen, maar de mensen die AI sturen.’

Conflictkaart

Nuttige live kaart volgens Thomas Friedman, die denkt dat schermutselingen tussen Israel en Iran kunnen ontaarden in een echte oorlog – die moeilijk zou zijn voor VS en Rusland om buiten te blijven.

Hoeveel weten ze?

Beroep, politieke voorkeur, economische status, auto, zoekgewoontes. En meer. Interessant is hier dat de data verzamelaars de bronnen zijn. Dus: er is niets geheims of sinisters aan de hand, dit is wat we doen. Dit is de norm, dit is hoe het is. Een bedrijfstak waarin €50 miljard omgaat. Misschien is het ook allemaal niet zo bijzonder.

Vraag een boek

Google introduceerde vrijdag bij monde van futuroloog Ray Kurzweil (van de Singularity, u weet wel) een nieuwe manier van zoeken: in boeken. Een algoritme (AI) zoekt niet op sleutelwoorden maar ‘semantisch,’ dus in de context van normaal spraakgebruik. De hoop is dat de AI leert van onze nieuwgierigheid, dus hoe meer vragen, hoe sneller hij leert ons goed te bedienen. Het zal niet snel gewoon ‘googlen’ vervangen, maar is wel een intrigerende manier om ideeën op te doen.

Facebook onkwetsbaar

Kritiek in het Westen is een tijdelijk ongemak. Facebook is gericht op ‘het volgende miljard,’ zoals de aansporing is op de posters in het hoofdkantoor in Menlo Park. De afgelopen twee jaar groeide Facebook veel sneller (Monthly Active Users) in Azië en ‘rest van de wereld’ (Afrika) dan in VS of Europa. Dat zal nog wel even zo doorgaan: de bevolking in Afrika groeit keihard (verdubbeling in 2050); het aantal mensen met internetverbinding groeide sinds 2000 in Europa met een factor 3, in Azië met factor 18  en in Afrika 100x. In Nigerië met factor 490. En toezicht is veel milder: ‘net als de tabaksfabrikanten,’ schrijft Filloux, kan Facebook voorlopig rustig doorgaan met zijn monopolie te bestendigen. Veel nuttige links in dit artikel.

Terrorisme bestrijden

Somalië wordt geterroriseerd door de al-Shabab. Somaliland, afgescheiden in 1991 en door geen enkel land erkend als staat, is volkomen veilig. Hoe kan dit, vraagt voormalig EU-minister van Portugal zich af? Hij denkt: stammen. Jonge mannen in Somalië worden geronseld door al-Shabab met de belofte van geld, veiligheid en vrouwen. Jonge mannen in Somaliland die zich aanmelden worden beschouwd als verraders van de clan en levenslang verstoten. De stammen vergroten eensgezindheid en daardoor ook burgerzin – iedereen is een spion voor de veiligheid van de groep en tipt de politie over verdachte activiteiten. Het helpt dat de stammen van Somaliland ook goed overweg kunnen met wapens – ze hebben net zo’n gewelddadig verleden als de rest van Somalië.

update 12:40: dit zit me toch niet lekker. Ik heb de volgende vraag gesteld aan de schrijver:

But if the clan is as tight as you describe, it would be an excellent organizational structure for a terrorist group. Strict discipline, eviction if disobedient. it’s just as strict as al-Shabab, but the rewards and punisments are different. So perhaps we should dig deeper, to find the motivation behind the organizational structure? Why are the clans of Somaliland using the strength of their unity to spread peace, and al-Shabab to spread terror?

Misschien weet een Bicker-lezer een antwoord.

Einde iTunes store?

Apple is voornemens de winkel te sluiten waar we tot nu toe muziek kochten om te downloaden op onze apparaten. Per 31 maart 2019, lijkt het. Omdat iedereen tegenwoordigt ‘streamt,’ via Apple Music, Spotify, Pandora, etc. Eigendom is zooooo 2014.