Niet bang voor AI

Niet bang voor AI

Mijn vrienden vragen: ‘Waarom ben ik niet doodsbang? Waarom onderschrijf ik nog steeds niet het Orthodoxe AI doemscenario, waarin een egoïstische AI vroeg of laat (waarschijnlijk vroeg) nanobots ontwerpt die zichzelf vermenigvuldigen en alle mensen over de hele wereld veranderen in plasjes ellende?’

Schrijft Scott Aaronson, theoretisch computer specialist, gespecialiseerd in quantum computing, veelschrijver, indrukwekkend cv (naar universiteit op 16, gepromoveerd op 23, MIT, U. of Texas, nu een jaar bij OpenAI). Als iemand het moet weten ….

Zijn antwoord bekijkt de vraag van verschillende kanten. Bijvoorbeeld: er zijn veel meer, en grotere bedreigingen voor de mensheid zoals klimaatverandering of kernoorlog. Of: je kunt beargumenteren dat AI al heeft bijgedragen aan de ondergang van de Amerikaanse democratie. Immers, zonder Facebook’s aanbeveling-algoritme was Donald Trump nooit president geworden. En hij herformuleert de vraag: ‘Gaat deze AI wedloop een rol spelen in de ondergang van de mensheid?’ ‘Ik geef dat een kans van 2%. Net zo veel als de kans dat AI de mensheid gaat redden.’ AI is een ding, de wereld is te complex om door één ding geregeerd te worden. Dus, zegt hij: gewoon doorgaan met AI research, maar wel extreem behoedzaam. (tip P. Vloemans)