Kunstmatige Intelligentie (2)

Na mijn bijdrage van vorige week stuurde H. van Tijen een link naar een WaitButWhy uit 2015 – zeven jaar oud alweer, maar nog steeds een geweldig stuk uitlegjournalistiek. Het is bij elkaar een kleine 80 pagina’s A4 schat ik, maar Tim Urban is een groot didacticus. Ik ga het hier niet samenvatten, maar geef wel de redenen door die hij geeft, waarom iedereen zich in AI zou moeten verdiepen. Neem binnenkort een ochtend, of een middag of avond, om dit allemaal te lezen. Echt, dit is enger dan klimaatverandering.

‘Stel je voor dat je iemand in 1988 een computer met internet zou laten zien, en zou zeggen: ‘dat ding gaat binnen enkele decennia de hele wereld veranderen,’ dan zou iemand naar die plastic doos kijken en denken: ‘Dát?’ Wij hebben allemaal de grootste moeite ons dingen voor te stellen die we niet kunnen zien.’ (Denk ook aan de film ‘Don’t Look Up,’ over die naderende meteoriet.)

Bijkomende probleem is de ‘Wet van de groeiversnelling,’ een vondst van futuroloog Ray Kurzweil: hoe geavanceerder een samenleving, hoe sneller de ontwikkeling. Het verschil tussen 2000 en 1750 is veel groter dan dat tussen 1750 en 1500. Niet zo dramatisch als exponentiële groei, maar het komt in de buurt. ‘Het duurt tientallen jaren voor het eerste AI systeem een laag soort van algemene intelligentie bereikt, maar eindelijk gebeurt het. Dan begrijpt een computer de wereld om zich heen net zo goed als een vierjarig mensenkind.’ (Dat is het begin van AGI, Artificial General Intelligence.) ‘Plotseling, een uur nadat die mijlpaal is bereikt, produceert dat systeem de overkoepelende theorie voor de natuurkunde waarin de relativiteitsleer wordt verenigd met quantummechanica, iets waar geen enkele mens tot nu toe in geslaagd is. Negentig minuten later is de AI een ‘ASI’ (Artificial Superintelligence) geworden, 170.000 keer intelligenter dan de mens.’

‘Superintelligentie van die orde is iets wat wij nooit kunnen bevatten, net zomin als een bromvlieg ooit iets zal begrijpen van Keynesiaanse economie.’

Een ASI kan natuurlijk veel sneller denken dan een mens. Maar mensen zijn niet slimmer dan chimpansees omdat ze sneller denken – het mensenbrein bevat allerlei cognitieve modules waarmee het dingen kan doen die een aap niet kan zoals abstract denken, lange-termijn plannen maken. Een intelligent systeem gaat niet alleen sneller denken, het leert zichzelf ook beter te denken. De AI gaat van AI naar AGI naar ASI niet alleen door feiten en handelingen en processen te leren, maar vooral door zichzelf te leren leren. ‘En aangezien we net geconcludeerd hebben dat we onmogelijk kunnen begrijpen wat een machine kan die twee stapjes verder is dan wij, laten we er niet omheen draaien en vaststellen dat we godsonmogelijk ooit kunnen weten wat een ASI gaat doen of wat de consequenties zijn.’

In deel 2 schetst Tim zijn nachtmerrie: hoe een onschuldige ASI de mensheid zou kunnen uitroeien. Dit is meesterlijk. Grappig en huiveringwekkend tegelijk. De ASI heeft maar één opdracht: ‘Schrijf briefjes, in handschrift, met de tekst ‘wij houden van onze klanten.’‘ De computer leert en leert en …. zijn ultieme, puur logische laatste stap is het doden van alle mensen op aarde …

(U kunt ook Nick Bostrom lezen, een van de vele bronnen voor dit verhaal.  Maar Tim Urban gebruikt veel meer bronnen, en is een stuk toegankelijker. Met plaatjes!)

Elon Musk’s nieuwe droom

De eerste recyclebare raketten, de beste elektrische auto’s, de grootste fabriek voor accu’s ter wereld – het is nog niet genoeg voor de ambities van Elon Musk. Tim Urban van Wait But Why heeft na een paar bewonderende artikelen over Musk de beste toegang tot het Orakel uit Zuid-Afrika. En hij meldt dat Musk een nieuw project heeft: een toverhoed. Het project heet Neuralink. Musk is ervan overtuigd dat Kunstmatige Intelligentie vrij snel onze eigen intelligentie zal ontstijgen. Deze niet-menselijke intelligentie kan op zeker moment besluiten iets te doen wat strijdig is met het belang van de hele mensheid. Regeltjes helpen niet. Dus wil Musk AI democratiseren. Eerst maakte hij alle kennis over AI openbaar, voorzover mogelijk, middels ‘Open AI’. Nu, denkt hij, moeten we proberen de AI te koppelen aan onze hersenen. ‘Anders worden we een huisdier voor de AI. Dat zou trouwens nog een gunstige uitkomst zijn.’  Niet alleen koppelen – wij moeten één worden met de AI. En daartoe dient een ‘toverhoed,’ een ‘Whole Brain Interface’ die ons voldoende bandbreedte heeft om te communiceren met de overweldigende denkkracht van de AI, zodat het brein van iedere mens die dat wil, ‘aangesloten wordt’ op de AI.  Neuralink heeft een kantoor, een handvol genieën op de loonlijst, en is druk bezig met de ontwikkeling van een chip die wordt geïmplanteerd in de hersenen. Net zo makkelijk als ooglaseren.

Musk en Mars

29343909374_f5a0c62478_h“Iemand – waarschijnlijk SpaceX, waarschijnlijk binnen tien jaar – gaat mensen naar Mars sturen,” zegt Tim Urban. “Ja joh, ‘tuurlijk” denkt de nuchtere Hollander. Maar het is moeilijk om niet aangestoken te worden door zijn enthousiasme, en de onverzettelijkheid van Elon Musk die al 14 jaar bezig is met dit project: niet een missie naar Mars, nee, het koloniseren van de planeet. Hoeveel mensen heb je nodig om een bestendige, autarkische beschaving op te bouwen? Een miljoen. Hoe lang duurt het voordat je die hebt? 10.000 vluchten, pendeldiensten, met aanvankelijk 100 passagiers. Tien miljoen ton bagage om fabrieken te bouwen etc. In 2050, na 25 jaar vluchten, zullen er nog steeds maar 100.000 mensen op Mars zijn. Eén van de eerste prioriteiten is een fabriek te bouwen op Mars die brandstof maakt voor de terugvluchten. Dat maak je uit vloeibare zuurstof (O2) en methaan (CH4), die je kunt maken uit H2O (ijs) and CO2, die beide overvloedig aanwezig zijn op Mars. Hoe veel kost een ruimtevlucht en waarom? Ze zijn zo duur omdat ze maar één keer vliegen. Stel je voor dat een Boeing 747 na iedere vlucht neerstort. Dus moeten we ruimteschepen en raketten bouwen die herbruikbaar zijn. En groot. De BFR, zoals Tim Urban hem noemt (Big F**** Rocket, vrij naar de BFG, Big Friendly Giant, van Roald Dahl) is 122 meter hoog en 12 meter in diameter – 3x zo groot als de grootste raket ooit gebruikt, de Saturn V. Hoe houd je de vlucht kort? Door de capsule vol te tanken tijdens de omloop op aarde. Dat maakt de vlucht mogelijk in 3 maanden, niet 6-9 zoals tot nu gedacht. Vluchten alleen op de momenten dat Aarde en Mars dicht bij elkaar zijn (‘opposities’), ongeveer iedere twee jaar. In januari 2025, over acht jaar, zou de eerste bemande vlucht moeten vertrekken. In 2065 gaan er iedere ‘oppositie’ 1.000 ruimteschepen naar Mars – of terug, want tegen die tijd kun je heen en weer. Musk vergelijkt deze mensen met pelgrims die de Atlantische Oceaan overstaken. Stelselmatig en geduldig bouwen aan een tweede wereld. Schepen waren duizenden jaren simpel en beperkt, totdat Amerika werd ontdekt en het nuttig werd om schepen voor oceaanreizen te bouwen. Het is een inspirerend avontuur voor de hele mensheid. Denk aan Apollo-11, als u zo oud bent – de hele wereld zat aan de televisie gekluisterd om de maanlanding te zien. Hoe spannend zou het niet zijn om de kolonisatie van Mars te volgen als een soort Big Brother? (En wat zouden de televisierechten niet waard zijn.) Natuurlijk zijn er onnoemelijk veel “ja, maars”. Hoe moet een mens leven op Mars? Nou ja, het is niet veel onvriendelijker dan Antarctica en daar zijn ook permanente kolonies. Hoe doe je landbouw bij -60º? Waarom zouden mensen gaan? The Economist (betaalmuur) heeft nog meer van dat soort bedenkingen. Ars Technica is niet zo lyrisch als Urban. Maar Musk kluunt door. SpaceX ontwerpt zijn eigen raketten, zijn eigen motoren, zijn eigen systeem om gebruikte raketten veilig te laten landen. Voor een fractie van de prijs van NASA. En het is onweerstaanbaar inspirerend. “Träume keine kleinen Träume, denn sie haben keine Kraft,” zei Goethe.

Raket naar Mars

Ingewikkeld, duur, dromerig, overbodig … allemaal redenen om schouders op te halen over de plannen van Elon Musk om raketten naar Mars te sturen. Visionair? “We moeten mensenmassa’s op de ruimte loslaten en nieuw leven laten creëren.” €10 miljard. Maar het programma is goedkoper en gedetailleerder dan wat er tot nu toe door NASA en andere overheidsorganen is voorgesteld. Misschien zelfs haalbaar, zegt Ars Technica. En Tim Urban, schrijver van Wait But Why en ook wel een beetje Musk-groupie, is vol bewondering over ‘SpaceX’s big f***** rocket.’  Morgen meer.

bfr-house

Waarom mensen naar Mars willen

1062px-Extinction_intensity1“Stel je voor dat de aarde een harde schijf is, en iedere diersoort een Word document. Verander de tijdschaal en vervang 50 miljoen jaar door 1 maand. Sinds augustus 2014 is de hard drive vijf keer gecrashed (dat zijn momenten waarop 70% van alle diersoorten werd uitgeroeid). In november 2014, december 2014, maart 2015, april 2015, en juli 2015. Elke keer startte de harde schijf opnieuw, maar daarna bleek 70% van alle Word-documenten verdwenen. (In de crash van maart 2015 werd zelfs 95% van alle documenten werd opgegeten.) Nu is het medio augustus 2015 en het homo sapiens document is twee uur geleden geschreven. Stel dat je een superbelangrijk document hebt opgeborgen op een hard disk waarvan je weet dat die zo’n beetje iedere twee maanden crasht, wat zou je dan doen? Je zou een backup maken.  Dit is waarom Elon Musk naar Mars wil.” Enorm lang en enorm onderhoudend verhaal, zoals altijd bij WaitbutWhy. Klein dompertje: een maand in deze metafoor is 50 miljoen jaar. Dus we hebben nog minimaal enkele tientallen miljoenen jaren. We ‘bestaan’ nog geen 200.000 jaar, nog niet eens een miljoen jaar, en zeker geen miljoenen jaren.

“Zou u Elon Musk willen interviewen?”

Tim Urban, schrijver van de Wait But Why blog, krijgt dat telefoontje. “Elon vindt uw verhalen interessant en wil u graag uitnodigen.” Begin van een mooi verhaal, waarin de schrijver zich voorbereidt op een bezoek aan Californie.

Hoe maak je enorme getallen begrijpelijk?

Getallen boven een miljoen zijn moeilijk te bevatten. Maar niet voor deze man, die schrijft als de wiskundeleraar die we allemaal wensen dat we gehad hadden. Bijvoorbeeld 108 (100 miljoen).  “Nu komen we in het gebied van het totaal aantal boeken ooit geschreven (130 miljoen) en het aantal woorden dat een mens in zijn leven uitspreekt (860 miljoen) en ook de kans om een echt grote loterij te winnen. Bijvoorbeeld de (…). De kans was 1 op 175,711,536. Dat is ongeveer het aantal seconden in zes jaar. Dus dat is zo’n beetje raden wanneer de ene keer is – en ook echt alleen die ene keer – dat een egel gaat niezen in de komende zes jaar, en daar je spaarcenten op zetten. Dus bijvoorbeeld de 36ste seconde van 13.52 op 16 maart 2017. En je krijgt alleen uitgekeerd als die ene nies exact die ene seconde valt. Dus koop geen lootjes.” Dit gaat door via ‘googol’  en googolplex tot Graham’s number, het grootste getal ooit verzonnen. Doodeng.