Bill Gates over AI

Hij is net zo overdonderd als iedereen. GTP4 slaagt voor toelatingsexamen biologie studie (‘Dat koos ik omdat de test meer is dan alleen maar feitjes onthouden en reproduceren – je moet ook kritisch kunnen nadenken over biologie’) en geeft ook antwoord op de vraag ‘Wat zeg je tegen een vader met een zoon in het ziekenhuis?’ Daar kwam een bedachtzaam antwoord op ‘dat waarschijnlijk beter was wat de meesten van ons in de kamer hadden kunnen bedenken. De hele ervaring was verbluffend.’

En nu?

Microsoft wil AI integreren in Office. Die kan helpen e-mails te schrijven, de inbox te beheren. Als een soort digitale persoonlijke assistent. Hij onthoudt wat je hebt gelezen, en leest waar je geen zin hebt. Vraag: als de verzekeringsmaatschappij een vraag stelt aan jouw digitale assistent, mag hij die dan beantwoorden zonder jouw toestemming?

Gates ziet AI als een enorme hulp in bedrijfstakken waar te weinig mensen zijn – gezondheidszorg, om maar wat te noemen. Formulieren invullen, verslagjes maken, dossiers bijhouden.

Dit is nog maar het begin. Toch, zegt hij: onze hersenen zijn sloom vergeleken bij een chip. Een elektrisch signaal in onze hersenen beweegt op 1/100.000ste van de snelheid in een chip. Als ze erin slagen om een lerend algoritme te maken dat zo snel werkt als een computer, met een onbeperkt geheugen, heb je een ‘sterke’ AI. Dat kost nog minstens tien jaar, misschien een eeuw. Maar wat dan?

Die sterke AIU’s kunnen hun eigen doelen vaststellen. En wat zouden die zijn? Wat als ze botsen met de belangen van de mensheid?

Maar de doorbraken van de afgelopen maanden komen niet in de buurt van strong AI, zegt Gates (Net als Kevin Kelly, zie de Bickers van vorige week): AI’s hebben geen macht over de fysieke, tastbare wereld en kunnen nog niet zelf hun eigen doelen stellen. (tip R. Leslie)

Het wordt donker

‘Duisternis kruipt over onze wereld,’ schrijft Noah Smith. Melodramatisch, geeft hij meteen toe. Maar wel herkenbaar. Autocratie en antiliberalisme rukken op. Op de dag dat Xi Jinping en Vladimir Poetin hun bondgenootschap verstevigden, op de 20ste verjaardag van de Amerikaanse invasie van Irak, herpubliceert Smith dit essay. Laten we niet vergeten, zegt hij: ‘Het was Amerikaanse dwaasheid die dit allemaal begon. Onze overwinningen in Wereldoorlog 2 en Koude Oorlog 1 gaven de VS een unieke kans om een wereld te bouwen waarin landen niet andere landen binnenvallen. Toen wij Irak binnenvielen zonder reden of provocatie, vergooiden we die kans.’

Lees goed: dit is niet hetzelfde als zeggen dat Poetin is ‘geprovoceerd door de NAVO.’ Maar wel: onze liberale democratie is nog steeds de minst kwalijke manier om een samenleving te organiseren, en dus is het goed als steeds meer mensen zich kunnen ontworstelen aan dwingelandij. Amerika had de kans om moreel leider te zijn, en dat had rust geschapen en een tegenwicht geboden tegen de altijd rusteloze dictators. Maar die kans werd verkwanseld.

Hier weer een paar die ik met plezier heb beluisterd, of waar ik op geabonneerd ben. Vind ze op uw favoriete platform.

‘The Rest is History,’ gepresenteerd door historici Dominic Sandbrook en Tom Holland (auteur van heerlijke boeken als ‘Rubicon,’ over de de laatste dagen van de Republiek van Rome). Toevallig gaan de laatste afleveringen precies over die periode: de aanloop naar de moord op Julius Caesar en hoe die niet de machtsgreep afwendde, zoals bedoeld, maar juist de opmaat was voor autocratie onder keizers. Verder recentelijk over: Ronald Reagan (drie afleveringen), Columbus (vier afleveringen), de Katharen, de Nazi’s (vier afleveringen).

De onvergelijkbare Dan Carlin heeft weer een paar dingen die ik moet luisteren. ‘Twilight of the Aesir,’ volgens de blurb ‘de opvolger van de ‘Thor’s Angels’ podcast’ (2012). Over de neergang van de Vikingen dus. Een Carlineske vijf uur en 14 minuten. Overigens werd Carlin op 9 mei 2022 ook geïnterviewd op ‘The Rest is History.’

‘Next Year in Moscow’ van The Economist: Tien jaar geleden was de Russische middenklasse groter en rijker dan ooit te voren. Toen begon Poetin aan zijn tweede ronde als president. Interviews met Russen nu, na de tweede invasie van Oekraïne.

Zoals altijd: als u wat moois heeft gehoord, hoor ik het graag!

De oorlog

Phillips O’Brien, prof oorlogskunde aan St Andrews U., met een uitdagende stelling: ‘Deze oorlog toont dat het effectiever is om de oorlogsmacht van je tegenstander aan te vallen voordat het tot een veldslag komt – net als in de meeste voorgaande oorlogen. Maar Oekraïne krijgt daar niet de benodigde steun voor. (…) Dus we maken deze oorlog bloederiger, langer en destructiever dan nodig.’

GTP-4

Gisteravond onthuld. Uit de demo: man schrijft concept voor een website (‘flauwe moppen’) op een papieren servetje, maakt een foto, en GPT-4 maakt er met Javascript een werkende website van ….

Of deze (via Jeroen Baert): ‘wat voor maaltijden kan ik hiermee maken?’

Grenzenloos

Yandex.com, de Russische Google, biedt ook landkaarten. Maar zonder landsgrenzen. Nergens. Op geen enkel continent. Sinds juni vorig jaar. Waarom? Het bedrijf, dat voornamelijk wordt gerund vanuit Moskou maar onder een Nederlandse NV valt, probeert misschien te schipperen tussen de baas in het Kremlin (die bepaalde grenzen wil veranderen) en de EU (die graag bestaande grenzen gerespecteerd ziet). Bij de aankondiging zeiden woordvoerders dat landsgrenzen voor de gebruikers van Yandex niet zo belangrijk zijn. (tip F. van Westrhenen)

Kunnen we dit bevatten?

Columnist Ezra Klein probeert de ontzaglijkheid van kunstmatige intelligentie in woorden te vangen. Dat is niet makkelijk. Wij verwachten dat morgen ongeveer hetzelfde zal zijn als vandaag. Maar dat is een luxe die we ons niet meer kunnen permitteren, zegt hij. Dit gaat zo snel, dat de wereld over 20 jaar niet herkenbaar zal zijn. ‘We begrijpen deze systemen niet, en het is niet zeker of we dat wel kunnen. (ja, we weten wel hoe het werkt, maar:) ‘Als je alles uitprint dat gebeurt tussen input en output, dan zou dat neerkomen op miljarden rekenkundige handelingen. Dat is een ‘verklaring’ die niet te begrijpen is.’

‘Dat ‘denken’ – bij gebrek aan een beter woord – is volkomen onmenselijk, maar we hebben het geleerd om het zo menselijk mogelijk te presenteren. En hoe onmenselijker het wordt (hoe meer verbindingen, sommetjes, stapjes) hoe menselijker het lijkt.’

Hij spreekt ontwikkelaars in San Francisco, die beseffen dat ze bezig zijn iets te scheppen dat mogelijk ontembaar is. Tien procent zegt in een peiling dat AI de mensheid zou kunnen uitroeien. Maar wat moet je anders? China is net zo hard bezig om AI’s te ontwikkelen.

AI helpt leren

‘Trellis’ is een toepassing van de AI-fabriek OpenAI die helpt ingewikkelde boeken te begrijpen. Een soort bijlesleraar. Klik op een alinea, of een zin, die je niet begrijpt en je krijgt uitleg. Je kunt kiezen op welk niveau: lagere school, brugklas of eerstejaars student.

Schoner beton

Het maken van beton veroorzaakt 8% van wereldwijde CO2-emissies, vier keer zo veel als de hele luchtvaart. Beton bestaat uit zand, stenen, water en cement. Dat laatste, het bindmiddel, is verantwoordelijk voor 70% van die CO2-uitstoot. Om cement te maken moet je een oven tot 1450ºC verhitten, en dat doe je met fossiele brandstoffen. Bovendien is CO2 een bijproduct van het verhittingsproces. In Canada is een bedrijf genaamd Carbicrete bezig met het ontwikkelen van een product dat cement kan vervangen en geen CO2 afscheidt, maar integendeel absorbeert, en evenveel kost als cement.

Maar Carbicrete gebruikt de ‘slakken’ die afval zijn van staalproductie als vervanger van cement. Daarvan wordt jaarlijks maar 250 miljoen ton geproduceerd, terwijl er 4 miljard ton cement per jaar wordt verwerkt. Dit uit architectenblad Dezeen, dat nog wat andere alternatieven voor beton opsomt. Alle helaas nog in de experimentele fase.

Je kunt ook beton blijven gebruiken, maar 75% minder, door de constructie te veranderen:

foto: Acorn 

Het Technium

Lang interview met Kevin Kelly, oud-hoofdredacteur Wired, schrijver van levenslessen, regelmatig terugkerend in de Bicker (zie het archief). Hij is een techno-optimist.

Hij verzon de naam ‘the technium.’ Alle technologie die wij ontwikkelen is verbonden met, of afhankelijk van, andere technologie. ‘Je hebt een hamer nodig om een zaag te maken, en een zaag om een hamer te maken.’ Dit geldt voor alles wat wij verzinnen, en met elkaar vormt dat het kluwen genaamd ‘Het Technium.’

Pessimisten ‘zien dit systeem steeds sterker worden, en steeds minder afhankelijk van menselijk handelen. Maar waar ik het mee oneens ben, is dat dit technium de vijand is van de natuur, en specifiek, ons mensen.’

‘Deze technium is een geaccelereerde evolutie. (…) Onze technologieën zijn uiteindelijk niet de vijand van leven, maar een verlengstuk ervan dat het in staat stelt om sneller en meer opties en mogelijkheden te creëren.’

‘We zijn veel minder wantrouwig tegenover oude technologie dan nieuwe. Sociale media kunnen onwaarheden heel snel en heel breed verspreiden. Maar vergeleken met wat? De invloed op verkiezingen is veel minder dan die van ‘talk radio’ en kabelTV, waar nepnieuws welig tierde.’

Dan over kunstmatige intelligentie, AI:

‘We moeten ons voorbereiden op AI’s, meervoud. Er is geen monoliet. Er zullen duizenden soorten AI komen, die allemaal verschillende manieren van denken optimaliseren. De meeste zullen ‘dumbsmart’ zijn: heel goed in bepaalde dingen, behoorlijk dom in andere.’

‘Onze relatie met AI’s zal hetzelfde zijn als met partners, assistenten of huisdieren, niet als goden. De meest recente, primitieve AI’s zoals ChatGPT kun je het beste zien als stagiaires.’