Bostrom -- 52 dingen

Nick Bostrom interview

tech |UnHerd | 12 nov 23

Nick Bostrom, filosofieprofessor aan Oxford, schreef al heel vroeg het boek 'Superintelligence.' Dit is een heel goed interview, vooral door de vragen. Een paar flarden:

Iedere keer als je een LLM opschaalt, ontdekt hij nieuwe dingen. 'En dan op zeker moment snapt hij het. Nadat hij genoeg neuronen in zijn brein heeft, of voldoende voorbeelden heeft gezien, ziet hij het onderliggende principe, of hij ontwikkelt het goede hogere niveau van concept waardoor hij plots heel veel beter wordt.'

We willen dat AI menselijke waarden respecteert. Maar kan hij totalitaire regimes helpen om de publieke opinie te sturen?

'Ja. We hebben al tientallen jaren het vermogen om op grote schaal op te slaan wat mensen zeggen. Tot nu toe kon je daar niet veel mee. Maar met AI technologie kun je dat inzetten - massamanipulatie niet door boodschappen die de massa bereiken, maar juist gerichte boodschappen, aangepast aan iedere ontvanger.'

'Zelfs als het dromerij is, moeten we toch het algemene uitgangspunt voor AI definiëren en codificeren dat het het belang dient van alle denkende wezens. ('sentient life.') '

'Stel je voor dat je eerst een soort supergeavanceerde synthetische biologie ontwikkelt, die ons allemaal om zeep kan helpen maar als je geluk hebt overleven we dat; en we ontwikkelen een supergeavanceerde moleculaire nanotechnologie die ons allemaal om zeep kan helpen maar als je mazzel hebt overleven we die. En dan ontwikkel je de AI en misschien doodt die ons allemaal. Dan heb je drie existentiële risico's. (...) Dan heb ik liever AI eerst, die ons misschien te gronde richt; maar indien niet, dan kan hij ons helpen om de biotech en nanotech risico's te beheersen.'

52 dingen

ook belangrijk | via The Browser | 29 nov 23

Ieder jaar worden we getrakteerd op een lijstje van '52 dingen die ik heb geleerd' van een zekere Tom Whitwell. Hier een paar, maar lees toch vooral de hele lijst .... allemaal met bronvermelding als u uw ogen niet gelooft.

'Er is een kolonie van 15.000 wilde schorpioenen die al 200 jaar woont in de muren van de Sheerness werf in Kent.'

'Het Amerikaanse Ministerie van Defensie verdient $100 miljoen per jaar aan de gokmachines op de bases.'

'Mensen zijn nu even lang als 12.000 jaar geleden.'

'In 2022 waren er in de VS maar 28 boeken waarvan meer dan 500.000 exemplaren werden verkocht. Acht daarvan waren van Colleen Hoover.'

'Van alle kinderen die werden geholpen in het brandwondencentrum van de Universiteit van Chicago had 31% zich gebrand aan, of door, instantnoedels.'