Bicker-lezer A. Kaizer stuurde – alweer een paar weken geleden – dit lijstje van doorbraken:

1. Deepmind berekent alle ruimtelijke eiwitstructuren. Dis is een heel grote doorbraak en bruikbaar op vele gebieden.

AI protein-folding algorithms solve structures faster than ever

https://www.nature.com/articles/d41586-019-01357-6

https://en.wikipedia.org/wiki/AlphaFold

2. Deepmind wint van Go kampioen met nieuwe onbekende zet. De menselijke kampioen is er meteen mee gestopt.

https://www.bbc.com/news/technology-40042581

https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol

3. Quantummechanica is contra-intuïtief. AI ontwierp experiment dat niemand kon verzinnen

https://www.scientificamerican.com/article/ai-designs-quantum-physics-experiments-beyond-what-any-human-has-conceived/

4. Video: bereken een beeldpuntje en AI schat de punten er om heen. Graphics/video processing wordt 5-6 keer sneller.

https://www.youtube.com/watch?v=_-wjA4XlBl4

5. Een AI piloot die het wint van de mens via verrassende manoeuvres.

https://www.wired.com/story/us-air-force-skyborg-vista-ai-fighter-jets/

Op 5 mei lekte een intern memo van Google uit, waarin een medewerker zegt: de code van concurrent Meta ligt op straat, en als je ziet hoe snel mensen daarmee vorderingen hebben gemaakt, dan besef je: hier staat we machteloos tegenover. (‘we have no moat.’) Erger nog: particulieren met een krachtige laptop en 100 dollar op zak werken sneller. ‘Open-source modellen zijn sneller, makkelijker te personaliseren, krachtiger. Ze doen dingen met 100 dollar en 13B parameters die wij met moeite doen met 10 miljoen dollar en 540B. En ze doen het in weken, niet maanden.’ De zorg van deze Google-medewerker is financieel: hoe kunnen wij nog geld vragen voor onze AI-producten als er betere producten gratis op straat liggen, of in een handomdraai gemaakt kunnen worden? Maar het grotere probleem lijkt dat ook mensen met kwade bedoelingen nu heel makkelijk krachtige AI kunnen ontwikkelen.

Even een snelle cursus afkortingen: Kunstmatige Intelligentie wordt vaak aangeduid met de Engelse afkorting voor Artificial Intelligence (AI). De firma OpenAI ontleent zijn naam daaraan. ChatGPT is een vorm van AI. GPT staat voor Generative Pre-Trained Transformer, en is een voorbeeld van een LLM, een Large Language Model. Omdat hij grote hoeveelheden tekst kan absorberen, en daaruit antwoorden op vragen kan construeren, onderscheidt hij zich van – bijvoorbeeld – Google. De angst bestaat dat als een ‘computer’ zelflerend is, hij zich kan ontwikkelen tot een AGI, Artificial General Intelligence oftewel: ‘de hypothetische intelligentie van een machine die de capaciteit heeft om elke intellectuele taak die een mens kan uitvoeren, te begrijpen of te leren.’ (Wikipedia)  Maar waneer wordt kennis intelligentie …?

Een ander essentieel begrip is ‘alignment,’ oftewel ‘opgelijnd zijn.’ In deze context bedoel je dan: heeft de computer, de AI, dezelfde doelen als de mensheid? Als hij kwaadaardig is, of althans oplossingen zoekt die in zijn belang zijn maar ten nadele van de mensheid, dan is hij ‘not aligned.’

Al terugbladerend, op zoek naar Kevin Kelly in andere Bickers, kwam ik dit tegen uit 2017. Ook weer sterk beargumenteerd:

‘Intelligentie is niet ééndimensionaal, dus ‘slimmer dan mensen’ is een concept zonder betekenis. Mensen hebben geen brein dat voor alles gebruikt kan worden, en AI’s ook niet. Nabootsen van het menselijk denkproces is te duur. Dimensies van intelligentie zijn niet oneindig. En intelligenties zijn slechts één factor in vooruitgang. Denken is niet voldoende: natuurkundigen moesten nog steeds een Hadron Collider bouwen in Cern om te testen of hun theorie over de Higg’s Boson klopte.’