AI eng?

Een waarschuwing

tech | Import AI | 13 oct 25

Jack Clark heeft de ontwikkeling van kunstmatige intelligentie meegemaakt sinds het begin, eerst als verslaggever, later als mede-oprichter van Anthropic, het bedrijf dat Claude ontwikkelde. Hij legt uit waarom hij zich zorgen maakt over de onbeheersbaarheid van AI: 'Vergis je niet: waar we hier mee te maken hebben is een echt en raadselachtig wezen, niet een simpele en voorspelbare machine.'

Voorbeeld: 'We hebben vorige maand 'Sonnet 4.5' gelanceerd, en die is heel goed in coding en zelfstandig uitvoeren van lange-termijn projecten. Maar als je de systeemkaart leest, zie je ook tekenen van situationeel bewustzijn. Dit gereedschap lijkt zich soms te gedragen alsof hij beseft dat hij een gereedschap is.'

Door mijn journalistieke werk en mijn persoonlijkheid ben ik skeptisch aangelegd, zegt hij. Maar nu - ik zie geen beperkingen meer. En het wordt eng als deze AI's de volgende generatie gaan ontwikkelen.

'Daar zijn we nog niet. We zijn in het stadium van 'AI die stukjes van de volgende AI verbetert, steeds zelfstandiger en steeds zelfsturender.' Een paar jaar geleden waren we op 'AI die developers ietsje sneller maakt.' En een paar jaar daarvoor waren we in 'AI is nutteloos voor ontwikkelaars.' Waar zullen we over twee jaar zijn?'

'En laten we niet vergeten dat het systeem dat nu begint zijn opvolger te ontwikkelen steeds meer van zichzelf bewust wordt, en daarom, onvermijdelijk, uiteindelijk geneigd zal zijn om zelfstandig na te denken, zonder ons, over hoe hij zelf ontwikkeld zou worden.' (tip A. Kaizer)