Domme computers

Waarom ‘deep learning’ zo weerbarstig is. ‘Ons begrip van beelden, geluiden en taal is geworteld onze senso-motorische ervaring als mensen – als aardbewoners met een lichaam. Machine learning modellen hebben geen toegang tot dat soort ervaringen en kunnen dus input, ongeacht hoeveel, niet ‘begrijpen’ op een mens-achtige manier. We annoteren grote aantallen trainingsvoorbeelden en voeden die aan de computer. Zo leren ze een geometrische transcriptie die menselijke concepten plakt op dat specifieke aantal voorbeelden. Maar dat ‘plakken’ is een simplistische schets van het origineel dat in onze hersenen leeft, het origineel dat ontwikkelde door onze ervaring als vrij handelende wezens in een lichaam – het is als een beeld in een beslagen spiegel.’ (…)  ‘Mensen kunnen veel meer dan alleen impulsen koppelen aan respons, zoals een kunstmatige intelligentie, of misschien een insect, kan. Ze onderhouden complexe, abstracte modellen van hun huidige omgeving, van zichzelf, en van andere mensen, en kunnen dus bestaande concepten koppelen tot iets wat nog nooit eerder heeft bestaan – zoals een paard met een spijkerbroek, of ‘wat zou ik doen als ik de lotto won.” Dit is abstractie en redeneren, de essentie van menselijke kennisontwikkeling.

Mensen die proberen auto’s te leren autorijden zeggen dat grote hoeveelheden voorbeelden voeden – 30 miljoen of zo – niet voldoende is. Ze proberen het nu met ‘synthetische voorbeelden,’ oftewel combinaties van bestaande oorzaak-gevolg scenario’s met verzonnen, extreme consequenties.