AI-pionier Eliezer Yudkowsky, medeoprichter van het Machine Intelligence Research Institute, waarschuwt: "Als iemand een te krachtige AI bouwt, verwacht ik onder de huidige omstandigheden dat elk lid van de menselijke soort en al het biologische leven op aarde kort daarna sterft."

En 1.100 mensen uit het bedrijfsleven, waaronder Apple-medeoprichter Steve Wozniak, cognitief wetenschapper Gary Marcus en ingenieurs bij Amazon, DeepMind, Google, Meta en Microsoft, ondertekenden in maart een open brief waarin werd opgeroepen tot een time-out van zes maanden in de ontwikkeling van de krachtigste AI-systemen (alles "krachtiger dan GPT-4").

Er is momenteel een media-rage over AI, en elke werkende journalist moet er een mening over hebben. Ik nam de taak met enige tegenzin op me, zoals u kunt opmaken uit de titel van het stuk.

In mijn oorspronkelijke artikel stond dat ze dit experiment echt even moesten afremmen, maar ik heb geen noodtoestand uitgeroepen. Sinds de eerste Terminator-film 39 jaar geleden horen we waarschuwingen dat AI het overneemt, maar ik dacht niet dat het dreigend was.

Dus deed ik net genoeg onderzoek om mezelf ervan te overtuigen dat ik wist wat er aan de hand was, en produceerde een zelfgenoegzame 800 woorden waarin stond dat dit geen 'Skynet'-moment was. Mea culpa. Dat is het wel. Of tenminste dichtbij genoeg om de aandacht van de ezel te krijgen.

Gelukkig voor mij staan er een paar heel slimme mensen op de besloten distributielijst voor deze column, en een van hen antwoordde meteen dat ik het mis had. De hemel gaat echt vallen.

Dat zei hij niet. Wat hij zei was dat de ChatGPT-generatie machines "nu ideeën kan opdoen met behulp van Generative Adversarial Networks (GANs) in een proces dat eigenlijk vergelijkbaar is met dat van mensen." Dat wil zeggen, ze kunnen originele ideeën hebben - en omdat het computers zijn, kunnen ze die orden van grootte sneller genereren, gebruik makend van een veel bredere kennisbasis, dan mensen.

Het sleutelbegrip hier is Kunstmatige Algemene Intelligentie (AGI). Gewone AI is software die instructies opvolgt en specifieke taken goed uitvoert, maar geen bedreiging vormt voor de dominante positie van de mensheid in het geheel der dingen. Kunstmatige Algemene Intelligentie kan echter intellectuele taken even goed of beter uitvoeren dan de mens. Over het algemeen beter.

Als je het moet hebben over de Grote Vervanging, dan is dit degene die je in de gaten moet houden. Zes maanden geleden bestond er geen AGI software buiten een paar laboratoria. Nu is er plotseling iets op de markt dat heel dicht bij AGI komt - en dit is wat mijn informant erover zegt.

"Mensen ontwikkelden intelligentie door steeds complexere hersenen te ontwikkelen en kennis op te doen gedurende miljoenen jaren. Maak iets complex genoeg en het wordt wakker, wordt zelfbewust. Wij werden wakker. Het heet 'emergentie'.

"ChatGPT heeft het hele web in zijn machines geladen - veel meer dan een individueel mens weet. Dus in plaats van miljoenen jaren nodig te hebben om wakker te worden, vertonen de machines nu emergent gedrag. Niemand weet hoe, maar we zijn veel dichter bij AGI dan jij stelt."

Een grote uitdaging waarvan algemeen werd aangenomen dat die nog tientallen jaren op zich zou laten wachten, staat plotseling voor de deur, en we hebben geen plan om ermee om te gaan. Het kan zelfs een existentiële bedreiging zijn, maar we hebben nog steeds geen plan. Daarom willen zo veel mensen een time-out van zes maanden, maar het zou logischer zijn een pauze van een jaar te eisen, die zes maanden geleden begon.

ChatGPT is pas afgelopen november gelanceerd, maar heeft al meer dan 100 miljoen gebruikers en de website genereert 1,8 miljard bezoekers per maand. Er zijn al drie concurrerende "generatieve AI"-systemen op de markt, en de commerciële concurrentie betekent dat het idee van een pauze of zelfs een algemene terugroeping slechts een hersenspinsel is.

De kat is al uit de zak: alles wat het web weet, weten ChatGPT en zijn rivalen ook. Dat omvat elk debat dat mensen ooit hebben gevoerd over de gevaren van AGI, en alle voorstellen die in de loop der jaren zijn gedaan om het in de wieg te wurgen.

Wat we dus dringend moeten uitzoeken is waar en hoe die AGI ontstaat, en hoe we een vorm van vreedzame coëxistentie ermee kunnen bereiken. Dat zal niet gemakkelijk zijn, want we weten nog niet eens of het zal komen in de vorm van een enkele wereldwijde AGI of vele verschillende. (Ik vermoed het laatste.)

En wie zijn 'we' hier? Er is ook niemand bevoegd om namens de mensheid te spreken. Het kan allemaal erg fout gaan, maar er is geen manier om het te vermijden.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer