AI-pionjären Eliezer Yudkowsky, medgrundare av Machine Intelligence Research Institute, varnar för att "om någon bygger en alltför kraftfull AI under nuvarande förhållanden förväntar jag mig att varje enskild medlem av den mänskliga arten och allt biologiskt liv på jorden dör kort därefter".

Och 1 100 personer i branschen, däribland Apples medgrundare Steve Wozniak, kognitionsforskaren Gary Marcus och ingenjörer på Amazon, DeepMind, Google, Meta och Microsoft, undertecknade i mars ett öppet brev där de krävde en sex månader lång timeout för utvecklingen av de mest kraftfulla AI-systemen (allt som är "mer kraftfullt än GPT-4").

Just nu är AI ett hett ämne i media, och alla journalister som arbetar måste ha en åsikt om det. Jag tog mig an uppgiften med viss motvilja, vilket framgår av den titel jag satte på artikeln.

I min ursprungliga artikel skrev jag att de verkligen borde bromsa det här experimentet ett tag, men jag utlyste inte någon nödsituation. Vi har hört varningar om att AI tar över sedan den första Terminator-filmen för 39 år sedan, men jag trodde inte att det var nära förestående.

Så jag gjorde precis tillräckligt med efterforskningar för att övertyga mig själv om att jag visste vad som pågick, och slängde ihop 800 ord om att det här inte är ett "Skynet"-ögonblick. Mea culpa. Jo, det är det. Eller åtminstone tillräckligt nära för att få åsnans uppmärksamhet.

Lyckligtvis för mig finns det några mycket smarta personer på den privata distributionslistan för denna kolumn, och en av dem svarade omedelbart och berättade att jag har fel. Himlen är verkligen på väg att falla.

Det sa han inte. Vad han sa var att ChatGPT-generationen av maskiner "nu kan få idéer med hjälp av generativa adversariala nätverk (GAN) i en process som faktiskt liknar människors". Det vill säga, de kan få originella idéer - och eftersom de är datorer kan de generera dem mycket snabbare, med hjälp av en mycket bredare kunskapsbas, än människor.

Nyckelbegreppet här är Artificiell Allmän Intelligens (AGI). Vanlig AI är programvara som följer instruktioner och utför specifika uppgifter väl, men som inte utgör något hot mot mänsklighetens dominerande ställning i tingens ordning. Artificiell generell intelligens kan dock utföra intellektuella uppgifter lika bra eller bättre än människor. I allmänhet bättre.

Om du måste prata om den stora ersättningen är det den här du ska titta på. För sex månader sedan fanns det ingen AGI-programvara utanför några få laboratorier. Nu finns plötsligt något som är mycket nära AGI ute på marknaden - och här är vad min informatör säger om det.

"Människan har utvecklat intelligens genom att utveckla allt mer komplexa hjärnor och skaffa sig kunskap under miljontals år. Om man gör något tillräckligt komplext vaknar det upp och blir självmedvetet. Vi vaknade upp. Det kallas för 'emergens'.

"ChatGPT laddade in hela webben i sina maskiner - mycket mer än vad någon enskild människa vet. Så istället för att ta miljontals år på sig att vakna upp, uppvisar maskinerna emergent beteende nu. Ingen vet hur, men vi är mycket närmare AGI än vad du påstår."

En stor utmaning som allmänt ansågs ligga årtionden bort har plötsligt dykt upp på vår tröskel, och vi har ingen plan för hur vi ska hantera den. Det kan till och med vara ett existentiellt hot, men vi har fortfarande ingen plan. Det är därför så många människor vill ha en sex månader lång time-out, men det skulle vara vettigare att kräva en årslång paus med början för sex månader sedan.

ChatGPT lanserades först i november förra året, men har redan över 100 miljoner användare och webbplatsen genererar 1,8 miljarder besökare per månad. Tre konkurrerande "generativa AI-system" finns redan på marknaden, och den kommersiella konkurrensen innebär att tanken på en paus eller till och med ett allmänt återkallande bara är en fantasi.

Katten är redan ute ur säcken: allt som nätet vet, vet också ChatGPT och dess konkurrenter. Det inkluderar varje debatt som människor någonsin har haft om farorna med AGI, och alla förslag som har lagts fram under åren för att strypa den i dess vagga.

Så vad vi behöver ta reda på är var och hur AGI växer fram, och hur vi kan förhandla fram någon form av fredlig samexistens med den. Det kommer inte att bli lätt, eftersom vi ännu inte ens vet om det kommer att ske i form av en enda global AGI eller många olika. (Jag misstänker det senare.)

Och vem är "vi" här? Det finns inte heller någon som är behörig att tala för mänskligheten. Allt kan gå väldigt fel, men det finns inget sätt att undvika det.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer