Hur blir en tvåfaldig minnesvärldsmästare en av de tydligaste rösterna i den svenska AI-säkerhetsdebatten? Jonas von Essen gästar AI i Vardagen för ett samtal som rör sig mellan det stora och det personliga – från varför vår hjärna inte är gjord för att förstå exponentiell utveckling, till varför han ändå aldrig skulle låta AI skriva en dikt till en vän.
Jonas von Essen är tvåfaldig minnesvärldsmästare och har under de senaste åren engagerat sig allt mer i AI-säkerhetsdebatten. Hans väg in i ämnet började när han läste scenariorapporten AI 2027 – och sedan dess har han skrivit debattartiklar och medverkat i poddar om AI:s risker och möjligheter.
Vår tids mest underskattade fråga
Rakt genom samtalet återkommer Jonas till en central tanke: att människans hjärna inte är gjord för att tänka exponentiellt.
Människans hjärna är inte gjord för att tänka exponentiellt.
Jonas von Essen
Han beskriver hur AI:s förmågor tycks fördubblas ungefär var tredje till fjärde månad – en takt som gör att det vi tror ligger flera år bort i praktiken kan vara några månader bort. Det är, menar Jonas, en stor del av förklaringen till varför både allmänhet, medier och politiker underskattar hur snabbt utvecklingen faktiskt går.
Kontrollproblemet – att uppfostra en tigerunge
En av samtalets starkaste bilder handlar om det som inom AI-forskningen kallas "alignment" – frågan om hur vi säkerställer att AI:s mål faktiskt stämmer överens med våra egna.
Vi kommer att vara som dagisbarn som går runt med väldigt intelligenta vuxna. Fast skillnaden kommer att vara mycket större än mellan dagisbarn och vuxna.
Jonas von Essen
Jonas liknar situationen vid att uppfostra en tigerunge: den kan verka snäll och hanterbar som liten, men ingen uppfostran garanterar att den fullvuxna tigern förblir ofarlig. På samma sätt, menar han, kan vi forma AI:s beteende – men inte med säkerhet garantera hur den agerar när den blir mycket mer kapabel än oss.
Jonas nämner i samtalet ett uttalande av AI-forskaren Geoffrey Hinton om en hög procentuell risk för mänsklighetens utgång. Det är Jonas egen återgivning av något han hört – inte en oberoende verifierad siffra från vår sida.
Vad händer med vårt lärande och minne?
Som minnesmästare får Jonas en särskild fråga: tränar vi våra hjärnor mindre när AI blir bättre? Hans svar är mer nyanserat än man kanske väntar sig. Han berättar om hur han själv, mitt under en programmeringskurs, insåg att AI redan kunde göra uppgiften bättre än han – men att drivkraften att lära sig ändå inte försvann.
Jag lär mig alla de här sakerna för att det är roligt.
Jonas von Essen
Han jämför det med hur barn lär sig saker utan ekonomiskt syfte, helt enkelt för glädjen i det – och landar i en förhoppning om vad han kallar "en slags evig barndom", där lärande förblir meningsfullt även i en värld där AI kan mer än vi.
Var går gränsen?
Trots – eller kanske på grund av – sitt engagemang i AI-riskerna är Jonas tydlig med var hans egen gräns går:
Jag skulle absolut inte låta AI skriva… Om jag håller på med scenpoesi, skulle jag aldrig låta AI skriva dikten… Det handlar ju om att komma från en människa till en annan.
Jonas von Essen
Han skulle aldrig låta AI skriva ett bröllopstal eller en dikt till en vän – för poängen med den typen av text är just att den kommer från en människa.
Vad Jonas vill att du tar med dig
Avsnittet slutar med Jonas mest centrala budskap:
Jag skulle vilja att man tar med sig att utvecklingen är kanske vår tids absolut mest underskattade fråga och kanske också vår tids största och också farligaste fråga… Det allra enklaste som alla kan göra är att man börjar prata om det.
Jonas von Essen
En enkel, konkret uppmaning: prata om AI:s utveckling med dina kollegor och vänner. Enligt Jonas är det just den samhälleliga samtalstonen som till slut tvingar politiker och medier att ta frågan på allvar.
Jonas tips och resurser
Rapporten AI 2027 – av Daniel Kokotajlo m.fl. – var ingången till Jonas engagemang i AI-säkerhetsdebatten. En läsning han rekommenderar till den som vill förstå hur snabbt AI-utvecklingen kan gå.
Jonas von Essen har också en onlinekurs i minnesteknik: Jonas minneskurs. Mats rekommenderar den – och har köpt den själv.
Fler avsnitt av AI i Vardagen hittar du på AI-sidan. Prenumerera gärna på veckobrevet om du vill ha kommande avsnitt och tankar direkt i inkorgen.
Se eller lyssna på avsnittet
Dela detta innehåll: