I våras uppmanade tusen aktörer inom artificiell intelligens till omedelbar paus i utvecklingen av AI. I ett öppet brev varnade de för att AI-företagens ”kapplöpning” kan leda till att vi ”förlorar kontrollen över vår civilisation”. Brevet kom efter att den fjärde versionen av chattroboten Chat GPT lanserats av företaget Open AI.

Förra veckan kom ytterligare ett upprop från världsledande AI-experter. Utvecklingen av AI kan leda till utrotning av mänskligheten, varnar de i ett kort men dramatiskt uttalande på Center for AI safetys hemsida.

”Att minska risken för utrotning på grund av AI bör vara en globalt prioriterad fråga i likhet med andra samhälleliga risker som pandemier och kärnvapenkrig”, skriver experterna.

Bland de hundratals undertecknarna kan nämnas Sam Altman, vd för Open AI, Demis Hassabis, vd för AI-företaget Google Deepmind, Bill Gates samt Geoffrey Hinton, känd som ”AI:s gudfader”. Hinton lämnade nyligen sin tjänst på Google för att kunna prata öppet om sin oro över AI-tekniken som han själv varit med och utvecklat.

– [AI:n] kan programmera, så den kommer att hitta vägar att kringgå restriktioner vi sätter för den. Den kommer att lista ut sätt att manipulera människor att göra vad den vill, uppger Geoffrey Hinton till CNN.

Den svenske fysikern och AI-forskaren Max Tegmark är ytterligare en av vetenskapsmännen och AI-aktörerna som skrivit under uttalandet. Han berättar i programmet 30 minuter i SVT att han har talat med flera av de ledande experterna.

– Det är som ett rop på hjälp från dem. Alla känner att det behövs reglering, säger han.

– Men inget företag kan pausa ensamt, för då blir det ju bara utkonkurrerat av de andra.

EU arbetar med lagstiftning för att reglera AI, men lagstiftningsprocessen går, enligt Tegmark, för långsamt. Därför kommer man inom de närmsta veckorna att ta fram en uppförandekod som branschföretagen kan ansluta sig till frivilligt. Det sade EU-kommissionären Margrethe Vestager vid sitt Sverigebesök nyligen.

Enligt Max Tegmark behövs det dock regler som gäller för alla och det är vad företagsledarna själva vill ha. Det har gått mycket lättare att utveckla artificiell intelligens än vad forskarna trodde för fem år sedan, påpekar han.

– Det vi trodde skulle ta 30–50 år har redan hänt, säger han.

– Det som skrämmer oss forskare så mycket är att det har gått så snabbt.

Om vi ger upp för mycket av vår kontroll till maskiner som är smartare än vi så är det mer än 50 procents risk att mänskligheten utrotas, hävdar han.