I ett öppet brev uppmanas laboratorier verksamma inom artificiell intelligens att genast pausa sin utveckling av AI-system som är starkare än den fjärde version av chattroboten Chat GPT. Det rapporterar bland andra TT och Dagens Industri.

Uppehållet bör gälla i åtminstone sex månader, anser de ettusen undertecknarna, däribland Twitter- och Teslachefen Elon Musk, Apple-medgrundaren Steve Wozniak, den svenske professorn Max Tegmark och professorn Yuval Noah Harari, som även är rådgivare åt World Economic Forum.

”De senaste månaderna har vi sett AI-lab indragna i ett race som är helt bortom kontroll för att applicera mer kraftfull digital intelligens som ingen – inte ens deras skapare – kan förstå, förutse eller kontrollera”, skriver brevförfattarna.

AI-systemen kan orsaka både ekonomiska och politiska störningar, menar de.

”Ska vi automatisera bort alla jobb, inklusive de meningsfulla? Ska vi utveckla icke-mänskliga sinnen som så småningom kan överträffa, överlista, göra oss obsoleta och ersätta oss? Ska vi riskera att förlora kontrollen över vår civilisation?, skriver de vidare.

”Kraftfulla AI-system bör utvecklas bara när vi är säkra på att deras effekter kommer att vara positiva och riskerna är hanterbara”.

Bakom chattroboten GPT-4 står Open AI, som Elon Musk var medgrundare till. Han har tidigare kritiserat företaget för att avvika från sitt ursprungliga syfte att bygga AI som ska vara till nytta för mänskligheten.

Om AI-lab inte tar en paus vill brevskrivarna se att lagstiftare kliver in. Samhället har tidigare pausat andra teknologier med potentiellt katastrofala effekter, som kloning och genmanipulation, påpekar de.