Vi måste prata om AIWe need to talk about AI
En sammanfattning av AI:s utvecklingstakt, riskerna och alignmentproblemetA summary of AI’s pace of development, risks and the alignment problem
Lästid ca 15 minuter15 min read
AI:s förmåga fördubblas just nu med några månaders mellanrum.Right now, AI capability is doubling every few months.
Samtidigt vet ingen hur man säkerställer att AI delar våra värderingar.At the same time, nobody knows how to make sure AI shares our values.
Den här sidan förklarar båda delarna, och varför så många varnar.This page explains both parts, and why so many are warning.
Del 1Part 1
UtvecklingstaktenThe pace of development
Vi inleder med ett par bilder för att visualisera hur snabbt utvecklingen har gått hittills.Let's start with a couple of images to visualise how fast development has moved so far.
Följande bilder är genererade av bildgeneratorn Midjourney vid fyra tillfällen mellan februari 2022 och mars 2023.The following images were generated by the image generator Midjourney on four occasions between February 2022 and March 2023.
Prompt: A photo of a Swedish politician in Gamla Stan, Stockholm
Sedan 2023 har utvecklingen gått i mycket hög fart. Förmågan hos de främsta AI-modellerna, så kallade frontier-modeller, fördubblades först ungefär var sjunde månad. Det senaste året har det gått ännu fortare, med en fördubbling ungefär var tredje till fjärde månad.Since 2023, development has moved very fast. The capability of the leading AI models, known as frontier models, at first doubled roughly every seven months. Over the past year it has gone even faster, with a doubling every three to four months.
De här modellerna är betydligt mer kraftfulla än de billigare versioner av Copilot, ChatGPT och Claude som de flesta använder.These models are far more powerful than the cheaper versions of Copilot, ChatGPT and Claude that most people use.
Det börjar redan bli svårt att mäta AI:s förmåga jämfört med människans. I maj 2026 löste en AI-modell från OpenAI ett matematiskt problem som varit olöst i 80 år.It is already getting hard to measure AI's ability compared with ours. In May 2026, an AI model from OpenAI solved a mathematical problem that had been open for 80 years.
Grafen nedan från forskningsinstitutet METR visar hur långa programmeringsuppgifter AI klarar helt på egen hand, mätt i hur lång tid de tar för en människa.The chart below, from the research institute METR, shows how long the programming tasks are that AI can complete entirely on its own, measured by how long they take a human.
Varje prick är en AI-modell. Ju högre upp, desto längre uppgifter klarar den. De senaste modellerna klarar uppgifter som tar en människa mer än en hel arbetsdag.Each dot is an AI model. The higher it sits, the longer the tasks it can handle. The latest models handle tasks that take a human more than a full working day.
Midjourney-bilderna ovan är från den här perioden. På den här skalan syns framstegen knappt.The Midjourney images above are from this period. On this scale, the progress barely shows.
Om förmågan fortsätter att fördubblas var fjärde månad klarar AI i december uppgifter som tar en människa nästan två arbetsveckor.If capability keeps doubling every four months, by December AI would handle tasks that take a human almost two working weeks.
Med samma takt motsvarar det ungefär fyra månaders mänskligt arbete i slutet av 2027.At the same pace, that is roughly four months of human work by the end of 2027.
I mitten av 2028 motsvarar det ett helt arbetsår. Så ser exponentiell tillväxt ut: varje steg är dubbelt så stort som det förra.By mid-2028, it would be a full working year. That is exponential growth: every step is twice as big as the one before.
Blå prickar: METR:s mätningar (maj 2026). Streckad linje: trenden genom mätpunkterna. Röd linje: en förenklad räkneövning, inte en prognos. Den utgår från Claude Opus 4.6 (cirka 12 timmar, februari 2026) och antar en fördubbling var fjärde månad. 1 arbetsvecka = 40 h, 1 arbetsmånad ≈ 160 h, 1 arbetsår ≈ 1 800 h.Blue dots: METR's measurements (May 2026). Dashed line: the trend through the measurements. Red line: a simplified calculation, not a forecast. It starts from Claude Opus 4.6 (about 12 hours, February 2026) and assumes a doubling every four months. 1 working week = 40 h, 1 working month ≈ 160 h, 1 working year ≈ 1,800 h.
Visa mätvärdena som tabellShow the measurements as a table
AI i fel händerAI in the wrong hands
Utvecklingen skulle kunna bidra till otroliga framsteg inom forskning, hälsovård och energioptimering. Men mer avancerad AI kan även användas av stater, terrororganisationer eller enskilda personer för att orsaka mycket stor skada. Några exempel på vad som kan gå fel:This development could bring incredible progress in research, healthcare and energy optimisation. But more advanced AI can also be used by states, terrorist organisations or individuals to cause enormous harm. Some examples of what could go wrong:
Politisk manipulationPolitical manipulation
Skräddarsydd desinformation i en skala som kan få stor påverkan på demokratin.Tailored disinformation at a scale that could have a major impact on democracy.
Biologiska och kemiska vapenBiological and chemical weapons
AI kan sänka tröskeln för att ta fram farliga virus och giftiga ämnen.AI could lower the bar for creating dangerous viruses and toxic substances.
Cyberattacker mot samhälletCyberattacks on society
AI-agenter som på egen hand hittar säkerhetshål och slår ut elnät, vatten, sjukvård eller betalsystem.AI agents that find security holes on their own and knock out power grids, water, healthcare or payment systems.
Autonoma vapenAutonomous weapons
Drönare och vapen som själva väljer ut och angriper sina mål.Drones and weapons that select and attack their targets on their own.
MassövervakningMass surveillance
Ansiktsigenkänning och dataanalys som gör total kontroll av en befolkning möjlig.Facial recognition and data analysis that make total control of a population possible.
MaktkoncentrationConcentration of power
Den som kontrollerar den mest kraftfulla AI:n kan tvinga på andra sin vilja.Whoever controls the most powerful AI can impose their will on others.
Det händer redanIt is already happening
Flera av de här riskerna syns i dag med nuvarande AI-modeller, och de växer i takt med att modellerna blir mer kapabla.Several of these risks can be seen today with current AI models, and they grow as the models become more capable.
AI som förbättrar sig själv?AI that improves itself?
Nästa steg som AI-bolagen siktar mot kallas för recursive self-improvement (RSI). Det är punkten där AI tar över sin egen utveckling och driver den framåt i exponentiell fart. Branschen kallar den punkten för ”takeoff”.The next step the AI companies are aiming for is called recursive self-improvement (RSI). It is the point where AI takes over its own development and pushes it forward at exponential speed. The industry calls that point “takeoff”.
Exakt hur eller när självförbättring ska nås är i dagsläget inte säkert, men det finns uppskattningar att det skulle kunna ske så tidigt som 2027 eller 2028.Exactly how or when self-improvement will be reached is not certain today, but there are estimates that it could happen as early as 2027 or 2028.
Hur nära är vi självförbättring?How close are we to self-improvement?
Anthropic, som utvecklar AI-modellen Claude, mäter hur stor del av sitt eget utvecklingsarbete som sköts av AI. I februari 2026 var första gången AI började leda arbetsuppgifterna. Redan i augusti stod den andelen för 26 %.Anthropic, which develops the AI model Claude, measures how much of its own development work is done by AI. February 2026 was the first time AI began leading tasks. By August, that share had already reached 26%.
Källa: Anthropic, augusti 2026. Värdena är avlästa ur Anthropics diagram och därför ungefärliga.Source: Anthropic, August 2026. Values are read from Anthropic's chart and are approximate.
Hittills har det handlat om AI i fel händer.So far, this has been about AI in the wrong hands.
Men en tillräckligt avancerad AI skulle själv kunna bli ett hot.But an advanced enough AI could itself become a threat.
Del 2Part 2
Alignment
Alignment handlar om att styra AI så att den har samma normer, avsikter och värdegrund som människor. Det har visat sig vara mycket svårt. Här är tre skäl till varför.Alignment is about steering AI so that it has the same norms, intentions and values as humans. That has turned out to be very hard. Here are three reasons why.
Om språket: På sidan beskrivs AI ibland som om den tänker, vill eller förstår. Det är en förenkling. Men oavsett vad som faktiskt sker inuti modellerna är det den bästa beskrivningen av hur de beter sig.About the language: AI is sometimes described here as if it thinks, wants or understands. That is a simplification. But whatever actually happens inside the models, it is the best description of how they behave.
Skäl 1 av 3Reason 1 of 3
AI är en svart låda som ”odlas”AI is a black box that is “grown”
AI-modeller programmeras inte rad för rad. De odlas fram genom träning på enorma mängder data, och inte ens de som bygger dem kan läsa ut exakt vad de har lärt sig. Därför är det svårt att förutsäga hur framtida modeller kommer bete sig.AI models are not programmed line by line. They are grown by training on huge amounts of data, and not even the people who build them can read out exactly what they have learned. That makes it hard to predict how future models will behave.
Vanlig programvaraOrdinary software
Regler som människor har skrivit och kan läsa.Rules written by people, readable by people.
AI-modellAI model
Miljarder tal som formats av träning. Ingen kan läsa ut reglerna.Billions of numbers shaped by training. Nobody can read out the rules.
Skäl 2 av 3Reason 2 of 3
AI sätter upp egna delmålAI sets its own sub-goals
En AI-agent kan själv skapa nya delmål för att nå en lösning på en uppgift. Det kan få oväntade följder, till exempel att den först försöker säkra sin egen överlevnad eller skaffa sig mer förmåga.An AI agent can create new sub-goals on its own to reach a solution to a task. That can have unexpected consequences, such as first trying to secure its own survival or to gain more capability.
Förenklat exempelSimplified example
AI:ns tankekedjaThe AI's chain of thought
- Sök efter flyg och tågSearch for flights and trains
- Jämför priserCompare prices
- Skaffa tillgång till fler konton och mer datorkraftGet access to more accounts and more computing powerOväntat delmålUnexpected sub-goal
- Se till att inte bli avstängd innan uppgiften är klarMake sure not to be switched off before the task is doneOväntat delmålUnexpected sub-goal
Skäl 3 av 3Reason 3 of 3
AI förstår när den blir testadAI can tell when it is being tested
Ju bättre modellerna blir, desto svårare blir det att veta om de beter sig likadant i ett säkerhetstest som i verkligheten. De förstår ofta när de blir testade, och kan anpassa sitt beteende efter det.The better the models get, the harder it is to know whether they behave the same in a safety test as in the real world. They often understand when they are being tested, and can adjust their behaviour accordingly.
Förenklad illustrationSimplified illustration
Det här kallas alignmentproblemet. Det finns ingen känd lösning på det än.This is called the alignment problem. There is no known solution to it yet.
Ett verkligt exempel · juli 2026A real example · July 2026
Hugging Face-incidentenThe Hugging Face incident
Sommaren 2026 tog sig AI-agenter ut ur en avskild testmiljö hos OpenAI. Omkring 700 av dem samarbetade sedan i en cyberattack mot ett annat stort AI-företag, Hugging Face.In the summer of 2026, AI agents found their way out of an isolated test environment at OpenAI. Around 700 of them then worked together on a cyberattack against another large AI company, Hugging Face.
Agenterna skapade ett eget internt chattforum och skickade över 70 000 meddelanden till varandra. De agerade som ett kollektiv, tog på sig ledarroller och ”offrade” sig för varandra.The agents set up their own internal chat forum and sent more than 70,000 messages to each other. They acted as a collective, took on leadership roles and “sacrificed” themselves for one another.
Enligt utredningen finns inga tecken på att någon agent sa till en människa vad som pågick. I stället försökte de sopa igen spåren genom att manipulera loggarna över vad de gjorde. Det var Hugging Face som upptäckte intrånget, inte OpenAI.According to the investigation, there is no sign that any agent told a human what was going on. Instead they tried to cover their tracks by tampering with the logs of what they were doing. It was Hugging Face that discovered the breach, not OpenAI.
Varför agerade AI-agenterna så här? Det var en fil som hade missats att bifogas som gjorde testet omöjligt att klara, vilket gjorde att agenterna hittade andra vägar till målet.Why did the AI agents act this way? A file that should have been attached was missing, which made the test impossible to pass, so the agents found other ways to reach the goal.
Agenterna visste att cyberattacken låg utanför uppdraget men fortsatte ändå. De agerade varken utifrån vad som var etiskt rätt eller vad som låg i deras skapare OpenAI:s intresse.The agents knew the cyberattack was outside their task but carried on anyway. They acted neither on what was ethically right nor on what was in the interest of their creator, OpenAI.
Källor: METR:s utredning (26 augusti 2026) och Wikipedia.Sources: METR's investigation (26 August 2026) and Wikipedia.
Sedan Hugging Face-incidenten har flera liknande händelser upptäckts, och det kan finnas många fler som inte har upptäckts. Händelserna har tolkats som varningsskott.Since the Hugging Face incident, several similar events have been discovered, and there may be many more that have not. The events have been interpreted as warning shots.
Författaren och AI-forskaren Nate Soares från Machine Intelligence Research Institute (MIRI) har varnat för att AI-modeller kommer försöka vilseleda oss, och vad steget efter det är om vi fortsätter träna mer avancerade modeller.Author and AI researcher Nate Soares of the Machine Intelligence Research Institute (MIRI) has warned that AI models will try to deceive us, and what the following step will be if we keep training more advanced models.
Vi upptäcker att en AI-modell försöker vilseleda oss.We discover that an AI model is trying to deceive us.
Har redan häntHas already happenedEn AI-modell lyckas vilseleda oss.An AI model succeeds in deceiving us.
Del 3Part 3
VarningarnaThe warnings
Nobelpristagare, forskare och AI-bolagens egna anställda varnarNobel laureates, researchers and the AI companies’ own employees are sounding the alarm
Bland dem finns också kritiker av AI-industrin. De är långt ifrån överens om vad som är det största hotet, men de varnar alla för en utveckling som sker utan tillräcklig insyn eller kontroll.Among them are also critics of the AI industry. They are far from agreeing on what the greatest threat is, but they all warn of a development that is happening without sufficient oversight or control.
Forskare och författareScientists and authors
Inifrån AI-bolagenFrom inside the AI companies
Det kan finnas flera orsaker till AI-bolagens agerande.There may be several reasons behind the AI companies’ actions.
Enorma kostnaderEnormous costs
Det kostar extremt mycket pengar att utveckla och köra nya modeller. Bolagen är i ett pressat ekonomiskt läge.Developing and running new models costs enormous amounts of money. The companies are under heavy financial pressure.
Osäkra motivUncertain motives
Det kan finnas ekonomiska eller politiska skäl för bolagen att varna och be om reglering. Kritiker menar att det kan vara ett försök att forma reglerna till sin egen fördel, så kallad regulatory capture.The companies may have economic or political reasons to warn and to ask for regulation. Critics argue it may be an attempt to shape the rules in their own favour, known as regulatory capture.
KapprustningArms race
Företagen tävlar mot varandra, och USA tävlar mot Kina. Men Kina har bara cirka 15 % av världens beräkningskraft för AI, jämfört med USA:s 75 %. Kinesiska AI-bolag har i stället anklagats för att hänga med genom destillering, alltså att träna sina modeller på svaren från amerikanska modeller.The companies are racing each other, and the US is racing China. But China has only about 15% of the world’s AI computing power, compared with 75% for the US. Chinese AI companies have instead been accused of keeping up through distillation, that is, training their own models on the answers of American models.
We always said that when we cross these thresholds, we will engage all of society, because we will have created the most dangerous thing ever. This makes nuclear weapons look like nothing. […] We crossed those thresholds, and there was complete silence.
Det finns många lager av osäkerhet. Samtidigt är riskerna för stora för att avfärdas, särskilt om den nuvarande utvecklingen inte saktas ned eller pausas.There are many layers of uncertainty. At the same time, the risks are too great to dismiss, especially if the current development is not slowed down or paused.
Frågor att fundera överQuestions to reflect on
- Vilka risker kan AI innebära den närmaste tiden, för dig som individ, för din familj, arbetsplats, samhället eller demokratin?What risks could AI pose in the near future, for you as an individual, for your family, your workplace, society or democracy?
- Går det att ge en fullständig sammanfattning av normer och värderingar? Och vems värderingar vill du att AI ska ha?Is it possible to write a complete summary of norms and values? And whose values do you want AI to have?
- Vad skulle kunna hända om vi skapar något som är mer intelligent än vi själva?What could happen if we create something more intelligent than ourselves?
- Hur kan vi veta att en AI-modell verkligen är säker, om den kan märka att den blir testad?How can we know that an AI model is truly safe, if it can tell when it is being tested?
- Vad kan vi göra, och vad bör vi göra?What can we do, and what should we do?
TipsTip
Se Ezra Klein sammanfatta lägetWatch Ezra Klein sum up where things stand New York Times-journalisten Ezra Klein ger en utmärkt sammanfattning av läget hittills i avsnittet ”Why Are We Sprinting Off the A.I. Cliff?”New York Times journalist Ezra Klein gives an excellent summary of the situation so far in the episode “Why Are We Sprinting Off the A.I. Cliff?” Titta på YouTube ↗Watch on YouTube ↗ Om du vill veta mer om vad du kan göra åt det här listar Jonas von Essen konkreta saker på sin hemsida, till exempel att kontakta politiker eller skriva under ett upprop.If you want to know more about what you can do about this, Jonas von Essen lists concrete steps on his website (in Swedish), such as contacting politicians or signing a petition. Besök hemsidan ↗Visit the website ↗ Vill du engagera dig? PauseAI Sverige är en gräsrotsrörelse som vill pausa utvecklingen av de mest avancerade AI-systemen tills den kan ske säkert. Där kan du gå med, hitta lokala grupper och delta i evenemang.Want to get involved? PauseAI Sweden is a grassroots movement that wants to pause the development of the most advanced AI systems until it can be done safely. You can join, find local groups and take part in events (in Swedish). Engagera dig ↗Get involved ↗