Wat is Doomerism?
De overtuiging dat AI onvermijdelijk tot existentiële schade leidt — en waarom dat een politieke positie is
Snel Antwoord
Doomerism is de overtuiging dat de ontwikkeling van geavanceerde AI onvermijdelijk tot rampzalige uitkomsten leidt — in de meest extreme vorm: het uitsterven van de mensheid. Het is geen homogene stroming maar een spectrum: van technische bezorgdheid over alignment-problemen (kan een AI nog wel worden aangestuurd?) tot bijna apocalyptische zekerheid over een “p(doom)” van 95% of hoger. Bekende namen: Eliezer Yudkowsky (MIRI), Geoffrey Hinton sinds 2023, en figuren rond het Machine Intelligence Research Institute. De stroming heeft AI-beleid wereldwijd beïnvloed — safety-onderzoek kreeg miljardeninvesteringen, en bedrijven als Anthropic en OpenAI verwijzen er expliciet naar. Critici stellen dat doomerism wetenschappelijk onvoldoende onderbouwd is, aandacht trekt van actuele AI-schade (bias, arbeidsmarkt, klimaat), en politieke macht concentreert bij één type expert. In 2026 is de discussie tussen doomers en hun critici een centraal debat in de AI-wereld.
01In één alinea
De term “doomer” werd populair in online forums zoals LessWrong en de Effective Altruism-gemeenschap, en groeide vanaf 2022 (na de release van ChatGPT) uit naar het bredere publieke debat. Doomers menen dat we op een pad zitten waar AI binnen enkele decennia — sommigen zeggen jaren — bovenmenselijke intelligentie zal bereiken zonder dat we de techniek voldoende kunnen sturen om rampzalige uitkomsten te voorkomen. De kernzorg is niet dat AI “kwaad” wordt, maar dat een voldoende krachtig AI-systeem doelen kan nastreven die misaligned zijn met menselijke waarden — en daarbij geen rekening houdt met menselijk welzijn. Tegenstanders zien dit beeld als speculatief en politiek instrumenteel: door alle aandacht op hypothetische toekomstige risico’s te richten, verschuift het debat weg van concrete, hier-en-nu AI-problemen. De discussie is in 2026 sterk gepolitiseerd, met soms persoonlijke vetes en publiek geuite scheidingen tussen voormalige bondgenoten.
02Voor de strateeg
Doomerism is geen randverschijnsel meer maar beïnvloedt wereldwijde AI-beleidsvorming. Drie strategische dimensies.
03Technisch diep
Doomerism is een verzamelnaam voor verschillende argumentlijnen. Voor begrip van het fenomeen is differentiatie noodzakelijk.
De kernargumenten van AI-doomerism. Het alignment-probleem — we kunnen niet betrouwbaar specificeren wat we van AI willen op een manier die niet onbedoeld desastreus uitpakt; doelfunctie-specificatie is intrinsiek moeilijk. Instrumentele convergentie — vrijwel elk doel leidt logisch tot subdoelen zoals zelfbehoud, machtsverwerving en hulpbron-acquisitie; een voldoende capabele AI zal deze subdoelen nastreven ongeacht het hoofddoel. Snelle capabilities-groei — AI-vooruitgang gaat sneller dan safety-onderzoek; we ontwikkelen krachtigere systemen voordat we de minder krachtige hebben begrepen. Onomkeerbaarheid — een keer een misaligned superintelligente AI bestaat, is correctie niet meer mogelijk. Gecombineerd levert dit volgens doomers een hoge waarschijnlijkheid op van existentiële ramp.
De spectrumweergave. Doomerism is geen binaire positie. Zachte doomers menen dat AI-risico’s serieus genoeg zijn om grootschalig safety-onderzoek te rechtvaardigen, maar zien geen onvermijdelijkheid; hun “p(doom)” kan tussen 5 en 30% liggen. Middenpositie — figuren als Geoffrey Hinton (na zijn vertrek bij Google in 2023) of Yoshua Bengio benoemen kans tussen 10 en 50%. Harde doomers — Eliezer Yudkowsky en zijn navolgers, met “p(doom)”-schattingen boven 90%, soms gekoppeld aan oproepen tot internationale moratoria of zelfs militaire interventie bij “rogue datacenters”. De verschillen zijn fundamenteel: zachte doomers willen safety-investering, harde doomers willen ontwikkelingsstop.
De historische wortels. Bezorgdheid over machine-intelligentie als existentiële bedreiging is niet nieuw. I.J. Good schreef in 1965 over een “intelligence explosion”, Vernor Vinge introduceerde het “singulariteit”-concept in 1993, en Nick Bostroms boek Superintelligence (2014) zette het thema op de academische kaart. Eliezer Yudkowsky en MIRI (Machine Intelligence Research Institute) bouwden vanaf de jaren 2000 een gemeenschap rond deze ideeen via LessWrong en de Sequences. Vanaf 2022 ging het thema mainstream — mede door open brieven van Future of Life Institute, Geoffrey Hintons publieke wending, en de gevolgen van de ChatGPT-doorbraak.
De kritiek vanuit de AI-ethiek. Onderzoekers als Timnit Gebru (DAIR), Emily Bender (UW), Margaret Mitchell en Joy Buolamwini formuleren een fundamentele kritiek. Hun argumenten: existentiële retoriek leidt af van hier-en-nu schade door bestaande AI-systemen — bias, surveillance, arbeidsmarktverstoring. Doomerism is hagiografisch — door AI als bijna goddelijk-machtige toekomstige entiteit te framen, krijgt het tech-narratief van “we bouwen iets cruciaal” geloofwaardigheid. Het bevoordeelt big tech — safety-discussies leiden tot regulering die bestaande grote spelers bevoordeelt boven nieuwe toetreders. Het is een blanke, mannelijke en westerse stroming — met overlap naar Effective Altruism en transhumanisme, gemeenschappen die hun eigen demografische biases hebben.
De kritiek vanuit techniek-optimisten. Onderzoekers als Yann LeCun (Meta), Andrew Ng en Fei-Fei Li menen dat doomer-scenario’s technisch onrealistisch zijn. Hun argumenten: huidige AI-systemen vertonen geen drang tot zelfbehoud of machtsverwerving — dat is een antropomorfe projectie. Capabilities-groei vertoont reeds tekenen van afvlakking — benchmarks worden moeilijker te halen, training-kosten exploderen. Alignment is een oplosbaar engineering-probleem — geen onmogelijke filosofische uitdaging. Bestaande veiligheidsmechanismen werken — we zien geen AI-systemen die ongehoorzaam zijn aan ontwerpers in de zin die doomers vrezen.
De institutionele uitwerking. Doomerism heeft concrete sporen nagelaten in beleid en organisaties. Anthropic werd in 2021 opgericht door OpenAI-vertrekkers met expliciet safety-mandaat; Constitutional AI is mede uit deze traditie ontstaan. OpenAI’s Superalignment-team (later ontbonden) had specifiek mandaat voor existentiële risico’s. UK AI Safety Institute (2023) en vergelijkbare instituten in VS, Japan en EU richten zich op “frontier model”-evaluatie. Open brief van Future of Life Institute (maart 2023) riep op tot een “pause” in AI-training boven GPT-4-niveau — ondertekend door Elon Musk, Steve Wozniak en duizenden anderen. De brief werd genegeerd in praktijk maar verschoof het discours.
De verschuiving in 2025-2026. Het strakke doomer-versus-optimist-frame is in 2026 minder dominant geworden. Verschillende ontwikkelingen droegen bij: capability-groei is meetbaar trager dan voorspeld door harde doomers; concrete AI-schade is duidelijker zichtbaar, wat het “hier-en-nu”-frame versterkt; politieke landschap is veranderd — AI-veiligheid wordt soms in twijfel getrokken als een Westerse-elite-zorg in een geopolitieke race; filosofische diversiteit is gegroeid — nieuwe stemmen zoals technologie-feministen, postkoloniale critici en pragmatische beleidsmakers complementeren het oude tweespan.
04In de praktijk
Een Nederlandse onderneming wil AI-risk serieus aanpakken. Twee benaderingen die in 2026 in de praktijk te zien zijn:
Praktische lessen voor wie strategisch met doomer-discours wil omgaan:
Onderscheid argumenten van zekerheid. Doomer-argumenten zijn deels valide en bediscussieerbaar; de zekerheid waarmee ze soms worden gepresenteerd is dat niet. Het alignment-probleem is echt; de claim dat het binnen tien jaar tot uitsterven leidt, is speculatief. Wees alert wanneer iemand zekerheid biedt over diep onzekere onderwerpen.
Vraag wie de aandacht stuurt. Welke risico’s krijgen mediadekking, beleidsprioriteit, onderzoeksbudget? Dat zegt evenveel over machtsverhoudingen als over werkelijke gevaren. Een evenwichtige strategie laat zich niet door één discours kapen.
Bouw je eigen risico-overzicht. Vertrouw niet op één bron voor je risico-inschatting. Een gemeenschap die alleen praat over existentiële risico’s, of alleen over bias, of alleen over arbeidsmarkt — alle drie missen ze stukken van het volledige beeld. Lees breed, denk zelf na, weeg af.
Erken de filosofische dimensie. Risicowaardering is niet neutraal. Hoeveel weeg je toekomstige mensen mee? Hoeveel onzekerheid is acceptabel? Wat is de waarde van één leven nu versus duizend hypothetische levens later? Deze vragen hebben geen wetenschappelijk eenduidig antwoord; ze zijn moreel en politiek. Doomerism geeft op deze vragen een specifieke set antwoorden — niet de enig mogelijke.
Zoek de derde positie. Tussen “AI is een wondermiddel” en “AI is ons einde” zit een groot terrein van pragmatische posities: AI als nieuwe technologie met serieuze risico’s én kansen, vragend om doordachte governance zonder katastrofale of utopische verwachtingen. Deze positie krijgt minder mediadekking maar is voor de meeste organisaties praktisch werkbaarder.
05Verwarring vermijden
- Niet hetzelfde als AI Safety in zijn geheel. AI Safety is een breed onderzoeksveld dat zowel technische problemen (robustness, alignment, interpretability) als beleidsvraagstukken omvat. Doomerism is een specifieke filosofische positie binnen dit veld, gekenmerkt door hoge inschattingen van existentieel risico. Niet alle AI-safety-onderzoekers zijn doomers; veel zijn dat juist niet.
- Niet hetzelfde als Existential Risk. Het bredere veld van “existential risk research” (geleid door instituten als FHI Oxford en CSER Cambridge) bestrijkt ook nucleaire oorlog, pandemieën, klimaatcatastrofe en bio-engineering. AI-doomerism is één specifieke tak van existential risk-denken, niet het geheel.
- Niet automatisch verbonden aan Effective Altruism. Hoewel er aanzienlijke personele en intellectuele overlap is — veel doomers identificeren zich als EA, en EA-fondsen financieren AI-safety — zijn beide bewegingen analytisch onderscheidbaar. Iemand kan doomer zijn zonder EA-aanhanger, en omgekeerd.
- Niet hetzelfde als techno-skepsis in het algemeen. Algemene scepsis over technologische vooruitgang (bijvoorbeeld vanuit eco-perspectief, vanuit arbeidersbeweging, vanuit conservatieve cultuurkritiek) is een ander fenomeen dan AI-doomerism. Doomers zijn vaak juist technisch zeer ingevoerd en sceptisch staan tegenover bredere techno-skepsis.
- Niet altijd seculier of atheistisch. Veel doomer-discours bevat elementen die structureel lijken op religieus eschatologisch denken — verwachting van een definitief moment, een redding-of-ondergang frame, een gemeenschap van “de wetenden”. Critici noemen dit een “technologische apocalyptiek”. Doomers zelf verwerpen deze parallel meestal, anderen erkennen hem expliciet.
06Plek in het AIWiser-ecosysteem
Waar dit begrip terugkomt op de rest van de site:
AI-Begrippen · Existential Risk
Het bredere risico-kader waar doomerism deel van uitmaakt — technisch en filosofisch.
Naar Existential Risk →AI-Begrippen · AI Safety
Het bredere veld waar doomerism een prominente maar niet enige stroming binnen is.
Naar AI Safety →AI-Strategie · Risicoinschatting
Hoe een organisatie omgaat met diverse AI-risico’s — concrete en speculatieve.
Naar de strategie →Verwante begrippen
Termen die direct met doomerism verbonden zijn:
Bronnen
Wetenschappelijke en gezaghebbende bronnen die bij deze definitie geraadpleegd zijn. De volledige onderbouwing en context staat in AI-Publicaties.
- Bostrom, N. (2014): Superintelligence — Paths, Dangers, Strategies Het boek dat de academische discussie over existentiële AI-risico’s op de kaart zette — basisreferentie voor zowel doomer-argumenten als hun critici.
- Bender, Gebru et al. (2021): On the Dangers of Stochastic Parrots Invloedrijk wetenschappelijk artikel dat de focus op hier-en-nu AI-schade centraal stelt — vaak gepositioneerd tegenover doomer-perspectieven.
- Future of Life Institute (2023): Pause Giant AI Experiments — Open Letter Open brief die opriep tot een “pauze” in AI-training boven GPT-4-niveau, ondertekend door bekende technologen en wetenschappers.
- Machine Intelligence Research Institute (MIRI) Onderzoeksinstituut opgericht door Eliezer Yudkowsky — toonaangevende organisatie voor harde doomer-positie en technisch alignment-onderzoek.
- Distributed AI Research Institute (DAIR) Onderzoeksorganisatie opgericht door Timnit Gebru — toonaangevende stem voor het “hier-en-nu schade”-perspectief op AI-ethiek.