Den offentliga debattens grundantagande har alltid varit att bakom varje argument står en människa som menar något. Antagandet var aldrig helt sant, propaganda och kampanjer har alltid funnits, men det var sant nog för att samtalet skulle fungera.
Det antagandet är nu upphävt. Text, bild och röst kan produceras i industriell skala utan att någon menar någonting alls. Och den svenska debatten om saken handlar mest om skolfusk och upphovsrätt, som om det stora skiftet gällde inlämningsuppgifter.
Opinion går nu att simulera
Det verkligt omvälvande med generativ AI i offentligheten är inte enskilda falska bilder, hur uppmärksammade de än blir. Det är att folklig opinion har blivit någonting man kan tillverka.
Hundra insändare med olika ton och avsändarnamn. Tusen kommentarer som nöter in samma budskap med naturlig variation. Remissvar, namninsamlingar, lokala Facebookgrupper: allt som tidigare krävde människor i rummet kan nu syntetiseras av en aktör med måttlig budget. Det kallas astroturfing och är inget nytt, men kostnaden har fallit från kampanjbudget till fickpengar, och skalbarheten är en annan art.
För beslutsfattare, redaktioner och myndigheter som lyssnar på “vad folk tycker” innebär det något obekvämt: signalen går inte längre att lita på. Volym är inte belägg. Engagemang är inte folkvilja. Den som anpassar politik efter kommentarsfältens tryck kan numera anpassa sig efter en server i utlandet.
Formen har förlorat sitt bevisvärde
För den enskilda läsaren är förändringen lika grundläggande. Vi har lärt oss att använda form som kvalitetssignal: välformulerat betyder genomtänkt, många oberoende röster betyder förankring. De tumreglerna är döda. En språkmodell skriver mer välformulerat än de flesta människor, och “många oberoende röster” är en inställning i ett skript.
Det som återstår som tillitsgrund är avsändaren: institutioner med ansvarig utgivare, redovisad metod, historik av rättelser och något att förlora på att ljuga. Det är en obekväm slutsats i en tid som vant sig vid att misstro institutioner, men alternativet, att lita på formen, är numera naivt på gränsen till farligt.
Här finns också en paradox värd att uttala: AI-eran gör redaktionell journalistik mer nödvändig samtidigt som den underminerar dess ekonomi genom att översvämma samma uppmärksamhetsmarknad med gratis syntetiskt innehåll.
Reglering hjälper, kultur avgör
EU:s AI-förordning kräver märkning av visst syntetiskt innehåll, och plattformarna utvecklar detektering. Bra, men otillräckligt: den som avser att manipulera märker inte sitt innehåll frivilligt, och detektering är en kapprustning som försvararen hittills förlorar.
Det avgörande slaget står i stället om offentlighetens kultur. Redaktioner behöver rutiner för att verifiera avsändare, inte bara innehåll. Myndigheter och politiker behöver sluta läsa engagemangssiffror som opinion. Skolan behöver lära ut avsändarkritik som en kärnfärdighet, i nivå med läsförståelse. Och vi som deltar i debatten behöver en ny reflex: att fråga vem som talar innan vi värderar vad som sägs.
Det offentliga samtalet överlever AI. Men det överlever inte att vi låtsas som ingenting. Gränserna har redan flyttats; frågan är bara om vi flyttar efter med öppna ögon eller blir stående i ett landskap som inte längre finns.