Escape room: Habermas, Foucault og Suchman designer fremtidens sociale medier

Vi har en meget speciel situation:

Tankeeksperimentet er, at vi har lukket Jürgen Habermas, Michel Foucault og Lucy Suchman ind i et rum med opgaven at designe et socialt medie og en beskedplatform fra bunden.

Jürgen og Michel er med, fordi de begge har skrevet om den offentlige samtales rolle i samfundet og om, hvordan samtalen kan organiseres — og manipuleres. De er uenige om meget, men begge beskæftiger sig begge med, hvordan mennesker kan tale sammen og skabe forståelse.

Lucy er med som observatør — og mægler. Hendes arbejde handler blandt andet om menneskers indbyrdes samspil med teknologi. Og netop rollen som observatør er vigtig. Hun har udviklet en decideret metode til at analyser dialog mellem mennesker og maskiner. Metoden eller måske snarer teknikkerne, er beskrevet i bogen “Plans and situated actions: the problem of human-machine communication” (1987) hvor netop rollen som observatør og studiet af mikro-hændelser i samtalen afslører vigtige detaljer om problemerne med mennesker/maskine interaktioner.

Hvis du tænker at en bog fra 1987 ikke kan sige noget vigtigt om AI i dag, så har du ikke møde Lucy endnu!

Lucy er vores hovedperson. Hun er også vigtig ballast i hele tankegodset bag skabelsen af vores Software Foundation. Og for lige at binde en sløjfe, så var det Hubert Dreyfus som skrev “Mind over Machine” som inspiredede os til vores navn og han var også chair i evalueringskomitteen for Lucy’s PhD afhandling i starten af 80’erne. Interesseret i mere om Lucy, Drefus og flere af heltene fra Cognitive Science feltet_ Så gå ombord i mit essay: Say ‘AI’ Again — I dare you.

En kort recap på de to andre: Jürgen Habermas formulerer et ideal om den herredømmefri samtale, hvor alle kan deltage på lige fod. Michel Foucault siger at magtfri samtaler ikke eksisterer. Der er altid magt indleret i alle samtaler, derfor vil de ofte udvikle sig til en kamp om at have overhånden i samtalen. Til at forstå de mekanismer udvikler han diskursanalysen.

Min idé er, at med summen af den indsigt og erkendelse som Jürgen, Michel og Lucy har — selvfølgelig er vi nu på fornavn med dem alle — så burde vi kunne skabe en helt særlig platform for digital dialog. Det er i hvert tilfælde hævet over enhver tvivl, at disse tre personer vil alle mennesker og alle samfund på kloden det bedste.

Escape Room

Døren til det imaginære escape room lukkes, Jürgen, Michel og Lucy er nu låst inde med opgaven at designe fremtidens sociale medie. Et system baseret på kybernetiske principper, som er i balance og som agere med andre systemer, ligesom et økosystem. Et system som ikke løber og som ikke går i stå. Et regenerativt system.

De kan komme ud, når de er færdige!

Jürgen sætter sig i et hjørne med sit normative ideal om den herredømmefrie samtale og den kommunikative handlen. Han minder os om, hvorfor vi overhovedet ønsker at tale sammen: for at nå til en fælles, fornuftsbaseret forståelse.

Foucault står op — i det modsatte hjørne med et tvivlende smil. Han medbringer diskursanalysen og blikket for magten i sproget. “Samtaler foregår ikke uden magtrelationer. Regler, strukturer og definitioner af såkaldt fornuft kan påvirke, hvem der bliver hørt, og hvilke udsagn der opfattes som gyldige” — kunne godt være noget han kunne have sagt. Han vil gerne have, at vi forstår, at samtaler ikke er neutrale, men altid er præget af magt og interesser.

Suchman har placeret sig midt imellem dem, forankret i den empiriske virkelighed med sit begreb om situeret handling.

De to europæiske filosoffer diskuterer de store linjer og samfundets strukturer, bølgerne går højt. Suchman lytter og venter på, at de falder lidt til ro. Så hun kan rette opmærksomheden mod de mikrointeraktioner, der udspiller sig i detaljen, i samtalen, her og nu, og mod det løbende arbejde med at håndtere misforståelser og behov for korrektioner, som uundgåeligt opstår i alle samtaler.

Opgøret med opmærksomhedskapitalismen

Det første, de tre bliver rørende enige om, er, hvad der ikke skal være i systemet. De klassiske greb fra nutidens sociale medier ryger ud med det samme: synlige likes, delinger, reposts, den konstante higen efter opmærksomhed, der via algoritmer belønner opmærksomhed, influencer-dyrkelse. Al påvirkning fra kommercielle interesser, det vil sige både reklamer, product placement og sponsorerede indlæg bliver også kastet på møddingen som det første.

Jürgen kalder det syntetiske tommelfingre: “De reducerer refleksion til overfladiske signaler,” påpeger han. Foucault ser dem som små disciplinerende greb, der træner brugerne til at rette sig efter mængdens smag, som dermed styrker sin magt. Suchman bemærker, at et “like” netop blev opfundet med det formål, at det kunne drive en underliggende opmærksomhedsalgoritme. På overfladen måske et uskyldigt greb, men i virkeligheden et instrument til at nogen kan tjene penge på andres dialog.

Åben source og åbne standarder

Den første seddel bliv er skubbet ind i rummet til de tre. Den lyder: “Hvilke teknologier vil I bygge platformen på? Er det vigtigt for jer, eller er det ligegyldigt?”

Lucy lyser op, smiler. Igen den samme snak, “er den konkrete teknologien vigtig”. Hun plejer at stå af på den slags spørgsmål hvor man skal pege på om en konkret løsning er bedre end andre. Hun tænker mere i det socio teknologiske perspektiv. Hvad gør teknologien for mennesker. Hvordan understøtter den for os?

Jürgen tager først ordet: “tech-giganternes kommercielle forretningsmodeller og algoritmer forvrænger den offentlige debat og skaber ekkokamre.” Han påpeger at det i høj grad sker fordi selve infrastrukturen, er styret af kapitalistiske profitinteresser. Hvis vi skal have en demokratiske platfrom, så skal den bygge på demokratisk teknologi. “Open source og åbne standarder”.

“Open Source” gentager Michel, hvad er det? Han har korslagt arme, nydeligt irriteret over at samtalen nu tager en retning, som han ikke har nogen erfaring med. Han minder dem spydigt om at det ikke er dem alle der har set den digitale revolution i levende live. Så vidt han husker var Open Source ikke en begreb der fandtes i 1984 hvor han stod af.

Lucy, korrektionens mester, holder et kort foredrag om hvordan Open Source opstår som begreb i 1985 (Michel slår opgivende ud med armene). Hendes udlægning er, at Open Source er sammenligneligt med den måde man bedriver research og forskning på. Processen involverer mange forskellige mennesker, som ofte deltager ud fra interesse og nysgerrighed snarer end profit-orienterede intentioner. Og selv koden er derefter fri og tilgængelig for alle. Ligesom viden. Alle kan bruge den til at udvikle videre eller kopiere den og stå på skuldrene af den.

Michel nikker, tydeligvis opløftet. “Perfekt” udbryder han . “Så kommercielle interesser kan ikke bare udgøre et dispositiv — et magtrun — men endnu vigtigere; så kan staten eller det offentlige eller andre intitutioner heller ikke udøve magt. Husk ‘Viden er Magt’” Michel citerer sig selv med et skælmsk smil og fortsætter. “I Open Source er viden åben, transparrent og i folkets fælleseje — samtalen er endelig fri!”

Michel’s brandtale får Lucy til at tænke tilbage til 1990 hvor hun var program chair på verdens første “Conference on Participatory Design of Computer Systems” Hun husker tilbage på sine danske kollegaer Morten Kyng og Susanne Bødker, som introducerede hende til deres metode, som de selv kaldte for “Utopia-projektet” og hvordan de i 1970’erne havde arbejdet med at udvikle software til fagforeninger og arbejderbevægelsen — sammen med slutbrugerne. Participatory Design havde fået mange tilhængere siden da.

“Er du med os Lucy” spørge Jürgen. “Eller blev du helt væltet bagover af Michel’s paroler” griner han.

“Nej, nej, jeg er 100% med jer - Jeg tænkte på hvordan Open Source som begreb måske er et af de aller mest nærværende eksempler på Participatory Design i praksis”.

“Lad os lukke den med det samme: Systemet skal bygge på Open Source og åbne standarder” konkludere hun på vegne af dem alle tre.

Samtalerum og heterotopier

Jürgen er ramt af en inspiration: “På et globalt megatorv som X kan samtale forvandles til massekommunikation og strategisk råben.” Han uddyber, at mindre, afgrænsede samtalerum kan gøre det lettere for deltagerne at forholde sig til hinandens argumenter.

Michel nikker; nu er der klangbund. Han er faktisk enig med Jürgen: “Jeg har heller intet tilovers for idéen om én global samtaleregel i ét rum. Hvem har skrevet retningslinjerne? Hvem beskytter dem?”

Han tilslutter sig Jürgens idé; han ønsker en pluralisme af rum, fordi det giver mulighed for mod-diskurser. “Hvis en dominant gruppe definerer såkaldt ‘fornuft’ i ét rum, skal der findes andre rum — heterotopier” Michel holder en lang pause, han vil se om de andre hænger på det græske ord, som han nærmest har taget ejerskab over. “en heterotopi et reelt, fysisk sted, som eksisterer i samfundet, men som fungerer efter helt andre regler, logikker eller tidsfornemmelser. På en måde kan man sige at internettet selv er en heterotopi”. Michel stopper op og smager på sin egen idé; Internettet er jo ikke et sted i samfundet. Eller er det? Michel går i stå - han er nu i dialog med sig selv inde i sit hoved.

“Vi er helt med dig”, siger Jürgen. “Bare fortsæt, det lyder som noget spændende er ved at manifetere sig”.

“Nej det var faktisk din idé Jürgen. Jeg brygger bare videre. Det kan være at vi skal have mulighed for bare at tage samtalen væk fra agora, den åben plads og over i heterotopier, mere trygge samtalerum — stadig åbne, men med andre regler og normer. Så kan vi have herredømmefri samtaler dér” Han grine mens han kikker Jürgen direkte ind i øjenen og fastholder hans blik. Herredømmefri samtaler er Jürgens kæphest, men ikke noget som Michel selv tror på, så han er spændt på om Jürgen forstår hvor stor en anerkendelse af hans arbejde den sidste kommentar egentlig er.

Jürgen smiler, slår blikket ned, giver et stille nik og siger med et stort smil på læben, “Tak Michel”.

Lucy står og tripper, mens de andre taler. Hun er helt med dem: “En regel er aldrig bare en neutral opskrift. Den får betydning, når mennesker fortolker og bruger den i en konkret situation.” Hun skæver til Michel; hun ved udmærket godt, at hun nu spiller på hans banehalvdel. Hun ville også bare gerne give ham noget anerkendelse. Michel smiler bare.

Hun afviser idéen om, at en algoritme eller en fast paragraf kan styre et rum. Regler og normer skal være formbare ressourcer, som brugerne i rummet løbende kan forhandle, justere, når der opstår tvivl eller konflikt. “Måske er samtalerummet også et reparationsrum” spørger hun sig selv. “Et sted, hvor man kan arbejde med at udrede misforståelser og uenigheder, som uundgåeligt altid vil opstå i samtaler.”

Kunstig intelligens som spejl, ikke som dommer

En seddel bliver skudt ind under døren. “Hvordan vil I integrere AI i platformen? Kan AI for eksempel bruges til at moderere indlæg?” står der.

Da idéen om at bruge kunstig intelligens til at vurdere indlæg introduceres, sker der noget i rummet. Lucy ved om nogen at AI på én gang er et kraftfuldt værktøj og samtidig at den er dum som en dør.

“Alt det en AI ved, er noget den har lært af os mennesker” siger hun. “Men den har ingen viden om vores verden. Vi er ikke i verden, eller udenfor verden. Vi er verden. Så hvis vi skal bruge AI er det udelukkende for at den kan hjælpe os med nogle konkret opgaver som kan aflaste os. Noget som vi godt kunne gøre selv, men som vi ikke har kapacitet til at gøre i stor skala.” Hun fortsætter “Men vi skal ikke lade den vurdere, hvad der er rigtigt eller forkert, eller hvad der er sagligt eller usagligt. Det er ikke dens opgave. Den forstår ikke vores verden.”

Der opstår en pause, men ingen griber ordet, så Lucy fortsætter selv. “Den kan måske hjælp emed at opsummere eller kuratere indhold. Jeg tænker på de enorme mænger af mennesker, som arbejder under sweat shop lignende forhold, som sidder og modererer indhold på nutidens sociale medier. Det er et enormt arbejde. Kan en AI hjælpe os med at sortere og kuratere indhold, og lable det? Så kan brugerne måske bruge de labels som filtre, som de altså selv kan tilpasse.”

“Kunne en AI gøre det tydeligere, hvilke påstande og begrundelser et opslag bygger på?” spørger Jürgen. “Den kunne hjælpe brugeren med at undersøge argumentet?”

Michel afbryder Jürgen. “En AI er ikke neutral; den er et krystalliseret sandhedsregime. Hvem har skrevet kriterierne for saglighed?” Han fremfører, at magthavere historisk har kunnet stemple undertrykte stemmers råb om hjælp som “usaglige” eller “ufortænkte”. Hvis en AI vurderer indlæg, risikerer den at ophøje bestemte gruppers debatnormer til universel standard og skubbe marginaliserede sprogformer ud i mørket.

Suchman bringer parterne til et kompromis. “AI må aldrig optræde som en censor eller en sandhedsdommer. Men kan den måske tilbyde at rubricere indhold og tildel labels. Så kan brugeren benytte de labis i deres personligt tilpassede filtre.”

Hun giver det eksempel, at brugeren i stedet for en usynlig algoritme som vi kender det i dag, så får et personligt kontrolpanel i sin brugerflade. Her kan man vælge at filtrere sit feed ud fra forskellige parametre, for eksempel nedtone opslag, som modellen vurderer har et højt konfliktniveau, eller fremhæve indlæg med kildehenvisninger. Hun vælger bevidst sine eksempler så der er ét til Michel og ét til Jürgen.

Mens hun taler bliver hun skeptisk overfor sin egen idé: “Men selv et brugerdefineret filter er ikke neutralt: Kriterier, standardindstillinger og placering påvirker stadig, hvad brugeren ser. Derfor skal brugeren ikke blot kunne ændre filtrene — de skal også uddannes i at forstå dets begrænsninger.”

En vej ud

Samtalen mellem de tre bølger frem og tilbage. De har stor respekt for hinanden og i den kontekst er det sjældent svært at have en konstruktiv dialog. De hygger sig og får også til sidst designet et system med et sæt af features, som de er stolte over.

Som det sidste skal de finde et navn til systemet. De får hver en seddel og skriver deres forslag ned.

Lucy foreslår First Class Citizen eller 1cc med henvisning til at systemet er bygget ud fra Participatory Design principper hvor det faktiske skal være slutbrugeren, som bestemmer hvad de vil have ikke en kravspecifikation eller et blueprint. “Det er jo, når alt kommer til alt, slet ikke os der skal bruge systemet, så brugerne skal på banen.” argumentere hun.

Jürgen foreslår Civic “Borger på Latin” minder han de andre om. “Det her er borgernes system. Det er langt mere end et socialt medie, det er et system for samtale og dialog i samfundet. Det er et system for borgerne. For den digitale Borgerlige Offentlighed”. Han griner af sig selv. Og spejder efter de andres blikke for at aflæse om de fanger hans ironi, når han bevidst bruge sit eget begreb ude af kontekst i en anden betydning.

Michel foreslår “Agora”. Den central plads i det offentlige liv, hentet fra græsk. Men Michel skyder den selv ned med det samme. Det er jo kun en del af det de har designet. Det er ikke kun et offentligt rum, men også en række af heterotopier, som de har diskuteret. Så han tilslutter sig straks til Jürgens forslag om Civic.

Den er Lucy også med på.

Tilbage til virkeligheden

Så er vi tilbage i virkeligheden. Så tillad mig at opsummere nogle af de vigtige egenskaber som de bleve enige om.

Systemets mest unikke arkitektoniske greb er — udover alt det de helt bevidst har smidt ud — koblingen mellem det offentlige feed og samtalerummene.

I de tre tænkeres design er der et digitalt bytorv — en agora — et sted, hvor man deler synspunkter og rejser påstande. Inspireret af Foucaults blik for, at et sådant rum hurtigt vil avle diskurser, som ikke skal undertrykkes, men som skal leve. Og ligeledes inspireret af Habermas tanke om at det gode, lødige, underbyggede argument bærere styrken, så bliver der skabt en mulighed for samtale — ikke råben.

Når bølgerne går højt i det offentlige feed, bliver Lucys blik for situeret interaktion relevant. Misforståelser vil opstå, men på nutidens platforme kan de føre til eskalering, fordi deltagerne mangler redskaber til at afklare, hvad der gik galt. I det nye system hvor der findes en overgang til et samtalerum. Lucy kalder det et reparationsrum.

AI vil kunne bringes ind som et værktøj — men aldrig en spiller eller en deltager. Man kan bruge AI til at klassificere, opsummere og kuratere indhold, men som et erkendt ikke-objektivt, og ikke-neutralt redskab redskab som blot stempler eller labeler indhold. Brugerne skal selv kunne sammensætter hvordan de data skal bruges, til at bygge deres individualle interessefiltre og feed.

Det system, Habermas, Foucault og Suchman i fællesskab forlader rummet med, er hverken en utopisk konsensusmaskine eller et anarkistisk ekkokammer. Det er en platform, der anerkender kommunikation i al dens kompleksitet.

Og som i øvrigt slet ikke er færdigt!

Det er et medie, der med Habermas in mente stræber mod det oplyste argument og den fælles forståelse; der med Foucault in mente forbliver ydmygt og selvkritisk over for sine egne indbyggede magtstrukturer og eksklusionsmekanismer; og som med Suchman ved roret giver brugerne de konkrete, fleksible redskaber, der skal til for at navigere i den altid situerede, fejlbarlige og menneskelige samtale.

Systemet tager inspiration fra de tre store teoretikeres idéer. Men det er, som Lucy påpeger, næppe et system, der skal bygges én til én. Vi skal stadig inddrage UX-designere, kæle for brugeroplevelsen, og ikke bare lytte til de mennesker, der skal bruge det. Men også finde veje og metoder til aktivt at inddrage dem i designprocessen.

Det er helt sikkert et system som er bygget på Open Source og Åbne Standarder og som driftes af neutrale operatører, som ikke har kommercielle interesser i at udnytte brugernes data.

Det er Public Service.

Læs mere om selv teknologien og arkitekturen bag Civic — Mind over Machines vision for en teknologisk løsning, der måske kan bære vægten af en fri offentlig digital samtale.