ESSAY
“If you add up the numbers and the objective data about the situation of the planet, there’s no chance that it or the human race can survive: there is no chance. That’s very pessimistic as a point of view: you have a chance but it is so infinitesimal, it really is zero. If I say to you [a Frenchman], for example, you have a one-in-a-billion chance of becoming, by a freak of circumstance, President of the United States: yes, that chance exists perhaps, one in a billion or one in ten billion, or whatever. But the chance that life would appear on earth was that small.”
Bernard Stiegler
I det følgende vil jeg argumentere for, at de kognitive teknologier som drives af digitale algoritmer, er skadelige for demokratidueligheden. Sekundært: de vil få konsekvenser for, hvordan demokratiets nytte opfattes (hvad skal vi bruge demokrati til, hvis ikke vi kan finde ud af at bruge det? – vil cirkelargumentet blive), og dermed truer de demokratiets grundlæggende eksistensberettigelse. Selvom tanken fylder mig med bekymring, har jeg ikke fantasi til at forestille mig de planetære og generationelle konsekvenser af et udemokratisk Danmark, et udemokratisk Vesten, en udemokratisk verden, et udemokratisk internet – men jeg har masser af overskud til at se, at de teknologister som påberåber sig diverse former for demokratisk legitimitet (at facilitere dialog i offentligheden, at stille viden til rådighed, at give stemme til minoriteter osv) enten lyver, har misforstået en kollektiv konsensus omkring hvad demokratiet er og har bidraget til af samfundsorden(er); eller: de ved ikke hvad de taler om. Eller de er ved at transformere demokratiet til noget så̊ uigenkendeligt, at det hele kan være lige meget, og måske er det hensigten.
Med opkomsten og udviklingen af de algoritmiske kognitive teknologier (AKT), bliver det mere og mere tydeligt, at disse teknologier befinder sig i et fundamentalt modsætningsforhold til demokrati. De er demokratiundergravende, demokratisvækkende, demokrati-averse, demokratiblinde, demokratiindifferente. De er ikke nødvendigvis aktivt anti-demokratiske i sig selv. Erosionen og bevægelsen henimod afskaffelsen af demokratiet er bare et uheldigt biprodukt af et projekt, der tilsyneladende er vigtigere end demokratiet (at vinde over markedet) . I sundhedsvæsenet bruger man begrebet ”kognitive teknologier” om teknologier til støtte for folk, der er kognitivt udfordret, det kan være staveplader, eller redskaber til at understøtte hukommelse eller forståelse. De teknologier er almene nu, anvendes på os alle, i princippet er vi alle kognitivt udfordrede.
Kritikken i dette essay rettes mod dominerende algoritmiske designs, bestemte logikker der udgør motoren i langt størstedelen af aktuelle algoritmers brug og udbredelse. Man kunne sagtens forestille sig digitale algoritmer, der havde til hensigt at styrke demokratidueligheden – men bare fordi det er en potentiel mulighed, betyder det ikke at ATK’er kan undslippe sig kritik af deres konkrete effekter i verden i dag. Dette siger jeg, fordi det er blevet en kattelem for mange, ikke at forholde sig til teknologiskabte samfundsproblemer med henvisning til at de potentielt altzå godt kan bruges på en anden måde, og derfor kan man slet ikke bruge ordet algoritme eller forkortelsen “ATK” eller “digital” for der findes jo også̊ mennesker der har glæde af det yaddayadda. Mens de spiller på verdens mindste violin. Og bare fordi man kan finde eksempler på kognitive teknologier i fortiden, der også havde antidemokratiske effekter (fx propaganda), betyder det ikke at ATK’er bare er ligesom radio under 2. verdenskrig, og man har altid kunnet finde eksempler på at folk har brugt teknologi forkert, det kommer jo lissom an på hvordan man bruger den, så hvad er problemet? Mens de hælder vand ud af ørene og håber på at vi kikker væk fra det harmonikasammenstød af katastrofer, der sker lige uden foran vores vindue.
Hvad er demokratiduelighed?
Jeg beskriver demokratiduelighed som et sæt kognitive kompetencer, der er nødvendige for at kunne leve op til demokratiske idealer eller værdier, man bør lære at påtage sig, anerkende eller måske endda inkorporere. De inkluderer – men handler ikke udelukkende om – at forholde sig til politiske ledelse. Jeg vil gerne foregribe eventuel kritik af en kompetencetænkning, som det måske kan lyde som om min kritik udspringer af. Jeg kommer fra en uddannelsesverden, der ynder at nedbryde menneskets evne til at lære i isolerede, løse dele, som man kan fordele udover celler i et skema, til fordel for logistik, forudsigelighed og beskrivelser af ansvarsområder i en ansættelseskontrakt. Når jeg gør det samme her, er det ikke fordi jeg underkender vigtigheden af at kunne tænke holistisk, og når jeg bruger ordet kognitiv, er det ikke den rene mentalisme jeg taler om. Jeg taler om vores biologiske, sociale, sansende og tænkende evne til at erkende forhold om verden, som vi bruger til at tage beslutninger med, når vi skal handle i den. Men jeg vil alligevel gerne forsøge mig med at udspalte de forskellige elementer, som jeg mener tilsammen udgør demokratiduelighed i den holistiske eksistens. Det gør jeg af analytiske grunde (eller fordi jeg er professionelt ødelagt) – det er ikke fordi jeg har tænkt mig at lave et valgfag der lever op til ECTS-forordningen på en måde der spiller sammen med basisuddannelsens læringsmål og som man kan udvikle generisk læringsmateriale på baggrund af.
Endelig ved jeg også̊, at det jeg kalder “demokratiduelighed” kaldes “demokratisk dannelse” af pædagogiske tænkere og dannelsesfilosoffer, når de taler om selvbestemmelse, myndighed, fornuft og emancipation fra det fremmedbestemte m.m. Men min ambition er at starte i den anden ende af et forfaldsspektrum. Det er i lokaliseringen af de kognitive teknologiers skadevirkninger vi kan se ruinerne af nogle bestanddele, som vi tidligere nærmest tog for givet udgjorde fundamentet for tænkning hos den demokratiske borger.
Here goes:
Som jeg ser det, fordrer demokratiet af sine borgere en række kompetencer, kvaliteter eller evner, som er modnet i spændingsfeltet at blive sig selv i et kollektiv. Man bliver sig selv ved at sætte spørgsmålstegn ved vedtagne normer, dyrke sin egensindige nysgerrighed, finde sine eksistentielle, værdimæssige og professionelle kald – og man gør det til dels ved at orientere sig i og lade sig inspirere af fortidens kulturelle og videnskabelige ressourcer. De er stillet til rådighed af kollektivet i form af skoler og uddannelsesinstitutioner og museer og kulturinstitutioner og nogle medier. De er der ikke til at fortælle os hvem vi skal være, men hvem vi kan blive.
Hvad kræver det at tage imod det demokratiske tilbud? Hvem skal man være for at kunne lade sig nære i de rammer? Hvilke former for erkendelse er nødvendige for at trives i den præmis?
| Duelighed | Forudsætning |
|---|---|
| Anerkendelse af den anden | Empati At kunne forestille sig den andens værdier Nærvær |
| Fremtiden er noget som det kræver arbejde at forestille sig, og arbejde henimod | Vilje til fantasiarbejde |
| Evnen til at hente viden Evnen til at lytte til sin intuition | Fokus |
| Forståelse for den kollektive krop | Rumlig sans |
| At lade sig bestemme af folk man er uenige med >< at udfordre dem man er uenige med, ved at følge kollektivets spilleregler | Ydmyghed >< Tålmodighed |
| At se det fremmede i øjne | Modet til at føle sig lille |
| At orientere sig i fortiden | At bruge energi på at vikle sig ud af aktualitetsbias |
Tænkning
Og det er her, jeg gerne vil introducere begrebet tænkning. Tænkning er ideelt set den demokratiske evne til at forholde sig frit til problemstillinger – frit i den forstand, at gyldige løsninger ikke er angivet på forhånd eller suggereret til (eller slet og ret afvises). Problemstillingen kan være teknisk, epistemisk eller fronetisk (værdirationel) og tænkningen giver sig fri til at lade sig inspirere af hele landskabet af menneskelige og faglige domæner. Måske kalder trivselsproblemer på tekniske løsninger. Måske kalder tekniske problemer på psykologiske eller kulturelle løsninger. Måske giver tænkningen sig selv friheden til at undersøge om problemstillingen er en variant af det ældste problem i verden, eller måske tør den udforske om dette problem, som virker gammel og velkendt, i virkeligheden er spritnyt.
Tænkningen, den som bidrager til demokratiet, er skeptisk overfor hurtige svar, den hader dovenhed, dens meritter vokser ud af analytisk distance, langsomhed og diversitet: jo længere den har spadseret rundt i den spektrale skov, des mere præcis og bæredygtig bliver dens udbytte. Tænkningen vil være situations-, alders-, køns- og fagagnostisk: tænkning kan opstå̊ under en håndvask, i førerkabinen på et lokomotiv, til et bestyrelsesmøde eller på en løbetur rundt om en sø. Den kan opstå i et barn, på et hospice, hos en teenager. Des bedre vilkår tænkningen har, des mere kan vi stole på at dens effekter i verden også̊ vil være tilgængelige for vores efterkommere. Selvom dens nytte ikke er synlig for os endnu.
Tænkningen er demokratiduelig, fordi den næres af verdens mangfoldighed og dybde og historie og modspil og paradokser og dilemmaer. AKT’er udgør det hidtil mest alvorlige forsøg på underminere tænkning, og dermed på demokratidueligheden. ATK’er har kun ét fokus i verden, og netop det er årsagen til deres fænomenale succes. Deres ejere har fundet ud af, hvordan man kan bruge dem til at hacke den menneskelige psykologi, så uendelige rigdomme tilflyder dem. ATK’ere har et manisk fokus på at vride data ud af dig, så̊ man kan sælge forudsigelser af din forbrugeradfærd. Dette er et uendeligt projekt: vi vil aldrig kunne forudsige forbrugeradfærd 100%, men industrien kan lave inkrementelle fremskridt ved at opdyrke nye datamarkeder (snart: al vores helbredsdata, lidt længere ude i fremtiden: vores søvndata). Miraklet: det føles rart med den opmærksomhed. Det er den ultimative bekræftelse af selvet at se (aspekter) af sig selv spejlet i infografisk slikæstetik og eksistentielt validerende ekkoer. Det føles demokratisk, at ens upassende-følende subjektivitet bliver valideret på markedet, vi er alle minoriteter og det er vidunderligt at blive bekræftet – forlæns og baglæns og skråt op: vi er ikke alene.
Problemet: det afskaffer kollektivet som en brugbar kategori. Kollektivet forvandles til et værktøj til at vække forbrugermisundelse – en misundelse, vi er ved at syntetisere.
| Forudsætning | Trussel |
|---|---|
| Empati At kunne forestille sig den andens værdier Nærvær | Algoritmer der sætter dig i centrum. Gør dig fraværende for den anden. Gør dig blind for den andens perspektiv. |
| Vilje til fantasiarbejde | Fremtiden er skrevet og defineret og planlagt – vi ved hvad der kræves, det handler om at adoptere det nye |
| Fokus | Distraktion |
| Rumlig sans | Afskaffelsen af rum |
| Ydmyghed >< Tålmodighed | Utålmodighed |
| Modet til at føle sig lille | Angsten for at blive udfordret |
Eksempler
- Gamere, der er fortalere for “e-demokrati”, fordi de skræmmes af tanken om (og ikke ser nytten i at) bevæge deres kroppe hen i sociale, demokratiske rum hvor mennesker står og damper på en helt forkert måde.
- En forkærlighed for at løse problemer i trygge rum, alene, foran en skærm befolket af algoritmer, der er sat i verden til at bekræfte alle dine impulser – i modsætning til at konfrontere det fremmede.
- Påstande om at fremtiden er overskuelig, playmobil-agtig på en måde, der blot kræver at sætte orden i et overskueligt antal farvede klodser.
- En naiv og romantisk valorisering af “eksperimentet” og “legen”, som vi har glemt kan ende i rædsel, og som vi efterlader i vejkanten, når det alligevel ikke afslørede hvad vi håbede; den totale glemsel af, hvor vigtigt det er at akkumulere den viden der opstår i eksperimenterne.
- Mig, der spilder tid og tid og tid og tid på at bekræfte, at den køkkenmaskine jeg lige har købt har fået gode anmeldelser, så jeg kan få udløst den rare følelse af at være en fornuftig forbruger.
- Raseriet der begynder at ulme når jeg skal kommunikere med maskiner der ikke forstår mig, ikke ser mig, ikke fanger nuancerne i lige netop min person, maskiner hvis anonyme ophavsmænd gemmer sig bag teflonbelagte myter om at ”fremtiden er digital” og ”at man ikke kan ændre fremskridtet.
- Tynde, tynde skiver der høvles af min hjernebark hver gang et budskab gentages på min skærm (varmerekord, varmerekord, varmerekord!) af duracell-kanin-algoritmer der har fået at vide at det er jeg interesseret i, og som ingen empati har, de ved ikke at jeg HAR HØRT DET.
- Det synliges tyranni, datapopulismen, en offentlighed der kun accepterer data og infografik som gyldig retorisk valuta.
- Min email-tjenestes spamfilter som en slidt og skrøbelig dæmning for meningsfuld elektronisk kommunikation, flere og flere beskeder der slipper igennem hullerne (”ikke engang månen er nok til at oplyse disse intime dele af mig”)
- Pendulfarten mellem modstand og resignation, noget må kunne gøres, nej, det er ligemeget, løbet er kørt, og dog!
- Vilde teknologiske innovationer, der fascinerer ved at suge al luft ud af rummet, men viser sig at være alt det modsatte af kollektive, demokratiske løsninger – det er individuelle udladninger i stor skala, de er frakoblet grunden, de er fyrværkeri, men det har vi ikke tid til.
Demokratiet næres af tænkning, og tænkning er organisk og langsom og kræver plads omkring sig. Det tager tid at se baggrunden, at udvikle forståelse for de kræfter der gør forgrunden mulig, at slibe de analytiske knive, at udvikle beredskaber. Det skal gøres forfra for hver generation. Det kræver, at nogen tager ansvar for rammer hvor vi suspenderer det vi tager for givet, hvor vi aktiverer andre systemer, hvor vi erindrer og ophæver nødvendighedens politik for en stund, hvor vi sætter fokus på det vi burde ville, i stedet for det som vi ved vi vil. Det kræver rum hvor der er tid til at tænke over hvad tænkning vil sige.
Det kræver sanseapparater og sind, som ikke er panik, ikke er slidt ned af gentagelser, ikke er arrige af at have kommunikeret med apparater der ikke anede hvem de talte med, hvor der er tillid til at kollektivet vil det rigtige, at dem vi taler med, er mennesker, at vi nok skal finde en løsning hvis vi tænker os grundigt nok om, hvis vi overvejer flere alternativer.
Sandsynligheden for at vi lykkes med det, er lige så lille som sandsynligheden var for at mennesket overhovedet lykkedes med at nå frem til dette, meget specielle sted i civilisationens historie.
Kilder:
Bernard Stiegler: ‘A Rational Theory of Miracles: on Pharmacology and Transindividuation’. New Formations (2013), 164-184, 77(77), DOI: 10.3898/newf.77.10.2012