Vil AI overtage kunstnernes arbejde?

»Jeg mener, at vi lige nu befinder os i en tid præget af ‘emotional hacking’ og manipulation! Vi er grundlæggende utroligt bange for at blive følelsesmæssigt manipuleret og meget skeptiske, hvis vi mistænker nogle for at ville bruge fx teknologiske værktøjer til det. Når et fænomen som ASMR er så interessant i den sammenhæng, er det fordi, det er baseret på helt bestemte teknikker, der skal trigge og påvirke vores følelser meget direkte.« 

Sådan sagde den canadiske komponist, medie- og performancekunster Erin Gee, da Seismograf mødte hende i efteråret til en samtale om hendes arbejde i et multimodalt domæne, hvor menneskelig fysiologi og følelser møder algoritmer og digitale systemer. Udgangspunktet var egentlig en diskussion af, hvad AI og automatisering betyder for musik- og lydproduktion, men kom i lige så høj grad til at handle om, hvad der er gået forud for og har informeret den aktuelle udvikling. 

Ved udgangen af 2023 er man næppe i tvivl om, at brugen af AI mere end nogensinde giver anledning til både begejstring og kritisk granskning. AI er blevet mainstream og ultrahypet på tværs af kommercielle og kreative industrier. Og fra at være forbeholdt hardcore ekspertbrugere og begrænsede grupper af data-kompetente kunstnere, er værktøjer baseret på komplekse machine- og deep learning-teknikker nu kun et par klik og nogle minutters ventetid væk, før man sidder med overbevisende resultater, som for få år siden ville have været ren science-fiction. Udbuddet af plugins, platforme og værktøjer der kan assistere og helt eller delvist automatisere både kreative og analytiske processer er eksploderet, og kvaliteten af dem er ofte vanskelig at vurdere. Sidstnævnte bl.a. fordi den bagvedliggende teknologi grundlæggende fortsat er »blackboxet« og i mange tilfælde involverer ret uforudsigelige udfald. 

»Alle er kritiske. Ingen ønsker at være passive. Ingen har lyst til at blive set som en tankeløs adopter«

Fra et æstetiskperspektiv er udforskningen af såvel de nyere AI-applikationer, som de »Ekspertsystemer«, der gik forud for dem, ofte sket i en kombination af netop at udnytte teknologiens uforudsigelige aspekter. Fx ved at stressteste forholdet mellem de menneskelige og – antageligt – naturlige og åbne kreative flows over for maskinernes systemiske og programmerede output. Dét gælder også i den musikalske og auditive afdeling, hvor man historisk kan pege på en række kunstnere og projekter, der alle har eksperimenteret med koblingen af menneskelig performance og maskinelle processer. Men kan man ligefrem se en klar rød tråd fra eksempelvis pionerer som komponisterne Alvin Lucier og David Rosenboom og deres brug af interaktive bio-feedback-systemer i musikalske og lydlige eksperimenter og frem mod den aktuelle kunstneriske udforskning af AI-baserede setups? 

Tekno-kritisk redundans

Det mener i hvert fald Erin Gee, når hun taler om sine inspirationer og metoder og de iboende magtforhold, som ikke kun præger nutidens digitale formater, men også er delvist nedarvet fra tidligere tiders ideologiske opfattelse af kunster/teknolog/performer-skikkelsen. Gee selv er performancekunstner med base i Montreal og bl.a. kendt for sit arbejde med nye medier og komposition i feltet mellem kunst og videnskab. Gee har i sit arbejde udforsket samspillet mellem lyd og emotionel fysiologi, hypnotisme, teknologi og feministisk teori, især gennem et mangeårigt arbejde med biofeedback-systemer. Desuden udfordrer hun ofte traditionelle grænser ved at kombinere lyd med fysiske installationer, teknologiske hacks og interaktive elementer. Hendes optrædener har vundet international anerkendelse på en række festivaler og udstillinger. Gee underviser og forsker desuden på Université de Montréal som professor i musikkomposition.

I værker som Machine Unlearning, To the Sooe, Project H.E.A.R.T. og Affect Flow indgår stemmer, datasonificering, VR, algoritmisk processering og DIY Biofeedback-synthesizere og præsenteres i både fysiske installationer og som live koncert-performances. Som et lag i de mere eksperimentelt-avantgardistiske tilgange har Gee desuden været optaget af digitalt fødte genrer som ASMR og fænomenets særlige fetichering og æstetisering af vokale og gestiske udtryk. Da jeg møder hende i efteråret 2023 er hun ved at lægge sidste hånd på værker, der skal opføres i forbindelse med Montreals AKOUSMA Festival des Musiques Numérique Immersive og den årlige MUTEK-festival, hvor hendes arbejde med ASMR og biofeedback indgår centralt. Gee forklarer om relationen mellem værkerne og de nyere typer af AI-teknologier, at det blandt andet handler om at arbejde teknologi-bevidst, men at hun samtidig ikke har det helt nemt med en del af den eksplicit AI-kritiske kunst, som man de seneste år jævnligt har kunnet møde på festivaler og udstillinger: 

»Idéen om, at man skal have en kritisk holdning til teknologi, er nærmest blevet en slags underlig trope nu. Alle er kritiske. Ingen ønsker at være passive. Ingen har lyst til at blive set som en tankeløs adopter. Alt skal på en eller anden måde være disruptivt og en kritik, og derved mister kritikken også lidt sin betydning. Det bliver en slags positiv værdidom, man kan fælde over nogle kunstnere og ikke andre, som et kvalitetsstempel i sig selv. Men spørgsmålet er, om det giver mening længere? Man kan bare tage en virksomhed som Google, der direkte ansætter folk i stor stil til kritisk at håndtere udfordringer omkring algoritmisk bias og AI. På en måde er virksomhederne på forkant her. De ved allerede, hvad kritikken vil være og arbejder ud fra det – så hvad bliver den kritiske kunstners rolle egentlig?«  

»Det, kunsten og kunstnerne unikt kan tilbyde folk, er kombinationen af konkret håndværk«

ASMR og Machine Unlearning

Gee refererer bl.a. her til diskussionen om de algoritmiske biases, der tit bliver fremhævet som en af de store udfordringer ved de modeller, som mange aktuelle AI-applikationer og services er baseret på. Hun understreger dog, at hun langt fra har en kritikløs tilgang til teknologiernes konsekvenser for kunsten og kunstneren, men gerne vil udfordre, hvordan man historisk har fortolket, hvad kunstnerisk-tekniske færdigheder betyder. Noget, som også angår det mere overordnede spørgsmål om, hvad AI og automatisering kommer til at betyde for musikindustrien og produktion som sådan:

»Hvis der er noget, den øgede automatisering af musikindustrien har lært os, så er det at vi har haft en meget indgroet forestilling om, at det, vi sælger som kunstnere, er en teknik eller en færdighed. Det har muligvis været sandt, hvis man ser historisk på, hvordan fx billedkunstnere solgte unikke værker, det konkrete maleri. Men jeg tror, at efterhånden som teknologierne udvikler sig, så bliver det eksplicit, at det, kunsten og kunstnerne unikt kan tilbyde folk, er kombinationen af konkret håndværk, dvs. artefakterne, og så selve forbindelsen mellem artefakterne eller materialerne og deres omgivelser. Funktionen af den forbindelse er blevet tydelig i den digitale transformation af kunst og musik. Den enkelte teknik og det fysiske format er blevet mindre vigtig, og det har fx også skubbet til grænserne for, hvad sådan noget som genre betyder.«

Her er ASMR-fænomenet et eksempel på noget, som Gee ikke ser som en specifik genre, men mere bredt som et nutidigt udtryk for den udvikling, hvor det er forbindelsen mellem publikum og den udførende performer – eller ASMRtist – og dennes identitet eller persona, som bliver betydnings- og oplevelsesbærende. Samtidig er den lyttesituation, der skabes, ikke koblet til en traditionel institutionel eller musikhistorisk praksis: 

»ASMR har ingen forbindelse til lydkunst. Den har ingen rødder i den etablerede udforskning af, hvad man kunne kalde reduceret lytning eller endda dyb lytning eller noget i den retning. ASMR har skabt en lyttepraksis udelukkende gennem social interaktion og online-fællesskaber og fået almindelige mennesker til at sætte sig ned og lytte til lyd ‘i sig selv’, hvilket er noget, som moderne elektroakustisk musik og lydkunst jo har forsøgt at gøre. Det er fascinerende, at ASMR med sin vægt på det sociale og det hverdagsagtige og med den intime placering af lyttesituation via laptoppen i folks soveværelser eller i dine ører, har kunnet opnå det.«

I værket Machine Unlearning tager Gee afsæt i sin fascination af de forskellige former for lytning og relationsskabelse, som hun finder i ASMR. Her har hun samarbejdet tæt med kunstner og forsker Sofian Audry om at skabe en kobling mellem ASMR og et specifikt neuralt netværk programmeret af Audry. Centralt i værket er sonificieringen af en proces, hvor en konkret  algoritme bliver dekonstrueret. Processen omsættes lydligt til en hvisken, som symboliserer algoritmens omvendte regression, som betyder, at den frem for at lære og blive »klogere« i stedet bliver dekonstrueret og ustabil, jf. værkets titel. Gee rammesætter processen som et rollespil præsenteret i første person, hvor man som lytter og beskuer bliver inddraget gennem en serie af »tests«, inspireret af ASMR-genrens meget direkte appelform til modtageren. I tråd med Gees pointe ovenfor om AI-kritikken, så bliver værkets  netværksteknologi  ikke direkte kritiseret. Det, man oplever, er i stedet en slags legemliggørelse af en menneskelig »samtalepartner«, som oversætter algoritmens output til affektive stemmeudtryk og hvisket tekst. Selve den algoritmiske model er trænet på Emily Brontës bogklassiker Wuthering Heights, som Gee har valgt på grund af dens poetiske syntaks og temaer om kærlighed og traumer på tværs af generationerne. Og hun forklarer under vores samtale også, at værkets intention er at give en fornemmelse af paralleller mellem de ubevidste og autonome funktioner i både maskinlærings-algoritmer og den menneskelige krop.  

Historisk hjernefokus

Her kommer vi ind på  to centrale spor i Gees arbejde. På den ene side undersøgelsen af en konventionel adskillelse af teknologi og krop, som udfordrer den klassiske adskillelse mellem krop og sind/sjæl, der har været fremherskende i mange kunst- og teknologidiskurser. På den anden side afspejler værket Gees langvarige interesse for at udforske følelser og emotioner som noget kvantificerbart og manipulerbart gennem en kunstnerisk praksis, der kan nuancere vores forståelse af forholdet mellem krop, køn, teknologi og tænkning. Noget, der også angår den aktuelle AI-debat: 

»Jeg anerkender fuldt ud, at man er bekymret for, at AI vil kunne gå ind og overtage en del af det arbejde, vi som kunstnere ellers er afhængige af. Især når det drejer sig om bestemte dele af musikproduktionen, hvor nogle simpelthen risikerer at miste deres jobs. Men der er en anden dimension af, hvordan vi diskuterer det, nemlig med et ret entydigt fokus på, hvad det er for nogle kognitive aspekter, som AI angiveligt kan gå ind og erstatte. Hvis vi ser på metaforen for kunstig intelligens, refererer den grundlæggende altid til den menneskelige hjerne. Man taler jo udelukkende om kunstig intelligens, ikke om kunstig menneskelighed. Det har mange årsager, og det giver jo fx god mening at tale om neurale netværk, fordi de systemer helt bogstaveligt er inspireret af neurotransmittere og elektrisk signalaktivitet i hjernen osv. Men samtidig skyldes det fokus også, at man har valgt en særlig videnskabelig terminologi at beskrive de systemer ud fra. Til sammenligning har det kropsligt affektive og emotionelle ikke været i fokus på samme måde, selvom det er fuldstændig centralt for, hvordan vi fungerer som simultant tænkende og emotionelt reagerende væsner.«

Følger man Gees læsning af den udvikling, så er de problematikker, vi i dag ser omkring algoritmisk bias, ikke nye og kan bl.a. også føres tilbage til den historiske baggrund, som findes i en specifik kunstinstitutionel sammenhæng: 

»De kunstneriske eksperimenter omkring biofeedback-systemer handlede netop om at koble menneske og teknologi med det mål at skabe et output, som potentielt kunne betyde noget nyt. Den praksis har historisk set været enormt fokuseret på det kognitive, på hjernen. Igen – naturligt nok – fordi man ofte anvendte EEG-signaler [måling af elektrisk aktivitet i hjernen via sensorer, red.], men også, fordi man skabte nogle fortællinger, som har været meget vedholdende. Det gælder også den kønsbias, som har gjort sig gældende. Der er næsten udelukkende beskrevet mandlige kunstneres og komponisters arbejde indenfor dette felt. Og der er her en forbindelse mellem det ensidige fokus på kognitive aspekter overfor udgrænsningen af det følelsesmæssige og kropsligt affektive. Som igen har en sammenhæng mellem måden, man har forstået mandlige overfor kvindelige kvaliteter på.« 

»Jeg mener, at vi i øjeblikket befinder os i en tid præget af ‘emotional hacking’ og manipulation!«

Emotionel hacking

Det er bl.a. de fortællinger, som Gee forsøger at nuancere og reflektere over i flere af sine værker, eksempelvis Affect Flow, som for nylig blev opført på Montreals MUTEK-festival. Værket kan ses som en kommentar til den nævnte diskurs omkring samspillet mellem teknologiske systemer og menneskelig aktivitet, der prioriterer det kognitive til fordel for det kropslige. Gee forklarer selv, at hun i den diskurs ser en logik, som går på, at teknologien er sofistikeret kultur, og kroppen er natur, hvor teknologiens funktion så bliver at udnytte os som en slags naturressource så effektivt som muligt. Men frem for primært at være interesseret i at »høste« de kognitive ressourcer, så har hun haft fokus på det affektive og følelsesmæssige domæne. I den officielle beskrivelse af Affect Flow hedder det bl.a., at værket inddrager lytteren »into a state of ’non-naturalist emotion’: emotional manufacture as a technology for survival or pleasure.«  

I det værk ligger fokus mindre på det direkte algoritmiske, men stadig  på, hvordan man kan arbejde systematisk og manipulerende med noget, vi ellers ofte forstår som autonomt og uregerligt, nemlig vores følelser. Gee beskriver også denne del af sin praksis som »emotional hacking«: 

»Jeg mener, at vi i øjeblikket befinder os i en tid præget af ‘emotional hacking’ og manipulation! Vi er grundlæggende utroligt bange for at blive følelsesmæssigt manipuleret og meget skeptiske, hvis vi mistænker nogle for at ville bruge fx teknologiske værktøjer til det. Når ASMR er så interessant i den sammenhæng er det fordi, det er baseret på helt bestemte teknikker, der skal trigge og påvirke vores følelser. Hele den måde, som ASMR-community’et taler om det på, er helt eksplicit rettet mod, hvordan man kan hacke følelser gennem koreograferede og metodisk performede visuelle og auditive elementer. Og det er en stimulering, som trigger både fysiologiske og neurale reaktioner – ikke som i en kognitiv og reflekteret erfaring, men som direkte ‘nerve tingles’. For mig peger ASMR på, hvordan vores følelsesmæssige spektrum også kan bearbejdes og manipuleres gennem automatiske processer. Men at der samtidig opstår noget i samspillet mellem performer, rum og publikum, som vi først begynder at ane en systematik bag, videnskabeligt set.«

Gee nævner selv, at hun ser paralleller mellem på den ene side dét at kunne kode og systematisk operationalisere menneskelige følelser, som man ellers typisk har opfattet som ikke-kvantificerbare – og på den anden side ambitionen om at kunne skabe egentligt kunstigt intelligente systemer ud fra en kortlægning af meget komplekse menneskelige kognitive processer. Hverken følelser eller kognition er som sådan utilgængelige størrelser, men præget af vaner og ubevidste »dumme« mønstre, som kan afkodes og påvirkes. Centralt for hendes egen udforskning af disse forhold er imidlertid, at den nævnte dualisme mellem krop og kognition bliver udfordret. 

Kvantemekaniske motiver 

Senest har Gee bevæget sig i retning af et interdisciplinært felt inden for kvantemekanik, bl.a. i forbindelse med et forskningsophold på Quebecs Institut Quantique ved Université de Sherbrooke, muliggjort af Sporobole centre for contemporary art. Her har hun haft mulighed for at arbejde videre med flere af de spor og elementer, som hendes værker hidtil har kredset om. Især angående det »rum«, der skabes og deles mellem musiker/performer og publikum, hvis dynamik og karakter, man muligvis kan forstå ud fra kvantemekaniske forhold: 

»Under mit ophold på instituttet drøftede jeg med en medarbejder i laboratoriet, at hans forskning omkring at forstå, hvordan information deles i termodynamiske systemer, minder om, hvordan en stemning spredes i et rum. På sin vis kan vi forstå vores følelsesmæssige tilstande som kvantemekaniske – som om vi er i en slags følelsesmæssig superposition på ethvert givet tidspunkt, netop fordi vi det meste af tiden ikke reflekterer dybt over, hvordan vi har det. Vi kan være glade eller triste eller nostalgiske eller sultne eller hvad som helst på ethvert givent tidspunkt. Men det er først, når vi stopper op og spørger os selv: Vent, hvordan har jeg det? Det er dér, systemet så at sige kollapser til én mulighed, fordi du er bevidst opmærksom. Det en slags teori, jeg gerne vil teste gennem et musikalsk værk, også ud fra et biofeedback-perspektiv, hvor stemningen – og de følelser, der knytter sig til en særlig stemning – i rummet bliver transmitteret gennem de deltagende performere og ført tilbage til publikum i et loop. Det handler om, hvordan den type interaktioner svarer til nogle processer, som vi er begyndt at undersøge ud fra et kvantefysisk niveau. Hvis alle i rummet deltager i mine følelsesmæssige ’hacks’, og de ikke bare er tilskuere, så vil det uden tvivl have indflydelse på de lyde, du hører.«

På den måde bliver Gees seneste variation over de temaer, hun har arbejdet med gennem adskillige år, igen vævet sammen med aktuelle, videnskabelige strømninger. Hvor netop udviklingen af kvantecomputere bliver betragtet som det næste væsentlige skridt mod egentligt kunstigt intelligente systemer, hvilket hun også har fokus på: 

»Jeg arbejder ret intenst på at få etableret et format for værket, der faktisk er baseret på kvantekredsløb, hvor biofeedbacken-delen så vidt muligt kan være struktureret omkring kvanteteleporterings-processer. Ud fra de metoder jeg hidtil har arbejdet med, er det også interessant, at kvantechip-teknologier er baseret på specifikke impulser og frekvenser. Det er på en måde parallelt til, hvordan jeg har arbejdet med følelser og emotioner som signaler og information, der kan kvantificeres og transmitteres eller teleporteres fra en person til en anden, fra et sted til et andet.«

På baggrund af de procedurer, Gee har arbejdet med i sin både eklektiske og historisk bevidste blanding af ASMR, biofeedback og neurale netværk, åbner hun dermed for en ny horisont, hvor kunsten fortsat kan fungere som middel til at udforske og fremkalde menneskelige relationer, hvor de vante analytiske modeller ikke slår til. Og hvor uigennemskueligt avancerede teknologier sættes i spil med vores fundamentale følelsesmæssige erfaringer.