Some bottles AI seminarium

Disrupting the Disruptors - ett störigt seminarium om generativ AI

TEXT: Robert Brečević

Maskinintelligens som löser problem den mänskliga hjärnan inte förmår överblicka eller applikationer som spottar ur sig förutsägbara texter och bilder? Originalitet, förgiftade AI-modeller och kan maskiner vara nyfikna? Robert Brečević rapporterar från ett seminarium fullspäckat med expertkunskap och en vetgirig publik.


”Har ni någon Spotify-lista ni vill köra?” Jag måste erkänna att jag står lite som ett frågetecken trots alla hitintills vattentäta ansatser om att verka professionell och världsvan när vi nu anordnar ett seminarium med internationella gäster på Kulturhuset i Stockholm.

”Du menar musik? Typ i pausen och så?” Naturligtvis handlar det om att fylla avbrotten för uppehåll med mysigt skval och först svarar jag: ”Nej, det behövs nog inte”. Kulturhusets tekniker Matti faciliterar sådana samkväm dagligen, så jag blir genast lite osäker. Stockholm brummar och bullrar av diverse byggmaskiner och det vore nog bra med en ljudmatta som slätar ut klangbilden.

”Du kanske kan välja något”, säger jag till Matti. ”Bara det inte är för poppigt. Eller melodiöst. Kanske något atmosfäriskt, en helt igenom utslätad ambientlåt utan mening eller betydelse, kanske?” Och det slår mig att en AI-genererad spellista, eller ännu bättre, anspråkslös musik genererad av en bot skulle vara som klippt och skuren för ett tillfälle som detta.

Hörsalen på plan 3 börjar fyllas upp av nyfikna åhörare och det är välgörande att faktiskt inte veta vad deras förväntningar kan tänkas vara. Jag kollar in klädstilar och frisyrer men kan inte riktigt avgöra var merparten hör hemma. För eller emot den nya utvecklingen? Early adopters som gärna skruvar på generativ AI av senaste generation, eller kreatörer på krigsstigen mot ett stilkopierande maskineri som inte betalar för sig?

Robert Brečević
Robert Brečević

Inledningsvis redovisar jag för mitt försök att låta ersätta mig själv och min roll som värd och moderator (det är ju det allt handlar om, att AI är här för att ta våra jobb). Jag låter en textgenerator, i det här fallet Llama2, skriva introduktionen till seminariet. Det visar sig vara ett utmärkt sätt att bli varse om vad jag inte kommer att säga. Framför allt har jag inget att förtälja om “”spännande möten”, ”innovativa former” eller ”kreativa uttryck”. Jag återgår därför till mina egna anteckningar –för det är faktiskt tredje gången på förhållandevis kort tid som Konstnärernas Riksorganisation anordnar ett seminarium i ämnet.

Framför allt frågar jag mig hur vi har kommit till en situation där maskiner skapar konst och människor sliter på Amazons varulager för en spottstyver till lön.

Mycket har hänt sedan 2019 då vi uppmärksammade försäljningen av ett AI-generat verk på auktionsfirman Christie’s. Då fanns det helt klart en fascination kring AI som upphovsperson. Kan en maskin skapa konst? Experimentellt och lite udda, ett skapande som skaver och inte levererar det förväntade. Men idag står vi inför en helt annan situation. De nya modellerna (diffusionsmodellerna för att göra det hela än mer kongenialt) har utvecklats till att spotta fram bilder av känt slag men med annorlunda innehåll. Genom så kallad text-prompting kan vi nu generera fotorealistiska bilder av solnedgångar i motljus men också kända eller okända människor i oanade (men kanske väntade) situationer. Elon Musk som superhjälte i slängkappa och futuristisk rustning är ett populärt exempel.

Bilder som avtryck i en gemensam tillvaro har en lång historia – från hällristningar till holländskt ljusdunkel med mjuk penselföring till monokroma antibilder på enorma målardukar, kemiskt instabila fotoemulsioner och pixelerad grafik. Allt detta har nu kanske ersatts av ren inbillning? Med tanke på Jacques Rancières teorier om estetisk praktik som en social omförhandling av det förnimbara, ett knådande och stretande med bångstyrigt stoff som omdefinieras och ändrar värde allteftersom, undrar jag vad de politiska konsekvenserna av generativ AI kan tänkas vara. Visserligen antar de AI-genererade bilderna sinnliga former på en bildskärm, men deras källor är inga andra än redan existerande bilder samt textbeskrivningar av vad de ska tänkas representera. Resan från utmanande tekniska experiment till kitsch verkar ha gått i rekordfart.

Framför allt frågar jag mig hur vi har kommit till en situation där maskiner skapar konst och människor sliter på Amazons varulager för en spottstyver till lön. Efter mer än 250 år av automatisering arbetar mänskligheten inte en timme mindre för att klara försörjningen.

Reproducerbarthet och längtan efter det unika objektet

Seminariets första presentatör, Erika Balsom, utgör en viktig pusselbit i resonemanget som rör mass(re)produktion och sökandet efter autenticitet. Hennes bok After Uniqueness: A History of Film and Video in Circulation är en medryckande resa genom den rörliga bildens historia med inriktning på experimentfilm och videokonst framför allt hur reproducerbara konstuttryck har behövt hävda sig i avsaknaden av ett unikt konstföremål. Som konstkritiker på tongivande tidskrifter såsom Artforum, Frieze Magazine och Cinema Scope samt i egenskap av forskare vid bland annat King’s College i London är Erika Balsom kanske ensam om att ha forskat kring konstnärers förhållande till reproducerbarhet.

Att generativ AI innebär nya utmaningar för konsten och dess kritiska förhållande till autenticitet och originalitet, råder det enligt Erika Balsom, inga tvivel om. Även om det rör sig om ett helt nytt fält, anser hon att det finns mycket att lära från historien – särskilt i en tid som verkar närmast besatt av framtiden.

Erika Balsom
Erika Balsom

Hon inleder med 4 000 år gamla baktriska prinsessfigurer från Centralasien och deras centrala roll på samtidskonstutställningen Documenta 13. Enligt Erica Balsom rör det sig om en återgång till det autentiska – ett begrepp som tarvar en viss rehabilitering efter år av misstänkliggöranden. Nittonhundratalet var som bekant inte nådigt i sin dom: Fascistiskt tankegods, enligt Adorno, eller inget annat än amsagor utifrån en poststrukturalistisk analys. Likväl är det med stor vördnad yngre generationer nu närmar sig äldre medietekniker. Som lärare på Kungl. Konsthögskolan kommer jag själv ihåg alla de gånger studenter undrade om vi inte kunde skaffa ett klippbord för 16mm film eller om vi hade en VHS-kamera att låna ut. Återgången till utdaterade inspelningsformat handlar inte enbart om nostalgi eller att sätta käppar i hjulet för institutioner som gärna ser till att man håller sig till en bestämd uppsättning verktyg. Till yttermera visso är dessa datorvana millenials och zoomers väl medvetna om att det är busenkelt att uppnå en antikverad ”look” med diverse digitala filter. Lockelsen med den lättrepade filmremsan och det svajiga magnetbandet ligger snarare i själva processen: Att låta sig överraskas av utfallet – men kanske också att det unika resultatet inte låter sig reproduceras lika lätt.

”Vi föds alla som original – varför är det så många av oss som dör som kopior?” I essän Conjectures on Original Composition från 1759 hyllar Edward Young det säregna geniet samt en strävan efter originalitet i kontrast till det han kallar för ”nyklassicistisk imitation”. Passande nog är det under senare hälften av 1700-talet som de första ansatserna till massproduktion ser dagens ljus, bland annat genom en serie patent för automatiserade vävstolar.

Erika Balsom har utlovat en historisk tillbakablick och gör det med råge. Här sitter man på ett seminarium om generativ AI och tänker på engelska 1700-talspoeter samt tyska romantiker. Bara det känns som en upprorisk gest i förhållande till den nya tekniken. För historien upprepar sig. Den industriella produktionen får det nymornade borgerskapet att längta ”tillbaka” till det unika objektet. Kopian kopplas samman med döden, det vill säga bristen på utmärkande egenskaper.

Vi ser på en Edison-film från 1901, The Artist’s Dilemma och roas av en trickfilmad komedi där en porträttmålares hantverk överflyglas av framtidens bildteknik. En pajasliknande typ äntrar ateljén och målar fram en alldeles levande ung dam med ett fåtal breda penseldrag. När hon hoppar ut ur tavlan är det alldeles tydligt att det rör sig om en allegori över filmens förmåga att återskapa verkligheten utan större möda och skicklighet.

Filmen, precis som fotografiet, fick länge bära stigmat av att inte vara ett konstnärligt medium. För hur skulle något som inte bara är en kopia utan en kopia av en kopia, en kopia av ett negativ, kunna ge upphov till det unika konstobjektet? Well, idag finns det en hel avdelning på Tate Modern som arbetar med att samla in gamla TV-apparater som ska kunna visa upp exempelvis Nam Jun Paiks konst från 60- och 70-talen.

Jag vet att det är lätt att skratta åt samtida fenomen som hipsters. Det kladdiga krånglet med att återuppliva gamla konserveringsmetoder som att luta torsk, syra morötter eller brygga egen kombucha kan tyckas ansträngt, men jakten på äkthet blir bara irriterande när den reduceras till ett poserande på sociala medier. Att samla på vinylskivor när all världens musik finns tillgänglig i mp3-format, kan visserligen vara en exklusiv hobby vars tjusning enkom består i att det är dyrt och svåråtkomligt. Jag kan ändå inte låta bli att uppskatta varje ansats till att kringgå de stora distributionskedjornas herravälde över livsförnödenheter såsom mat och kultur. Walter Benjamin själv var kluven i fråga om ett konstverks så kallade aura, dess unika belägenhet i tid och rum kontra bildreproduktion och upplösandet av platsen. Förhållandet mellan individ och kollektiv, mellan konst och masskommunikation är en mångbottnad, komplicerad historia kopplad till politisk ekonomi och en bredare diskussion kring vad det är för samhälle vi vill ha.

Ett motgift till klåfingrig maskininlärning

Seminariets nästa presentatör tar vid i inget mindre än detta: Vad var det för framtid vi trodde stod för dörren och vad är vi egentligen på väg mot? Artificiell intelligens består till stora delar av just förväntningar och om vi avlägsnar samtliga aspirationer från den tekniska utvecklingen återstår inget annat än nya verktyg. Det i sin tur är just det tjuvknep de dominerande marknadsaktörerna och industriutvecklarna gärna tar till: Teknik och dess tillämpning är, enligt dem, neutral och saknar eget uppsåt. Under tidigt 60-tal hägrar framtiden genom ett sorglöst skimmer, som i den tecknade filmserien The Jetsons. AI representeras här av robothushållerskan Rosie, som gör livet lättare för en tidstypisk kärnfamilj med villa, vovve och rymd-Volvo. Vad kan gå fel? Mamma får hjälp med tråkiga bestyr såsom städning och matlagning, medan pappa med gott samvete kan agera familjeförsörjare i fast förvissning om att barnen är hela och rena och att frugan inte knaprar valium. Efter millennieskiftet, 2008 närmare bestämt, är framtidsperspektivet ett annat. Nu är det roboten WALL-E som betraktar människorna. De har förslöats till den grad att deras kroppar är deformerade av fetma och muskelatrofi och de kan inte ta sig ur sina svävande stolar där de skedmatas med hjärndödande underhållning på genomskinliga bildskärmar. Det är en svidande kulturkritisk betraktelse från en person som arbetar i teknikens framkant.

Ben Zhao är professor i datavetenskap vid University of Chicago. Han har tilldelats en hederstitel vid The Association for Computing Machinery, världens största vetenskapliga och pedagogiska datorsamfund, och han har mottagit många utmärkelser. Hans arbete har uppmärksammats bland annat i New York Times, CNN, NBC, BBC, MIT Tech Review, Wall Street Journal, Forbes och New Scientist. Han har publicerat över 180 artiklar inom områdena säkerhet och integritet, maskininlärning, nätverk och människa-dator-kommunikation. Han är med andra ord, i allra högsta grad en insider i tech-världen och därtill mycket upptagen. Att han kunde tänka sig att komma till Stockholm för att delta i ett seminarium som anordnas av Konstnärernas Riksorganisation var visserligen ett lyckokast från vår sida, men definitivt ingen slump. Upprinnelsen till det projekt han har kommit för att presentera är nämligen en gripande historia som involverar just konstnärer.

Professor Ben Zhao
Professor Ben Zhao

Professor Ben Zhao har alltså en bakgrund inom bland annat digitala säkerhetsfrågor, vilket föranledde ett intresse för ansiktsigenkänning och dess möjliga konsekvenser. Foton vi lägger upp på oss själva och våra kära på olika digitala plattformar kan rutinartat laddas ner och sparas i olika databaser av mer eller mindre seriösa aktörer. Tillsammans med namn och adress kan dessa bli ett träningsmaterial för maskinintelligens. Hotbilden är enorm. Förutom otillbörlig övervakning kan materialet användas för att generera komprometterande hittepå-bilder som att exempelvis just du var på Tunnelgatan i Stockholm den dagen statsminister Olof Palme mördades. Tillsammans med sitt team vid Chicagos universitet hade Ben lyckats utveckla en mjukvara för att stävja integritetskränkande ansiktsigenkänning på nätet.

En konstnär kontaktade Ben och frågade om samma teknik gick att använda för att skydda hennes bilder, det vill säga konstverk hon laddade upp på sin webbplats. Till en början förstod Ben inte varför det skulle behövas. Visst går det, men varför? Efter denna första vädjan följde många fler förfrågningar. Ben Zhao förstod att det, bland människor som lever på att sälja sin konst, fanns ett uppdämt behov att skydda sina bilder från det som kallas för style mimicry.

Midway, DALL-E, Stable Diffusion eller någon annan av de kända text-till-bild-applikationerna har övats upp på en oöverskådligt stor mängd av bildmaterial från internets alla vrår. Kanske är det därför som det är så svårt att tänka sig att någon kan bli personligt drabbad av något så ogripbart som stilkopiering. Som djävulens advokat skulle man kunna säga att alla lär sig genom att låna. Konstnärer har genom tiderna låtit sig inspireras av andra och bildat skola. Unga förmågor har övat sig genom att imitera sina mästare. Ska samma frihet tillämpas av vinstdrivande företag med en maskinaktiverad precision som har övermänskliga marknadsfördelar? Å andra sidan fick du inte frågan: ”Vill du att dina bilder med vidhäftade stilar ingår i en applikation med en världstäckande affärsplan?”

Ont ska då med ont förgås, tänker man, för det är just genom att använda sig av AI-rutiner som teamet har lyckats skapa ett motgift till klåfingrig maskininlärning

Och ja, i mängden av stilar kan just din bli kopierad – inte så smickrande som det låter. Ben visar upp en rad webapplikationer som erbjuder möjligheten att generera bilder med namngivna konstnärer som förlaga. Helt plötsligt är en bildskapare – som kanske har tillbringat många år av sitt liv med att ta fram och förädla ett eget sätt att framställa vissa motiv, former eller färgställningar – del av ett nedladdningsbart kartotek av stilar. Myriader av bilder är färdiga att publicera med ett klick. Världen svämmar över av bilder-som-är-som-dina, men som du inte längre äger upphovet till.

”Gå helst inte in på dessa sidor, eftersom de oftast används för att framställa sådant jag inte kan visa här på skärmen”, inflikar Ben varnande och syftar helt klart till porr och dylikt. Han vill understryka att han har haft kontakt med många konstnärer personligen, att han och hans kollegor har gjort större enkätundersökningar och att det finns en tydlig tendens: Ansökningarna till konstskolorna dalar. Många konstnärer har valt att plocka ner sina verk från nätet, från sajter som DeviantArt och liknande communities för online-konst som ofta trålas av bildsökande rutiner. En del konstnärer säger sig ge upp, sluta helt med konsten, andra är förtvivlade men kämpar på. Det går inte att försörja sig längre, då inte bara dina nuvarande men också potentiellt framtida verk kan reproduceras och omtolkas vid en knapptryckning. Ja, Ben målar upp en dyster framtid för bildskapande för att ge en bakgrund till vad han och hans medarbetare har gjort för att motverka utvecklingen.

Utmaningen är att en bild ska fortfarande kunna vara tillgänglig på nätet, men maskininlärningsrutinerna ska bli desto mer förvirrade. Enkla skyddsmedel som vattenmärkningar av bilder är lätta att kringgå och olika ”jag-vill-inte-vara-med-deklarationer” har visat sig ha begränsad eller ingen effekt. Ont ska då med ont förgås, tänker man, för det är just genom att använda sig av AI-rutiner som teamet har lyckats skapa ett motgift till klåfingrig maskininlärning. Arbetet med att försvåra ansiktsigenkänning blir till ett identitetsförvrängande program som heter Glaze. Om du ger det en bild att arbeta med, vet programmet vilka markörer en AI söker efter för att kunna identifiera innehåll och stil. Genom att ”glasera” bilden, lägga till ett för det mänskliga ögat närmast osynligt raster av information, kan programmet lura inlärningsrutinen så att AI-modellen felklassificerar bilden. Ben visar en rad festliga exempel. Om AI förleds att kategorisera en bild av en hund som en katt, vad blir det då för resultat om man i textprompten skriver “generera en bild på en valp”? En kattunge? Resultatet ser mer ut som en liten förvriden apa.

Glaze tillgängliggörs som ett gratis nedladdningsbart program. Det blir en omedelbar succé med uppemot en miljon nedladdningar. Därefter följer en nätbaserad tjänst (det vill säga du inte behöver ladda ner programmet), som heter WebGlaze. Glada tillrop från konstnärer och andra bildskapare varvas med kritiska röster: Varför vill ni förstöra utvecklingen? AI-branschen försöker ge igen genom att sätta upp Glaze på en lista över datorvirus.

Att medvetet utsätta en intelligens för kognitiva störningar kan tyckas vara aggressivt, men det är trots allt kul att se någon bokstavligen kasta grus i maskineriet. Eller hur var det Bakunin sa? Lusten att förstöra är också en kreativ lust.

Åsikterna är delade. De allt snabbare stilöverföringarna kan på rekordtid urvattna mödosamt uppbyggda estetiska uttryck till rena pastischer, som att alla Wes Andersons filmer numera för tankarna till AI-genererade bilder. Å andra sidan kommer kanske den blixtsnabba stiltillgängligheten att föra konsten framåt – bortom förekomsten av bildstilar såsom vi uppfattar dem idag.

Hursomhelst är Ben och teamet bakom Glaze inte avskräckta. De vet att det handlar om en kapprustning och att skyddet de ger idag, mycket väl kan vara utdaterat imorgon. I mjukvaruvärlden är man van att tänka i iterationer. Det kommer alltid en uppdatering och inget är slutgiltigt. Rentav kan man tänka sig att AI-branschen förbättrar sina rutiner, ber om lov om att få använda bilder och kanske slipper det tillfälliga obehaget att behöva rensa träningsdata från ”förgiftat” material. Med detta i åtanke har Ben och hans team tagit ett steg vidare och utvecklat en aningen mer aggressiv åtgärd: Nightshade.

I skrivande stund ger ”Nightshade AI” över 6 miljoner träffar på samma-gamla-vanliga-sökmotor och alla ledande tidskrifter från MIT Technology Review till Washington Post och internationella organ som World Economic Forum har rapporterat om fenomenet. Intresset är med andra ord stort. Det nya programmet, som släpptes för allmänheten veckan innan Bens besök i Stockholm (ja, vi var faktiskt först med att få en live-presentation), är utformat för att förorsaka långt mer digra konsekvenser för bildgenererande AI. Nightshade, en familj av blommande potatisväxter vari den giftiga belladonnan ingår, ger passande nog bland övriga förgiftningssymptom upphov till hallucinationer. Genom att göra varje bild till ett litet ”giftpiller”, kontamineras AI-modellen gradvis på ett sätt som påverkar all dess klassificering och därmed ”tänkande”. Vi får se exempel på en alltmer hallucinerande AI-modell som utsatts för 10, 50 och slutligen 100 förgiftade bilder. Ju högre dos, desto mer urartar AI-modellens förmåga att generera begripligt innehåll och över en viss mängd ”gift” producerar den inget annat än visuellt brus. Det är nästan som att se ett medvetande som efter en serie dissocierande störningar befinner sig i fullständig koma.

Jag känner minst en person som blev upprörd under denna AI-schavotteringsdemonstration, men på seminariet möter professor Ben Zhao huvudsakligen tillrop från supporterskaror. Framför allt tror jag att empatin är låg för miljardnoterade big tech-företag, som gärna ser sig som världens frälsare. I vilket fall som helst är ingen skada permanent, för AI-modeller som har fått ett totalt hjärnsläpp kan helt enkelt nollställas och tränas från grunden igen. Det kostar bara tid och pengar. Ingen har tvingat dem att mumsa i sig bilder med Nightshade på.

Till skillnad från ludditernas handfasta maskinstormande under den tidiga industrialismen är det alltså med hjälp av teknik som bildslukande affärsmodeller saboteras – något helt annat än att langa sin sabot (träsko) mot en mekanisk vävstol i ilska över att den kommer ta ditt jobb. Professor Ben Zhao framstår som allt annat än teknikfientlig i sin presentation. General purpose AI kan användas för kliniska studier och komplex beslutsföring samt i framtagandet av nya material – det han vänder sig mot är slappheten i att använda tekniken för förutsägbar text- och bildgenerering. AI-modeller som tränas på text och bild kommer så småningom att tränas alltmer på material de själva har genererat. Då börjar ett slags inavel, systemet kannibaliserar på sig självt och de små knasigheter som en syntetiskt skapad bild eller text bär på kommer att multipliceras, läggas lager på lager – och det verkar i slutändan som att generativ AI ofrånkomligen kommer att förgifta sig själv. Utan att utsättas för Nightshade. En fascinerande tanke att lämna oss med.

Vidmakthållandet av den konstnärliga (och därmed mänskliga) integriteten

Efter en kort paus tar den juridiska experten Katarina Rehnman Claesson, förbundsjurist på Konstnärernas Riksorganisation, över podiet. Även hon går tillbaka i tiden – det förflutna har som så ofta en framskjuten roll då man pratar om framtiden. Storbritanniens Act of Anne från 1710 sägs ofta vara den första förordning som introducerade begreppet upphovsperson till den värdekedja som baseras på hens verk. Det som föranleder denna nymodighet, the author, är naturligtvis tryckpressen. Vi börjar nu bli vana vid att varje apparat som faciliterar ett mångfaldigande i sin tur leder till en antagonism mellan dem som kontrollerar maskinen och dem som står för innehållet. Farhågor kring ett ohållbart förhållande mellan arbete och ekonomi (för man kan ju inte tänka sig att mänskligheten ska jobba mindre, nej, nej) påkallar tillämpningen av juridik. Det har länge funnits en samsyn i världssamfundet, att upphovspersoner har ”rätt till skydd för de moraliska och materiella intressen som följer av varje vetenskaplig, litterär eller konstnärlig produktion som hen är upphovspersonen till” (artikel 27.2 i FN:s deklaration om de mänskliga rättigheterna).

Rättsregler har alltid ett politiskt syfte och där envåldshärskare inte råder beslutas dessa förordningar genom folkvalda lagstiftningsprocesser. Vi röstar fram representanter som avgör om någonting är okej eller inte (och om vi inte är nöjda, röstar vi bort dem vid nästa val). Författare, konstnärer och fotografer äger rätt till sina verk enligt bestämmelser som meddelas i lag. Det är så spelreglerna ser ut. Katarina lyfter fram något som är värt att ta fasta på när hela havet stormar: Rättsstaten och de internationella regelverken.

Katarina Rehnman Claesson
Katarina Rehnman Claesson

Det är bra att vi har en alldeles egen jurist på Konstnärernas Riksorganisation. Katarina har specialiserat sig på konsträtt, immaterialrätt, avtalsrätt, konstnärlig frihet och andra konsträttsliga frågor, med fokus på upphovspersonen. Hon följer de förändringar som ny teknik, såsom AI, medför för upphovsrätten och dess reglering. Vi kan på så vis få en juridisk omvärldsanalys och klara besked om vad det är som egentligen gäller.

Konsten omfattar verk i olika medier, inklusive digitalt genererade konstverk, till exempel video, digitalt fotografi, grafisk design, animering och annan nymediakonst. Likväl upplevs verken ofta på en fysisk plats, till exempel i ett galleri eller på ett museum, samt i offentliga utrymmen i formen av konstnärliga gestaltningar. Följaktligen har AI redan en relativt hög acceptans som en del av skapandeprocessen inom den digitaliserade visuella konsten, men det finns mindre tillit på distributions- och konsumtionssidan. Inte minst har AI och interaktionen människa-maskin i stor utsträckning undersökts av bildkonstnärer på ett konceptuellt plan. Konstnärer är early adopters, men det gäller också att inte bli snuvad på konfekten.

Katarina lägger stor betoning på något som i vardagstal skulle benämnas samtycke. För upphovsrätten handlar inte bara om att kontrollera det ekonomiska utbytesvärdet vid användningen av ett verk, utan också om att respektera upphovspersonens rätt att bestämma när, var, hur och av vem, ens verk (inklusive stilar) ska användas. Det här är viktigt att påpeka, vi återkommer till spörsmålet: ”Blev du tillfrågad? Och sa du ja till detta?” Med en diger räcka av juridiska exempel från amerikansk-anglosaxisk rättstradition visavi europeiska regelverk återkommer hon till vidmakthållandet av den konstnärliga (och därmed mänskliga) integriteten.

Är pingvin en fågel?

Det kan tyckas att vi i vår hittillsvarande laguppställning har varit pekfingeraktigt varnande, aningen uppsträckande och något tillrättavisande, kanske lite bakåtblickande och skeptiska, men det hoppas vi råda bot mot med seminariets sista presentatör. Det rör sig nämligen om en AI-teknikens blida barnmorska, en tapper pionjär inom området. Han har ägnat sitt yrkesliv åt att bereda väg för en artificiell intelligens som ska gnugga gruset ur ögonen och skåda ut över den vida världen med yster blick. Ska månne maskinbarnet en dag överraska och hänföra med sina egensinniga påfund? Ja, det blir ju så om en maskin börjar tänka för egen maskin.

Jussi Karlgren är seniorforskare på Silo AI, ett industriledande företag vars anspråk är att artificiell intelligens ska befria människan från arbete och därmed stärka den mänskliga kreativiteten. Ambitionen är att påskynda samexistensen mellan människa och maskin samt verka för en kollektiv form av intelligens. Jussi själv arbetar med generativa språkmodeller, han är docent i språkteknologi vid Helsingfors universitet och han har arbetat med artificiell intelligens sedan slutet av 1980-talet, bland annat språklig stilistik, informationssökning, rekommendationssystem och språkmodeller.

Under 20 år var Jussi forskare vid Swedish Institute of Computing Science, han har grundat ett eget textanalysföretag, och varit forskare hos Spotify (hmmm… den där spellistan jag skulle ha tänkt på). Under de senaste åren har han haft olika forskningsrelaterade roller på Xerox PARC, New York University, Yahoo!, Recorded Future, Stanford University, Berättarministeriet, Statens Medieråd och Kungliga Tekniska högskolan.

Jussi Karlgren
Jussi Karlgren

Nu ska vi få höra hur en slipsten ska dras, tänker jag när Jussi ska berätta om sin forskning. Fascinationen inför maskinintelligens kommer kanske från den dag man inser hur mycket språket, eller de olika språk man lär sig som barn, formar tänkandet. I mångt och mycket tycks språket vara ett slags mjukvara, ett operativsystem eller parallellkopplade algoritmer som betingar såväl beteende som tankemönster. Precis som jag har Jussi vuxit upp i en flerspråkig miljö (i Jussis fall svenska och finska) och jag undrar om inte just det har bidragit till detta brinnande intresse för självtänkande system. Så vad är artificiell (och annan) intelligens?

Ska månne maskinbarnet en dag överraska och hänföra med sina egensinniga påfund? Ja, det blir ju så om en maskin börjar tänka för egen maskin.

Tja, den konstgjorda intelligensen är framför allt rörlig. Den utgör ett föränderligt mål som likt en lerduva fladdrar förbi över synfältet och det gäller att snabbt pricka det flygande tefatet innan det försvinner bakom talltopparna. Schackdatorer eller datorer som lyckas besegra livs levande Go-mästare, var gårdagens AI-fluga. Idag skulle ingen säga att den Kasparov-knäckande Deep Blue-datorn från 1996 är vare sig intelligent eller artificiell. Det som krävs är en kompetent hårdvara som har berikats med mjukvara som innehåller alla kända schacköppningar och avslut, därefter kan systemet räkna ut vad som är nästa vinnande drag.

Artificiell intelligens, enligt Jussi, är förmågan att hantera nya situationer utifrån föreliggande kunskap. If this then this, om detta så detta. Om det kan flyga så är det en fågel – men vad är då en pingvin? I sina ambitioner att vara heltäckande, i den väldigt mänskliga drivkraften att i alla lägen ha rätt, kan man inte vara fixerad vid gränsfall. Hur är det med en struts? Den har fjädrar, lägger ägg men kan inte flyga? Bättre att rikta in sig på typiska fall. En fågel som är som de flesta fåglar, en vaktel till exempel: Flyger, lägger ägg och har fjädrar. Jackpot! Vi förstår att AI hittills har fordrat klassificering. Generativ AI som vi är här för att prata om fungerar annorlunda. Här handlar det om att öva upp en modell som ska producera trovärdiga resultat, som liknar det vi redan har sett. Något som alla ska kunna förstå. Lite som TV4 eller kvällspressen. Det rör sig om minsta-gemensamma-nämnare-system. Det är klart att man kan överraska – men inte alltför mycket! Och om man inte tror att konformism är det högsta eftersträvansvärda målet i livet, kan dessa egenskaper knappast sägas utgöra grunden för en spännande personlighet. Om man dessutom låter trovärdighet trumfa sanning, blir det regelrätt fel. Människan har en intention, en social medvetenhet – en medveten strävan till förbättring. Allt detta saknas hos dagens AI-modeller och de verkar utifrån efterapning. Detta hoppas Jussi att han och hans kollegor ska kunna råda bot på. Han har definitivt en poäng i att vår ambition borde vara att AI-modeller tränar på det bästa tillgängliga materialet. Lära sig läsa och skriva genom Strindbergs litterära verk snarare än kommentarerna på Flashback och Familjeliv (vilka utgör de mest tillgängliga textsjoken på svenska för tillfället).

Jag tänker en hel del på Jussis presentation när jag skriver den här texten. Jag står inför en ny situation, ett ”blankt papper” på bildskärmen och jag rotar bland mina tidigare erfarenheter, som inte enbart innefattar den oförmedlade upplevelsen att ha suttit på det här seminariet. Skrivandet förutsätter även relaterade tankefragment som rör detta ämne samt gärna andra aspekter. Framför allt gräver och botaniserar det skrivande jaget bland ett virrvarr av ord jag under många år har tillskansat mig från inkommensurabla träningsset i formen av böcker och samtal, ord på olika språk som kanske behöver översättas. Utifrån dessa depåer av latent kunskap genererar jag alltså i skrivande stund denna text. På vilket sätt skiljer jag mig från Llama2 eller ChatGPT? Jag vill gärna tro att jag är mer allsidig i fråga om kunskapskällor genom att ha tillgång till erfarenheter som inte är digitaliserade. Kanske är mina kategoriseringar av språket mångsidigare? Kanske har jag en bättre förmåga att sätta mig själv, det skrivande subjektet i olika sammanhang, bland annat i det sammanhang jag för tillfället refererar till. Därigenom kan jag göra konceptuella kringmanövrar – som att bryta mot grammatiska regler, hitta på nya ord eller helt frångå ämnet.

Men jag kan ju inte vara säker på att så är fallet. Kanske är det bara en tidsfråga innan AI hinner i kapp? Så länge jag inte tar i beaktning att texten jag skriver kan skrivas ut på ett papper, som jag sedan viker till ett pappersflygplan och skickar till bordsgrannen, som jag hoppas ska gilla mina nedtecknade betraktelser eftersom jag gärna vill bli bjuden på middag imorgon, så är texten som text, den rena texten, inget annat än textgenerering. Det finns ingen anledning att AI-modeller i framtiden inte skulle kunna få Nobelpris i litteratur. Men så funkar ju inte livet.

Dags att kivas lite

Enligt seminarieformen är det brukligt att ha ett efterföljande panelsamtal med samtliga presentatörer och publikfrågor. Man sitter med dålig hållning i halvcirkel på barstolar utan fotstöd och har några kloka avslutande ord att säga – en sista poäng att ro hem, eller bara kivas lite. I rollen som moderator, bör jag få i gång en diskussion (samt se till att den inte spårar ur). AI som teknisk innovation och AI som affärsmodell, går det att skilja de båda åt? Katarina vill först gärna fråga Jussi om han har en lön och varför han inte kan tänka sig att konstnärer vars bilder används ska ha betalt. Självklart ska de ha betalt, menar Jussi. Räcker det då inte att träna på klassiker där upphovsrätten har löpt ut eller efterskänkts (så kallad Creative Commons)? Dagens AI-modeller är för glupska, de behöver på tok för mycket material för att bli ens tillnärmelsevis lika smarta som vi. Det är tydlig slagsida mot upphovsrättsfrågor och försörjning. Något som blir ännu mer pregnant när publikfrågorna börjar hagla. Det mest provocerande verkar vara att Jussi under sin presentation sagt att han arbetar med AI mest för att det är kul. Både han och Ben tycker att dagens AI behöver bli bättre, fast de tycker det på olika sätt. Det är en självgående diskussion med en mycket engagerad publik. En fråga till! Nja, vi borde sluta nu. Och så en till. Till sist måste jag säga ifrån: Kulturhuset kommer sparka ut oss närsomhelst nu! Det ska visst vara ett författarsamtal i samma lokal om en halvtimme.

Så här i efterhand ångrar jag att jag inte tog upp frågan om hissmusik, det vill säga Spotify-listan jag blev tillfrågad om. Det är inte ovanligt att drabbas av det som kallas för trappans ande (eller l’esprit d’escalier som det egentligen heter), men jag undrar verkligen om inte tekniska lösningar många gånger utvecklas för att kompensera för frånvaron av engagemang samt ta vid där den mänskliga ambitionsnivån sviktar.

Jag tror definitivt inte att dagens seminarium hade kunnat göras av en AI.

Robert Brečević

Foto: Geska Brečević


Häng med i konstnärspolitiken!

Välkommen att prenumerera på Konstnärernas Riksorganisations konstnärspolitiska nyhetsbrev. Nyhetsbrevet skickas ut cirka 4 gånger per år och ger dig en snabb översikt över aktuella politiska frågor som är viktiga för konstnärskåren. Det riktar sig i första hand till politiker eller tjänstepersoner med ansvar för kulturpolitiken på statlig, regional eller kommunal nivå.

Vi delar inte din epost med någon

Är du medlem?

Då får du redan dessa – och många fler nyheter – som del av ditt månatliga medlemsbrev och behöver inte anmäla dig här!