kirjoittaja: Henry Farrell
Havainto 1: Tämä on vain yksi lisäys tämän uutiskirjeen toistuvasti esittämään teesiin. LLM-malleja koskevat valtavirran keskustelut ovat pääosin vääräsuuntaisia. LLM-mallit eivät tule synnyttämään itsenäisiä, omapäisiä toimijoita, eivätkä ne ole oikeastaan verrattavissa yksilölliseen ihmisälyyn. Sen sijaan ne ovat ”kulttuuriteknologioita”, kuten Alison Gopnik sanoisi. Tämä tarkoittaa, että ne ovat potentiaalisesti hyödyllisiä samalla tavalla kuin muutkin vastaavat teknologiat. Ne tarjoavat uusia tapoja käyttää, järjestellä ja yhdistellä ihmisten tuottamaa tietoa. Ne ovat myös potentiaalisesti ongelmallisia, aivan kuten muutkin vastaavat teknologiat ovat usein ongelmallisia.
Havainto 2: Lauseen ”kartta ei ole alue” keksi Alfred Korzybski, joka loi ”yleisen semantiikan”, tieteellisenä pidetyn teorian, joka syntyi samasta vapaasta älyllisestä ympäristöstä kuin kybernetiikka (hyvä!) ja skientologia (huono!). Sen popularisoi kuitenkin Stewart Brand, jonka Whole Earth Catalogue oli yksi Piilaakson ideologioiden tärkeimmistä intellektuaalisista lähteistä. Viimeisen vuosikymmenen aikana lause on alkanut tuntua yhä ironisemmalta, kun informaatiokartat ovat alkaneet peittää alueet, joita ne väittävät kuvaavansa. Aikaisemmin hakukoneet tarjosivat linkkejä resursseihin ja lyhyitä kuvauksia, joiden avulla käyttäjät pystyivät selvittämään, oliko kyseessä heidän haluamansa resurssi. Nyt ne keräävät säännöllisesti tietoa tiivistääkseen ja hyödyntääkseen mahdollisimman paljon niiden verkkosivustojen kaupallisesti arvokkaita osia, joihin ne ”linkittävät”, suoraan hakusivulla, jotta käyttäjän ei tarvitse klikata itse verkkosivustolle. Luonnollisesti nämä tiivistelmät ovat vääristyneet voittoa tavoittelevien motiivien vuoksi – moderni haku ohjaa huomion kohti asioita, jotka tuottavat rahaa hakukoneen omistajalle, ja pois niistä, jotka eivät tuota.
Havainto 3: Kukaan ei ole oikeastaan puhunut siitä, mutta suurten teknologiayritysten ja immateriaalioikeuksien ympärillä käydyissä taisteluissa on tapahtunut valtava muutos. Vielä noin kymmenen vuotta sitten teknologiaan keskittyvien vasemmistolaisten, jotka halusivat vapaata pääsyä kulttuuriresursseihin, ja Googlen kaltaisten teknologiayritysten välillä oli löyhä mutta ilmeinen liittouma, kun ne kohtasivat yhteisiä vihollisia, kuten Disneyn. Aktivistit, kuten kaivattu ystäväni Aaron Swartz, innostuivat ”Free the Mouse” -tarroista, joilla protestoitiin Disneyn roolia tekijänoikeussuojan laajentamisessa. Nykyään Disney on edelleen ongelma (se ei halua maksaa tekijöille, jos se voi välttyä siitä), mutta Hiiri on Vapaa. Nykyään vasemmistolaiset ovat taipuvaisempia epäilemään alustayrityksiä ja asettumaan kulttuurituottajien ja tekijöiden korvauksia kannattavien puolelle. Heidän mielestään Google on muuttunut Don’t Be Evil -yrityksestä Doctor Evil -yritykseksi. On olemassa kokonainen koalitio, joka on omistautunut irrottamaan teknologian tutkimuksen suurten alusta- ja hakuyritysten rahoitusprioriteeteista.
Näitä kolmea havaintoa yhdistelemällä voidaan luoda yksinkertainen kuvaus tekoälyn poliittisesta taloudesta, joka eroaa huomattavasti tavanomaisista kuvauksista, joita yleensä näen. Järjestyksessä: jos ymmärrät, että tekoäly (tai tarkemmin sanottuna LLM-mallit, joihin ihmiset joutuvat yhä useammin tekemisiin päivittäin) perustuu ihmisten tuottamaan tietoon, alat huomata todelliset valtataistelut, jotka ovat osittain peittyneet retoriikan alle. Jos alat nähdä nykyisen tietopolitiikan taisteluna kartantekijöiden ja kartoitettavien alueiden omistajien ja asukkaiden välillä, saat erilaisen käsityksen siitä, mistä on kyse. Tämän käsityksen avulla on selvää, miksi immateriaalioikeuksia ja suuria teknologiayrityksiä koskevat poliittiset liittoutumat ovat muuttuneet niin dramaattisesti.
Tämä yksinkertainen selostus – kuten kaikki yksinkertaiset selostukset – jättää paljon tärkeitä asioita pois. Se on myös ensimmäinen lähestymistapani teoriaan suuresta ja monimutkaisesta ilmiöstä – jos olen ymmärtänyt jotain väärin, huutakaa minulle siitä! Mutta se voi myös tuoda esiin yhteyksiä kehityskulkujen välillä, jotka aluksi näyttävät olevan irrallisia. Käyn läpi kunkin vuorotellen ja puhun sitten lopussa enemmän siitä, miten ne liittyvät toisiinsa.
LLM:t kulttuuriteknologioina
Jos olet lukenut tätä uutiskirjettä jo jonkin aikaa, tiedät jo enemmän kuin haluaisit tietää akselerationismin ja X-riskin vastaisista argumenteista. Olisi karkeaa ja väärin väittää, että AI-boomerismi ja doomerismi ovat tarkoituksella luotuja ideologisia huijauksia. Monet ihmiset uskovat vilpittömästi jompaankumpaan. Kyse ei kuitenkaan ole vain siitä, että kuvitteelliset tulevaisuudet häiritsevät nykypolitiikkaa, vaan siitä, että esitetyt tulevaisuudet peittävät järjestelmällisesti sen, miten politiikka toimii. Ne saavat meidät näkemään ”tekoälyn” edeltäjänä ”yleiselle tekoälylle” (AGI) – tietoiselle, tavoitteelliselle toiminnalle, joka on yhtä hyvää tai parempaa kuin ihmisen ajattelukyky. Ne lupaavat ihastuttavia virtuaalisia seuralaisia, jotka tekevät meistä onnellisempia, ja omistautuneita palvelijoita, jotka tekevät kaikki asiat, joita emme halua tehdä, tai vaihtoehtoisesti ne varoittavat kapinallisista ja kostonhimoisista karanneista orjista tai valtavista itseään muokkaavista älyistä, jotka eliminoivat meidät valtavien projektien tahattomana sivuvaikutuksena.
Jotkut ehdottavat, että teknologiat ovat luonnostaan ihania ja mahtavia, koska edistyksen jumalatar on niin määrännyt. Toiset myöntävät, että joitakin sääntöjä pitäisi olla, mutta haluavat niiden koskevan lähes yksinomaan näiden oletettujen tulevaisuuden älyjen tavoitteiden sovittamista yhteen sen kanssa, mitä haluamme niiden tekevän.
Jos ymmärrät LLM:t pikemminkin kulttuuriteknologioina – tai vaihtoehtoisesti nykyisten lovecraftilaisten hirviöiden, kuten markkinoiden ja byrokraattisten valtioiden, seuraajina – nämä melko hämärät visiot eivät enää vaikuta sinuun yhtä vaikuttavasti. Sen sijaan voit alkaa ymmärtää, miten LLM:t ja muut tekoälyn muodot toimivat ihmisten tuottamaa tietoa käsittelevinä teknologioina.
Markkinat eivät ole älykkäitä. Eivätkä myöskään puolustusministeriöt. Mutta sekä markkinat että ministeriöt käsittelevät tietoa enemmän tai vähemmän hyvin, mikä vaikuttaa valtavasti elämäämme. LLM-mallit ovat toinen tällainen teknologia; joissakin suhteissa hienostuneempi, toisissa primitiivisempi. Ovatko ne ja muut tekoälyn muodot yhtä merkittävää sosiaalista innovaatiota kuin suurten markkinoiden ja byrokratian synty? Itse epäilen sitä, vaikka onkin vielä liian aikaista sanoa. Mutta tämän kysymyksen esittäminen viittaa ainakin siihen, millaisia vertailuja meidän pitäisi tehdä.
Yksi hyödyllinen vertailukehys on Herbert Simonin kirja The Sciences of the Artificial. Simon käsittelee markkinoita, yrityksiä ja hallituksia ikään kuin ne olisivat suurin piirtein samanlaisia, ja pohtii sitten niiden suhdetta tekoälyyn. Kaikki edellä mainitut ovat järjestelmiä, jotka mahdollistavat ihmisten, joilla on pehmeät, matalan kaistanleveyden orgaaniset aivot, koordinoida toimintaansa ja saavuttaa yhdessä suuria ja joskus jopa poikkeuksellisia asioita. Erityiset tekoälytyypit (sääntöihin perustuvat järjestelmät), joita Simon käsittelee, ovat hyvin erilaisia kuin nykyiset LLM-mallit. Mutta hänen laajempi viitekehyksensä toimii myös niiden kohdalla, ja voidaan jopa sanoa, että se toimii paremmin kuin aiemmille tekoälytyypeille, joista hän kirjoitti. Myös LLM-mallit toimivat tiedonvälitys- ja koordinointivälineinä.
Tämä tarkoittaa, että aivan kuten voimme säännellä yrityksiä ja markkinatoimijoita tai kollektiivisesti vaatia virheellisiä ministeriöitä vastuuseen, meidän tulisi myös säännellä LLM-malleja kollektiivisten tavoitteiden saavuttamiseksi. Vastaavasti voi olla tilanteita, joissa haluamme luottaa markkinoihin tai demokraattiseen valintaan LLM-mallien rajoittamiseksi tai vaihtoehtoisesti käyttää LLM-malleja muiden tietomörköjen rajoittamiseksi. Kehittyneiden teollisuusyhteiskuntien poliittinen talous on shoggothien hallintaa – näiden valtavien, toisinaan vihamielisten voimien käyttämistä paitsi hyödyllisiin tarkoituksiin myös tarpeen mukaan toistensa rajoittamiseen ja vastatoimiin. Ei siis niinkään HPL, vaan JKG.
Kaikki, mitä olen tähän mennessä sanonut, on yhteenveto asioista, joista Cosma ja minä olemme jo kirjoittaneet yhdessä tai erikseen, Singularity-kultin kannattajien harmiksi. Mutta jos kiinnität huomiota näihin argumentteihin, huomaat, että ne voivat olla myös epämiellyttäviä monille vasemmistolaisille, jotka tuomitsevat LLM:t.
Näen paljon ihmisiä, joiden asenne LLM-malleihin muistuttaa kuuluisaa borscht belt -vitsiä, jossa valitetaan ravintolasta, jonka ruoka on niin huonoa ja annokset niin pieniä! Monet vasemmistolaiset väittävät, että LLM-mallit ovat pohjimmiltaan hyödyttömiä – ne eivät tee mitään, mikä olisi mitenkään arvokasta. Samalla he kuitenkin pelkäävät, että nämä teknologiat yleistyvät ja muuttavat taloutta perusteellisesti.
Näiden kahden väitteen välillä ei ole mitään absoluuttista loogista ristiriitaa, ja toisinaan melko tyhmät teknologiat ovat levinneet laajalle. On kuitenkin epätodennäköistä, että LLM-mallit yleistyvät todella, jos ne ovat täysin hyödyttömiä. Ja on paljon ihmisiä, jotka pitävät niitä hyödyllisinä! Minäkin kuulun tietysti tähän joukkoon, kun otetaan huomioon tämän artikkelin alussa oleva LLM-mallin tuottama taideteos (olen yrittänyt suunnitella ohjeet niin, että elävien taiteilijoiden tulot eivät kärsisi suoraan teoksen tekemisestä, mutta todennäköisesti vain osittain onnistuneesti).
Laajemmin ottaen uskon, että LLM:t, kuten muutkin suuret kulttuuriteknologiat, osoittautuvat (a) monin tavoin yhteiskunnallisesti hyödyllisiksi, (b) näihin käyttötarkoituksiin liittyy kustannuksia ja ongelmia, ja (c) joissakin käyttötarkoituksissa ne eivät ole lainkaan yhteiskunnallisesti hyödyllisiä. Ellei kulttuuriteknologia ole kokonaan huono tai pääosin huono (mikä on mahdollisesti totta LLM:ien kohdalla, mutta en ole nähnyt tätä hyvin perusteltuna), haasteena on selvittää, miten hyötyjä voidaan hyödyntää parhaalla mahdollisella tavalla ja samalla lieventää ongelmia.
Daron Acemoglu ja Simon Johnson tuovat tämän asian hyvin esiin äskettäin julkaistussa kirjassaan Power and Progress. Teknologinen kehitys ei tapahdu tyhjiössä. Teknologiat, niiden kehityskulku ja seuraukset muotoutuvat niiden poliittisen, sosiaalisen ja taloudellisen kontekstin mukaan, jossa niitä käytetään. Sen sijaan, että vetoaisimme johonkin epämääräiseen käsitykseen edistyksen mahtavuudesta tai teknologian pahuudesta, haluamme yhdessä koordinoida teknologian kehityksen suuntaa niin, että sen hyödyt leviävät mahdollisimman laajalle ja samalla lievennetään tai kompensoidaan sen kustannuksia. Tämä tarkoittaa väistämättä, että tarvitsemme politiikkaa ja yhteisiä toimia muokataksemme sekä LLM-kaltaisten teknologioiden käyttöönottoa että niiden tulevaa kehitystä.
Kartta syö alueen
Jotta voimme ohjata tätä politiikkaa, meidän on tiedettävä enemmän sen taustalla olevasta poliittisesta taloudesta. Tässä on siis paras arvaukseni yhdestä näkökohdasta, joka on ollut esillä viimeisten parinkymmenen vuoden aikana. Tänä aikana olemme nähneet uusien tiivistelmäteknologioiden nousun – teknologioiden, jotka tekevät tiedon (tai helposti tiedoksi muunnettavien asioiden) tiivistelmien teosta halpaa ja helppoa. Näiden teknologioiden kehittyessä tiivistelmät voivat yhä enemmän korvata asiat, joita ne väittävät edustavansa.
Tämä selittää, miksi ne ovat yleisesti arvokkaita – käyttökelpoiset kartat ja yhteenvedot suurista, alustavista tietokokonaisuuksista voivat olla uskomattoman hyödyllisiä. Se selittää myös, miksi ne ovat poliittisesti kiistanalaisia. Kun kyseessä on raha – ja yleensä on – syntyy kiivaita taisteluita niiden välillä, jotka haluavat ansaita rahaa yhteenvedoilla, ja niiden välillä, jotka pelkäävät, että heidän elinkeinonsa katoaa yhteenvedon myötä.
Ensinnäkin tämä auttaa meitä ymmärtämään, miten hakupolitiikka on muuttumassa. Vielä vähän aikaa sitten haku perustui pääasiassa yksinkertaistettuun esitykseen verkkosivustojen välisistä suhteista. Googlen alkuperäinen salainen resepti – PageRank-algoritmi – käsitteli verkkosivulle tulevien linkkien määrää merkkinä sen hyödyllisyydestä ja merkityksellisyydestä tietyn aiheen kannalta (yksinkertaistan tässä, mutta en liikaa). Kun hait Googlesta kyseistä aihetta, sait sivun, jossa oli joukko linkkejä, joista jokaisen yhteydessä oli lyhyt tekstikatkelma, joka todennäköisesti auttoi sinua selvittämään, antaako sivu sinulle etsimäsi tiedot. Mainokset olivat sivun reunassa, jotta et sekoittaisi niitä etsimääsi tietoon.
Ongelmana oli tietysti se, että kävijämääriä tavoittelevat verkkosivustot pystyivät manipuloimaan järjestelmää käyttämällä linkkispämmiä, web ringejä ja muita keinoja huijaamaan Googlea kiinnittämään niihin enemmän huomiota kuin ne ansaitsivat. Tämä loi punaisen kuningattaren kilpajuoksun Googlen algoritmin, joka muuttui säännöllisesti manipuloijien turhauttamiseksi, ja sen manipuloimista yrittävien varjoisten henkilöiden välillä (LLM:t ovat muuttamassa tätä taistelua tavoilla, joista kerron toisessa artikkelissa).
Ajan myötä Googlen kannustimet ovat muuttuneet, kun se pyrkii hyödyntämään tehokasta monopoliasemaansa taloudellisesti. Käyttäjän ei tarvitse enää vain selata lukuisia mainoksia ja sponsoroituja linkkejä löytääkseen hyödyllisiä tuloksia. Sen sijaan, että Google vain kartoittaisi linkkejä verkkosivustoille, se korvaa yhä useammin verkkosivustot itse tiivistelmin, jotka on vinoutettu ohjaamaan käyttäjiä kohti palveluita, jotka auttavat Googlea parantamaan tulostaan. Jos etsin puhelimellani paikallista ravintolaa, näen näkyvän “tilaa verkosta” -painikkeen. Jos napsautan sitä, en löydä ravintolan omaa toimituspalvelua, vaikka sillä olisi sellainen, ja vaikka toimitus olisi periaatteessa ilmainen (kuten juuri totesin paikallista ravintolaa tarkastellessani). Sen sijaan se ohjaa minut Doordashin, Seamlessin ja Grubhubin sivuille (joista kaikki luultavasti ottavat osan Googlen tuloista, jos teen virheen ja klikkaan linkkiä). Jos katsot maksualalla toimivien yritysten verkkosivustoja, näet paljon tällaisia “integraatioita”, mutta ei yllättäen juurikaan tietoa siitä, miten tulot jaetaan osapuolten kesken.
Google saattaa väittää – eikä täysin väärin – että ihmiset haluavat ravintolatietojen olevan selkeästi ja yksinkertaisesti esitettynä hakusivulla, jotta heidän ei tarvitse etsiä niitä erikoislaatuisesti suunnitelluilta verkkosivuilta, jotka on usein koottu halvalla. Voidaan kohtuudella katsoa, että siirtyminen Doordashin ja sen kilpailijoiden suuntaan on tarina halvemmista ja yleispätevistä ulkoistetuista infrastruktuureista, jotka korvaavat räätälöidyt tee-se-itse-ratkaisut. Mutta Googlen valta päättää, mitä hakukoneen yhteenvetoon sisällytetään ja mitä jätetään pois, on merkityksellinen. Se tarkoittaa, että standardoinnin hyödyt jakautuvat todennäköisesti hyvin epätasaisesti. Ja ongelma on vielä syvempi. Hakukoneiden tuottamat yhteenvedot ovat solmukohtia, joiden kautta kuluttajat etsivät tavaroita ja myyjät yrittävät löytää ostajia. Jos pystyt manipuloimaan näitä yhteenvetoja, voit tehokkaasti määritellä markkinat oman halutun voitto- ja monopolimallisi mukaan.
Hakukoneet alkoivat karttoina, mutta ovat nyt muuttuneet hirviöiksi. Ne ahmivat alueet, joita niiden pitäisi edustaa, ja ohjaavat käyttäjää väsymättä kohti paikkaa, jossa kartantekijä voi maksimoida voitot, eikä kohti paikkaa, johon käyttäjä todella haluaa mennä. Tämä on yksi tärkeimmistä tekijöistä, joita Cory Doctorow kutsuu “paskuuttamiseksi”. LLM-mallit ovat joissakin suhteissa paljon tehokkaampia (vaikkakin toistaiseksi vähemmän luotettavia) yhteenvetojen luojia kuin hakukoneet. Ne ottavat valtavan määrän ihmisten luomaa kulttuuritietoa, tiivistävät sen painotettuina vektoreina ja tuottavat siitä yhteenvetoja ja uudelleenmuokattuja versioita.
Syy, miksi monet kirjailijat ja taiteilijat ovat tyytymättömiä LLM-malleihin, ei ole kovin erilainen kuin esimerkiksi uutistoimistojen tyytymättömyys Google News -palveluun tai ravintoloiden tyytymättömyys Google-hakukoneeseen ja Doordash Storefront -palveluun. LLM-mallit voivat olla hyödyllisiä. Jos sinun, tavallisena käyttäjänä, on omaksuttava 50 000 sanan teksti ja LLM voi tiivistää sen (kohtuullisella, vaikkakaan ei täydellisellä luotettavuudella) 500 sanaan, keskittyen juuri sinua kiinnostaviin tekstin osiin, se säästää sinulta paljon aikaa ja työtä. Mutta haluatko todella ostaa 50 000 sanan kirjan, jos voit saada tiivistelmän internetistä ilmaiseksi tai halvalla? Ja jos et halua, mitä tapahtuu tällaisille kirjoille tulevaisuudessa?
Hakukoneiden tavoin LLM-mallien tuottamat yhteenvedot uhkaavat vallata alueet, joilla ne on koulutettu (ja sekä OpenAI että Google odottavat niiden vallitsevan myös perinteisen haun). Ne korvaavat yhä enemmän edustettuja tekstejä ja kuvia. Tulokset voivat olla puolueellisia; ne eivät välttämättä pysty kuvaamaan asioita, jotka ihmiskirjoittajalle, taiteilijalle tai valokuvaajalle tulisivat helposti. Mutta ne ovat lähes varmasti paljon, paljon halvempia. Ja kestääkö niiden omistajat ajan mittaan kiusausta muokata niitä vahvistusoppimisen avulla niin, että niiden tuotokset painottuvat järjestelmällisesti tuloksiin, jotka edistävät yrityksen etuja? Vastaus tuntuu minusta melko ilmeiseltä.
Kaikki tämä johtaa uusien taloudellisten kuilujen syntymiseen niiden välillä, jotka hallitsevat yhteenvetojen laatimisen keinoja, ja niiden välillä, joiden omaisuus tai toimeentulo on vaarassa kadota kokonaan. Suuri osa vanhasta poliittisesta taloudestamme on vaarassa tuhoutua juurineen, kun kartat tartuttavat alueet, joita ne kuvaavat. Ei ole yllättävää, että ne, jotka hyötyvät tästä, julistavat äänekkäästi teknologisen edistyksen hyveitä. Ei ole myöskään yllättävää, että ne, jotka kärsivät vahinkoa, vastustavat tätä.
Yllättävää ehkä, mutta tällä hetkellä perinteistä järjestäytynyttä poliittista kiistaa tämän jakolinjan ympärillä ei juurikaan ole. SAAG-AFTRA-lakko on tärkein esimerkki, jonka olen nähnyt, jossa näyttelijät vastustivat studioita AI-esitystensä hallinnan suhteen. Toivon, että näemme lisää tällaisia tapauksia tulevaisuudessa!
Sen sijaan meillä on kaksi heikkoa vaihtoehtoa. Ensinnäkin: monet ihmiset vastustavat asiaa yksilöllisesti sosiaalisessa mediassa, esimerkiksi sanomalla, että he boikotoivat ihmisiä, jotka käyttävät tekoälysisältöä. En usko, että tämä auttaa paljoakaan, ja pahimmassa tapauksessa se voi muuttua Eitan Hershin valittamaksi poliittiseksi ”harrasteluksi”, jossa ihmiset olettavat, että ”valittaminen äänekkäästi internetissä” on sama asia kuin ”tehokkaiden toimien toteuttaminen maailman muuttamiseksi”. Yksittäiset valitukset harvoin toimivat ilman taustalla olevaa kollektiivista politiikkaa. Älä valita, järjestäydy!
Toiseksi, tuomioistuimissa käydään taisteluita, jotka eivät täysin vastaa laajempaa yleisen edun käsitettä, koska ne ovat yksityisten toimijoiden välisiä taisteluita osuuksistaan. Selkein esimerkki on New York Timesin oikeusjuttu OpenAI:ta vastaan, joka koskee OpenAI:n tekijänoikeudella suojatun materiaalin käyttöä sen LLM-mallien kouluttamiseen. Nämä taistelut ovat päinvastaisia kuin ihmisten huutaminen sosiaalisessa mediassa, sekä huonossa että hyvässä mielessä. Ne eivät edusta tavallisten ihmisten huolia, mutta niiden seuraukset ovat paljon todennäköisempiä. Kuten yleensä tapahtuu, kun ei ole todella organisoitua julkista ääntä, suuret, vaikutusvaltaiset ja omaa etuaan ajavat tahot ovat ristiriidassa keskenään, ja sivustaseuraajat joutuvat päättämään, kumman puolen kannalla he ovat.
Koalitiot ovat muuttumassa, ja niiden pitäisikin
Tässä vaiheessa luulen, että useimmat lukijat pystyvät arvailemaan, mihin tämä kaikki johtaa. Syy siihen, miksi poliittiset koalitiot ovat muuttuneet – miksi vasemmistolaiset aktivistit eivät enää ole Googlen ja suurten alustojen puolella, jotka vaativat tekijänoikeuksien valvonnan heikentämistä – on se, että immateriaalioikeuksien merkitys on muuttunut. Monille vasemmistolaisille Google, OpenAI, Meta ja niiden kilpailijoiden pyrkimys saavuttaa monopoliasema tiedon hallinnassa sosiaalisten verkostojen, hakukoneiden ja LLM-mallien avulla näyttää suuremmalta uhalta kuin vanha vihollinen, Big Content.
Ja mielestäni he ovat oikeassa, mutta monimutkaisista syistä! Joitakin varauksia: En ole immateriaalioikeuden lakimies. En ole pätevä kommentoimaan AI-alaa ravistelevien erilaisten oikeusjuttujen todennäköisiä tuloksia, enkä ole erityisen kiinnostunut niiden juridisista yksityiskohdista. Minua kiinnostavat sen sijaan taustalla olevat poliittiset kysymykset. Mitä meidän pitäisi odottaa immateriaalioikeusjärjestelmiltä (riippumatta siitä, koskevatko ne yksilöllistä omistusoikeutta, kollektiivista omistusoikeutta, copyleftia tai mitä tahansa muuta)?
Minun täysin epäorgaaninen vastaukseni (monet vasemmistolaiset ja oikeistolaiset ovat jo sanoneet tämän eri tavoin, mukaan lukien Yhdysvaltain perustuslain laatijat) on, että haluamme järjestelmiä, jotka kannustavat luomaan hyödyllistä tietoa, kiinnostavaa, haastavaa tai muuten arvokasta taidetta ja muita kulttuurituotannon muotoja, jotka tekevät elämästämme parempaa ja mielenkiintoisempaa. Tietenkin ihmiset ovat voimakkaasti eri mieltä siitä, mikä on hyödyllistä tietoa, arvokasta taidetta ja niin edelleen, ja he ovat eri mieltä myös siitä, miten sitä voidaan parhaiten edistää.
Tämän hyvin laajan käsitteen yhdistäminen LLM-tekniikoiden kulttuuriteknologioiden näkökulmaan on ainakin yhdellä tärkeällä tavalla uskottava. Jos nämä tekniikat ovat arvokkaita, niin on myös ihmisten tuottama tieto, jota ne tiivistävät. Yhä monimutkaisemmassa maailmassa tarvitsemme todennäköisesti kaikki saatavilla olevat työkalut monimutkaisuuden hallintaan. LLM-työkalut ovat kuitenkin arvokkaita juuri siksi, että ne tarjoavat käyttöliittymän, joka tiivistää, yhdistelee ja tarjoaa pääsyn korkealaatuiseen ihmisten tuottamaan tietoon. Ne voivat tiivistää ja tuoda esiin yhteyksiä tämän tietokokonaisuuden sisällä, jotka muuten olisivat vaikeasti havaittavissa. Mutta ne eivät tarjoa eivätkä voi tarjota ihmeellistä ratkaisua roskat sisään, roskat ulos -ongelmaan. Jos ne on koulutettu roskalla – olipa kyseessä sitten huono ihmisten tuottama tieto tai huono synteettinen data – ne tuottavat roskaa.
Tämä viittaa siihen, että LLM-malleja ei tulisi pitää korkealaatuisen ihmisten tuottaman tiedon korvikkeena. Niitä tulisi pikemminkin pitää pakollisena täydennyksenä tällaiselle tiedolle – keinona tehdä siitä hyödyllisempää, jolla ei ole paljon itsenäistä arvoa ilman sitä. Tämä on tärkeää, kun teemme kollektiivisia valintoja immateriaalioikeusjärjestelmistä. Jos haluat, että LLM-malleilla on pitkäaikaista arvoa, tarvitset niihin liittyvän sosiaalisen järjestelmän, jossa ihmiset jatkavat niiden arvokkaaksi tekevän tiedon, taiteen ja informaation tuottamista. Immateriaalioikeusjärjestelmät, joissa ei ole kannustimia arvokkaan ihmisten tuottaman tiedon tuottamiseen, tekevät LLM-malleista ajan mittaan yhä arvottomampia.
Tämä viittaa siihen, että yksi OpenAI:n, Andreessen-Horowitzin ja muiden vastaavien keskeisistä argumenteista on täysin väärä. Esimerkiksi Andreessen-Horowitz väittää Yhdysvaltain tekijänoikeusvirastolle osoittamassaan lausunnossa, että
Tärkeintä on se, että tekoälymallien luojille aiheutuvien todellisten tai mahdollisten tekijänoikeusvastuiden kustannusten periminen joko lopettaa tai haittaa merkittävästi niiden kehittämistä.
väittäen, että melkein mikä tahansa tekijänpalkitsemisjärjestelmä olisi paitsi toimimaton, myös antaisi Kiinan kommunistiselle puolueelle mahdollisuuden syrjäyttää Yhdysvaltojen vanha teknologinen johtoasema. Mutta jos LLM-mallit tarvitsevat kohtuullisen korkealaatuista tietoa toimiakseen, tämä on täysin päinvastainen totuus. Todellinen ”lopputulos” on, että tällaisen tiedon tuottamisen kustannusten kieltämättä jättäminen joko tappaa tai haittaa merkittävästi teknologian kehitystä.
Laadukkaan tiedon jatkuvan tuotannon varmistaminen on vaikeaa. Se on erityisen vaikeaa, kun suuret monopolit tai monopoliasemaan pyrkivät tahot ovat erittäin motivoituneita hyödyntämään tiedon tuotantojärjestelmiä, joista ne ovat riippuvaisia, ja kannibalisoimaan kalliita ja työläitä tiedontuotantojärjestelmiä tukottamalla markkinat halvemmilla yhteenvedoilla. Sosiaalisten liikkeiden, aktivistien ja päätöksentekijöiden tulisi vastustaa voimakkaasti argumentteja, jotka ovat pitkällä aikavälillä sekä harhaanjohtavia että itsetuhoisia. Kaikissa oikeuksien ja tuottojen jakamisessa tulisi ehdottomasti tunnustaa, että LLM-mallit ovat arvokkaita tiivistämisen moottoreita – mutta vain yhdessä korkealaatuisen tiedon kanssa, joka voidaan tiivistää arvokkaasti. Toisin sanoen, riittävän suuri osa tuotoista on ohjattava todellisille tiedon tuottajille, jotta järjestelmä olisi itseään ylläpitävä.
Yhteenvetona voidaan siis sanoa, että LLM:t ovat kulttuurisia tiivistelmäteknologioita, joiden arvo riippuu siitä, että ihmiset jatkavat sellaisen kulttuurin tuottamista, jota voidaan hyödyllisesti tiivistää. Ilman puuttumista LLM:t kehittyvät todennäköisesti muiden teknologioiden, kuten Internet-hakukoneiden, tavoin tavalla, joka hyödyttää niiden luojia muiden kustannuksella. Niiden tuottamat tiivistelmät uhkaavat syrjäyttää kulttuurin, josta ne ammentavat.
Tämä olisi kauhea lopputulos. Borges kirjoitti kuuluisan, hyvin lyhyen tarinan siitä, mitä tapahtuu, kun kartta korvaa kokonaan alueen.
Siinä valtakunnassa kartografian taide saavutti sellaisen täydellisyyden, että yhden provinssin kartta kattoi koko kaupungin ja valtakunnan kartta koko provinssin. Ajan myötä nämä kohtuuttomat kartat eivät enää tyydyttäneet, ja kartografien killat laativat valtakunnan kartan, jonka koko oli valtakunnan kokoinen ja joka vastasi sitä piste pisteeltä. Seuraavat sukupolvet, jotka eivät olleet yhtä kiinnostuneita kartografian tutkimuksesta kuin heidän esi-isänsä, huomasivat, että tuo valtava kartta oli hyödytön, ja he luovuttivat sen auringon ja talvien armoille, mikä ei ollut aivan armotonta. Lännen aavikoilla on vielä tänäkin päivänä kartan repaleisia raunioita, joissa asuu eläimiä ja kerjäläisiä; koko maassa ei ole muita maantieteen oppia edustavia jäänteitä.
Maailmaamme syövät kartat saattavat lopulta osoittautua hyödyttömiksi täysin eri syistä. Mutta siitä seuraava Lännen aavikko ei olisi sen parempi paikka henkiselle elämälle.
Tähän kaikkeen liittyy kaksi varausta. Ensinnäkin, nämä argumentit ovat tietysti melko yleistäviä. En yritä tarjota mitään konkreettisia ohjeita siitä, mihin immateriaalioikeusjärjestelmään tai -järjestelmiin meidän pitäisi siirtyä vaihtoehtona. Lisäksi LLM-malleissa ja niiden seurauksissa on monia näkökohtia, joita ei voi pelkistää immateriaalioikeudeksi. Laajojen periaatteiden selventäminen voi kuitenkin poistaa paljon esteitä, jotka muuten hämärtävät näkemyksemme.
Toiseksi, voin olla väärässä! Jos olet samaa mieltä esittämistäni lähtökohdista siitä, mitä LLM:t ovat ja miten ne toimivat, niin (mielestäni) väitteeni ovat enemmän tai vähemmän perusteltuja. Mutta lähtökohdat ovat epätäydellisiä – on varmasti muitakin järkeviä tapoja ajatella LLM:iä. Ja erilaisia teknisiä vaihtoehtoja voi avautua, tai voi olla teknisiä näkökohtia, joita en ymmärrä kunnolla tai joista olen väärässä (luen niin paljon kuin pystyn, mutta en ole tietotekniikan tutkija). Jos esimerkiksi LLM:t voivat jotenkin tuottaa omaa korkealaatuista tietoa, niin väitteeni ei päde. Ne voivat osoittautua paljon vähemmän yleisesti hyödyllisiksi kuin ehdotan. Toisaalta ne voivat olla kohtalokkaasti puutteellisia tavoilla, joita en tunnista.
Vaikka näin olisi, mielestäni on arvokasta tehdä ainakin sitä, mitä yritän tehdä. Monet lukemistani ihmisistä lähtevät liikkeelle intohimoista – he rakastavat LLM-malleja tai vihaavat niitä. Mutta se, miten nämä teknologiat kehittyvät ja säännellään, riippuu paljon enemmän niiden aiheuttamista ja luomista eturistiriidoista. Jos tästä kirjoituksesta on yksi tärkeä opetus, se on se, että uusien teknologioiden poliittinen talous, kuten kaiken poliittinen talous, koskee lähinnä sitä, kuka saa mitäkin. Sen ymmärtäminen, sen seurausten kartoittaminen ja sekä sen avaamien mahdollisuuksien että sen vaikeuttamien mahdollisuuksien pohtiminen on ensimmäinen askel kohti parempaa tilannetta.
Lähde: https://www.programmablemutter.com/p/the-political-economy-of-ai