Tekoäly todellisuuden rakentajana, deepfake ja digitaalinen manipulaatio
Kirjoittanut: Markus Sjöberg
Tekoälyllä voidaan generoida äkkiseltään täysin uskottavia sisältöjä, kuten kuvia, jotka näyttävät valokuvilta, mutta eivät sitä kuitenkaan tosiasiallisesti sitä ole. EU:n tekoälyasetus velvoittaa merkitsemään tekoälyjärjestelmien tuottamat tai manipuloimat sisällöt silloin, kun yleisö voisi erehtyä luulemaan niitä ihmisen tekemiksi. Tämä koskee eri sisältömuotoja, kuten tekstiä, kuvia, ääntä ja videota erityisesti tilanteissa, joissa sisältö julkaistaan julkisesti ja sillä voi olla vaikutusta yleiseen mielipiteeseen tai kaupalliseen toimintaan.
Asetus ei siis vaadi merkitsemään kaikkea tekoälyavusteista työskentelyä, vaan nimenomaan sellaista generointia tai manipulointia, jonka salaaminen voisi johtaa harhaan. Esimerkiksi seuraavat tilanteet kuuluvat asetuksen soveltamisalaan:
· Synteettiset sisällöt: tekoälyjärjestelmän tuottamat tekstit, kuvat, videot ja äänet on merkittävä keinotekoisiksi, jotta ne voidaan tunnistaa.
· Syväväärennökset: jos tekoälyllä luodaan kuva, ääni tai video, joka jäljittelee olemassa olevia henkilöitä, paikkoja tai tapahtumia, on siitä aina ilmoitettava.
· Yleistä etua koskeva viestintä: jos tekoäly tuottaa tekstiä esimerkiksi uutisiksi tai viranomaisviestinnäksi, on sen alkuperä tuotava esiin, ellei sisältö ole käynyt läpi toimituksellista arviointia ja vastuullista julkaisua.
Samalla asetuksessa tunnustetaan tilanteita, joissa merkintä ei ole tarpeen:
· Taide, fiktio ja satiiri: jos sisältö on osa selvästi luovaa, fiktiivistä tai taiteellista teosta, velvoite rajoittuu asianmukaiseen ilmoittamiseen tavalla, joka ei häiritse teoksen esittämistä. Esimerkiksi taidenäyttelyssä esillä oleva tekoälygrafiikka ei edellytä koneellisesti luettavaa merkintää.
· Vakiomuokkaukset: jos tekoäly auttaa ainoastaan teknisissä korjauksissa (esim. värien säätö, pienten virheiden poistaminen), merkintää ei vaadita.
· Toimituksellinen vastuu: jos mediaorganisaatio julkaisee tekoälyn avustuksella tuotettua sisältöä mutta kantaa siitä journalistisen vastuun, erillistä merkintää ei tarvita.
Näin asetuksen logiikka voidaan tiivistää: merkintä on pakollinen silloin, kun sisältö esitetään totena ja yleisö voisi erehtyä sen alkuperästä, mutta ei silloin, kun kyseessä on selvästi luova, satiirinen tai toimituksellisesti kontrolloitu käyttö.
Deepfake ilmiönä
Yksi eniten huomiota saaneista ilmiöistä on deepfake. Termillä viitataan tekoälyn avulla luotuihin mediasisältöihin, erityisesti videoihin ja ääniin, joissa henkilön kasvot tai ääni on manipuloitu niin, että ne korvataan toisen henkilön kasvoilla ja äänellä. Tekniikka yhdistelee kasvojen vaihtamista, huulisynkronointia ja äänen muokkausta tai imitaatiota (Masood ym. 2023). Deepfake-käsitteeseen liitetään usein petos ja vahingoittamistarkoitus, kuten kostoporno (Maras & Alexandrou 2019).
On kuitenkin hyvä huomata, että digitaalinen manipulaatio ei ole uusi ilmiö. Kuvien, videoiden ja äänen muokkaaminen tietokoneohjelmien avulla on ollut mahdollista jo vuosikymmeniä: esimerkiksi Photoshop julkaistiin jo 1980-luvun lopulla. Keskustelua suomalaisen luontokuvan manipulaatiosta käytiin vilkkaasti jo 1990-luvulla (Suonpää 2001). Uutta on se, että tekoälytyökalujen myötä vastaavien väärennösten tekeminen on mahdollista kenelle tahansa, ilman erityistä teknistä osaamista.
Luovan alan näkökulmasta huijaukseen liittyvä deepfake ei ole kuitenkaan kovin keskeinen kysymys. Samoja teknologioita voidaan hyödyntää esimerkiksi fiktioelokuvien tuotannossa ilman, että kyse olisi suoranaisesta huijaamisesta. Silti tekoälyn käyttö voi aiheuttaa kielteisiä reaktioita yleisössä suhteessa autenttisuuteen. Erityisen herkästi keskustelua herättää ihmisnäyttelijöiden korvaaminen digitaalisilla hahmoilla. Tämä ei ole aina edes liiketaloudellisesti järkevää: esimerkiksi Star Wars -elokuvasarjan ja televisiosarjan fanit ovat kokeneet vääräksi kuolleiden näyttelijöiden elvyttämisen tekoälyllä. Toisaalta fanien itse tekemät tekoälyavusteiset sisällöt on otettu vastaan myönteisemmin (Hakola 2024).
Laajemmat vaikutukset todellisuuskäsitykseen
Tekoälyn vaikutus todellisuuden kokemiseen ei rajoitu kasvojen vaihtoon tai huijaustarkoituksiin. Generatiiviset mallit rakentuvat valtaviin opetusaineistoihin, joissa painottuvat yleisimmät ja toistuvimmat piirteet. Se voi johtaa geneerisiin esityksiin: kuviin ja kertomuksiin, jotka muistuttavat toisiaan ja toistavat vakiintuneita visuaalisia ja kielellisiä ratkaisuja. Luovan työn tekijälle tämä tarkoittaa, että tekoälyn tuottama materiaali ei välttämättä avaa uusia näkökulmia, vaan saattaa pikemminkin kaventaa ilmaisua ja lisätä homogeenisuutta.
Yksittäisen tekijän näkökulmasta ongelma kiteytyy siihen, mitä tekoäly jättää tuottamatta. Sellaiset näkökulmat, jotka ihmistekijä voisi omalla kokemuksellaan, kulttuuritaustallaan tai mielikuvituksellaan tuoda esiin, voivat jäädä syrjään, koska ne eivät ole aineistoissa vahvasti edustettuina. Lopputuloksena on helposti todellisuuden keskiarvoistuminen ja harvinaisten, marginaalisten tai paikallisten ilmiöiden katoaminen näkyvistä.
Huolta lisää se, että suurin osa generatiivisista malleista on kehitetty Yhdysvalloissa. Eurooppalaisia malleja on toistaiseksi vähän, vaikka Euroopalla on rikas ja monikielinen kulttuuriperintö. Yhdysvaltalaiset mallit heijastavat oman kulttuuripiirinsä arvoja ja esteettisiä konventioita, kuten Hollywood-elokuvien kerrontaa ja englanninkielistä viitekehystä. Kun sisältöä tuotetaan yhä enemmän tällaisilla malleilla, voi se pitkällä aikavälillä muokata sitä, millaisena eurooppalaisen kulttuurin moninaisuus säilyy ja näkyy.
Lisäksi on hyvä huomioida, kuinka generoidut sisällöt voivat rapauttaa todellisuuskäsitystä laajemminkin. Kun entistä suurempi osa näkemästämme ja kuulemastamme on generoitua, on näiden teosten yhteys fyysiseen todellisuuteen ja aitoon ihmiselämään muuttuu ohueksi tai olemattomaksi.Samalla luottamus sisältöön voi heikentyä. Jos kaikki voidaan rakentaa keinotekoisesti, on yhä vaikeampi erottaa dokumentaarinen esitys fiktiosta.
Luovan alan näkökulmasta tämä kehitys nostaa eettisen kysymyksen: pitäisikö taiteen ja kulttuurisen tuotannon olla niitä alueita, joissa todellisuuden roolia ja epätäydellisyyttä tietoisesti vaalitaan? Juuri luovat tekijät voivat asettua vastavoimaksi generatiivisen tekoälyn homogenisoivalle ja todellisuutta latistavalle vaikutukselle – joko korostamalla inhimillistä kädenjälkeä, tuomalla esiin vaihtoehtoisia näkökulmia tai kehittämällä paikallisiin kulttuureihin ankkuroituja tekoälymalleja.
Lähteet
- Masood, M., Nawaz, M., Malik, K. M., Javed, A., Irtaza, A. & Malik, H. 2023. Deepfakes generation and detection: State-of-the-art, open challenges, countermeasures, and way forward. Applied intelligence, 53(4), 3974-4026. Saatavissa https://doi.org/10.1007/s10489-022-03766-z
- Maras, M.-H., & Alexandrou, A. (2019). Determining Authenticity of Video Evidence in the Age of Artificial Intelligence and in the Wake of Deepfake Videos. The International Journal of Evidence & Proof, 23(3), 255–262.
- Hakola, O (2024) Ikuisesti kuolematon Hollywood? Yleisön reaktiot generatiivisen tekoälyn käyttöön elokuvateollisuudessa. Konferenssiesitys sarjassa Tekoäly, algoritmit ja dataistuminen media- ja kulttuurikentällä. Viestinnän ja mediatutkimuksen päivät.
- Suonpää, J. (2001). Luontokuvan totuuden hetki: keskustelua aitoudesta. Helsinki: Suomen valokuvataiteen museo / Musta taide. (Pieni valokuvakirjasto, nro 2). ISBN 951-9086-64-1.