OSINT ja tekoälysisältö: varmista väitteet, älä arvaa

Tekoälyllä tuotettu teksti, kuva tai ääni voi näyttää uskottavalta ilman, että sen kuvaama tapahtuma on todellinen. Toisaalta aito aineisto voi näyttää oudolta pakkauksen, käännöksen tai muun käsittelyn vuoksi. OSINT-tutkijalle tärkein kysymys ei siksi ole aina, onko sisältö tekoälyn tekemää, vaan mitä sen perusteella voidaan perustellusti päätellä.

Tässä oppaassa rakennetaan käytännöllinen tarkistusprosessi epäillylle tekoälysisällölle. Tavoitteena ei ole löytää yhtä erehtymätöntä tunnusmerkkiä, vaan erottaa toisistaan sisällön alkuperä, siinä esitetyt väitteet ja väitteitä tukeva näyttö. Menetelmä sopii esimerkiksi organisaatioita, julkisia tapahtumia ja verkkoviestintää koskevaan tutkimukseen.

Erota aitous, alkuperä ja totuus

Sisällön aitous ei ole yksi kyllä–ei-kysymys. Tutkimuksessa kannattaa käsitellä vähintään kolmea erillistä asiaa:

• Alkuperä: kuka tai mikä julkaisi aineiston, missä ja milloin?
• Tuotantotapa: onko aineisto tallennettu, generoitu, muokattu tai koostettu?
• Väitteiden paikkansapitävyys: vastaavatko sisällön tiedot todellisia tapahtumia?

Tekoälyllä muotoiltu tiedote voi sisältää paikkansapitäviä tietoja. Kameralla otettu kuva voi puolestaan olla liitetty väärään tapahtumaan. Myös täysin aito äänite voi johtaa harhaan, jos siitä irrotetaan ratkaiseva asiayhteys.

Kirjaa siksi tutkimuskysymys tarkasti. ”Onko tämä kuva tekoälyä?” on usein liian kapea lähtökohta. Hyödyllisempi kysymys voi olla: ”Tukeeko tämä julkaisu väitettä, että kuvattu rakennus vaurioitui ilmoitettuna päivänä?” Näin tutkimus pysyy väitteessä eikä muutu pelkäksi visuaalisten poikkeamien etsinnäksi.

Muuta julkaisu tarkistettaviksi väitteiksi

Vakuuttava kokonaisuus kannattaa purkaa osiin ennen johtopäätöksiä. Pitkä teksti saattaa yhdistää oikeita taustatietoja, virheellisen tapahtumakuvauksen ja keksityn lähdeviitteen. Yhden yksityiskohdan vahvistuminen ei vahvista koko julkaisua.

Tee väitelista, jossa jokainen kohta voidaan tarkistaa erikseen. Esimerkiksi kuvitteellista organisaatiotiedotetta tutkittaessa lista voisi sisältää seuraavat kysymykset:

• Onko mainittu päätös julkaistu organisaation omassa kanavassa?
• Onko viitattu asiakirja olemassa ilmoitetulla tunnisteella?
• Vastaako asiakirjan sisältö julkaisun tiivistelmää?
• Onko tapahtuman ajankohta sama eri aineistoissa?
• Kuuluuko mukana oleva kuva kyseiseen tapahtumaan?

Merkitse jokaiselle väitteelle tila: vahvistettu, ristiriitainen tai avoin. Lisää myös perustelu ja lähde. Älä käytä tilaa ”vahvistettu” vain siksi, että sama teksti löytyy useasta paikasta. Kopiot voivat kaikki perustua samaan virheelliseen lähtöaineistoon.

Tallenna tutkittava versio ennen tarkistamista

Verkkosisältö voi muuttua tutkimuksen aikana. Tallenna siksi tutkimuksen kannalta tarpeellinen lähtötilanne: osoite, havaintohetki, julkaisussa näkyvä ajankohta ja olennainen sisältö. Kuvakaappaus näyttää esitystavan, mutta ei yksin säilytä kaikkia teknisiä tietoja.

Jos tiedoston lataaminen on sallittua ja tarpeellista, säilytä alkuperäinen ladattu tiedosto erillään työversioista. Kirjaa, mistä se saatiin. Tarkistussumma auttaa myöhemmin osoittamaan, että käsiteltävä tiedosto on sama kuin tallennushetkellä. Se ei kuitenkaan todista aineiston aitoutta tai väitteiden totuutta.

Pidä myös havainto ja tulkinta erillään. ”Kuvan kyltissä on epäselviä merkkejä” on havainto. ”Kuva on generoitu” on tulkinta, joka vaatii lisänäyttöä. Tämä ero estää alustavaa epäilyä muuttumasta huomaamatta raportin lähtöoletukseksi.

Tarkista viitteet alkuperäisistä julkaisuista

Tekoälysisältö voi sisältää uskottavan näköisiä mutta olemattomia viitteitä. Tarkista erikseen julkaisun nimi, tekijäorganisaatio, päiväys, tunniste ja varsinainen sisältö. Pelkkä toimiva linkki ei vielä tarkoita, että linkin takana oleva sivu tukisi esitettyä väitettä.

Avaa viitattu asiakirja ja etsi kohta, johon väite perustuu. Tarkista myös määritelmät ja rajaukset. Julkaisu voi esimerkiksi käsitellä suunnitelmaa, vaikka tutkittava teksti esittäisi asian jo toteutuneena. Samoin paikallinen havainto voidaan virheellisesti yleistää koko toimialaa koskevaksi.

Jos viitettä ei löydy, kirjaa hakutapa ja tulos. Muotoilu ”viitettä ei löytynyt tarkistetuista lähteistä” on täsmällisempi kuin ”viite on keksitty”. Puuttuminen voi johtua myös siirtyneestä sivusta, virheellisestä otsikosta tai aineiston heikosta löydettävyydestä.

Käytä tunnistimia vihjeinä, älä tuomareina

Tekoälytekstin, generoituja kuvia tai muokattua ääntä arvioivat tunnistimet voivat tarjota tutkittavia vihjeitä. Niiden tulos ei kuitenkaan yksin ratkaise aineiston alkuperää. Arvioon voivat vaikuttaa esimerkiksi kieli, tekstin pituus, jälkikäsittely ja se, millaisella aineistolla menetelmää on arvioitu.

Jos käytät tunnistinta, dokumentoi ainakin:

• työkalun nimi ja käytettävissä oleva versiotieto
• tarkistuksen ajankohta
• syötetty tiedosto tai tekstiversio
• työkalun antama tulos ja sen omat varaukset
• tuloksen vaikutus jatkotutkimukseen.

Älä tulkitse työkalun prosenttilukua automaattisesti todennäköisyydeksi, että sisältö on tekoälyn tuottamaa. Lukeman merkitys riippuu työkalusta. Usean tunnistimen samansuuntainen tuloskaan ei välttämättä ole riippumatonta näyttöä, jos niiden menetelmät tai lähtöaineistot ovat samankaltaisia.

Tutki kuvaa ja ääntä asiayhteydessään

Kuvien oudot varjot, toistuvat tekstuurit ja epäselvät yksityiskohdat voivat antaa syyn lisätarkistuksiin. Samat ilmiöt voivat kuitenkin syntyä myös kuvankäsittelystä, pienestä resoluutiosta tai pakkauksesta. Yksittäinen poikkeama ei riitä varmaksi päätelmäksi tuotantotavasta.

Etsi kuvalle aiempia esiintymiä ja suurempiresoluutioista versiota. Vertaa, ovatko rajaus, kuvateksti tai tapahtumaväite muuttuneet. Käänteinen kuvahaku voi löytää vanhemman käytön, mutta tulokseton haku ei osoita kuvan olevan uusi tai generoitu.

Äänestä kannattaa tarkistaa julkaisuketju, mahdollinen kokonainen tallenne ja siihen liittyvät asiakirjat. Luonnolliselta kuulostava ääni ei todista tallenteen alkuperää, eikä katkonainen puhe yksin osoita synteettistä tuotantoa. Äänen tai ulkonäön perusteella ei pidä tehdä varmoja henkilöllisyyspäätelmiä.

Arvioi alkuperätietojen todistusvoima

Tiedoston metatiedot ja sisältöön liitetyt alkuperätiedot voivat auttaa selvittämään käsittelyhistoriaa. Esimerkiksi C2PA-pohjaiset sisältötunnisteet voivat tarjota allekirjoitettuja tietoja aineiston alkuperästä tai muokkausvaiheista. Tarkista silti, mitä tietoja ne tosiasiassa sisältävät ja onnistuuko niiden tekninen validointi.

Kelvollinen allekirjoitus ei yksin todista kuvattua tapahtumaa todeksi. Arvioinnissa on huomioitava myös allekirjoittaja, luottamusketju ja se, mitä väitteitä allekirjoitus kattaa. Vastaavasti alkuperätietojen puuttuminen ei todista manipulaatiota: tiedot voivat kadota esimerkiksi julkaisualustan käsittelyssä.

Käsittele alkuperätietoja yhtenä näyttökerroksena. Vahvempi kokonaisuus syntyy, kun tekniset tiedot, julkaisuhistoria ja toisistaan riippumattomat tapahtumalähteet tukevat samaa rajattua johtopäätöstä.

Suojaa aineisto myös tarkistusvaiheessa

Ulkopuoliseen analyysipalveluun lataaminen on aineiston luovuttamista palveluntarjoajalle. Ennen käyttöä tarkista palvelun ehdot, säilytyskäytännöt ja mahdollinen käyttö mallien kouluttamiseen. Älä oleta palvelun olevan luottamuksellinen vain siksi, että se on tarkoitettu tutkimukseen.

Jos aineistossa on henkilötietoja, arvioi käsittelyn oikeusperuste, tarpeellisuus ja mahdolliset siirrot EU- tai ETA-alueen ulkopuolelle. Julkisesti saatavilla oleva aineisto ei lakkaa olemasta henkilötietoa. Suosi tarvittaessa paikallista käsittelyä tai sellaista työversiota, josta tarpeettomat henkilötiedot on poistettu.

Säilytä alkuperäinen aineisto hallitusti ja dokumentoi työversion muutokset. Rajaus tai anonymisointi voi vaikuttaa tunnistimen tulokseen, joten analyysin kohde on kuvattava täsmällisesti. Älä myöskään laajenna epäilyttävän sisällön levikkiä tarpeettomasti julkaisemalla sitä kokonaisuudessaan.

Päätä tarkistus näytön, älä vaikutelman perusteella

Määritä lopuksi, mikä kysymys ratkesi ja mikä jäi avoimeksi. Tuotantotapa voi jäädä epäselväksi, vaikka tapahtumaväite osoittautuisi vääräksi. Vastaavasti tekoälyn käytöstä voi olla näyttöä ilman, että sisällön asiasisältö olisi virheellinen.

Hyvä yhteenveto nimeää tarkistetun väitteen, sitä tukevat ja vastustavat havainnot sekä keskeiset rajoitukset. Se kertoo myös, mikä lisäaineisto voisi muuttaa arviota. Vältä yleistä leimaa ”väärennös”, jos näyttö koskee vain väärää kuvatekstiä tai todentamatonta viitettä.

Yhteenveto

OSINT-tutkimuksessa tekoälysisällön arviointi on ennen kaikkea väitteiden ja alkuperän tarkistamista. Tallenna tutkittava versio, pilko sisältö tarkistettaviin osiin ja käytä teknisiä tunnistimia vain tukena. Kun erotat havainnot tulkinnoista, voit tuottaa hyödyllisen johtopäätöksen myös silloin, kun aineiston tuotantotapa jää avoimeksi.