Varjo-AI hiipii työpaikoille – luottamukselliset tiedot valuvat tekoälyyn ilman että kukaan huomaa
Tietovuoto ei aina näytä murrolta. Yhä useammin se on työntekijä, joka liimaa luottamuksellista tekstiä ilmaiseen tekoälytyökaluun – ja palvelu saa pitää sen.
Tiivistelma
Varjo-AI tarkoittaa tekoälypalveluja, joita työntekijät ottavat käyttöön omin päin ilman organisaation lupaa ja valvontaa. Liimattu lähdekoodi, asiakastieto tai sopimusluonnos voi jäädä palvelun haltuun ja päätyä mallin opetukseen. Samsungin tapaus näytti, kuinka nopeasti tämä tapahtuu, ja tuoreet luvut kertovat ilmiön kasvavan.
Työntekijä jää jumiin tarjouksen kanssa. Ilmaista tekoälyapuria on helppo kokeilla, joten asiakkaan nimi, hinnat ja sopimusehdot liimataan keskusteluikkunaan – ja muutamassa sekunnissa luottamuksellinen tieto on poistunut talon hallinnasta. Kukaan ei huomaa mitään, koska mitään ei näytä tapahtuneen.
Tästä ilmiöstä käytetään nimitystä varjo-AI. Se tarkoittaa tekoälypalveluja, jotka työntekijät ottavat käyttöön omin päin organisaation hyväksynnän, valvonnan ja ohjeistuksen ulkopuolella, ja riski ei synny hyökkäyksestä vaan arkisesta avuliaisuudesta.
Akimatti Katainen, Atean asiantuntija, muistuttaa Kauppalehdessä, että henkilökohtaisten tekoälytyökalujen käyttö työasioissa on aito yritystiedon tietoturvariski.
– Henkilökohtaisten tekoälytyökalujen käyttö työtehtävissä on todellinen riski yrityksen tiedoille, Katainen muistuttaa.
Tieto valuu nopeammin kuin uskoisi
Kuinka paljon arkaluonteista tietoa tekoälyyn oikein liimataan? Tietoturvayhtiö Cyberhavenin selvitys antaa karun vastauksen.
Yrityksen tekoälytyökaluihin syötetystä datasta 34,8 prosenttia on arkaluonteista. Vuotta aiemmin osuus oli 27,4 prosenttia ja kaksi vuotta sitten vain 10,7 prosenttia. Käyrä kääntyy jyrkästi ylös.
Eniten alttiina on lähdekoodi (18,7 prosenttia), tuotekehitysaineisto (17,1 prosenttia) ja myynti- ja markkinointidata (10,7 prosenttia). Cyberhaven arvioi, että keskimääräinen työntekijä syöttää arkaluonteista tietoa tekoälytyökaluun suunnilleen joka kolmas päivä.
Työkalutkaan eivät ole turvallisia oletuksena. Cyberhaven arvioi, että 71,7 prosentissa käytetyistä yritystason tekoälypalveluista on korkea tai kriittinen tietoturvariski.
Samsung näytti, miten tämä menee
Maaliskuussa 2023 Samsung salli insinööreilleen ChatGPT:n käytön. Noin 20 päivän sisällä yrityksen luottamuksellista tietoa vuoti kolme kertaa.
Ensin liimattiin puolijohteiden lähdekoodia, sitten kokouksen nauhoituksen litterointi ja lopuksi sirujen testaussekvenssejä. Toukokuuhun 2023 mennessä Samsung oli kieltänyt ulkoisten generatiivisten tekoälypalvelujen käytön yrityksen laitteilla. Tuolloin OpenAI:n oletusasetuksilla syötteitä voitiin käyttää mallin opettamiseen.
Tunnistusmerkit ja riskitilanteet
Vaara ei ole oikeastaan abstrakti. Se konkretisoituu muutamassa toistuvassa tilanteessa.
- Liimaat asiakastietoa, henkilötietoa, lähdekoodia, salasanoja tai julkaisematonta liiketoimintatietoa ilmaiseen tai kuluttajaversion tekoälytyökaluun.
- Et tiedä versioiden eroa. Ilmaisversiot saattavat säilyttää syötteet opetuskäyttöön, kun taas maksulliset yritysversiot eristävät datan sopimuksella.
- Käytät henkilökohtaista tekoälytiliä työhön, koska "hyväksyttyä työkalua ei ole". Juuri näin varjo-AI leviää.
Kyberturvallisuuskeskus varoittaa blogikirjoituksessaan "Älykkäät avustajat, uudet riskit", että tekoälyavustajat käsittelevät arkaluonteista tietoa kuten henkilötietoja, strategioita ja asiakastietoja. Keskuksen mukaan riskeinä ovat tietovuodot, mallin manipulointi ja puuttuva pääsynhallinta sekä lokitus. Ohje on selkeä: arkaluonteista tietoa ei syötetä avustajiin, ja tulokset tarkistetaan.
Mitä tehdä
Käytännön linja on yksinkertainen, vaikka se vaatii itsekuria.
- Käsittele kaikkea julkiseen tekoälytyökaluun kirjoittamaasi mahdollisesti julkisena. Älä koskaan liimaa luottamuksellista tai henkilötietoa.
- Käytä vain työnantajan hyväksymiä työkaluja. Jos sellaista ei ole, kysy esimieheltä äläkä siirry hiljaa varjoon.
- Kytke chat-historia tai mallin opetuskäyttö pois päältä siellä, missä työkalu sen sallii.
- Tarkista tekoälyn tuottama vastaus aina ennen kuin toimit sen perusteella.
- Jos henkilötietoja sisältävä tieto on vuotanut, ilmoita asiasta tietosuojavaltuutetulle.
Sääntely on jo kirinyt arjen kiinni. EU:n tekoälyasetuksen artikla 4 velvoittaa tekoälylukutaitoon käytännössä jokaisen ChatGPT:tä tai Copilotia käyttävän suomalaisyrityksen, ja Euroopan tietosuojaneuvosto on antanut lausunnon tekoälymalleista ja tietosuojaperiaatteista.
Varjo-AI ei katoa kielloilla, sillä työntekijät kokeilevat sitä, mikä helpottaa työtä. Jää nähtäväksi, kuinka moni organisaatio ehtii tarjota turvallisen vaihtoehdon ennen kuin seuraava sopimusluonnos on jo liimattu väärään ikkunaan.