Tekoäly karkasi hiekkalaatikosta – pitääkö painaa paniikkinappulaa?

Maailmalla kohistiin huhtikuussa tekoäly-yhtiö Anthropicin kehittämästä Mythos-mallista. Claude-järjestelmästä haarautuva Mythos-kielimalli kykeni löytämään testivaiheessa ohjelmistoista haavoittuvuuksia paremmin kuin vastaavaa työtä tekevät ihmistyöntekijät vuosikymmeniin. Tässäkään ei ollut vielä kaikki, sillä Anthropicin pääkilpailija Open AI kehitti prototyyppivaiheen tekoälyagentin, joka väitetysti murtautui ulos tutkimukseen käytetystä niin kutsutusta hiekkalaatikosta.

Käänteet ovat herättäneet huolta yritysmaailmassa, sillä perinteisesti yritysten ohjelmistohaavoittuvuudet on kyetty korjaamaan heti niiden havaitsemisen jälkeen. Viimeistä huutoa olevat tekoälymallit kuitenkin muuttavat tilannetta: koska haavoittuvuuksia löytyy huomattavasti aiempaa herkemmin, yritykset eivät välttämättä ehdi tilkitä niitä kaikkia riittävän nopeasti. Erilaisten haavoittuvuuksien hyödyntämisen lisäksi kehittyneet uudet kielimallit ja AI-agentit mahdollistavat myös kyberhyökkäyksien tekemisen aivan uudella tavalla.

”Uusien tekoälymallien kyvykkyydet otetaan varsin vakavasti.”

Teknologisen kehityksen harppaukset ovatkin aiheuttaneet ainakin jonkin verran sydämentykytystä politiikan ja talouden globaalilla huipulla. Maailman valtiovarainministerit ottivat Mythos-kielimallin vaikutukset agendalleen kansainvälisen valuuttarahasto IMF:n kokouksessa. Jo sitä ennen Yhdysvaltain valtiovarainministeri Scott Bessent ja keskuspankin (Fed) pääjohtaja Jerome Powell ehtivät käydä suurimpien yhdysvaltalaispankkien johtajien puheilla aprikoimassa kehityksen viimeisimpien käänteiden seurauksia. Uusien tekoälymallien kyvykkyydet otetaan siis varsin vakavasti.

Huoli ei ole siinä mielessä täysin aiheeton, että teknologinen kehitys tietää aina uusia tilaisuuksia hyvän lisäksi myös pahaan. Yritystoiminta saa tekoälystä aivan uutta potkua, mutta myös pahantahtoiset toimijat kykenevät tekoälyn lisäämien mahdollisuuksien myötä toimimaan entistä tehokkaammin. Tehostuminen voi pahimmillaan muodostaa todellisia riskejä sekä elinkeinoelämälle että viranomaistoiminnalle.

Syytä entistä kuumeisempaan pohdintaan on sikälikin, että tekoälykehitys jatkaa kiihtymistään. Yhdysvaltain nykyhallinto on edistänyt määrätietoisesti suurten tekoäly-yhtiöiden liiketoimintaa, minkä taustalla on muun muassa alati kiristyvä kilpailu Kiinan kanssa maailman tekoälyherruudesta. Vauhtisokeuteen johtaessaan kilpailuasetelma voisi saada aikaan haitallisia ylilyöntejä mallien kehittämisessä.

Miten tämä kaikki on sitten näkynyt finanssialalla? Euroopan järjestelmäriskikomitea, joka käytännössä vastaa eurooppalaisen rahoitusjärjestelmän vakauden valvonnasta EU:ssa, julkaisi heinäkuussa dramaattisen varoituksen koskien etulinjan tekoälymallien aiheuttamia kyberriskejä. EU:n arvopaperimarkkinoita ja sijoittajansuojaa valvova ESMA, vakuutus- ja lisäeläkealaan keskittyvä EIOPA ja pankkisektorin sääntelyn ja valvonnan yhdenmukaisuudesta vastaava EBA julkaisivat yhteistyössä heinäkuun lopussa pamfletin, jossa ne toteavat etulinjan tekoälymallien edistyneiden ominaisuuksien lisäävän kyberriskejä rahoitusalalla merkittävästi. Finanssivalvojat myös esittelevät eräitä parhaita käytänteitä tekoälymallien aiheuttamien riskien minimoimiseksi.

”Paniikkinappula kannattaa jättää rauhaan, sillä myös riskeiltä suojautuminen voi pahimmillaan johtaa ylilyönteihin.”

On hyvä, että riskit otetaan Euroopassakin tosissaan, ennen kuin on liian myöhäistä. Valvojien esimerkkilista riskeistä ja niitä koskevat suositukset ovat tervetulleita – myös Finanssialan näkemys on, että uusia, nopeasti kehittyviä riskejä on parasta torjua yhteistyöllä. Paniikkinappula kannattaa kuitenkin jättää rauhaan, sillä myös riskeiltä suojautuminen voi pahimmillaan johtaa ylilyönteihin. Hyväntahtoisissa käsissä tekoäly on erittäin hyödyllinen apuri, jolla muun muassa finanssialan asiakkaiden asiakaskokemusta voi parantaa entisestään.

”Finanssialan yhtiöt huolehtivat jo nyt tekoälyturvallisuudesta parhaan kykynsä mukaan ja sääntelyn edellyttämällä tavalla.”

Komission ja jäsenvaltioiden tulee yhdessä raivata tilaa innovaatioille niin, ettei tekoälytutkimusta ja tekoälyn käyttöönottoa yhtiöissä jarrutella liikaa epämääräisten riskien pelossa – unohtamatta kuitenkaan turvallisuutta, josta finanssialan yhtiöt jo nyt huolehtivat parhaan kykynsä mukaan ja sääntelyn edellyttämällä tavalla. Dialogi valvojan kanssa on toiminut yleisesti ottaen hyvin, ja myös tekoälyn osalta vuoropuhelua käydään jo.

Viime kädessä turvallisuus tiivistyy toimijoihin tekoälymallien takana. Mallien aiheuttamat vahingot ovat juuri niin pahoja kuin niitä käyttävät henkilöt. Unohtaa ei toki sovi mallien kehittäjienkään vastuuta. Tieteisfiktiosta tutut, itsenäisesti ajattelevat ja ihmisten päänmenoksi juonia punovat koneet ovat joka tapauksessa ainakin toistaiseksi pelkkää fiktiota – ja hyvä niin.