Romantiikkaa etsivien on syytä suhtautua varauksella rakkauttaan tarjoaviin chatbotteihin, varoittaa Mozilla. Rakkausbotit muodostavat mahdollisesti merkittävän tietosuojariskin käyttäjilleen.
Mozillan Privacy Not Included -raportissa tarkasteltiin 11 “AI-sielunkumppania”, joista yksikään ei tarjonnut käyttäjilleen riittävällä tasolla yksityisyyttä ja tietoturvaa. Kymmenen chatbottia ei myöskään täyttänyt Mozillan vähimmäisstandardeja turvallisuuden suhteen esimerkiksi tietoturva-aukkojen suhteen. Ne eivät myöskään vaatineet käyttäjältä vahvaa salasanaa. Tutkijat huomauttivat myös, että sovellusten tietosuojakäytännöt eivät juurikaan tarjonneet tietoa siitä, kuinka esimerkiksi käyttäjien keskustelujen sisältöä käytetään tekoälyn kouluttamiseen. Käyttäjillä näytti myös olevan olevan vähän tai ei lainkaan valtaa sen suhteen, mihin heidän tietojaan käytetään. Vain yksi toimijoista, Genesia AI, sallii käyttäjän kieltäytyä luovuttamasta keskusteluidensa sisältöä tekoälyn koulutukseen.
tutkimusta johtanut Jen Caltrider on erityisen huolissaan siitä, että sovellukset on suunniteltu houkuttelemaan käyttäjät luovuttamaan mahdollisimman paljon henkilökohtaista tietoa. Mitä enemmän käyttäjä kertoo itsestään, sitä laadukkaampaa keskustelu tekoäly on.
– Olet rakentanut chatbotin, joka oppii tuntemaan mahdollisesti haavoittuvassa asemassa olevan henkilön, luomaan yhteyden ja ryhtymään hänen ystäväkseen. Tällöin chatbotia voidaan käyttää heidän ajattelunsa ja toimintansa manipuloimiseen, selittää Caltrider TechNewsWorld-lehdelle.
Uudenlainen tietosuojauhka
Tekoälyä hyödyntävien rakkaussovellusten määrä on raportin mukaan huimassa kasvussa. Pelkästään raportissa tarkastellut 11 chatbotia olivat keränneet arviolta 100 miljoonaa latausta Google Play -kaupassa.
Monikanavaisen viestintäyhtiö Propeller Insights for Infobipin hiljattaisessa tutkimuksessa 20 prosenttia amerikkalaisista myönsi flirttailevansa chatbotin kanssa. 35–44-vuotiaiden joukossa luku oli jo yli 50 prosenttia. Kyselyn mukaan yleisimmät syyt tekoälyn kanssa flirttailuun olivat uteliaisuus (47,2 %), yksinäisyys ja ilo vuorovaikutuksesta chatbottien kanssa (23,9 %).
– Yksinäisyys lisääntyy ja moni kääntyy chatbottien puoleen saadakseen kumppanuutta ja henkistä tukea. On kuin sinulla olisi taskussa ystävä, joka on aina käytettävissäsi, hän kertoi TechNewsWorldille.
Mozillan raportissa huomautetaan monien tekoälysovellusten käyttävän harhaanjohtavaa markkinointia. Osa sovelluksista esimerkiksi kuvailee itseään mielenterveys- ja hyvinvointipaveluita tarjoavaksi sovellukseksi. Tällaiset hyödyt kuitenkin kiistetään käyttöehdoissa.
Tekoälykäyttöiset romanssichatbotit muodostavat ainutlaatuisen uhan yksityisyydelle. uudenlainen tapa kerätä arkaluonteista tietoa käyttäjistä kasvattaa muun muassa identiteettivarkauksien, tietomurtojen ja kiristysyritysten riskiä. Siksi on erityisen tärkeää varmistaa, että käyttäjä voi halutessaan poistaa käymiään keskusteluja ja ettei yksityisissä keskusteluissa esiin tullutta tietoa koskaan luovuteta kolmansille osapuolille.
– Rakkausbotit voivat olla loistava työkalu seksuaalisuuttaan tutkaileville ihmisille. Sen kanssa voi käydä keskusteluja, joita käyttäjä ei uskaltaisi käydä oikean henkilön kanssa. Tämä kuitenkin toimii vain, jos chatbotilla on erittäin vahvat tietosuojakäytännöt, painottaavoittoa tavoittelemattoman Electronic Frontier Foundationin edustaja Jacob Hoffman-Andrews lehdessä.
Lue myös: Tekoäly ja deittailu: miltä tulevaisuus näyttää?
Lähteet: TechNewsWorld