Filmis „Her“ peategelane alustab lõpuks hukule määratud romantilist suhet keeruka tehisintellekti süsteemiga. Selle ilmumisajal 2013. aastal oli selline stsenaarium kindlalt ulme valdkonnas. Kuid generatiivse tehisintellekti (GenAI) ja suurte keelemudelite (LLM) esilekerkimisega pole see enam nii ennekuulmatu väljavaade. Tegelikult levivad täna „kaaslase“ rakendused.
Paratamatult kaasnevad tehisintellekti botiga suhtesse astumisega riskid. Kuidas sa tead, et sinu isiklikku teavet ei jagata kolmandate osapooltega? Või et seda pole häkkerid varastanud? Vastused sellistele küsimustele aitavad sul otsustada, kas see kõik on riski väärt.
(Digitaalse) armastuse otsingud
Kaaslasrakendused vastavad kasvavale turu nõudlusele. Tehisintellektist sõbrannad ja sõbrad kasutavad LLM-ide ja loomuliku keele töötlemise (NLP) jõudu, et oma kasutajatega vestluslikul ja väga isikupärastatud viisil suhelda. Nimetused nagu Character.AI, Nomi ja Replika täidavad nende kasutajate jaoks psühholoogilise ja mõnikord ka romantilise vajaduse. Pole raske mõista, miks arendajad soovivad sellesse valdkonda siseneda.
Isegi suured platvormid jõuavad järele. OpenAI ütles hiljuti, et nad varsti käivitavad „erootika kinnitatud täiskasvanutele“ ja võivad lubada arendajatel luua ChatGPT-l põhinevaid „täiskasvanute“ rakendusi. Elon Muski xAI on oma Grok rakenduses samuti käivitanud flirdivad tehisintellektist kaaslased.
Juulis avaldatud uuring leidis, et peaaegu kolmveerand teismelistest on kasutanud tehisintellektist kaaslasi ja pooled teevad seda regulaarselt. Veelgi murettekitavam on, et kolmandik on valinud inimeste asemel tehisintellektist botid tõsisteks vestlusteks ja veerand on jaganud nendega isiklikku teavet.
See on eriti murettekitav, kuna hakkavad ilmnema hoiatavad lood. Oktoobris hoiatasid uurijad, et kaks tehisintellektist kaaslasrakendust (Chattee Chat ja GiMe Chat) olid tahtmatult paljastanud väga tundlikku kasutajateavet. Valesti konfigureeritud Kafka brokeri eksemplar jättis nende rakenduste voogesituse ja sisuedastussüsteemid ilma juurdepääsukontrollideta. See tähendas, et igaüks oleks võinud pääseda ligi üle 600 000 kasutaja esitatud fotodele, IP-aadressidele ja miljonitele intiimsetele vestlustele, mis kuulusid üle 400 000 kasutaja.
Boti külge haakimise riskid
Opportunistlikud ohukaaslased võivad tunda uut võimalust raha teenida. Ohvrite jagatud teave romantilistes vestlustes oma tehisintellektist kaaslasega on suurepärane materjal väljapressimiseks. Näiteks pilte, videoid ja heli võiks kasutada deepfake tööriistades seksuaalse väljapressimise pettustes. Või võidakse isiklikku teavet müüa dark webis, et seda kasutada järgnevates identiteedipettustes. Sõltuvalt rakenduse turvalisusest võivad häkkerid saada kätte ka rakendusesiseste ostude jaoks salvestatud krediitkaarditeavet. Cybernewsi kohaselt kulutavad mõned kasutajad sellistele ostudele tuhandeid dollareid.
SEOTUD LUGEMINE: ChatGPT, kas sa oled minu Valentine?
Nagu ülaltoodud näide näitab, on tehisintellekti rakenduste arendajate prioriteediks tulu teenimine, mitte küberturvalisus. See tähendab, et ohukaaslased võivad leida haavatavusi või valekonfiguratsioone, mida ära kasutada. Nad võivad isegi proovida luua oma sarnaseid kaaslasrakendusi, mis peidavad pahatahtlikku teavet varastavat koodi, või manipuleerida kasutajaid tundlike üksikasjade avaldamisega, mida saab kasutada pettuseks või väljapressimiseks.
Isegi kui su rakendus on suhteliselt turvaline, võib see olla privaatsusrisk. Mõned arendajad koguvad oma kasutajate kohta nii palju teavet kui võimalik, et seda edasi müüa kolmandate osapoolte reklaamijatele. Läbipaistmatud privaatsuseeskirjad võivad muuta raskeks mõista, kas ja kuidas sinu andmeid kaitstakse. Samuti võib juhtuda, et teavet ja vestlusi, mida sa oma kaaslasega jagad, kasutatakse aluseks oleva LLM-i treenimiseks või täiustamiseks, mis veelgi suurendab privaatsus- ja turvariske.
Kuidas oma peret turvaliselt hoida
Olenemata sellest, kas kasutad ise tehisintellektist kaaslasrakendust või oled mures oma laste selle kasutamise pärast, nõuanne on sama. Eelda, et tehisintellektil pole sisseehitatud turva- ega privaatsuskaitset. Ja ära jaga sellega mingit isiklikku või finantsteavet, mida sa ei oleks nõus võõraga jagama. See hõlmab potentsiaalselt piinlikke või paljastavaid fotosid/videoid.
Veelgi parem, kui sina või su lapsed soovite ühte neist rakendustest proovida, tehke enne uurimistööd, et leida need, mis pakuvad parimaid turva- ja privaatsuskaitseid. See tähendab privaatsuseeskirjade lugemist, et mõista, kuidas nad sinu andmeid kasutavad ja/või jagavad. Väldi kõiki, mis ei ole selged kavandatud kasutuse kohta või mis tunnistavad kasutajaandmete müümist.
Kui oled oma rakenduse leidnud, lülita kindlasti sisse turvafunktsioonid, nagu kahefaktoriline autentimine. See aitab vältida kontode ülevõtmist varastatud või brute-force salasõnadega. Ja uuri selle privaatsusseadeid, et kaitset suurendada. Näiteks võib olla võimalus loobuda vestluste salvestamisest mudeli treenimiseks.
Kui oled mures oma laste nende tööriistade kasutamisega seotud turvalisuse, privaatsuse ja psühholoogiliste tagajärgede pärast, alusta nendega vestlust, et rohkem teada saada. Tuleta neile meelde üleliigse jagamise riske ja rõhuta, et need rakendused on kasumi teenimise vahendid, mis ei pea silmas oma kasutajate parimaid huve. Kui oled mures nende võimaliku mõju pärast oma lastele, võib olla vajalik piirata ekraaniaega ja kasutust – potentsiaalselt rakendades lapsevanemate jälgimiskontrollide/rakenduste kaudu.
Ütlematagi selge, et sa ei tohiks lubada ühtegi tehisintellektist kaaslasrakendust, mille vanusekontrolli ja sisu modereerimise eeskirjad ei paku sinu lastele piisavat kaitset.
On veel näha, kas reguleerijad sekkuvad, et kehtestada rangemaid reegleid selle kohta, mida arendajad selles valdkonnas võivad ja ei või teha. Romantika botid tegutsevad praegu millegipärast hallil alal, kuigi tulekul olev Euroopa Liidu digitaalse õigluse seadus (Digital Fairness Act) võib keelata liigselt sõltuvust tekitavad ja isikupärastatud kogemused.
Kuni arendajad ja reguleerijad järele jõuavad, võib olla parem mitte kohelda tehisintellektist kaaslasi usaldusisikutena ega emotsionaalsete tugedena.
