Heas või halvas, chatbotid muudavad seda, kuidas me mõtleme, õpime ja tajume meid ümbritsevat maailma. Selline murrang avaldub paljudes eluvaldkondades, kuid ehk üks kõige tundlikumaid ja sageli murettekitavamaid on generatiivse tehisintellekti (GenAI) vahendite kasvav kasutamine tervishoius. Lisaks mitmetele vabalt kättesaadavatele AI-chatbotidele on suured tehnoloogiaettevõtted astunud tarbijatele suunatud tervise-AI turule, tuues turule sellised teenused nagu Copilot Health, ChatGPT Health ja Amazoni HealthAI, mis aitavad kasutajatel tõlgendada oma haiguslugu ning küsida küsimusi oma sümptomite, laboritulemuste ja ravivõimaluste kohta.
Kuid on ohtlik oodata, et tehisintellekti tööriist võtaks üle teie arsti rolli. Samuti ei seisne risk mitte ainult selles, et kasutajad saavad valesid nõuandeid, vaid ka selles, et nad võivad jagada väga tundlikku isiklikku teavet süsteemidega, mille privaatsuskaitse, andmete jagamise tavad ja juriidilised kohustused võivad erineda arsti või haigla omadest, ning et nende andmed võivad sattuda ootamatute osapoolte kätte. Ühe Ameerika Ühendriikide patsiendi ohutuse organisatsiooni sõnul on AI-chatbotite väärkasutamine üldiselt praegu suurim tervishoiutehnoloogia oht.
Teooriast praktikasse
Põhjus, miks mudelite loojad selles valdkonnas tegutsema hakkavad, on ilmne: chatbotid on muutunud väga populaarseks viisiks meditsiinilise nõu otsimiseks. Microsofti andmetel räägivad inimesed oma mobiilseadmetes oma tervisest ja lähedaste tervisest rohkem kui mistahes muust teemast. Chatbotid on kättesaadavad ööpäevaringselt ja neil on vastus kõigele, mida nad edastavad kindla hääletooniga, mis aitab närvilistel patsientidel rahuneda.
Ajal, mil riiklikud tervishoiusüsteemid on üha suurema koormuse all, teeksid paljud inimesed tõenäoliselt AI abil ise diagnoosi, enne kui otsustavad arsti poole pöörduda. Aeg, vaev ja potentsiaalsed kulud, mis kaasnevad sisenemisega labürindilisse tervishoiusüsteemi, võrreldes kodus triage’iga, muudavad selle populaarseks viisiks asju ajada.
Siiski on juba tekkinud mureküsimused. Esimene neist on seotud hallutsinatsioonide või vale nõuandega. Veebruaris avaldatud Oxfordi ülikooli uuring ajakirjas Nature Medicine , leidis:
- Kasutajad ei teadnud sageli, millist teavet nad LLM-iga jagama peaksid
- LLM-id andsid väga erinevaid vastuseid, isegi kui neile esitatud küsimused erinesid vaid veidi
- Mudelid andsid sageli nii häid kui ka halbu nõuandeid, kuid kasutajatel oli raske neid kahte eristada
„Kõigest sellest hüppest hoolimata ei ole tehisintellekt veel valmis arsti rolli üle võtma,” hoiatas uuringu juhtiv arst dr Rebecca Payne. „Patsiendid peavad olema teadlikud, et suure keelemudeli küsitlemine oma sümptomite kohta võib olla ohtlik, andes valesid diagnoose ja suutmata ära tunda, millal on vaja kiiret abi.”
Privaatsusriskide avastamine
On ka tervisega mitteseotud riske, mis peaksid inimesi mõtlemisele ajendama. Kõige ilmsem on see, et tundliku meditsiinilise teabe jagamine avalikult kättesaadava chatbotiga võib tähendada, et andmeid kasutatakse mudeli koolitamiseks ja seetõttu levitatakse neid edasi teistele. Isegi tahtmatult on mudelid teadaolevalt kogemata avalikustanud kasutajate sisestatud andmeid.
Mõned teenusepakkujad võivad andmeid kasutada oma mudelite täiustamiseks, kui kasutajad sellest loobuda ei soovi, samas kui teised annavad kindlama lubaduse tervisega seotud teavet koolitamiseks mitte kasutada. Igal juhul peaks igaüks enne tundliku teabe üleslaadimist teadma, millise teenusega on tegemist. Teie terviseandmed ei ole nagu varastatud krediitkaart, mida saab blokeerida, kuni andmed asendatakse ja kaart uuesti välja antakse. Need kuuluvad teile kogu elu ja kui need on kord AI-tööriistaga jagatud, võivad need muutuda püsivaks digitaalseks andmekandjaks.
Teisalt lubavad enamik peamisi tervisele keskenduvaid chatbote, et ei kasuta neid andmeid koolituse eesmärgil. Siiski on koolitus vaid üks osa privaatsuse pildist ning teenused ei pruugi anda samu lubadusi kolmandate osapooltega andmete jagamise kohta. Teie isiklikud meditsiinilised andmed võivad sattuda andmete koondaja kätte, kes on kolmas osapool, mis asub mudeli pakkuja ja teie tervishoiuteenuse osutaja vahel. Neid võidakse jagada ka reklaamijatega, kas otse või ühe sellise koondaja kaudu, kuigi need anonüümistatakse tavaliselt enne kasutamist. Sellest hoolimata peaksid inimesed olema ettevaatlikud: terviseandmed on erakordselt tundlikud ja anonüümistamine ei kõrvalda alati kõiki riske.
Kui rikkumisrisk mitmekordistub
Probleem tundlike andmete liikumisel nii paljude organisatsioonide vahel on see, et on suurem tõenäosus, et need võivad sattuda digitaalsete varguste ja petturite kätte. USA seadusandjad väidavad, et on tuvastanud 21 miljardi dollari suuruse kahju, mis on seotud mõne andmevahendaja rikkumisega. Tervisandmeid on petturitel mitmel põhjusel väga lihtne rahaliselt ära kasutada:
- See säilitab oma väärtuse pikka aega, kuna seda ei saa tavaliselt asendada ega uuesti välja anda
- See võib sisaldada kindlustusandmeid, mille abil esitada võltsitud nõudeid või saada teie nimel meditsiiniteenuseid
- Seda võidakse kasutada teie šantažeerimiseks
Mida rohkem ettevõtteid neid andmeid hoiab, seda rohkem on häkkeritel võimalusi neid ohustada ja varastada. Probleem on selles, et enamikku tervishoiu AI-tööriistu ei reguleeri HIPAA, kuna neid klassifitseeritakse pigem tarbijatele kui ettevõtetele suunatud teenustena. See tähendab, et teenusepakkujad ei pruugi alluda sellistele rangetele andmekaitse-eeskirjadele, mida tavaliselt oodata võiks.
Nõuanded patsientidele
Kuidas saate siis minimeerida tervishoiu GenAI-ga seotud riske? Kui olete mures oma tervisliku seisundi pärast, vältige üldotstarbelisi botte ja otsige selle asemel neid, mis on spetsiaalselt loodud tervisega seotud küsimustele vastamiseks. Kontrollige, kas teenus selgitab, kuidas teie andmeid käsitletakse, kas teie sisestusi kasutatakse õppimiseks, kas teavet jagatakse kolmandate osapooltega ja kas teenus on hõlmatud HIPAA-ga või teie riigis kehtiva samaväärse privaatsusrežiimiga.
Ärge usaldage pimesi väljundit, kui selle kontrollimiseks pole viiteid. Ja isegi siis ärge võtke vastuseid tõe pähe: kontrollige alati meditsiinitöötaja ja/või ametliku veebisaidi (nt NHS, MedlinePlus) abil.
Oma privaatsuse kaitsmiseks võtke arvesse järgmist:
- Ärge kunagi jagage ega laadige üles meditsiinidokumente, laboritulemusi ega muid tundlikke dokumente tehisintellekti tööriistaga, kui te ei mõista, kuidas tööriist neid andmeid käsitleb.
- Väldi nimede, aadresside, kindlustusandmete, patsiendinumbrite või muude identifitseerivate andmete sisestamist.
- Veenduge, et koolitus- ja vestlusajaloo funktsioonid on välja lülitatud.
- Jagage ainult ülesande täitmiseks vajalikku miinimumteavet.
- Eeldage, et kõik, mida sisestate, võidakse säilitada või avalikustada, ning kohandage oma sisestusi vastavalt.
Lõppkokkuvõttes võivad AI-chatbotid olla kasulikud, et mõelda välja küsimusi, mida arstile konkreetse terviseprobleemi kohta küsida, või selgitada meditsiinitermineid, millega te pole tuttav. Kuid on suur vahe, kas kasutada AI-d ravi ettevalmistamiseks või ravi asendamiseks. Ärge võtke kindlat vastust diagnoosina ega ignoreerige kiireloomulisi sümptomeid, kuna masin kõlas veenvalt.
