Mida arvate tehisintellekti arengust andmepüügis? (teema 14)

[AlanZurbenko]

Tehisintellekti kasutatakse üha enam mitte ainult kasulikel eesmärkidel, vaid ka küberkuritegevuses. Andmepüügi kirjad on nüüdseks kompetentselt ja vigadeta koostatud, dipfake'id muutuvad peaaegu eristamatuks tõelistest videotest ja häälte võltsingud võimaldavad petturitel „helistada sugulaste või ülemuste nimel“.

Kas olete kogenud tehisintellekti kasutamist pettuses?
Kuidas te arvate, et saate end selliste ohtude eest kaitsta?

[Kandiline Kilpkonn]

Mida rohkem ja paremini tehisintellekt inimest imiteerida suudab (kirjutada veatuid kirju, teha inimese häält ja luua täiesti realistlikke ning usutavaid olukordi), seda raskem on end selle eest kaitsta. Ettevaatlikusest või talupojamõistusest ei pruugi enam piisata.

Õnneks ei ole see (vist) veel tänaseks nii kaugele arenenud, vähemalt ise ei ole kokku puutunud. Samas oleks mõistlik juba praegu selle peale mõelda kuidas sellisteks olukordades paremini valmis olla, enne kui need päris igapäevaseks muutuvad.

Aga nii nagu igale mürgile leitakse lõpuks ka vastumürk, leitakse ühel hetkel ka neile uutele ohtudele lahendused. Ja kui ohtusid põhjustab tehisintellekt, siis miks mitte panna nende vastu tööle ka tehisintellekt ise?

[Kass Arthur]

Pean tunnistama, et mina isiklikult ei ole veel kokku puutunud olukorraga, kus keegi oleks püüdnud mind petta tehisintellekti abil. Samas olen teadlik, kui kiiresti need tehnoloogiad arenevad ja kui usutavaks võivad muutuda tehisintellekti abil loodud andmepüügi kirjad. Kui veel mõni aeg tagasi sai pettustest aru vigase keelekasutuse tõttu, siis täna võib isegi kogenud kasutaja eksida.

Arvan, et on hea tõsta enda teadlikkust, kontrollida allikaid ja mitte reageerida impulsiivselt ootamatutele sõnumitele või kõnedele.

[kaidokikkas]

No mina pean vähemalt suurt osa tänasest tehisarust endiselt papagoiks. Ilus ja efektne ning oskab igasugu hääli teha (ja kui sobivale hetkele satub, võib mõne ära petta küll), aga no ei ole ikka päris inimene.

Aga isegi kui oletada, et TI suudab küberpätti 100%-selt jäljendada, siis ei päris- ega tehispätt ei tohiks saada korralikult ülesehitatud kaitse vastu (seesama tänastes blogides arutatud Mitnicki kolmik).

Võib-olla üks kaitsemehhanism, millest vähem juttu on olnud, on n.ö. kaitsekihtide arv - kui üks inimene läheb õnge ja otsustab kirjale (vastavalt selle sisule) reageerida, siis peaks ta saatma enne tegutsemahakkamist kirja edasi teisele jne. Ja kui kasvõi üks kiht häiret annab, siis suunatakse kiri kõrvale põhjalikumaks uurimiseks.

[siimkr]

Kirju olen ikka saanud, mida ma arvan, et on koostatud AI-ga. Siiamaani on ainult 1 kiri tulnud ka päris swedbanki emaililt. Üldjuhul need petukirjad tulevad ikka mingilt suvaliselt emaililt või kirjaveaga domeenilt vms, et seda jälgides saab eristada petukirjasid.

Üldjuhul ei tasu ikka klikkida omniva kirja manusele, kui ei oota pakki ja swedbanki manusele, kui vastavat teenust ei kasutagi milles kirjas jutt. Kui isegi ootad kirja vms siis peab ka nendesse tänapäeval suhtuma kriitiliselt, et kas kõik on ikka õige ja ametlikust kanalist asja üle kontrollima.

Ja kui laed manuse alla ei tee paha, kui selle totalvirus.com läbi lased.

[JohannesK]

Tehisintellekt on juba võimeline tegema väga usutavaid deepfake'e kuulsatest inimestest. Paljudele tehisaru
 andmepüügi ohtude vältimiseks tuleks tehisarule panna piirid peale.

[alexaI]

Mina isiklikult selliste juhtumitega kokku puutunud ei ole, aga saan aru, et tehnika on nüüdseks nii arenenud, et võltsingut on järjest raskem eristada päris asjast. Enda kaitsmiseks püüan mitte avada kahtlasi kirju, vastata võõrastele kõnedele ega jagada isiklikku teavet. Kõige hirmutavam on see, et ühel päeval ei pruugi isegi aru saada, et see, mida ma ees näen, on võlts.

[ZulfugarA]

AI on muutnud andmepüügi palju kavalamaks – enam ei ole imelik kiri või kehv tõlge kindel märk petusest. Isiklikult pole veel sellise pettusega kokku puutunud ja loodan, et ei satugi

[inoide]

See on veidi kõhedusttekitav, kui mõelda sellest ajast kui deepfake ja häältevõltsingud tõelisusest täiesti eristamatuks muutuvad ja nigeeria printsid läbivad raskusteta A1 keeleeksami. Vähem muretsen kriitiliselt mõtelda suutvate inimeste üle, aga juba praegu on nii palju neid kes ka kergelt äratuntavatesse lõksudesse satuvad.

Ma arvan, et kõige olulisem on ikkagi säilitada kriitilist meelt, et nö viimane filter võimalikult tugev oleks, peale selle ehk suudab ka pettuste paljastamise tehnoloogia pettustega sammu pidada ja aidata eelkõige neid, kellel abi kõige rohkem on vaja.

[madis.salumae]

Nüüd on juba harjumuseks saanud see et vaadata kohe üle e-mail kes seda saadab. Näiteks mul on üks shopify pood ja seal tuleb päevas mingi 2-3 phising attempti kus "rikume" meta platvormi reegleid. Kõik näeb väga kena välja arvatud email kust asjad tulevad. Asi läheb raskemaks nüüd kui tulevad deepfake videod jne - seal vist olid ka omad nipid et lehvita kätte näo ees vms.