Alex Rivlin, podjetnik iz Las Vegasa, je postal neprostovoljni udeleženec digitalnega goljufanja, ki ponazarja nevarnost nezakonite uporabe umetne inteligence
Nove tehnologije umetne inteligence so privedle do nevarne evolucije digitalnega goljufanja, ki ogroža celo najbolj izkušene internetne uporabnike. Primer Alexa Rivlina, ki je izgubil denar, ker je zaupal lažni številki službe za podporo, ki jo je priporočila funkcija AI Overviews od Google, kaže, kako lahko umetna inteligenca poveča obseg in verodostojnost tradicionalnih spletnih prevar.
Tako velika tehnološka podjetja kot uporabniki se soočajo s problemom novih oblik manipulacije, ki naraščajo skupaj z napredkom na področju avtomatizacije in obdelave informacij na globalni ravni.
Primer Alexa Rivlina
Alex Rivlin, podjetnik iz Las Vegasa z izkušnjami na področju tehnologije, je postal neprostovoljni udeleženec digitalne prevare, ki ponazarja nevarnost zlorabe umetne inteligence. Med načrtovanjem potovanja po Evropi je v Googlu poiskal številko službe za podporo znane ladjarije. Funkcija AI Overviews od Googla je v prvem rezultatu prikazala telefonsko številko, ki se je izkazala za ponarejeno in je pripadala goljufom.
Rivlinovo sodelovanje s temi domnevnimi agenti je bilo tako prepričljivo, da je plačal 768 dolarjev, misleč, da najema legitimno storitev. Cene, storitve za stranke in popusti so se zdeli povsem verodostojni. Šele ko so se na njegovi kartici pojavili nenavadni odbitki, je Rivlin začel sumiti, da je nekaj narobe, in uspel preklicati plačilo, s čimer je preprečil velike izgube.
Ta epizoda kaže, kako lahko umetna inteligenca okrepi in avtomatizira goljufije, za katere so bile do nedavnega potrebne precej bolj primitivne metode. Namesto da bi pošiljali množična sporočila ali goljufiva pisma, kibernetski kriminalci zdaj na internetu objavljajo lažne številke služb za podporo strankam in manipulirajo z algoritmi iskalnikov, da se pojavijo med prvimi rezultati.
Rivlinova napaka ni bila posledica malomarnosti, ampak zaupanja v hiter in na videz uradni odgovor, ki ga je dala tehnologija umetne inteligence.
Dva skrita orodja WhatsApp, ki jih zagotovo niste poznali in ki bodo izboljšala vašo interakcijo z aplikacijo
Umetna inteligenca in inženiring goljufij: zaskrbljujoča kombinacija
Rast priljubljenosti umetne inteligence v iskalnikih in avtomatskih pomočnikih je spremenila način dostopa uporabnikov do podatkov, saj je olajšala pridobivanje hitrih odgovorov o podjetjih, storitvah ali stikih. Vendar je ta takojšen dostop postal vrata za goljufe, ki manipulirajo z informacijami, dostopnimi v omrežju.
Kot kaže primer Alexa Rivlina, lahko tudi ljudje s tehnološkim znanjem postanejo žrtve zapletenih zvijač, ko avtomatski odgovori izgledajo verodostojno.
Digitalni kriminalci uporabljajo stare tehnike z novimi metodami: forume, strani z mnenji in spletne strani zasujejo z lažnimi kontaktnimi številkami, ki jih pripisujejo znanim podjetjem, od ladjarskih družb do letalskih prevoznikov.
S tem, ko pridobijo vidnost in ponovljivost, te omembe zavajajo algoritme platform, kot je Google, in jih prisilijo, da v poročilih umetne inteligence, ki jih mnogi razlagajo kot legitimne vire, ponujajo lažne podatke. Zaradi te avtomatizacije je tisto, kar je prej zahtevalo temeljito iskanje, danes rešitev, dostopna z enim klikom.
Izboljšanje teh taktik z umetno inteligenco je omogočilo, da je goljufija povečala tako hitrost kot učinkovitost, saj je prodrla v sektorje, kjer je pomembna hitrost odziva, zaupanje pa je običajno temelji na prvih prejetih informacijah.
Silicijevi in ogljikovi akumulatorji: v čem se razlikujejo od litij-ionskih in zakaj so revolucionarni?
Rezultati umetne inteligence manipulirajo z zaupanjem
Vpliv teh novih metod se kaže na številnih platformah, ne le na Googlu. Pomočniki, kot je ChatGPT, ponavljajo onesnažene informacije v svojih priporočilih, kar potrjuje, da grožnja presega okvire enega samega tehnološkega ponudnika.
Umetna inteligenca, ki organizira in povzema tisto, kar je na voljo na internetu, lahko deluje kot agent, ki pomnožuje lažne podatke in širi prevare, ki so jih razvili strokovnjaki za manipulacijo digitalne vidnosti.
Posledice so že občutne. Primeri ponarejanja zadevajo več križarskih družb, letalskih družb in priljubljenih storitev, medtem ko se goljufije širijo med uporabniki, ki nujno iščejo takojšnje rešitve.
Kombinacija zaznavne avtoritete AI in hitrosti odziva spreminja marginalno tveganje, povezano s ponarejenimi kontaktnimi številkami, ki obstaja že več let, v splošno grožnjo velikega obsega. Celo ljudje, ki so navajeni orientirati se v varnih digitalnih okoljih, lahko padejo v past, kot kaže izkušnja Rivlina.
Ali je vredno izbrati Starlink namesto optičnega kabla? Prednosti, razlike in glavna področja uporabe
Kako se odzivajo velika tehnološka podjetja in kaj lahko storijo uporabniki
Ob širjenju teh prevar podjetja, kot sta Google in OpenAI, priznavajo problem, čeprav vztrajajo, da je izoliran in da so sprejeli ustrezne ukrepe za nadzor. Google zagotavlja, da je iz svojih rezultatov odstranil nekatere goljufive številke in obljublja, da bo izboljšal upravljanje odgovorov na nenavadne poizvedbe.
OpenAI pa opozarja na čas posodobitve v sistemih, kot je ChatGPT, po odkritju in odstranitvi problematičnih strani, pri čemer poudarja, da je težko predvideti vsako manipulacijo.
Vendar je naloga zapletena. Strokovnjaki opozarjajo na potrebo po prednostni obravnavi preverjenih virov in uradnih podatkovnih baz v sistemih umetne inteligence, zlasti za občutljiva poizvedovanja, povezana z dejanskimi storitvami. Kljub obstoju nadzornih mehanizmov hitrost, s katero lahko goljufi vnašajo lažne informacije, še vedno presega običajne reaktivne ukrepe.
