Chatbotovi su računalni programi koji s pomoću umjetne inteligencije simuliraju razgovor s korisnicima. Dizajnirani su da odgovaraju na pitanja, izvršavaju zadatke ili pružaju informacije na način koji je što prirodniji i razumljiv sugovorniku, odnosno korisniku chatbota.
Iako chatbotovi mogu biti vrlo korisni, njihovo korištenje nosi i određene rizike te izazove koje je važno prepoznati i razumjeti. Među najvažnijim problemima izdvajaju se pitanja sigurnosti i privatnosti, nepredvidivo ponašanje algoritama, etičke dvojbe te mogućnost širenja netočnih ili manipulativnih informacija.
Ovi izazovi objašnjavaju potencijalne opasnosti chatbota i načine kako ih kontrolirati ili prevenirati.
Umjetna inteligencija koja zna previše
Umjetna inteligencija može automatski učiti iz podataka koji su joj na raspolaganju i na osnovi njih može donositi zaključke što za posljedicu može imati i da pamti i da se koristi tvojim osobnim podacima koje si joj dao na raspolaganje. Razni alati umjetne inteligencije često traže da se prijaviš i da imaš kreiran korisnički račun. Kod otvaranja takvih računa ili prijavljivanja s postojećima, potrebno je obratiti pažnju na uvjete korištenja koje veliki broj puta prihvaćamo a da ih nismo ih pročitali. Važno je da s umjetnom inteligencijom ne dijeliš osjetljive podatke niti svoje tajne.
Umjetna inteligencija halucinira
Halucinacije umjetne inteligencije odnose se na situacije u kojima umjetna inteligencija stvara netočne, izmišljene ili nelogične informacije, može navesti nepostojeće izvore, događaje ili citate. Razlog leži u tome što model pokušava popuniti praznine u znanju, ali bez sposobnosti razlikovanja istine od laži. Zbog prije navedenih činjenica ključno je da se ovakvi alati ne koriste kao izvor činjenica bez provjere.
Umjetna inteligencija može manipulirati i počiniti prevaru
Možda najopasnija prijetnja umjetne inteligencije je sposobnost chatbotova da manipuliraju korisnicima. Zlonamjerni akteri mogu koristiti chatbotove za:
- Phishing i krađu identiteta: traženje lozinki ili podataka o kreditnim karticama u uvjerljivom razgovoru.
- Širenje lažnih informacija: oblikovanje stavova korisnika ili javnog mnijenja putem lažnih, ali uvjerljivih poruka.
- Socijalnu manipulaciju: prilagođavanje tona i sadržaja poruka emocionalnim reakcijama korisnika kako bi ih potaknuli na određene odluke.
AI alati sve su napredniji i sve uspješnije kreiraju sadržaje koji izgledaju realistično te umanjuju pogreške poput onih u pravopisu koje su prije bile izvrsni pokazatelj da se može raditi od prevari. Napredni chatbotovi mogu analizirati reakcije korisnika i koristiti ih za suptilnu manipulaciju, što često prolazi nezapaženo. Ovo je posebno opasno jer se manipulacija događa u digitalnom prostoru koji korisnici doživljavaju kao prijateljski i neutralan.
Gubitak ljudskog kontakta
Automatizacija komunikacije smanjuje stvarni ljudski kontakt, što može dovesti do depersonalizacije iskustava u bilo kojem segmentu našeg života bilo da se radi o obrazovanju, zdravstvu ili primjerice korisničkoj podršci. Chatbotovi mogu biti od velike pomoći, no za najbolje rezultate potrebno je umjetnu inteligenciju kombinirati s ljudskom.
Umjetna inteligencija može biti sjajan pomagač u svakodnevnom životu od odgovaranja na pitanja do olakšavanja posla i organizacije vremena – ali ako nismo oprezni, lako nas može prevariti, manipulirati našim odlukama ili nas udaljiti od stvarnih iskustava, pravih razgovora i svakodnevnih kontakata s ljudima, smanjujući našu sposobnost da doživljavamo i cijenimo ono što se događa oko nas.
Imate dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji internet vam stoje na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svakim radnim danom od 08:00 do 16:00 sati.
Powered by A1 Hrvatska.
