Umetna inteligenca ustvarila boljša lažna sporočila kot ljudje

Umetna inteligenca ustvarila boljša lažna sporočila kot ljudje

07. 09. 2021 E-izobraževanje, B2

V manjši študiji, ki jo je izvedla skupina raziskovalcev iz Singapurja, so ugotovili, da je mogoče s pomočjo modela za globoko učenje GPT-3 skupaj z drugimi platformami za umetno inteligenco, ustvariti zelo uspešne kampanje lažnega predstavljanja.

Algoritem za generiranje besed GPT-3 je izjemno močno orodje umetne inteligence, ki je v zadnjem letu že večkrat navdušil širšo javnost s svojo navidezno jezikovno univerzalnostjo. Zna pisati bloge in poezijo, programsko kodo za aplikacije, prevajati in še marsikaj drugega. Prav zato se pogosto omenja kot korak k doseganju splošne umetne inteligence, saj se hitro prilagaja, uči in sooča z novimi problemi. 

Skupina raziskovalcev iz Singapurske vladne tehnološke agencije (GTA) je v začetku avgusta 2021 na konferenci za kibernetsko varnost v Las Vegasu predstavila rezultate nedavnega eksperimenta, v katerem so 200 sodelavcem poslali usmerjena e-poštna sporočila z lažnim predstavljanjem. Nekatera od teh so ustvarili sami, druga pa umetna inteligenca. Obe komunikaciji sta vsebovali lažni povezavi, ki sicer nista bili škodljivi, temveč sta raziskovalcem le sporočili, koliko prejemnikov je nanju kliknilo. Presenečeno so ugotovili, da je veliko več ljudi kliknilo na povezavo v sporočilih, ki jih je ustvarila umetna inteligenca, kot pa na povezavo v sporočilih, ki jih je napisal človek.  

Raziskovalci so uporabili OpenAI GPT-3 v povezavi z drugimi platformami umetne inteligence, ki se osredotočajo na osebnostno analizo, z namenom ustvarjanja e-poštnih sporočil z lažnim predstavljanjem prilagojenih ozadju in značilnostim njihovih kolegov. 

Ker je sestavljanje lažnih sporočil, ki so ciljno naravnana in prilagojena vsakemu posamezniku posebej, za človeka precej naporno opravilo, je lahko umetna inteligenca pri t. i. "spear-phishingu" zelo uporabna. Kljub temu, da je za zasnovo modela, ki temelji na umetni inteligenci, potrebnega kar nekaj ekspertnega znanja, časa in denarja, pa je potem, ko imamo model enkrat pripravljen, uporaba precej enostavna, stroški pa nizki. Zato strokovnjaki opozarjajo, da je to lahko način, kako bodo nepridipravi v prihodnosti izvajali še bolj uspešne kampanje lažnega predstavljanja.  

Lažna elektronska sporočila so ena najpogostejših spletnih prevar, s katero se lahko uporabniki srečamo. Ker želijo prevaranti pridobiti naše občutljive podatke, uporabijo najrazličnejše taktike in tehnike, da bi nas pretentali in zaupali svoje podatke. Zloraba sofisticiranih naprednih orodij, kot je umetna inteligenca, bo tako uspešnost kampanj lažnega predstavljanja še povečala.  

H uspehu napadov z lažnim predstavljanjem pa botruje tudi slaba ozaveščenost med uporabniki glede tovrstnih napadov. Usposabljanje in redno ozaveščanje sta zato zagotovo pravilen način za povečanje varnostne kulture in znanja. Spodaj si lahko pogledate video, kako prepoznati lažno e-sporočilo.

Da pa boste vi in vaši sodelavci še bolj osveščeni o pretečih kibernetskih nevarnostih, vas vabimo, da si prenesete e-plakat in ohranjevalnik zaslona, ki vam s svojimi napotki močno pomaga pri tem.

Prenesi e-plakat za osveščanje o kibernetski varnosti

 

Nazaj