Svet financií zažíva revolúciu. Umelá inteligencia v nej zohráva zásadnú úlohu.
Vstupujeme do éry, v ktorej technológie zásadne menia náš každodenný kontakt s peniazmi. Umelá inteligencia je už dnes reálnym nástrojom, ktorý definuje úroveň bezpečnosti aj služieb.
Rýchly rozvoj generatívnej umelej inteligencie prináša nečakané výzvy pre bezpečnosť, no zároveň otvára dvere k bezprecedentnej personalizácii služieb. Kým podvodníci využívajú nové technológie na čoraz rafinovanejšie útoky, banky odpovedajú nasadením vlastných pokročilých obranných systémov.
O tom, ako sa bankový sektor vyrovnáva s týmito zmenami, sme sa rozprávali s odborníkmi z VÚB banky, expertom na podvody Jurajom Praženkom a expertom na umelú inteligenciu Martinom Podhajským.
Celý rozhovor o tom, ako umelá inteligencia mení bezpečnosť a klientsky servis v bankovníctve, si môžete pozrieť tu:
V článku sa dočítate:
Ako podvodníci zneužívajú generatívnu AI pri zakladaní účtov a ako sa banka bráni.
Prečo európsky AI Act nebrzdí inovácie, ale pomáha budovať dôveryhodné bankovníctvo.
V čom spočíva úspech oceňovaného projektu Sofia a ako pomáha osobným bankárom.
Aké nečakané bezpečnostné riziká prináša odovzdanie kontroly autonómnym AI agentom.
Ako bude vyzerať personalizácia bankových produktov a služieb v najbližších rokoch.
Nové zbrane digitálnych útočníkov
Podvodníci dnes dokážu využívať generatívnu umelú inteligenciu na masové šírenie útokov, ktoré sú pre bežného človeka takmer na nerozoznanie od reality. Veľkou hrozbou sú najmä moderné technológie ako deepfake, ktoré dokážu veľmi verne napodobniť hlasy blízkych ľudí alebo vytvoriť podvodné videá.
„Je dnes už bežné, že existuje nejaké vierohodné video alebo sa podarí napodobniť hlas blízkej osoby, rodiča, partnera či kamaráta,“ vysvetlil expert VÚB banky na podvody Juraj Praženka. Dodal tiež, že podvodné phishingové e-maily sú dnes vďaka AI generované mimoriadne rýchlo a prakticky bez jazykových či gramatických chýb.
Nebezpečenstvo číha aj v online priestore, napríklad pri takzvanom digitálnom onboardingu. Ide o legitímny a užitočný spôsob, kedy si klienti otvárajú účty na diaľku len nahratím občianskeho preukazu a vytvorením selfie fotografie. Útočníci však dokážu zneužiť napríklad ukradnuté skeny dokladov a pomocou umelej inteligencie vygenerovať syntetickú fotografiu, ktorá pred overovacím systémom vyzerá legitímne.
fotogaléria
Umelá inteligencia dnes pomáha robiť manipulatívne emaily či videá takmer na nerozoznanie od reality.
Zdroj: Branislaw Wáclav
Súboj technológií na oboch stranách
Banky taktiež využívajú AI, aby sa proti týmto útočníkom mohli efektívne brániť. Pokročilé obranné systémy analyzujú obrovské množstvá transakcií v reálnom čase a hľadajú neštandardné správanie používateľov.
„Pri digitálnom onboardingu naša umelá inteligencia porovnáva rôzne parametre, ako je textúra pleti, tiene, nedokonalosti tváre či plynulosť a mimika pri overovacom videu,“ povedal Praženka. Tieto kontrolné mechanizmy dokážu s vysokou úspešnosťou odhaliť, či ide o skutočného človeka alebo o podvrh vygenerovaný počítačom.
Najväčšou výzvou pre bezpečnosť však dnes nie je priame technologické prekonanie ochrany banky, ale psychologická manipulácia samotného klienta. Ak podvodník presvedčí klienta k prevodu prostriedkov, pre systémy banky sa celá transakcia tvári ako legitímna.
Regulácia ako základ pre inovácie
V súvislosti s rozvojom umelej inteligencie sa v Európskej únii často skloňuje osobitná legislatíva zameraná na AI, takzvaný Akt o AI a jeho možný negatívny vplyv na technologický pokrok. Podľa odborníkov z bankového prostredia však jasné pravidlá pokrok nebrzdia, ale naopak mu dávajú potrebnú stabilitu a transparentnosť.
„Je dôležité mať mať rámce, ktoré určujú bezpečné spôsoby použitia, transparentnosť a riadenie rizík, pretože s každou novou technológiou sú spojené aj hrozby,“ vysvetlil expert VÚB banky na umelú inteligenciu Martin Podhajský. Akt o AI presne definuje zakázané použitia AI, medzi ktoré patrí práve manipulatívne správanie či cielenie na zraniteľné skupiny.
Legislatíva taktiež zavádza kategóriu vysokorizikových systémov, ktoré si vyžadujú prísne obranné mechanizmy a kontrolu. Tieto pravidlá zabezpečujú, aby rozhodovanie systémov nebolo diskriminačné a aby bolo vždy možné spätne dohľadať, ako systém k výsledku dospel.
fotogaléria
Skôr či neskôr začnú ľudia prechádzať od AI chatbotov k plnohodnotným digitálnym asistentom. Čo sa však stane, ak im povolia prístup aj ku svojim vlastným financiám?
Zdroj: Branislaw Wáclav
AI agent v pobočkách
Príkladom úspešného zavedenia moderných technológií v praxi je systém Sofia od VÚB banky. Tento projekt si nedávno vyslúžil medzinárodné ocenenie Top finanční inovátori magazínu Global Finance.
„Sofiu chceme primárne používať na to, aby sme zlepšovali našu produktivitu a poskytovali lepšie služby a poradenstvo našim klientom na pobočkách,“ uviedol Podhajský. Doplnil, že systém funguje výhradne na vlastnej internej infraštruktúre banky, aby bola zaručená bezpečnosť všetkých klientskych dát.
Sofia pomáha osobným bankárom predvídať potreby klientov analýzou ich finančného správania a produktového portfólia. Ak napríklad klient často lieta, systém to zachytí a poradí bankárovi odporučiť mu kreditnú kartu, ktorá poskytuje bezplatný vstup do letiskového salónika.
Odvážna vízia budúcnosti
Umelá inteligencia sa bude ďalej rozvíjať a je reálne očakávať, že skôr či neskôr dôjde aj u verejnosti k prechodu od chatbotov k plnohodnotným digitálnym asistentom s najrôznejšími právomocami. Jednou z oblastí, ktoré by mali takéto digiálne entity na starosti, by mohli byť aj naše financie.
Takáto predstava však u expertov vzbudzuje oprávnené obavy. „Obávam sa, ako sa kybernetická kriminalita vyvinie, keď útočníci začnú namiesto na človeka cieliť na samotného AI asistenta,“ upozornil Praženka.
„AI nám vie veľmi dobre pomôcť, ale stále je dôležité hľadieť na to, aby sme robili veci zodpovedne a dôležité rozhodnutia mali vždy plne pod kontrolou,“ zdôraznil Podhajský. Budúcnosť bankovníctva podľa neho prinesie oveľa hlbšiu a bezpečnejšiu personalizáciu služieb, no ľudská kontrola a zodpovednosť zostanú nenahraditeľné.
Rozhovor vznikol v spolupráci s VÚB bankou.
