DI daugiausia grėsmių kelia finansų, sveikatos apsaugos ir teisinėms institucijoms
„Turinį kuriantis (angl. generative) dirbtinis intelektas yra labai galingas įrankis. Jis organizacijoms suteikia labai daug galimybių ir privalumų, kurių pagrindiniai – ženkliai didesnis darbuotojų produktyvumas, darbo kokybė ir greitis. Vis tik, nepaisant teigiamos įtakos, dirbtinis intelektas kelia ir daug grėsmių. Jos aktualios daugeliui, dirbtinį intelektą jau naudojančių, verslų daugelyje sričių. Grėsmėms ypač jautrūs tokie sektoriai kaip finansai, sveikatos apsauga ir teisinė sistema“, – sako Marijus Masteika, „Danske Bank“ vyriausiasis programinės įrangos architektas.
Jis DI verslui keliamas rizikas skirsto į keturias grupes, kurių pirmoji – grėsmė duomenų saugumui ir konfidencialumui. „Visos finansinės institucijos turi sukaupę ir valdo daug griežtai konfidencialios, jautrios informacijos. Tendencijos finansų įmonės viduje, strateginės veiklos kryptys, planuojami įsigijimai, pokyčiai, investicijos, vykdomi tyrimai – bet koks panašios informacijos nutekėjimas gali turėti didelės įtakos finansų rinkoms, akcijų kainoms“, – sako M. Masteika. Dideli duomenų nutekėjimai, pasak jo, gali įvykti verslo informacijos analizės metu:
„Dirbtinis intelektas gali netikėtai atskleisti jautrią klientų ar verslo informaciją, ypatingai, jei naudojamasi nepatikrintais trečių šalių automatizavimo įrankiais ir programinėmis sąsajomis (angl. API).“
Antra DI organizacijoms keliamų grėsmių grupė, kurią išskiria Marijus Masteika – galima žala organizacijų finansiniams rezultatams, reputacijai. „Kartais organizacijos, jų darbuotojai gali netinkamai naudoti DI įrankius ir paslaugas. Pavyzdžiui, per daug pasikliauti DI sistema ir priimti kritiškai svarbius sprendimus, nesuprasdami ar tinkamai neįvertindami jos ribotumų“, – teigia M. Masteika. Pasak jo, visų pirma dirbtinio intelekto modeliai haliucinuoja ir dėl to gali pateikti neteisingą, klaidingą informaciją. Pavyzdžiui, leidus turinį kuriančiam DI atsakinėti į klientų klausimus, jis gali pateikti neteisingą, šališką, net rasistinę, orumą žeidžiančią informaciją. „Neteisingą informaciją pokalbių robotas gali pateikti ir dėl jo gedimo. Abiem atvejais, tai gali sukelti neigiamų reakcijų bangą. Įmonė gali prarasti klientų pasitikėjimą, gali nukentėti organizacijos reputacija, galiausiai – finansiniai rezultatai“, – detalizuoja M. Masteika.
Kibernetiniai nusikaltėliai gali naudotis DI sistemos pažeidžiamumu
Grėsmes, kurias kelia DI pasitelkiantys ir jos pažeidžiamumą išnaudojantys kibernetiniai nusikaltėliai, „Danske Bank“ vyriausiasis programinės įrangos architektas išskiria kaip trečią grupę. „Kibernetiniai nusikaltėliai gali išnaudoti DI sistemos pažeidžiamumus, kad gautų neleistiną prieigą prie įmonės tinklo ir dėl to gali kilti dideli kibernetinio saugumo incidentai. Piktnaudžiautojais gali būti ne tik išorės žmonės, bet ir įmonės darbuotojai. Jie gali naudotis DI įrankiais, norėdami manipuliuoti rinkos tendencijomis, sukurti ir skleisti taip vadinimą „deep fake“ (liet. giliąsias melagienas), klaidinti darbuotojus ir taip destabilizuoti finansinę rinką“, – dalinasi Marijus Masteika.
Galiausiai, pasak jo, grėsmė ir skaudžios pasekmės organizacijoms gali kilti, jei DI sistema neatitinka teisės aktų ir reguliavimo: „Mes, kaip finansinė institucija, esame griežtai reguliuojami ir privalome atitikti įvairius Lietuvos ir ES reikalavimus bei teisės aktus. Mes taip pat privalome užtikrinti, kad visi valstybės ir ES įstatymai, susiję su dirbtinio intelekto panaudojimu, pas mus būtų įgyvendinti. Pavyzdžiui, neužtikrinus, jog asmens duomenys būtų apdorojami tik su jo sutikimu arba nesilaikant kitų reikalavimų, bankui gresia didelės baudos bei ypatingai didelė žala reputacijai.“
Visi darbuotojai gali naudotis vidiniu DI įrankiu
Tam, kad išvengtų visų organizacijai dėl DI naudojimo kylančių grėsmių, „Danske Bank“ visų pirma neleidžia organizacijos viduje naudoti išorinių DI įrankių. „Jų blokavimas, mes puikiai suprantame, smarkiai apriboja organizaciją ir neleidžia pasinaudoti jau minėtais DI privalumais. Todėl organizacijos viduje sukūrėme ir nuo kovo mėnesio visi „Danske Bank“ darbuotojai turi galimybę naudotis vidiniu DI įrankiu „DanskeGPT“, kuris iš esmės atkartoja tai, ką gali daryti ir populiarusis „ChatGPT“, bet jis veikia uždaroje sistemoje ir joje naudojami organizacijos duomenys neišeina iš jos ribų. Taip pat mes žinome ir visada tikriname įrankiui pasitelktus plataus spektro kalbos modelius (angl. „Large Language Model“),“ – dalinasi „Danske Bank“ vyriausiasis programinės įrangos architektas.
Saugumui užtikrinti visi „Danske Bank“ darbuotojai, prieš pradėdami naudotis „DanskeGPT“, turi baigti saugaus ir atsakingo naudojimo mokymus. „Visi darbuotojai turi galimybę naudotis įrankiu, bet pirma turi gauti tam teisę – išeiti mokymus. Darbuotojai mokomi ne naudotis įrankiu – dauguma jį jau žino, bet aiškiname apie rizikas, ką galima ir ko negalima su įrankiu daryti, kokios informacijos negalima pateikti kartu su užklausa. Pavyzdžiui, negalima pateikti konfidencialios informacijos apie klientus. Tai reiškia, visa įrankiui pateikiama informacija turi būti nuasmeninta“, – pasakoja M. Masteika.
– „Taip pat negalime leisti robotui priimti sprendimų. Dirbtinis intelektas mums yra asistentas, pagalbininkas, patarėjas, jis pateikia informaciją, bet sprendžia darbuotojas. Kitaip tariant, prieš nuspręsdami, darbuotojai turi labai kritiškai peržiūrėti ir įvertinti jiems modelio pateikiamą informaciją.“
Organizacijos viduje veikia už DI saugumą ir jo vystymą atsakingas padalinys
Nors „Danske Bank“ sukurtu įrankiu po mokymų gali naudotis visi organizacijos darbuotojai ir jis gali būti naudojamas visose srityse, pasak M. Masteikos, daugiausia naudos jis sukuria programuotojams: „IT kolegos imliausi technologijoms ir greičiausiai jas perpranta, todėl daugiausia naudos įrankis jiems ir sukuria. Kita sritis, kur kolegos plačiai naudoja „DanskeGPT“ – administracinės užduotys, tokios kaip, prezentacijų rengimas, el. laiškų, tekstų rašymas, vertimai. Kurti tokio tipo turinį plataus spektro kalbos modeliams yra bene paprasčiausia užduotis.“
„Danske Bank“ veikia atskiras padalinys, atsakingas už saugaus DI naudojimo bei vystymo viziją, misiją, kuris aiškinasi grėsmes ir sprendžia, kokius įrankius galima saugiai naudoti. Kito pasirinkimo, norint didinti produktyvumą ir taip išlaikyti konkurencingumą, pasak M. Masteikos, tiesiog nėra. Šiuo atveju finansinių institucijų indėlis į DI vystymąsi gali ir turi būti saugus jo naudojimas, apsaugant nuo grėsmių ir suteikiant papildomos vertės organizacijai, jos darbuotojams, klientams bei visai rinkai.
