Odgovornost i etika upotrebe veštačke inteligencijeu sektoru bezbednosti, Svetlana Janković
U: Knjiga sažetaka, Srbija i reformisanje instituta odgovornosti, okrugli sto
Ur: Dr Hajrija Mujović, Institut društvenih nauka, Centar za pravna istraživanja, Beograd ; Advokatska komora Vojvodine, Glasnik AKV 2025, Novi Sad
COBISS.SR-ID 178059785
ISBN 978-86-905844-5-1
Razvoj veštačke inteligencije (VI) predstavlja jedan od najznačajnijih tehnoloških pomaka savremenog doba, sa dalekosežnim implikacijama u različitim oblastima društva, a posebno u sektoru bezbednosti. Njena primena u sistemima nadzora, obradi i analizi velikih količina podataka, predikciji rizika, sajber odbrani, kao i kroz autonomne oružane i bezbednosne platforme, otvara niz složenih pitanja koja se tiču odgovornosti za posledice odluka koje donosi tehnologija. Institut odgovornosti, tradicionalno vezan za ljudske aktere, nalazi se pred izazovom redefinisanja u uslovima kada mašine samostalno analiziraju, odlučuju i deluju, često bez neposredne ljudske kontrole.
U ovom kontekstu posebno mesto zauzima etička dimenzija upotrebe VI. Prenošenje odluke o životu i smrti na algoritam dovodi u pitanje njenu usklađenost sa moralnim i profesionalnim normama, ali i sa međunarodnim humanitarnim pravom i principima ratnog prava. Problem tzv. „crne kutije“, odnosno nedovoljno transparentnog algoritamskog procesa, dodatno komplikuje mogućnost utvrđivanja odgovornosti. Aktuelne debate o upotrebi autonomnih dronova u savremenim konfliktima, poput rata u Ukrajini i na Bliskom istoku, pokazuju hitnost ove teme: sistemi sposobni da samostalno identifikuju i napadaju mete otvaraju pitanje ko snosi odgovornost u slučaju civilnih žrtava ili greške algoritma. Slično, masovna primena sistema za prepoznavanje lica u javnim prostorima – od Kine do pilot-projekata u evropskim i izraelskim gradovima – pokreće dilemu između očuvanja bezbednosti i zaštite privatnosti i slobode pojedinca.
Studija slučaja Srbije, zemlje koja je tokom poslednje decenije prošla kroz ubrzanu digitalnu transformaciju, dodatno osvetljava ove izazove. Srbija,
s jedne strane, usklađuje regulativu s evropskim standardima u oblasti zaštite podataka, dok s druge strane otvara pitanja primene VI u bezbednosnom
i odbrambenom sektoru. Takav kontekst pokazuje kako manje države mogu postati poligon za testiranje tehnoloških rešenja koja nose dalekosežne
etičke i pravne implikacije.
Rad razmatra teorijski okvir pojma odgovornosti, sa naglaskom na moralnu, profesionalnu i pravnu dimenziju. Analizira se uloga oficira, donosilaca
odluka i drugih relevantnih aktera koji upravljaju i koriste sisteme zasnovane na VI, pri čemu se razmatra njihova lična i institucionalna odgovornost
za posledice upotrebe autonomnih tehnologija. Posebna pažnjaposvećena je potrebi razvoja međunarodnih normi i etičkih standarda koji bi obezbedili ravnotežu između tehničkog progresa i očuvanja osnovnih ljudskih vrednosti.
Zaključak rada naglašava da je neophodno uspostavljanje jasnih i sveobuhvatnih etičkih i pravnih okvira, kao i redefinisanje instituta odgovornosti
u eri autonomnih sistema. Kao jedan od mogućih pravaca delovanja ističe se intenziviranje međunarodne saradnje i razvoj univerzalnih regulativa
– poput inicijativa Ujedinjenih nacija i pojedinih nevladinih organizacija koje pozivaju na zabranu tzv. „ubilačkih robota“ (lethal autonomous weapons systems). Samo kroz takav pristup moguće je obezbediti da veštačka inteligencija, iako nezaobilazno sredstvo u savremenoj bezbednosti, ostane pod okriljem ljudske odgovornosti, etičkog nadzora i demokratske kontrole.
Ključne reči: veštačka inteligencija, bezbednost, etika, institut odgovornosti, autonomni sistemi, sajber bezbednost, međunarodno humanitarno
pravo
PRILOG
Knjiga sažetaka – Srbija i reformisanje instituta odgovornosti