Vse širša uporaba sistemov umetne inteligence pomeni tudi nova tveganja, s katerimi se
bomo v prihodnosti soočali. Kaj je umetna inteligenca?
Tveganja na področju demokracije in ohranjanju temeljnih pravic
Rezultati, ki jih prinese umetna inteligenca, so odvisni od tega, kako je zasnovana in kakšne podatke prejema. Tako zasnova kot podatki so lahko namerno ali nenamerno pristranski. Lahko nekateri pomembni vidiki niso vključeni v algoritem ali pa je ta programiran tako, da odraža in reproducira strukturno pristranskost. Še več: zaradi uporaba številk pri razlaganju zapletenih družbenih vprašanj se lahko umetna inteligenca zdi natančna in temelječa na dejstvih, tudi ko ni (“mathwashing”).
Če bi bila umetna inteligenca neustrezno zasnovana, bi lahko etnična pripadnost, spol ali starost vplivali na zaposlovanje, dajanje posojil ali celo sodne postopke – diskriminacija v družbi bi se lahko skokovito povišala.
Umetna inteligenca lahko ima tudi hude posledice za pravico do zasebnosti in varovanje podatkov. Uporabi se jo lahko denimo v opremi za prepoznavanje obrazov ali za spletno sledenje in profiliranje posameznikov. Še več: umetna inteligenca omogoča združevanje podatkov, ki jih je oseba podala, v nove podatke, kar ima lahko posledice, ki jih oseba ne pričakuje.
Umetna inteligenca lahko pomeni tudi grožnjo za demokracijo, že sedaj jo krivijo za ustvarjanje zaprtih spletnih skupnosti, ki so ustvarjene na podlagi prejšnjega vedenja ljudi
na spletu in prikazujejo le vsebine, ki jim bodo verjetno všeč, namesto, da bi prispevale k ustvarjanju okolja za raznoliko, vsem dostopno in vključujočo javno razpravo. Uporabi se jo lahko tudi za ustvarjanje izjemno realističnih ponarejenih videov, zvočnih posnetkov in slik (“deepfakes”), ki lahko pomenijo finančno tveganje, škodijo ugledu ali otežijo odločanje. Vse to lahko vodi k polarizaciji javne sfere in manipulaciji volitev.
Umetna inteligenca bi lahko okrnila tudi svobodo zbiranja in protestiranja, saj bi jo lahko vlade uporabile za zbiranje podatkov o posameznikih, s katerimi bi želela obračunati, ker se upirajo.
Tveganje pa lahko po drugi strani predstavlja tudi neuporaba oz. premajhna uporaba UI, saj lahko zamujena priložnost za EU pomeni slabšo izvedbo velikih programov, kot je zeleni evropski dogovor, izgubi lahko svoje konkurenčne prednosti proti drugim regijam in gospodarsko stagnira, prebivalci pa imajo s tem slabše priložnosti. Razlogi za premajhno uporabo umetne inteligence so lahko nezaupanje javnosti ali podjetij v to tehnologijo, slaba infrastruktura, odsotnost pobude, premalo naložb ali, glede na to, da strojno učenje temelji na podatkih, razdrobljeni digitalni trgi.
A preveč široka uporaba je lahko problematična:
investiranje v načine uporabe umetne inteligence, ki se izkažejo za neuporabne ali
uporaba umetne inteligence za naloge, za katere ni primerna, denimo za razlaganje kompleksnih družbenih vprašanj.
Vsa ta tveganja pomenijo, da bo treba vpeljevanje in uporabo UI previdno in premišljeno regulirati, da se izognemo številnim pastem in negativnim posledicam, ki jih UI lahko prinese.
Prispevek je nastal v sklopu projekta Europe at your doorstep / Evropa na našem pragu, ki ga izvaja Zavod PIP, sofinanciran pa je s sredstvi Evropske unije.
