Privremeni dogovor o ključnim pravilima Evropske unije koja reguliraju korištenje umjetne inteligencije, uključujući vladinu upotrebu umjetne inteligencije u biometrijskom nadzoru i kako regulirati sisteme umjetne inteligencije poput ChatGPT-ja, postignut je sinoć.
S političkim sporazumom, EU ide prema tome da postane prva velika svjetska sila koja će donijeti zakone koji reguliraju umjetnu inteligenciju. Dogovor između zemalja EU i članova Evropskog parlamenta postignut je u petak nakon gotovo 15 sati pregovora koji su uslijedili nakon gotovo 24-satne rasprave prethodnog dana.
Dvije strane trebale bi dogovoriti pojedinosti u nadolazećim danima, što bi moglo promijeniti oblik konačnog zakona.
“Evropa se pozicionirala kao pionir, shvatajući važnost svoje uloge globalnog postavljača standarda. Ovo je, vjerujem, historijski dan”, rekao je evropski povjerenik Thierry Breton na konferenciji za novinare.
Sporazum zahtijeva da temeljni modeli kao što su ChatGPT i sistemi umjetne inteligencije opće namjene (GPAI) budu u skladu s obvezama transparentnosti prije nego što se stave na tržište. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonom EU o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za obuku.
Visokoučinkoviti modeli temeljeni na osnovnim principima s visokim stupnjem rizika morat će provoditi evaluacije modela, procjenjivati i umanjivati sistemski rizik, provoditi kontradiktorno ispitivanje, izvještavati Evropsku komisiju o ozbiljnim incidentima, osiguravati kibernetičku sigurnost i izvještavati o energetskoj učinkovitosti.
GPAI sa sistemskim rizikom mogu se oslanjati na kodekse prakse kako bi bili u skladu s novom regulativom.
Vlasti mogu koristiti biometrijski nadzor u stvarnom vremenu u javnim prostorima samo u slučajevima žrtava određenih zločina, prevencije stvarnih, sadašnjih ili predviđenih prijetnji, poput terorističkih napada, i potraga za osobama osumnjičenima za najteža kaznena djela.
Sporazum zabranjuje kognitivnu bihevioralnu manipulaciju, prikupljanje slika lica s interneta ili CCTV snimaka, sustave društvenog bodovanja i biometrijske kategorizacije za utvrđivanje političkih, vjerskih, filozofskih uvjerenja, seksualne orijentacije i rase.
Potrošači bi imali pravo podnijeti pritužbe i dobiti smislena objašnjenja, dok bi kazne za prekršaje bile u rasponu od 7.5 miliona eura ili 1.5 posto prometa, do 35 miliona eura ili 7 posto globalnog prometa.
Evropska ambiciozna pravila umjetne inteligencije dolaze u trenutku kada kompanije poput OpenAI-ja, u kojoj je Microsoft ulagač, nastavljaju otkrivati nove upotrebe svoje tehnologije, što izaziva i pohvale i zabrinutost. Googleov vlasnik Alphabet u četvrtak je lansirao novi model umjetne inteligencije Gemini, koji će biti konkurent OpenAI-ju.
Zakon EU mogao bi postati primjer za druge vlade i alternativa mekanom pristupu Sjedinjenih Država i oštrijim pravilima Kine.
