ISO/IEC 42001:2023 
SUSTAV UPRAVLJANJA UMJETNOM INTELIGENCIJOM (AIMS)

UMJETNA INTELIGENCIJA (AI)

Sve veća upotreba umjetne inteligencije (AI) u proljeće ranih 2020-ih utječe na društveni i ekonomski pomak prema povećanoj automatizaciji, donošenju odluka na temelju podataka i integraciji AI sustava u različite gospodarske sektore i područja života, utječući na tržišta rada, zdravstvo, vladu, industriju i obrazovanje. To postavlja pitanja o etičkim implikacijama i rizicima umjetne inteligencije, potičući rasprave o regulatornim politikama kako bi se osigurala sigurnost i dobrobiti tehnologije.Tradicionalni ciljevi istraživanja umjetne inteligencije uključuju rasuđivanje i rješavanje problema, predstavljanje znanja, planiranje i donošenje odluka, učenje, obradu prirodnog jezika (NLP), percepciju i računalni vid (govor, prepoznavanje lica i predmeta, klasifikacija slika) i podršku robotici. Opća inteligencija (sposobnost obavljanja bilo kojeg zadatka koji može obaviti čovjek) jedan je od dugoročnih ciljeva ovog područja.

Međutim, kako je uporaba umjetne inteligencije postala široko rasprostranjena, identificirano je nekoliko rizika :

1.  Etika u procese obuke AI kako bi se izbjegle pristranosti
2.  Podaci za kvalitetu strojnog učenja (ML), privatnost, nadzor, autorska prava i trovanje podacima
3. Pogrešne informacije i zlouporaba
4. Pravednost u ML-u - kako spriječiti štetu uzrokovanu algoritamskom pristranošću
5. Informacijska sigurnost, kibernetička sigurnost i zaštita privatnosti
6. Nedostatak transparentnosti, objašnjivosti i odgovornosti
7.  Životni ciklus AI sustava: performanse, neispravne komponente, nedostaci u dizajnu, neadekvatna implementacija, nedostatak održavanja itd.

ŠTO JE ISO/IEC 42001?

ISO/IEC 42001 prvi je svjetski standard za sustav upravljanja umjetnom inteligencijom (AIMS) , koji pruža vrijedne smjernice za ovo područje tehnologije koje se brzo mijenja. Bavi se jedinstvenim izazovima koje postavlja AI, kao što su etička razmatranja, transparentnost i kontinuirano učenje. Za organizacije postavlja strukturirani način upravljanja rizicima i prilikama povezanim s umjetnom inteligencijom, balansirajući inovacije s upravljanjem. Implementacija ovog standarda znači postavljanje politika i procedura za dobro upravljanje organizacijom u odnosu na AI, koristeći metodologiju Plan-Do-Check- Act. 

KOME JE NORMA NAMIJENJENA?

Umjesto da gleda detalje specifičnih AI aplikacija, pruža praktičan način upravljanja rizicima i prilikama povezanim s AI u cijeloj organizaciji.

Stoga pruža vrijednost za bilo koju tvrtku ili subjekt. Ovaj dokument izbjegava specifične smjernice o procesima upravljanja. Jedini novi termin: 3.24 Procjena utjecaja sustava umjetne inteligencije

Iako postoje drugi okviri umjetne inteligencije, ISO/IEC 42001 je jedini koji se može certificirati.

KOJE SU KLJUČNE PREDNOSTI?

• Osigurava etičko i odgovorno korištenje umjetne inteligencije
• Povećava povjerenje u AI aplikacije
• Podržava usklađenost sa zakonskim i regulatornim standardima
• Učinkovito upravlja rizicima specifičnim za AI
• Potiče inovacije unutar strukturiranog okvira