Skip to main content

Priporočila za odgovorno rabo orodij UI na ZRC SAZU

Published on: December 19, 2023

Na ZRC SAZU se zavedamo pomena sprememb, ki jih prinaša uporaba orodij umetne inteligence (UI), njihovo uporabo spodbujamo in se zavzemamo za odgovorno uporabo. Zato je direktor ZRC SAZU 15. septembra 2023 imenoval Delovno skupino za oblikovanje smernic za uporabo sistemov umetne inteligence na ZRC SAZU, ki jo sestavljajo mag. Barbara Šterbenc Svetina, doc. dr. Katarina Mohar, prof. dr. Simona Kralj Fišer in dr. Blaž Komac. Članice in člani skupine so oblikovali priporočila za odgovorno rabo orodij UI, ki jih objavljamo tu spodaj.

  1. Odgovornost avtorja

Za pravilnost, veljavnost ter druge vidike raziskav, ki nastanejo z uporabo orodij UI, so odgovorni izključno avtorji.

  1. Izbor sistema/modela

Uporaba skladno s splošnimi načeli znanstvene etike in integritete.

Izberemo sistem, ki je zanesljiv, verodostojen in skladen z etičnimi standardi.

Pred uporabo se moramo seznaniti z osnovnimi principi delovanja izbranega modela, saj to vpliva na:

• pristranskost,

• vprašanje avtorskih pravic in

• točnost rezultatov ter vprašanje varovanja osebnih podatkov.

  1. Transparentnost uporabe

Uporaba UI je sprejemljiva v meri, ki omogoča, da je stvaritev dela mogoče pripisati avtorju (osebi).

Priporočamo dosledno navajanje uporabe UI v vseh fazah raziskav, zlasti če so ti nanje pomembno vplivali.

Smiselna je navedba v razdelku o raziskovalni metodologiji.

Navedbe v seznamu literature oziroma med sprotnimi opombami in v seznamu literature ne priporočamo – generativni modeli, ki delujejo po principu predikcije na podlagi verjetnosti, generirajo rezultate, ki jih pod nobenim pogojem ni mogoče ponoviti.

  1. Kritična presoja

Ker so vsebine, pridobljene z uporabo UI, neponovljive, metode njihovega generiranja in obdelave pa nepreverljive, je pri raziskavah nujna visoka mera previdnosti.

Pri delu moramo upoštevati, da pridobljene informacije niso nujno pravilne ali točne, lahko vsebujejo avtorsko zaščiteno gradivo, so zavajajoče, žaljive, vsebujejo diskriminatorne elemente ali sledijo prevladujočim mnenjem ter stereotipom.

Sisteme je priporočljivo uporabljati kot pomoč pri raziskovanju. Olajšajo delo pri posredovanju splošnih znanj, izpopolnjevanju in prevajanju besedil, analizi podatkov in interpretaciji rezultatov.

Pri uporabi UI ohranjamo izjemno kritičen in odgovoren pristop. Nujno je preverjanje verodostojnosti z uporabo zanesljivih primarnih virov in literature.

Za boljšo presojo je ključno poznavanje delovanja izbranega sistema in posebnosti baze podatkov, na katerih je bil naučen.

  1. Objava rezultatov raziskav

Pri objavi zanesljivih raziskovalnih rezultatov naraščajoča uporaba UI od recenzentov in urednikov zahteva dodatno presojo.

Založbi ZRC smo predlagali, da v pravila za objavo znanstvenih monografij in revij doda klavzulo, da mora biti znanstveno delo napisano skladno z zgoraj napisanimi priporočili.

V imenu Delovne skupine za oblikovanje smernic za uporabo sistemov umetne inteligence na ZRC SAZU je smernice član skupine dr. Blaž Komac predstavil na interni konferenci Generativna umetna inteligenca in znanost, ki je potekala sredi decembra.