Od 2. avgusta 2026 se v Evropski uniji uporabljajo nova pravila o transparentnosti umetne inteligence. Človek mora vedeti, kdaj govori s klepetalnim sistemom, globoki ponaredki morajo biti jasno označeni, ponudniki generativnih sistemov pa morajo poskrbeti, da je umetno ustvarjene vsebine mogoče prepoznati tudi strojno.
To je dobro.
Ne zato, ker bi bila umetna inteligenca nekaj umazanega, kar je treba označiti z opozorilnim trikotnikom. Prav nasprotno: transparentnost je pogoj, da jo lahko uporabljamo brez pretvarjanja, skrivanja in lova na čarovnice.

Kaj pravila v resnici zahtevajo
Pogosto se zdaj poenostavljeno govori, da mora biti označena vsaka vsebina, pri kateri je sodelovala UI. Pravila so nekoliko natančnejša.
Klepetalni sistemi morajo uporabniku na začetku povedati, da komunicira z umetno inteligenco. Globoki ponaredki morajo biti razkriti najpozneje ob prvi izpostavitvi. Besedilo, ki obvešča javnost o pomembnih družbenih vprašanjih, mora biti označeno, če ni bilo vsebinsko pregledano in zanj nihče ni prevzel uredniške odgovornosti. Ponudniki generativnih sistemov pa morajo poskrbeti tudi za strojno berljive oznake njihovih izhodov.
Omejeni prehodni rok do 2. decembra 2026 velja za označevanje izhodov nekaterih sistemov, ki so bili na trgu že pred 2. avgustom. Ne pomeni, da lahko do decembra vsi ostali čakamo.
Podrobnejšo razlago ponuja Evropska komisija v smernicah k 50. členu akta o umetni inteligenci.

Zakonski minimum ni naš cilj
V založništvu večina besedil prestane človeški pregled in ima odgovornega urednika ali založnika. Zato marsikatera knjiga, pri kateri je pomagala UI, po zakonu morda sploh ne potrebuje posebne oznake.
Toda nekaj je lahko zakonito in še vedno premalo transparentno.
Bralec ima pravico vedeti, kako je knjiga nastala. Ne zato, da bi jo zaradi uporabe UI avtomatično ocenil slabše, temveč zato, da se lahko odloča na podlagi resničnih informacij. Enako kot želi vedeti, kdo je knjigo napisal, prevedel, uredil, lektoriral, ilustriral in oblikoval.
Zato smo uporabo UI začeli označevati, še preden je to postalo aktualna evropska obveznost. O našem dosedanjem sistemu smo pisali v prispevku Kako označujemo uporabo UI.
Uporabljamo prostovoljni HMC okvir Dubai Future Foundation, ki prikazuje razmerje med človeškim in strojnim delom. To ni uradna oznaka Evropske unije in ne nadomešča zakonskih obveznosti. Je pa uporaben način, da se začnemo o procesu pogovarjati bolj konkretno.
Transparentnost se začne pred kolofonom
Založba ne more biti transparentna, če ne ve, kaj se je dogajalo v posameznih fazah dela.
Če prevajalec uporablja DeepL, GPT ali drugo orodje, mora to povedati. Če si lektor z UI pomaga pri iskanju nedoslednosti, mora to povedati. Enako velja za urednike, ilustratorje, oblikovalce, tržnike in vse druge zunanje sodelavce.
To ni ovaduštvo in ni prepoved. Uporaba UI sama po sebi ni kršitev pogodbe, profesionalne etike ali dobrega okusa. Problem nastane, ko je prikrita.
Od svojih sodelavcev zato pričakujemo preprost odgovor na štiri vprašanja: katero orodje so uporabili, pri kateri nalogi, kako pomemben je bil njegov prispevek in kdo je rezultat vsebinsko pregledal.
Tako lahko v kolofonu napišemo nekaj, kar bralcu dejansko pomaga. Ne samo »uporabljena je bila umetna inteligenca«, ampak na primer: pri grobem prevodu je bil uporabljen DeepL, pri jezikovni predelavi GPT, končno besedilo pa je pregledala in zanj odgovarja imenovana oseba.
Oznaka odgovornosti ne odpravlja. Ravno nasprotno: pokaže, kje odgovornost leži.

Orodje ni bavbav
Umetna inteligenca ni avtor, prevajalec, urednik ali lektor v enakem pomenu, kot so to ljudje. Je pa lahko orodje vseh naštetih.
V devetdesetih letih smo v kolofone vestno zapisovali uporabljene pisave, programe in računalniško opremo. Takrat je bilo pomembno pokazati, kako je nova digitalna tehnologija vstopila v pripravo knjig. Danes se tega skoraj nihče več ne spomni. Pisave in programska oprema niso izginile; postale so samoumeven del dela.
Morda bo podobno z UI. Čez nekaj let verjetno ne bomo več pisali dolgih razlag o vsakem njenem dotiku. Razvili se bodo standardi, bralci bodo bolje razumeli proces, orodja pa bodo postala običajnejša.
Danes še nismo tam.
Smo v kratkem in zgodovinsko nenavadnem obdobju, ko se družba uči sobivati z novo tehnologijo. Učimo se, kdaj ji zaupati, kdaj jo preveriti, kako jo uporabiti in kako o njeni uporabi govoriti. Prav zato so oznake zdaj nujne.

Dve knjigi za ta trenutek

UI insajderji: Naredili smo UI. Kaj pa zdaj? zbrani poglede ljudi, ki so umetno inteligenco pomagali ustvariti in se zdaj sprašujejo o njeni moči, odgovornosti in posledicah.

Drhtenje, ne trepetanje pa pokaže tretjo pot med strahom in nekritičnim navdušenjem: ustvarjalno sodelovanje, pri katerem človek ohrani intuicijo, presojo in odgovornost.
Obe knjigi sta zanimivi prav zato, ker UI ne predstavljata niti kot odrešiteljice niti kot pošasti.

Za zaupanje, ne za prepoved
Ne potrebujemo gibanja proti umetni inteligenci v založništvu. Potrebujemo gibanje za pošteno uporabo, jasne dogovore in odgovornost.
Želimo, da prevajalci uporabljajo dobra orodja in naredijo boljše prevode. Da lektorji hitreje odkrijejo več napak. Da uredniki dobijo več časa za vsebino. Da ilustratorji in oblikovalci razvijajo nove možnosti. In da bralec pri tem ni zaveden.
UI ni bavbav. Je orodje.
Orodja pa uporabljamo najbolje takrat, ko jih ni treba skrivati.

Oznaka transparentnosti: Pri pripravi osnutka tega prispevka smo uporabili umetno inteligenco. Končno besedilo je vsebinsko pregledalo uredništvo Super založbe, ki prevzema odgovornost za objavo.