Obvestilo o transparentnosti AI

1. Uvod

To obvestilo izpolnjuje obveznosti transparentnosti v skladu z Uredbo o umetni inteligenci EU (AI Act), člen 50. Opisuje, kako HaloAI uporablja sistume umetne inteligence v svoji storitvi glasovnega agenta, katere podatke AI obdeluje in kako so klicatelji obveščeni o interakciji z AI.

HaloAI je zavezan k transparentnemu in odgovornemu ravnanju pri uporabi umetne inteligence.

2. Kaj je AI glasovni agent

AI glasovni agent je programska rešitev, ki uporablja umetno inteligenco za samodejno odgovarjanje na telefonske klice in oddajo odhodnih klicev v imenu podjetja stranke. Agent generira človeku podoben govor v realnem času, obdeluje govorni vhod klicatelja in ustrezno odgovarja na njegova vprašanja in zahteve.

AI glasovni agent ni človek. Je avtomatiziran sistem, ki simulira naravni pogovor, vendar ne razmišlja ali čuti kot človek. Njegovi odgovori temeljijo na vzorcih, pridobljenih iz učnih podatkov in konfiguracije, ki jo določi stranka.

3. Katere AI sisteme uporabljamo

Storitev HaloAI temelji na naslednjih komponentah umetne inteligence:

• Samodejno prepoznavanje govora (ASR): pretvarja govorni vhod klicatelja v besedilo za nadaljnjo obdelavo. Omogoča AI agentu, da "razume", kar klicatelj pravi.
• Veliki jezikovni model (LLM): razume namero klicatelja in generira ustrezne odgovore. Model je prilagojen za slovenščino in specifične potrebe stranke.
• Pretvorba besedila v govor (TTS): generira naravno zveneč govor v slovenščini in drugih jezikih iz besedilnih odgovorov AI agenta.

Odločitve AI niso povsem avtonomne. Vedno obstaja možnost prehoda na človeškega operaterja.

4. Kako so klicatelji obveščeni

V skladu z EU AI Act, člen 50, HaloAI zagotavlja, da so klicatelji ustrezno obveščeni o interakciji z AI:

• Dohodni klici: Na začetku vsakega klica AI agent obvesti klicatelja, da govori z umetno inteligenco. Primer obvestila: "Pozdravljeni, tukaj je AI asistent podjetja [ime]. Z vami govori umetna inteligenca. Če želite govoriti s sodelavcem, recite 'želim govoriti z osebo'."
• Odhodni klici: AI agent se predstavi kot agent, ki kliče v imenu podjetja stranke, in razkrije, da je umetna inteligenca.
• Možnost prehoda na človeka: Klicatelj ima pravico kadarkoli med klicem zahtevati prehod na človeškega operaterja.

Stranka je dolžna zagotoviti, da je obvestilo o AI aktivno pri vseh njenih agentih. HaloAI privzeto vključi to obvestilo v konfiguracijo vsakega agenta.

5. Katere podatke AI obdeluje

Med klicem AI agent obdeluje naslednje podatke:

• Glasovni posnetek: zvok klica v realnem času za prepoznavanje govora
• Transkript: pretvorba govora v besedilo za obdelavo in shranjevanje
• Metapodatki klica: trajanje, čas, telefonska številka, ID agenta
• Razvrstitev namena: avtomatska klasifikacija razloga za klic

Klici so lahko posneti in transkribirani za namene kakovosti in usposabljanja. Podrobnosti o obdelavi in hrambi teh podatkov so opisane v Politiki snemanja klicev in Pravilniku o zasebnosti.

6. Omejitve AI sistema

Uporabniki in stranke morajo biti seznanjeni z naslednjimi omejitvami AI glasovnega agenta:

• AI agent morda ne bo pravilno razumel kompleksnih, dvoumnih ali neobičajnih zahtev
• Odgovori AI agenta so lahko občasno nepopolni ali netočni
• AI agent ne more dati pravno zavezujočih obljub ali sklepov v imenu stranke
• AI agent morda ne bo zanesljivo prepoznal čustvene stiske ali nujnih situacij
• Kakovost odgovorov je odvisna od kakovosti konfiguracije in učnih podatkov, ki jih zagotovi stranka

HaloAI nenehno spremlja in izboljšuje kakovost AI agenta.

7. Človeška prevzemitev

Vsak klicatelj ima pravico do stika s človekom. HaloAI zagotavlja naslednje mehanizme za prehod na človeka:

• Prošnja klicatelja: klicatelj lahko kadarkoli izreče željo po pogovoru s človekom (npr. "želim govoriti z osebo", "prosim za operaterja")
• Avtomatski prehod: sistem samodejno preusmeri klic na človeka v primeru prepoznavanja ključnih besed za nujne primere, kadar je zaupanje AI v odgovor pod določenim pragom ali pri prednastavljenih pravilih stranke
• Ciljni čas prehoda: manj kot 30 sekund med delovnim časom, kadar je človeški operater na voljo

Stranka je odgovorna za zagotovitev ustreznega človeškega pokritja za prevzem klicev.

8. Kakovost in nadzor

• HaloAI redno testira in spremlja odgovore AI agenta
• Stranka ima dostop do dnevnikov klicev in transkriptov za pregled

Na voljo je mehanizem za poročanje nepravilnega ali škodljivega vedenja AI. Poročila pošljite na info@halo-ai.si.

• HaloAI izvaja občasne ocene pristranskosti in poštenosti AI sistemov

9. Pravice klicateljev

Klicatelji, katerih osebni podatki se obdelujejo v okviru storitve, imajo naslednje pravice:

• Pravica do obveščenosti: pravica do vedeti, da komunicirajo z AI (AI Act, člen 50)
• Pravica do človeške pomoči: pravica zahtevati prehod na človeka
• Pravice po GDPR: pravica do dostopa, popravka, izbrisa, omejitve obdelave in ugovora (podrobnosti v Pravilniku o zasebnosti)
• Pravica do pritožbe: pravica vložiti pritožbo pri Informacijskem pooblaščencu RS

10. Razvrstitev po AI aktu

Glasovni agenti HaloAI so razvrščeni kot sistemi umetne inteligence z omejenim tveganjem v skladu s Prilogo III Uredbe o AI (AI sistemi, ki generirajo sintetični avdio). Obveznosti HaloAI vključujejo:

• Transparentno obveščanje klicateljev o interakciji z AI
• Vodenje dokumentacije o sistemu in njegovem delovanju
• Zagotavljanje človeškega nadzora nad sistemom

AI glasovni agenti HaloAI niso razvrščeni kot sistemi z visokim tveganjem. HaloAI vodi dokumentacijo, ki dokazuje skladnost z obveznostmi transparentnosti.