Vencislav Karadjov: Kolleger i arbeidsgruppene i European Committee jobber med retningslinjer for hva veiledere bør gjøre for å kontrollere virkningen av kunstig intelligens. Men i Bulgaria har vi i forbindelse med chatboten «Natalia», som har blitt kjent i media, tatt et initiativ til å regulere i bulgarsk lovgivning en standard som dekker trakassering fra automatiske maskiner. Det skal forstås at når slike automatiske maskiner brukes, kan mange av rettighetene til fysiske personer som er gitt dem i henhold til forordningen ikke utøves. Det er i det minste retten til å vite hvem som foretar etterforskningen, retten til å nekte samtykke dersom samtykke er gitt ved et uhell. Nå er det ingen måte å kontakte chatboten eller undersøkelsesadministratoren selv. Når du ringer tilbake, møter brukeren bare et “Opptatt”-signal. Hvis det er systematisk trakassering og personen ikke kan forsvare seg på noen måte, bør passende administrative sanksjoner ilegges når denne trakasseringen er påvist.

Spiller det noen rolle om en kundesenterperson ringer eller en chatbot, i begge tilfeller kan det oppstå trakassering når den ansatte leser spørsmål og forhåndsinnspilte svar på skjermen?

Vencislav Karadjov: Faktum er at med et kontaktsenter, selv om du møter en annen person, kan de kun behandle dataene først for direkte markedsføringsformål. Direkte markedsføring krever en engangssamtale, og hvis du avslår bør du ikke lenger være i databasen. Selv om en annen kontaktsenteransatt svarer på samtalen, kan du spørre dem direkte «hvorfor ser du etter meg når jeg har nektet et gitt samtykke, gi meg mer informasjon eller nøyaktig hvor jeg kan benytte meg av angreretten». Med en chatbot skjer det ikke, det er ikke noe ultimate menneskelig element. Så endringene bør tilsi at når informasjon behandles av automatiske maskiner, bør det være et menneskelig element på slutten, dvs. den enkelte må foreta en endelig dom fra sak til sak. Ikke slik med automatiske maskiner.