Italijanski organ za varstvo osebnih podatkov, Garante per la Protezione dei Dati Personali, je 31. marca 2023 začasno prepovedal uporabo umetne inteligence ChatGPT, ki jo je razvila družba OpenAI. Razlog za prepoved je bila skrb glede varnosti osebnih podatkov.
ChatGPT je chatbot, ki lahko generira izjemno človeške odgovore na besedilna vprašanja. Za izboljšanje delovanja modela se uporabljata tako nadzorovano učenje kot ojačitveno učenje in človeški trenerji. ChatGPT je bil lansiran javno 30. novembra 2022, in takoj po izdaji je postal izjemno priljubljen v mnogih državah.
Vendar pa se je v Evropi pojavila skrb glede zbiranja osebnih podatkov za izboljšanje delovanja tega velikega jezikovnega modela. Skupaj z državami, kot so Francija, Nemčija in Irska, je Italija izrazila skrb glede skladnosti z novo evropsko uredbo o umetni inteligenci.
Italijanski organ za varstvo osebnih podatkov je ChatGPT obtožil, da ni preverjal starosti uporabnikov in da ni imel pravne osnove, ki bi upravičevala obsežno zbiranje in shranjevanje osebnih podatkov za usposabljanje chatbota.
Po mnenju Garante per la Protezione dei Dati Personali ChatGPT krši štiri točke, ki jih uredba GDPR varuje:
- Ne zagotavlja starostnega nadzora in privolitve staršev, zato lahko otroci, mlajši od 13 let, uporabljajo ChatGPT.
- Lahko zagotovi informacije o ljudeh, ki so netočne ali celo napačne.
- Ljudje niso bili obveščeni o tem, kako so njihovi podatki zbrani.
- Ni pravne osnove za masovno zbiranje osebnih podatkov posameznikov za usposabljanje ChatGPT.
OpenAI nima pisarn v Evropski uniji in ni odgovoril na regulatorje. Namesto tega je OpenAI 31. marca umaknil ChatGPT iz Italije. Podjetje prav tako ni odgovorilo na vprašanja drugih evropskih regulatorjev glede morebitnih kršitev v njihovih državah.
Ta poteza italijanskih regulativnih organov odraža njihov trud za zagotavljanje upoštevanja GDPR-a s strani podjetij, ki ponujajo storitve na njihovem trgu. Kot kaže, so v OpenAI zanemarili nekatere ključne zahteve tega zakona, kar je pripeljalo do odločitve italijanskih regulatorjev.
Kaj pa zdaj? OpenAI ima dve možnosti: bodisi lahko popravi svoj sistem, da bo skladen s GDPR-om, bodisi se lahko odloči, da se bo umaknil s trga EU. Prva možnost verjetno pomeni, da bi OpenAI moral posodobiti svoj sistem in izpolniti zahteve GDPR-a. To bi zahtevalo pomembne spremembe v procesu zbiranja podatkov in verjetno bi moral pridobiti tudi soglasja uporabnikov za zbiranje njihovih osebnih podatkov. Če bi se podjetje odločilo, da se umakne s trga EU, pa bi to lahko pomenilo izgubo pomembnega dela trga za OpenAI.
Vendar pa se zdi, da bo OpenAI raje poskusil odpraviti težave, saj je italijanska prepoved ChatGPT-ja zagotovo nekaj, kar bi lahko vplivalo na ugled podjetja. In čeprav se zdi, da se bo OpenAI ukvarjal z vprašanji skladnosti s GDPR-jem, bi lahko ta dogodek spodbudil tudi druge države, da začnejo bolj pozorno spremljati dejavnosti podjetij, ki ponujajo podobne storitve.
V vsakem primeru je ta dogodek opozorilo za podjetja, da morajo skrbeti za varovanje osebnih podatkov svojih uporabnikov in upoštevati vse veljavne zakone in predpise. Za uporabnike pa je pomembno, da se zavedajo, da lahko tudi spletne storitve, kot je ChatGPT, zbirajo njihove osebne podatke in da morajo biti pozorni, kaj delijo na spletu.
Za OpenAI in druge podjetja, ki razvijajo generativne AI tehnologije, je to pomemben signal, da morajo skrbno upoštevati zakonodajo o varstvu podatkov, če želijo delovati v Evropski uniji. To še posebej velja za podjetja, ki se nahajajo zunaj Evrope, saj morajo biti še posebej pozorni na to, kako zbirajo in uporabljajo osebne podatke evropskih uporabnikov.
Čeprav so generativni AI sistemi kot ChatGPT lahko zelo koristni za uporabnike, ki želijo hitro in učinkovito pridobiti informacije, se morajo podjetja zavedati, da morajo za uporabo teh tehnologij upoštevati zakonodajo o varstvu podatkov in zagotoviti ustrezne varnostne ukrepe za zaščito osebnih podatkov uporabnikov. V prihodnosti bomo morda videli več regulativnih posegov, saj se število uporabnikov, ki se zavedajo pomena varstva osebnih podatkov, nenehno povečuje.
