Geoffrey Hinton

Hinton je zanimanje medijev požel maja letos, ko je po desetletju dela obelodanil odhod iz ameriškega tehnološkega velikana Google. To je storil, da bi lahko bolj prosto govoril o tveganjih umetne inteligence, potem ko je zagon orodja ChatGPT sprožil val širjenja rabe umetne inteligence na globalni ravni.

Ugledni znanstvenik s področja umetne inteligence, ki sicer deluje na kanadski Univerzi v Torontu, je pred dnevi spregovoril na mednarodni tehnološki konferenci Collision v Torontu, poroča francoska tiskovna agencija AFP.

"Preden bo umetna inteligenca pametnejša od nas, menim, da bi ljudi, ki jo razvijajo, morali spodbuditi, da veliko truda vložijo v razumevanje, kako bo morda poskušala in prevzela nadzor," je med drugim povedal Hinton.

"Trenutno se 99 zelo pametnih ljudi trudi narediti umetno inteligenco boljšo, le ena zelo pametna oseba pa poskuša ugotoviti, kako jo ustaviti pred tem, da bi prevzela nadzor - morda bi morali biti bolj uravnoteženi," je znanstvenik ponazoril trenutno stanje.

Ob tem v luči kritik, da pretirava, poudarja, da bi morali tveganja v zvezi z umetno inteligenco obravnavati bolj resno. "Mislim, da je pomembno, da ljudje razumejo, da to ni znanstvena fantastika, da to ni vzbujanje strahu," je povedal in dodal: "To je realno tveganje, o katerem moramo razmišljati in vnaprej ugotoviti, kako se z njim spopasti."

Hinton je obenem izrazil zaskrbljenost, da bi umetna inteligenca lahko poglobila neenakost, saj da bi rast produktivnosti z naslova njene uporabe šla v korist bogatih in ne delavcev. "Bogastvo ne bo šlo k ljudem, ki opravljajo delo. Šlo bo v to, da bodo bogati še bogatejši, in ne k revnejšim, to pa je zelo slabo za družbo," je dejal.

Opozoril je tudi na problem lažnih novic, ki jih ustvarjajo boti, ki uporabljajo podobno tehnologijo kot ChatGPT. V tej luči upa, da se bo lahko vse vsebine, ustvarjene z umetno inteligenco, ustrezno označilo. "Zelo pomembno je na primer poskušati, da se vse, kar je lažno, označi kot lažno. Če to tehnično lahko naredimo, pa ne vem," je povedal.

Evropski parlament je sicer pred kratkim potrdil pogajalsko izhodišče o aktu o umetni inteligenci, v katerem se zavzema za strožji nadzor umetne inteligence. Med drugim bi morali sistemi umetne inteligence varovati zdravje, varnost, temeljne pravice in demokracijo. Sistemi, kot je ChatGPT, pa bi morali opozoriti, da je vsebina nastala z umetno inteligenco.

Na konferenci, na kateri je govoril Hinton, je sicer veliko pozornosti bilo namenjene priložnostim, ki jih prinašajo umetna inteligenca oziroma orodja, ki slonijo na tej tehnologiji, med katerimi največ zanimanja beleži ChatGPT.

Sarah Guo, ki se ukvarja z vlaganjem v startupe, denimo meni, da je govorjenje o pogubnih posledicah umetne inteligence preuranjeno. Pri tem se je naslonila na izjavo, ki jo je pred časom podal Andre Ng, še en znan strokovnjak s področja umetne inteligence: češ da ga to, da bi umetna inteligenca postala zlobna, ne skrbi iz istega razloga, kot ga ne skrbi glede prenaseljenosti Marsa, na katerega niti nismo še stopili.

Na konferenci so sicer govorili tudi o tem, ali bodo aktualni velikani na področju generativne umetne inteligence - Microsot z OpenAI in Google - tudi v prihodnosti ostali brez prave konkurence ali pa se bodo vendarle pojavili novi igralci, ki bodo s svojimi modeli in inovacijami še razširili to področje.