Musk i stručnjaci upozoravaju: Umjetna inteligencija može prouzrokovati ozbiljnu štetu

3 min. čitanja

Američki milijarder Elon Musk i grupa stručnjaka za umjetnu inteligenciju pozivaju na šestomjesečnu pauzu u sistemima za obuku umjetne inteligencije. U otvorenom pismu navode da su ti sistemi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT kompanije Open AI, piše Reuters.

Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je preko 1.000 osoba, uključujući Muska. No, pismo potpisuju Emad Mostaque, izvršni direktor Stability AI-ja i istraživač DeepMinda Stuart Russell. Oni pozivaju na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli ne razviju za takve sustave.

Također, traže da te sisteme razviju, implementiraju i revidiraju neovisni stručnjaci. “Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati”, stoji u pismu.

U pismu opisali rizike za društvo i civilizaciju

U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija. Navode da se umjetna inteligencija takmiči s ljudima te da to može dovesti do ekonomskih i političkih poremećaja. Analitičari su pozvali programere da sarađuju s kreatorima politike i regulatornim tijelima, navodi Index

Pismo dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog napredne umjetne inteligencije poput ChatGPT-4. Oni upozoravaju na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacije i kibernetički kriminal. 

Kompanija Tesla u Muskovom vlasništvu koristi u automobilima umjetnu inteligenciju za sustav autopilota. Unatoč tome, Musk je potpisao otvoreno pismo i izrazio zabrinutost oko umjetne inteligencije.

ChatGPT Open AI-ja, tvrtke koju podržava Microsoft, prošle godine je potaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela. Osim toga, tvrtke su potaknute da integriraju generativne AI modele u svoje proizvode.

Direktor Open AI-ja nije potpisao pismo

Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Lifea. OpenAI nije odmah odgovorio na zahtjev za komentar.

“Pismo nije savršeno, ali namjera je ispravna. Moramo usporiti dok bolje ne shvatimo posljedice”, rekao je Gary Marcus, profesor emeritus na Univerzitetu New York koji je potpisao pismo.

“Umjetna inteligencija može prouzrokovati ozbiljnu štetu, veliki igrači postaju sve tajnovitiji o tome šta rade. To društvu otežava odbranu od štete koja može nastati”, dodao je.

Podijeli ovaj članak