Ispostavilo se da bi utrka za razvojem pametnije i brže umjetne inteligencije mogla značiti da idemo prema katastrofi, budući da su stručnjaci za to područje upozorili da postoji 50 posto šanse da će završiti “katastrofom” i da će “većina” ljudi umrijeti.
Paul Christiano, bivši ključni istraživač u OpenAI-ju, vjeruje da postoje prilično dobri izgledi da bi umjetna inteligencija mogla preuzeti kontrolu nad čovječanstvom i uništiti ga.
Budući da je prije bio na čelu tima za usklađivanje jezičnog modela u tvrtki AI Intel, vjerovatno zna o čemu govori.
Christano sada vodi Alignment Research Center (Centar za istraživanje usklađivanja), neprofitnu organizaciju usmjerenu na usklađivanje sistema učenja mašina sa “ljudskim interesima”.
– Mislim da možda postoji nešto poput 10-20 posto šanse da AI preuzme vlast, [uz] mnogo [ili] većinu ljudi mrtvih. Sve u svemu, možda govorimo o 50/50 šansi za katastrofu ubrzo nakon što dobijemo sisteme na ljudskoj razini, rekao je u gostovanju u Bankless Podcastu.
I nije sam.
Ranije ove godine, naučnici iz cijelog svijeta potpisali su internetsko pismo u kojem pozivaju da se utrka umjetne inteligencije zaustavi dok mi (ljudi) ne dobijemo dovoljno vremena za izradu strategije.
Bill Gates također je izrazio svoju zabrinutost, uspoređujući AI s “nuklearnim oružjem” još 2019. godine.
Dakle, u nedostatku uzbudljivog naučno-fantastičnog podzapleta, kako bi se umjetna inteligencija mogla okrenuti ljude koji su ga stvorili?
Ispostavilo se da je sve to zbog životnog iskustva.
Baš poput ljudske bebe, umjetna inteligencija se trenira bombardiranjem podacima, a da ne zna šta sa njima učiniti.
Baš kao što novorođena beba plače i saznaje da je roditelj došao po nju, AI uči pokušavajući postići određene ciljeve nasumičnim radnjama i ciljajući na “tačne” rezultate.
Uranjanjem umjetne inteligencije u internetske podatke, njeno učenje znači da sada može proizvoditi dobro strukturirane, koherentne odgovore na ljudske upite.
Kako kompjuterska obrada koja pokreće učenje mašine postaje sve više specijalizirana, mnogi u tom području vjeruju da će, u roku od jednog desetljeća, procesorska snaga u kombinaciji s umjetnom inteligencijom učiniti mašine osjetljivima – tu bismo mogli imati problem.
Zbog toga su mnogi istraživači pozvali da naučimo kako kontrolirati ponašanje umjetne inteligencije sada – prije nego što izmakne kontroli.
A Christiano nije jedini koji je zabrinut za budućnost umjetne inteligencije. Elon Musk je u martu ove godine rekao da je “zabrinut zbog AI stvari”.
– To je prilično opasna tehnologija. Bojim se da sam možda napravio neke stvari da je ubrzam, rekao je tada, piše Unilad.
