Vitalik Buterin predlaže “blago zaustavljanje” računalne obrade u slučaju iznenadne opasne umjetne inteligencije.

Vitalik Buterin, jedan od osnivača Ethereum-a, predložio je pokušaj usporavanja razvoja superinteligentne umjetne inteligencije (AI) kako bi se kupilo vrijeme za pripremu čovječanstva za potencijalne posljedice. U svom blog postu od 5. siječnja, Buterin se osvrnuo na svoju raniju objavu iz studenog 2023. godine, u kojoj je zagovarao ideju “defenzivnog akceleracionizma” ili d/acc, u kontekstu mogućnosti da će superinteligentna AI biti dostupna u narednih pet godina.

Buterin je predložio “mekanu pauzu” u dostupnosti globalnih računalnih resursa kako bi se usporio razvoj opasnih oblika superinteligencije, na način da se dostupna globalna računalna moć smanji za čak 99% na jednu do dvije godine. Ovaj bi potez, prema njemu, mogao pomoći čovječanstvu da se bolje pripremi za potencijalne rizike koji prate razvoj AI.

AI superinteligencija je teoretski model umjetne inteligencije definirane kao znatno inteligentnije od najgenijalnijih ljudi u svim područjima stručnosti. Mnogi tehnološki stručnjaci i istraživači izrazili su zabrinutost zbog AI-ja, a više od 2.600 njih pozvalo je u ožujku 2023. na obustavu razvoja umjetne inteligencije zbog “dubokih rizika za društvo i čovječanstvo”.

Buterin je također naglasio da bi preporučio “meku pauzu” samo ako bi bio uvjeren da je potrebna snažnija mjera od odgovornosti po korisnika, gdje bi se oni koji koriste, implementiraju ili razvijaju AI mogli tužiti za štetu izazvanu modelom. Predložio je da se industrijska AI oprema može opremiti čipom koji bi omogućavao rad samo ukoliko bi tjedno dobivala tri potpisa od velikih međunarodnih tijela.

U skladu s time, Buterin podržava ideju d/acc koja zagovara pažljiv pristup razvoju tehnologije, nasuprot efektivnom akceleracionizmu ili e/acc, koji potiče neregulirane i brze tehnološke promjene.

Prijedlozi za pauzu uključuju lociranje AI čipova i zahtijevanje njihove registracije. Buterin je ukazao na to da bi potpisi mogli biti neovisni o uređaju, pa bi se čak moglo zahtijevati dokaz bez otkrivanja podataka (zero-knowledge proof) da su potpisi objavljeni na blockchainu. Ovakav bi sustav omogućavao kontrolu samo u slučaju odobravanja globalne konzistentnosti u radu uređaja.

Tema razvoja superinteligentne AI izaziva značajnu pažnju i kontroverze kako unutar tehnoloških zajednica, tako i šire, s pitanjima o tome kakav bi utjecaj ovakva tehnologija mogla imati na ljudsko društvo i našu budućnost.