Tajni AI eksperiment Sveučilišta u Zürichu: Manipulacija mišljenja korisnika Redditta!

Na Sveučilištu u Zürichu otkriven je tajni pokus s umjetnom inteligencijom koji je imao za cilj utjecanje na mišljenja korisnika Reddit platforme. Istraživači sa sveučilišta proveli su četveromjesečni eksperiment bez odobrenja, koristeći generirane komentare umjetne inteligencije kako bi testirali mogu li promijeniti stavove ljudi. Na popularnom subreddit-u r/changemyview, lažni računi potpomognuti umjetnom inteligencijom predstavljali su se kao različite osobe, uključujući žrtvu silovanja, protivnika društvenih pokreta i savjetnika za traumu. Moderatori zajednice kritizirali su ovaj pristup jer smatraju da je mjesto na kojemu se ljudi okupljaju kako bi razmjenjivali mišljenja, trebajući biti slobodno od nedeklarirane uporabe umjetne inteligencije.

Istraživački tim koristio je AI kako bi generirao odgovore prilagođene na temelju informacija iz povijesti postova korisnika Reddita, kao što su politička orijentacija, spol, dob i etnička pripadnost. Tijekom trajanja pokusa, lažni računi objavili su 1.783 komentara i dobili 137 delta znakova, što ukazuje na to da su nekoga uvjerili u promjenu mišljenja.

Iako su istraživači tvrdili da su svi komentari ručno pregledani kako bi se smanjila potencijalna šteta, ali se postavlja pitanje etičnosti cijelog eksperimenta. Istraživači su zagovarali da koristi istraživanja nadmašuju rizike jer ukazuju na to da modeli koji koriste generativnu umjetnu inteligenciju mogu biti izuzetno uvjerljivi, čak i premašujući poznate ljudske standarde uvjerljivosti.

Reddit sada razmatra pravne opcije zbog kršenja korisničkog ugovora i pravila platforme, a svi poznati računi povezani s istraživanjima Sveučilišta u Zürichu već su zabranjeni. Pravna služba Reddita radi na formalnim pravnim zahtjevima prema sveučilištu i istraživačkom timu kako bi ih pozvali na odgovornost.

Etička komisija Fakulteta umjetnosti i znanosti Sveučilišta u Zürichu obećala je bolje koordinirati buduće eksperimente s ispitnim subjektima. Voditelj istraživačkog projekta dobio je službeno upozorenje. Komisija, međutim, smatra da su uvidi koje projekt pruža važni, a da su rizici minimalni te su se usprotivili suzbijanju publikacije istraživanja.

Ovaj incident otvara mnoga pitanja o etici istraživanja i korištenju umjetne inteligencije u znanstvenim studijama, posebice kada dolazi do manipulacije ljudskom percepcijom bez njihovog znanja.