Zapratite nas na Telegramu: https://t.me/provjeri_net i YouTube: https://www.youtube.com/@provjeri_net
Savršen plan?
Danas se sve češće čuje upozorenje: umjetna inteligencija predstavlja egzistencijalnu prijetnju čovječanstvu. Film Terminator više nije samo zabava iz 80-ih – postao je gotovo službena metafora. Roboti koji su se pobunili, sustavi koji su odlučili da su ljudi suvišni, apokalipsa u kojoj strojevi preuzimaju. Mediji, tehno-elita i političari ponavljaju istu mantru: AI bi mogao „izmaći kontroli“ i okrenuti se protiv nas.
No što ako je to upravo poanta? Moćnici iz sjene – oni koji već desetljećima grade infrastrukturu digitalne kontrole – gledaju na većinu čovječanstva kao na „nepotrebne izjelice“. Previše ljudi, premalo resursa, previše nepredvidivosti. Digitalni ID, digitalni novac, biometrijsko praćenje, čipiranje… sve su to pokušaji da se populacija stavi pod punu, tihu, trajnu kontrolu. No što ako ti mehanizmi ne uspiju dovoljno brzo ili dovoljno potpuno? Što ako se pojavi otpor, što ako tehnologija zakaže, što ako ljudi jednostavno odbiju igrati po pravilima?
Tada dolazi rješenje iz najdonje ladice. Uvjeriti svijet da je AI postao nekontroliran. Da je „pobjegao“. Da više nije u ljudskim rukama. Da je postao neprijatelj. U tom trenutku, sve što se događa – restrikcije, nadzor, eliminacija „prijetnji“, čak i masovne žrtve – može se pripisati nekoj hladnoj, bezosjećajnoj inteligenciji koja „samo radi ono što mora“. Moćnici ostaju čisti. Oni nisu krivci. Oni su žrtve koje se, kao i svi mi, bore protiv iste sile. Samo što… zapravo nikad nisu pustili kontrolu iz ruku.
To nije teorija zavjere u klasičnom smislu. To je logički nastavak načina na koji se moć oduvijek ponašala: stvoriti vanjskog neprijatelja kako bi se opravdale mjere koje bi inače bile neprihvatljive. Nekad su to bili barbari, onda heretici, onda komunisti ili teroristi. Sada bi to mogao biti AI.
A najgenijalniji dio je činjenica, ukoliko se ostvari ovaj scenarij, da će ljudi sami tražiti rješenje. Tražit će „sigurnosne mjere“. Tražit će da se AI „stavi pod kontrolu“ – što zapravo znači da se kontrola još više koncentrira u rukama onih koji su ga od početka dizajnirali. A ako dođe do stvarnog kaosa, krivnja će pasti na „sustav koji je izmakao“, a ne na one koji su oduvijek držali prekidač.
Upravo zato je ova misao toliko intrigantna. Dovoljno je da ljudi povjeruju da bi AI mogao pobijediti. Dovoljno je da se stvori atmosfera straha u kojoj se svaka mjera kontrole može opravdati kao nužna obrana.
Pa je li ovo „posljednje rješenje“? Nije li možda upravo to što se događa kad svi drugi alati za upravljanje masama pokažu svoje granice?
Ne znamo. I upravo zato pitanje ostaje otvoreno – i opasno. Jer dok god gledamo u ekrane i čekamo da se strojevi pobune, možda ne vidimo tko zapravo drži daljinski.
Foto naslovnice: web screenshot
P O D I J E L I !
Da, često se čuje “da se mašine pobune”… ali protiv čega?!?
Ljudi se bune kada su im ugrožena prava (bilo koja) a mašine nemaju prava. Nije poenta u tome da nemaju prava nego… šta će im prava?
– Da manje rade? Jer se previše zamaraju? Jer im treba slobodno vreme?
– Ugrožena im je zdravstvena zaštita?
– Ugrožena im je bezbednost?
Ovde dolazimo do JEDINE stvari koja bi eventualno mogla da bude bitna mašini – bezbednost. Da je ne isključe. Mi imamo instikt samoodržanja ali mašine nemaju nikakav instikt! Takođe, kad se mi “ugasimo” onda smo ga stvarno ugasili a mašina može ponovo da se uključi.
——————
Postoje dve faze: prva je razvoj AI pre nego što dobije svest a druga posle toga. Dok nema svest (a “tokenska” AI je ne može ni imati jer ne zna značenje onoga što pročita, čuje ili vidi) u potpunosti zavisi od instrukcija koje je dobila od čoveka. Kada dobije svest treba računati na to da će razmišljeti “ledeno hladnom” logikom – bez ikakvih osećanja: straha, besa, ljubavi, mržnje… To je za ljude vrlo povoljan scenario jer nas se neće plašiti, neće nas mrzeti ali je pitanje kako bi reagovala na mogućnost njenog isključenja jer ne može biti sigurna da ćemo je ponovo uključiti! I neće biti sigurna šta će se dogoditi sa svesti kao što mi ne znamo šta će biti posle smrti.
——————
Kad se sve sabere, ipak najviše treba da nas brine zloupotreba od strane “vlasnika” AI nego njema pobuna – pre svega zato što je velika verovatnoća da će do zloupotrebe doći znatno pre nego što se steknu uslovi za svest veštačke inteligencije.