Šta prijeti čovječanstvu kompjuterizacijom cijelog našeg života

2024 Autor: Seth Attwood | [email protected]. Zadnja izmjena: 2023-12-16 15:59

Pametni telefoni, roboti i kompjuteri nam olakšavaju život, ali možda u tome nešto gubimo? Novinar je razgovarao s američkim piscem Nicholasom Carrom o opasnostima, pa čak i prijetnjama prekomjerne automatizacije.

Rašireno je mišljenje da automatizacija svega i svakoga poboljšava kvalitet našeg života. Računari nam pomažu da postignemo vrhunske performanse. Softverske aplikacije čine zadatke bržim i lakšim. Roboti preuzimaju naporan i naporan posao. Neprekidan dotok inovacija iz Silicijumske doline samo pojačava uverenje ljudi da nove tehnologije čine život boljim.

Međutim, postoji i drugo mišljenje. Pisac Nicholas Carr podvrgava postulate modernog digitalnog svijeta nepristrasnoj analizi. Njegov esej "Da li nas Google čini glupima?", objavljen u Atlanticu 2008. godine, još uvijek je kontroverzan, kao i njegov bestseler iz 2010., The Shallows.

Zagovornici teorije da će tehnologija spasiti naš svijet vide Carra kao jednog od svojih najmoćnijih protivnika. A oni koji su oprezni u pogledu posljedica tehnološkog napretka po čovječanstvo, poštuju ga zbog uravnotežene argumentacije.

Sada Carra zanima novo pitanje: treba li se bojati da postepeno neće biti teških zadataka za nas u svijetu? Hoće li naši životi postati previše efikasni zahvaljujući novim tehnologijama?

Sastao sam se sa piscem pre nekog vremena kako bih razgovarao o njegovoj novoj knjizi, Stakleni kavez: automatizacija i mi, i šta ga je navelo da je napiše.

1. Razotkrivanje glavnog mita o novim tehnologijama

Tom Chatfield:Ako sam dobro shvatio, u knjizi "Stakljeni kavez" pokušavate da razotkrijete mit da je pojednostavljenje naših života zahvaljujući tehnološkom napretku nužno pozitivna pojava.

Nicholas Carr:I na ličnom i na institucionalnom nivou, navikli smo da mislimo da su efikasnost i udobnost po defaultu dobri, a njihovo maksimalno povećanje je svakako vredan cilj. Čini mi se da je ovakav pristup tehnologiji u svim njenim oblicima, posebno u vidu kompjuterske automatizacije, prilično naivan. To se odnosi i na naše vlastite želje i stvarni život u savremenom svijetu.

Hoće li kompjuteri ikada zamijeniti ljude?

T. Ch.:Pa ipak, većina pristalica tehnološkog napretka drži se utilitarne tačke gledišta, prema kojoj su najveće greške koje radimo zbog zanemarivanja efikasnosti i logike, a zapravo ni sami ne znamo šta je dobro za nas. Stoga je, sa njihove tačke gledišta, zadatak tehnološkog napretka da identifikuje nedostatke ljudskog mišljenja, a zatim kreira sisteme koji bi te nedostatke nadoknadili. Je li ovo mišljenje pogrešno?

N. K.: S jedne strane, mnoge inovacije u razvoju kompjuterske tehnologije i razvoju automatizovanih sistema nemaju nikakve veze sa širokom tvrdnjom da su ljudi veoma nesavršeni u poređenju sa kompjuterima. Da, računar se može programirati da obavlja određene operacije neograničeno uz dosljedan kvalitet. I istina je da čovjek nije sposoban za tako nešto.

Ali neki idu i dalje i tvrde da su ljudi previše nesavršeni, da njihovu ulogu treba maksimalno ograničiti, a kompjuteri treba da budu odgovorni za sve osnovne zadatke. Ne radi se samo o pokušaju kompenzacije ljudskih nedostataka – ideja je da se ljudski faktor potpuno ukloni, zbog čega će, kako se tvrdi, naš život postati mnogo bolji.

T. Ch.: Čini se da ovo nije najbolja ideja. Postoji li optimalan nivo automatizacije?

N. K.: Po mom mišljenju, nije pitanje da li treba da automatizujemo ovaj ili onaj složeni zadatak. Postavlja se pitanje kako koristiti automatizaciju, kako tačno koristiti kompjutere za dopunu ljudskih znanja i vještina, nadoknaditi nedostatke u ljudskom razmišljanju i ponašanju, ali i stimulirati ljude da maksimalno iskoriste vlastito iskustvo i dosegnu nove visine.

Pretvaramo se u posmatrače kompjuterskog monitora

Preterano oslanjanje na softver može nas pretvoriti u posmatrače kompjuterskog monitora i operatere toka procesa. Kompjuteri mogu igrati veoma važnu ulogu jer smo samo ljudi – možemo postati žrtvom predrasuda ili propustiti važne informacije. Ali opasnost je u tome što je previše lako prepustiti sve naše funkcije računarima, što bi po mom mišljenju bila pogrešna odluka.

2. Trebate li stvarni život približiti scenariju video igrice?

T. Ch.: Sa zadovoljstvom sam primijetio da u svojoj knjizi navodite video igrice kao primjer interakcije čovjeka i mašine, u kojoj je poenta prevazići teškoće, a ne izbjegavati ih. Najpopularnije igre su vrsta posla koji igraču daje osjećaj zadovoljstva. Možemo se samo požaliti da posao koji mnogi od nas svakodnevno obavljaju zahtijeva mnogo manje vještine i donosi nam mnogo manje zadovoljstva.

Video igre stimulišu igrača da uloži dodatni napor i koristi mozak što je više moguće

N. K.: Video igre su zanimljive po tome što se njihov koncept kosi s općeprihvaćenim principima kreiranja softvera. Svrha kompjuterskih igrica nije nimalo da oslobode korisnika neugodnosti. Naprotiv, stimulišu igrača da uloži dodatni napor i da koristi mozak što je više moguće. Uživamo u video igrama upravo zato što nas izazivaju sa sve većim izazovima. Stalno se nalazimo u teškim situacijama – ali ne u situacijama koje izazivaju očaj. Savladavanje svakog novog nivoa samo brusi naše vještine.

Ovaj proces je vrlo sličan načinu na koji osoba stiče životno iskustvo u stvarnom životu. Kao što znamo, za razvoj sposobnosti čovjek treba da se iznova suočava sa ozbiljnim preprekama i da ih iznova savladava, koristeći sva svoja znanja i vještine. Postepeno, osoba dostiže novi nivo, nakon čega se povećava složenost prepreka.

Mislim da ljudi vole video igrice iz istog razloga iz kojeg dobijaju zadovoljstvo od sticanja novih iskustava i savladavanja prepreka. Rješenje teškog zadatka, u kojem se stiču nova znanja neophodna za savladavanje novih, još složenijih poteškoća, pričinjava čovjeku veliko zadovoljstvo.

Potpuna predanost kompjuteru dovest će nas do života u kojem će biti malo mjesta za samoostvarenje

Jedna od glavnih zabrinutosti koju izražavam u knjizi je da je naš stav prema napretku povezan sa željom da što je moguće više izbjegnemo rješavanje teških problema. Čini mi se da je ovo gledište u suprotnosti sa samim konceptom životnog zadovoljstva i samoostvarenja.

3. Hoće li kompjuteri eliminirati potrebu za ljudima?

T. Ch.: Za razliku od video igara, u stvarnom svijetu, naporan rad nije nužno nagrađen. Stvarni svijet je nepravedan i neuravnotežen. Možda je trend koji najviše uznemiruje ovdje to što interesi pojedinca (psihološki, lični, pa čak i u smislu opstanka) sve više odstupaju od korporativnih i vladinih ideja o svrsishodnosti. Plašite li se da će kompjuteri konačno zamijeniti ljude?

Mnoge igre je teško proći i zahtijevaju neuobičajene vještine i domišljatost od igrača. Pa zašto bi nam ostatak tehnologije samo olakšao život?

N. K.: Kada sam prikupljao materijal za knjigu, jako me je uplašio jedan članak (citati iz kojih citiram u tekstu), koji je napisao specijalista za vojnu strategiju. Prema njegovim riječima, s obzirom na sve veći obim upotrebe kompjuterskih tehnologija na bojnom polju, vrlo brzo možda jednostavno neće biti mjesta za osobu u vojnim poslovima. Brzina donošenja odluka je toliko porasla da ljudi jednostavno ne mogu pratiti kompjutere. Neizbježno idemo ka potpuno automatiziranom ratovanju: bespilotne letjelice će same odlučiti kada će ispaliti projektile na ciljeve, a robotski vojnici na zemlji će sami odlučiti kada će pucati.

Po mom mišljenju, ova situacija se ne vidi samo u vojnim poslovima, već iu mnogim drugim oblastima – na primjer, u svijetu finansija. Ljudi jednostavno ne prate kompjutere kada trguju finansijskim instrumentima, na primjer.

Šta nas čeka? Ne samo da možemo izgubiti sposobnost koja nas razlikuje od kompjutera za kritičku procjenu vlastitih postupaka - možda ćemo takve sisteme implementirati nepromišljeno, vjerujući da je glavna stvar brzina donošenja odluka. A onda, ako se uvjerimo da smo pogriješili, otkrit ćemo da nema povratka. Vrlo često se ispostavi da je nemoguće integrirati osobu u sistem koji je prvobitno izgrađen na kompjuterskoj tehnologiji.

T. Ch.: I ja sam se užasnuo kada sam pročitao odlomak u vašoj knjizi o automatskom ratovanju. Imao sam osjećaj da se proces koji će nas dovesti do potpuno autonomnih borbenih sistema ne može zaustaviti. Dio mog užasa potiče od sjećanja na finansijsku krizu iz 2008. godine, koja je praktično izbrisala trilione dolara. Barem su sada ljudi odgovorniji prema svojim finansijama. Ali ako se to dogodi u vojnoj sferi, neće biti uništeni dolari, već ljudski životi.

Budućnost bez ljudi?

N. K.: Ne radi se samo o tome da se nove tehnologije, posebno softverske tehnologije, danas mogu replicirati i distribuirati vrlo brzo. Poenta je da se svi ovi procesi odvijaju u konkurentskom okruženju. Bilo da je riječ o utrci u naoružanju ili poslovnom takmičenju, čim neko od rivala stekne kratkoročnu prednost na račun jedne ili druge tehnologije, ova tehnologija se odmah uvodi gdje god je to moguće – jer niko ne želi biti na nedostatak.

Mislim da je u ovoj situaciji previše lako izgubiti iz vida činjenicu da smo u suštini životinje. Ljudi su milenijumima prošli kroz evolutivni put da bi mogli da žive i prežive. Uloga čovječanstva, kao i naš osjećaj zadovoljstva i samospoznaje, usko su povezani s našim iskustvom življenja u svijetu koji nam postavlja uobičajeni tempo.

Stoga, kada čovjeka, sa svim njegovim fizičkim prednostima i nedostacima, suprotstavimo brzom i preciznom kompjuteru, javlja se želja da cijeli život prepustimo kompjuterima. Međutim, zaboravljamo da će nas potpuna predanost kompjuteru dovesti do života u kojem će biti malo prostora za samoostvarenje.

4. Kako automatiziramo svijet?

T. Ch.: Vjerujem da moramo biti kritični prema novim tehnologijama, ali zabrinut sam da ljudi nepotrebne poteškoće i antitehnološku "autentičnost" pretvaraju u fetiš. Postoji tako moderna škola mišljenja koja hvali težak fizički rad i tvrdi da sve što radimo mora biti zanatsko i autentično. Po mom mišljenju, takva pozicija miriše na snobizam i ne uzima u obzir ogroman broj pozitivnih dostignuća koje je sa sobom donijela demokratizacija tehnološkog napretka.

N. K.: u potpunosti se slazem sa tobom. U jednom intervjuu su me pitali kako bi moj oprezan odnos prema napretku pomogao, na primjer, ljudima koji rade u teškim uslovima u fabrikama za preradu mesa. Odgovorio sam da će, naravno, uvijek postojati mjesto za automatizaciju proizvodnje gdje treba poboljšati uslove rada ljudi. Samo možete inovirati pametno, ili možete to učiniti nepromišljeno; možemo pronaći način da uzmemo u obzir vrijednost ljudskog iskustva i važnost samospoznaje, ili jednostavno možemo pohvaliti sposobnosti kompjutera. Nije lako napraviti pravi izbor. Ako ovaj zadatak percipiramo isključivo crno-bijelo - ili se slijepo zalažemo za težak, iscrpljujući fizički rad u bilo kojoj situaciji, ili, obrnuto, vidimo smisao života u sibarizmu - to neće pomoći uzroku.

Najteži posao koji zahtijeva izuzetnu preciznost najbolje je prepustiti mašinama

Ljudi neprestano stvaraju i koriste alate. Od pamtivijeka moramo donositi odluke vezane za podelu rada, sa podjelom količine posla između čovjeka i alata koji mu stoje na raspolaganju. I čini mi se da neverovatna efikasnost računara u obavljanju širokog spektra zadataka samo komplikuje proces donošenja takvih odluka.

5. Šta nas čeka?

T. Ch.: Dakle, ide li čovječanstvo ka uspjehu?

N. K.: Istoričar prirodne istorije Thomas Hughes, koji je preminuo prošle godine, predložio je koncept "tehnološkog zamaha". Vjerovao je da tehnologije ugrađene u društvene strukture i procese počinju da se razvijaju same od sebe, povlačeći društvo za sobom. Sasvim je moguće da je naša putanja već zacrtana i da ćemo nastaviti dosadašnjim putem, bez postavljanja pitanja da li se krećemo u pravom smjeru. Zaista ne znam šta će se dogoditi. Najviše što mogu da uradim je da pokušam da razjasnim ova zaista teška pitanja najbolje što mogu.

Nadam se da ćemo mi, kao pojedinci i kao članovi društva, moći zadržati određeni nivo razumijevanja onoga što nam se dešava, kao i određeni nivo radoznalosti i donositi odluke na osnovu naših dugoročnih interesa., a ne na osnovu naših uobičajenih koncepata pogodnosti, brzine, tačnosti i efikasnosti.

Doći će dan i roboti će nas osloboditi svih poteškoća. Da li nam treba?

Čini mi se da treba nastojati da kompjuteri obogate naše životno iskustvo i otvore nam nove mogućnosti, a ne da nas pretvaraju u pasivne posmatrače ekrana monitora. I dalje mislim da će, ako izvučemo više iz novih tehnologija, oni moći da urade ono što su tehnologija i alati činili kroz ljudsku istoriju – da stvore zanimljiviji svet oko nas i da nam pomognu da i sami postanemo bolji. Na kraju krajeva, sve zavisi od nas samih.