Odprt je futuristični Future Design Club, ki nastaja pod okriljem poslovne publikacije Invest-Foresight. Klub je združil strokovnjake z različnih področij znanja za analizo prihodnjih scenarijev. Prvo srečanje je potekalo na Inštitutu za filozofijo Ruske akademije znanosti in je potekalo v povezavi z novim seminarjem »Filozofija digitalne dobe« samega inštituta. Prišel je pod radar futurologov in filozofov umetna inteligenca(AI) in njen vpliv na družbo in posameznike.
Kaj pričakovati od umetne inteligence, kakšne omejitve in nevarnosti prinašajo inovativni informacijski sistemi, je povedal biofizik, vodilni strokovnjak na Inštitutu za biologijo staranja. Igor Artjuhov.
Znanstvenik je opozoril, da v regiji vlada terminološki kaos. Najpogosteje uporabljena formulacija je 70 let stara formulacija ameriškega inženirja, avtorja izraza »umetna inteligenca«. John McCarthy. AI je definiral kot določen sistem, napravo ali njihovo mrežo, ki je sposobna reševati intelektualne probleme. Igor Artjuhov je poudaril, da inteligenca ni sinonim za inteligenco, ampak označuje sposobnost dela z znanjem in podatki.
Obstaja tudi veliko klasifikacij algoritmov. Do nedavnega je po mnenju Igorja Artjuhova prevladoval razvoj strokovnjakov (od zgoraj navzdol), vendar niso izpolnili pričakovanj ne ustvarjalcev ne uporabnikov in začela se je zima AI. Oživitev je povzročil razvoj nevronskih mrež, ki je v letih 2015–2016 prešel v aktivno fazo. Ta razvoj so navdihnile raziskave človeških možganov. Nevronske mreže se večinoma ponavljajo splošna načela delovanje možganov, čeprav se lahko umetni nevroni razlikujejo od naravnih. Danes obstaja "živalski vrt" nevronskih mrež in večina jih je bila nedavno pridobljena s tehnologijo globokega učenja.
»Intelektualna« revolucija 17. leta
Tema AI je postala megapopularna leta 2016, ko je program AlphaGo premagal svetovnega prvaka v igri Go, ki velja za veliko težjo od šaha. To se je zgodilo 10 let prej, kot je bilo napovedano. Dosežki Googlovega programa DeepMind so razpravo premaknili dlje od "ali je umetna inteligenca mogoča?" v ravnini "česa je sposoben?"
Danes lahko AI avtomatizira katero koli človeško funkcijo z enako ali višjo kakovostjo, pravi član kluba, doktor fizike in matematike. Jurij Vizilter.
« Leta 2017 so bile zaprte vse temeljne "luknje" na poti do ustvarjanja polne umetne inteligence. Prejšnje napovedi so govorile, da bo ta prag presežen v letih 2025–2030. A to se je zgodilo že aprila lani,” je poudaril Jurij Vizilter. – Obstajata dve vrsti umetne inteligence – ena poskuša posnemati človeško razmišljanje in je prozorna škatla, v kateri je logika, spoznanje, delo s strukturiranimi modeli in jeziki. Druga vrsta so globoka omrežja, ki so sposobna učenja, ali Black Box. Prej je bilo nemogoče vzpostaviti povezavo na priročen način ta dva dela AI. Lani so se pojavile globoke nevronske mreže, ki so sposobne pisati programe v logičnih jezikih, sposobne delati z logičnimi bazami sklepanja in strukturami.».
Strah pred umetnim
Področja uporabe umetne inteligence se množijo. Programi razvijajo nove formule zdravil, izvajajo zapletene genetske teste, »nadzorujejo« brezpilotna vozila in ladje ... V doglednem času bomo priča umetnim osebnostim, katerih prototip so danes Siri in podobni programi. Eksperimenti za ustvarjanje globalne umetne inteligence na blockchainu že potekajo, to pomeni, da se bo porazdeljeno računalništvo uporabljalo za reševanje super kompleksnih problemov, tudi na zasebnih računalnikih in napravah. Pojav kvantne umetne inteligence ni daleč. V teoriji so kvantni računalniki presegli doseg običajnih računalnikov: sposobni so oblikovati kvantne nevronske mreže. Če bodo ideje razvijalcev uresničene, bo to vodilo k nastanku AI nove kakovosti.
Ali je možno, da umetna inteligenca uide izpod nadzora? Igor Artyukhov na to vprašanje odgovarja takole:
« Da, tudi zdaj AI včasih deluje na način, ki je razvijalcem nerazumljiv. Toda ljudje ne ravnamo vedno v skladu s splošno sprejeto logiko.».
Po mnenju biofizika so številne nevarnosti umetne inteligence namišljene in so le projekcija človeških instinktov, ki jih je oblikovala Darwinova evolucija, na strojno inteligenco. Igor Artjuhov meni, da je AI tuj nagon samoohranitve. Pojav "slabega" AI lahko povzročijo napake programske opreme (in obstajajo v kateri koli kodi in se popravijo med življenjsko dobo algoritma), učne napake in zlonamerni nameni, tj. Nevarnost ni umetna inteligenca, ampak človeška neumnost.
Udeleženci srečanja so ugotovili, da postaja razvoj etike za umetno inteligenco in usposabljanje učiteljev za robote najpomembnejši.
Digitalna transformacija človeka
Eden najpogostejših strahov je, da bo umetna inteligenca povzročila široko brezposelnost. Glavni urednik revije Invest-Foresight, kandidat kulturnih znanosti Konstantin Frumkin poskušal odgovoriti na vprašanje "Kakšno nišo na trgu dela bo umetna inteligenca pustila ljudem?" Po njegovem mnenju deležnik tehnološke revolucije 20. stoletja - urbani intelektualec - leti v isto brezno, v katerega je z začetkom industrializacije padel obrtnik ali kmet.
« V bližnji prihodnosti bomo priča izpodrivanju človeka iz sfere miselnega dela z umetno inteligenco,« je prepričan Konstantin Frumkin. – Že zdaj smo priča preobrazbi človeških sposobnosti, kognitivnega stila in mišljenja: tako pride do prilagajanja digitalni dobi. Simbol te prilagoditve je bil koncept "posnetkovega razmišljanja"“».
Ni pa dokazov, da bo ta prilagoditev človeku omogočila, da najde točno tiste niše, ki mu jih bo pustila umetna inteligenca. Najpomembnejše področje, ki ga po mnenju Konstantina Frumkina ne bi smeli prepustiti robotom, je področje postavljanja ciljev. Ko se vlada digitalizira, določanje prednostnih nalog in vrednot za umetno inteligenco postane neločljivo povezano s politiko in zakonodajo. Ta poklic, po mnenju Konstantina Frumkina, lahko v prihodnosti zagotovi množično zaposlitev.
Umetna inteligenca, človeško telo
Prihodnosti ni več mogoče napovedati, saj je hitrost sprememb zelo velika, pravi Jurij Vizilter. Pač profesor na Višji ekonomski šoli in podatkovni znanstvenik Leonid Žukov udeležence srečanja povabil k razpravi o več razvojnih scenarijih.
« V razmeroma bližnji prihodnosti vidim dva scenarija razvoja umetne inteligence: transhumanističnega (tehnologizacija naravnega človeka) in povsem tehničnega (ustvarjanje avtonomne umetne inteligence, AAI), sprva umetne, je opozoril Leonid Žukov. – Drugi način je tisto, s čimer pisci znanstvene fantastike strašijo človeštvo in slikajo podobe strojne civilizacije, ki izpodriva človeško civilizacijo. Ker pa skrivnost človeške zavesti še ni razrešena, ostajajo dvomi, ali je ustvarjanje takšne inteligence načeloma mogoče. Ne glede na to, ali bo AGI ustvarjen ali ne, si danes ni težko predstavljati razvoja tehnologije, tako strojne kot biološke, do te stopnje popolnosti, da bo človek, ki bo obdržal svoje možgane, prejel popolnoma umetno telo.».
Kot verjame Leonid Žukov, eden od fantastičnih načinov za ustvarjanje AGI temelji na ideji o prepisovanju človeške zavesti na umetni medij.
« Če bo tovrstna tehnologija možna, si ni težko predstavljati povsem virtualnega sveta, kamor se bo domnevno del človeštva želel preseliti (ali potovati po tej virtualnosti, saj računalniški igralci danes že potujejo po svetovih iger). )«, razmišlja znanstvenik.
Udeleženci prvega srečanja kluba »Designing the Future« so začrtali obrise prihodnjih razprav. Bo pa klub obstajal v virtualnem okolju, vse nastope pa lahko najdete na spletni strani Invest Foresight.
Umetna inteligenca je grožnja ljudem, opozarja Stephen Hawking. Umetna inteligenca, ki jo ustvari človek, se lahko sprevrže v največjo katastrofo(!), ki tekmuje s človeško civilizacijo.
Umetna inteligenca, roboti prihodnosti - človeška podpora
Elektronska inteligenca lahko ustvari lastno strojno civilizacijo in s tem postane ena najresnejših groženj človeštvu.
Napoved nevarnosti izhaja iz slavnega fizika Stephena Hawkinga (ki je odkril svet vesolja). Za naš čas je to seveda potencialna grožnja, a nekega »lepega dne« v prihodnosti bo morda umetna inteligenca razvila »lastno voljo«. Zdaj je čas, da resno razmislimo o tem vprašanju.
Fizik je ponovno izdal opozorilo: umetna inteligenca se lahko razvije v popolno miselno strukturo. Tako kompleksna in inteligentna, da bo obvladala sposobnost rasti in razumevanja sveta v skladu s svojo voljo, ki je lahko v nasprotju z načrti človeštva.
To bi lahko povzročilo nastanek močnega orožja in izzvalo izgubo nadzorovanega ozemlja s strani človeštva. — Profesor Hawking poziva raziskovalce, naj skrbno preučijo problem obnašanja umetne inteligence in njene možnosti v prihodnosti.
Povedati je treba, da profesor Hawking ideje o umetni inteligenci ne zavrže v negativno področje. Znanstvenik poudarja, da lahko, če naredimo domačo nalogo in raziščemo dovolj dobro, .
S pomočnikom, kot je AI, lahko dosežemo boljši način življenja, pravi fizik. Umetna inteligenca lahko človeštvu pomaga pri izkoreninjenju bolezni in revščine.
Profesor Hawking je govoril na odprtju centra Leverhulme in se dotaknil tako uporabnosti strojne inteligence kot njenih negativnih vidikov. Center je bil ustvarjen za prihodnost inteligence, namenjen izvajanju raziskav in proučevanju posledic hiter razvoj umetna inteligenca.
Spomnimo se, da je za Stephena Hawkinga 100 let trenutek. Pravzaprav inteligentni AI sploh niso stvar naslednjih sto let, razen če kdo prinese procesor iz leta 2135.
Center Leverulm za prihodnost umetne inteligence bo združil sodelovanje med več univerzami v Združenem kraljestvu in Združenih državah. Ideja je ustvariti interdisciplinarno raziskovalno skupnost.
Ekipa namerava tesno sodelovati s podjetji in vlado, da bi med drugimi nalogami poskušala določiti kratkoročna in dolgoročna tveganja in koristi stav na umetno inteligenco. Direktor centra Huw Price je zagotovil: ustvarjanje inteligentnih strojev je pomembna stopnja človeštva in center bo poskušal narediti "najboljšo prihodnost."
Poleg širine svojih raziskav bo Center analiziral posledice hitrega razvoja inteligentnih strojev, kot so roboti. Roboti, ki ponujajo rešitve za težave Vsakdanje življenje, ustvarjajo tveganja in etične dileme za človeštvo. Mnogi ljudje, ki ne zaupajo elektroniki, se bojijo AI, poleg tega pa lahko digitalna inteligenca preseže človeško inteligenco in nadzoruje človeško življenje.
Menim, da ni velike razlike med tem, kaj je mogoče doseči z biološkimi možgani, in tem, kar je mogoče doseči z računalnikom. Iz tega torej sledi, da lahko računalniki teoretično posnemajo človeško inteligenco – jo presežejo. S. Hawking.
Profesor Hawking verjame, da so možne koristi umetne inteligence v naših življenjih velike. Takšna tehnološka revolucija bi lahko človeštvu pomagala odpraviti del škode, povzročene planetu. »Uspeh pri ustvarjanju AI bi lahko bil največji dogodek v zgodovini civilizacije,« pravi profesor Hawking.
Toda to bi lahko bil tudi zadnji korak v zgodovini človeštva, razen če se seveda ne naučimo, kako se izogniti tveganjem, saj lahko umetna inteligenca poleg koristi predstavlja tudi nevarnosti: močno orožje, nove načine za malo ljudi, da zatirajo množico. Končno se to lahko konča s prevlado železnih teles nad biološkimi, kar bo v prihodnosti povzročilo velike katastrofe.
Kaj pa, če umetna inteligenca, govorimo pa o inteligenci s sposobnostjo iniciacije vedenjskih izbir, pride v konflikt z življenjskimi vidiki osebe? Navsezadnje se lahko poslušni železni pomočnik v kuhinji prekvalificira v diktatorja pogojev!
— Razvoj zmogljive umetne inteligence bo najboljša ali najslabša stvar, ki se bo kdaj zgodila človeštvu. Ne vemo, kaj bo prinesla prihodnost, pravi profesor Hawking. Zato sem leta 2014 jaz in mnogi drugi pozvali k več raziskav na tem področju. Zelo sem vesel, da me je nekdo slišal, je ob odprtju centra zaključil profesor Hawking.
Priljubljena ameriška spletna revija Wired je objavila izjemno zanimivo besedilo Kevina Kellyja, v katerem temeljito kritizira idejo o nevarnosti umetne inteligence. "NI" objavlja prevod tega gradiva, narejeno uporabo telegram kanala Newochem z manjšimi znižanji.
»Slišal sem, da bodo v prihodnosti računalniki z umetno inteligenco postali toliko pametnejši od ljudi, da nas bodo prikrajšali za delovna mesta in vire, posledično pa bo človeštva konec. Ampak ali je? Vsakič, ko predavam o AI, dobim podobno vprašanje.
Spraševalci so bolj resni kot kadar koli, njihova zaskrbljenost je deloma posledica pomislekov nekaterih strokovnjakov, ki jih muči isto vprašanje. Med njimi so najpametnejši naši sodobniki – Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris in Bill Gates.
Vsi priznavajo možnost takšnega scenarija. Na nedavni konferenci AI je skupina devetih najbolj razsvetljenih gurujev na tem področju prišel do soglasnega zaključka, da je ustvarjanje nadčloveške inteligence neizogibno in tik pred vrati.
Pa vendar scenarij zasužnjevanja človeštva s strani umetne inteligence temelji na petih predpostavkah, ki pa se ob natančnejšem pregledu izkažejo za nedokazane. Te izjave bodo morda v prihodnosti resnične, vendar so trenutno neutemeljene.
Tukaj so:
- Umetna inteligenca že postaja pametnejša od človeškega uma in ta proces je eksponenten.
- Razvili bomo splošno umetno inteligenco, podobno naši.
- Iz silicija lahko ustvarimo človeško inteligenco.
- Inteligenca je lahko neomejena.
- Ustvarjanje grandiozne superinteligence bo rešilo večino naših težav.
V nasprotju s temi ortodoksnimi postulati lahko navedem naslednjo dokazano herezijo:
- Inteligenca ni enodimenzionalna, zato je "pametnejši od osebe" nesmiseln koncept.
- Ljudje niso obdarjeni z univerzalno inteligenco, kar tudi ne ogroža umetne inteligence.
- Konkurenca med ljudmi in računalniki bo omejena s stroški.
- Inteligenca ni brezmejna.
- Ustvarjanje AI je le del napredka.
Če prepričanje o zasužnjevanju ljudi s strani umetne inteligence temelji na petih neutemeljenih predpostavkah, potem je ta ideja bolj podobna verskim prepričanjem – mitom. V naslednjih poglavjih bom svoje protiargumente dopolnil z dejstvi in dokazal, da nadčloveška umetna inteligenca ni nič drugega kot mit.
Najpogostejša napačna predstava o AI izhaja iz enako priljubljenega pogleda na naravno inteligenco, da je enodimenzionalna. V trdih znanostih mnogi inteligenco prikazujejo tako, kot je to naredil Nick Bostrom v svoji knjigi Superinteligence – dobesedno kot enodimenzionalni črtni graf z naraščajočo amplitudo.
Na enem koncu so bitja z najnižjo stopnjo inteligence, na primer majhne živali, na drugi strani pa geniji, kot da se raven inteligence ne razlikuje od ravni zvoka, merjene v decibelih. Seveda si je v tem primeru enostavno predstavljati nadaljnje povečanje, pri katerem raven inteligence preseže najvišjo točko grafa in jo celo preseže.
Ta model je topološko enakovreden lestvi, na stopnicah katere so ravni inteligence razporejene v naraščajočem vrstnem redu. Manj inteligentne živali zasedajo nižje stopničke lestvice, umetna inteligenca višje ravni pa bo neizogibno postavljena nad nami. Časovni okvir, ko se to zgodi, ni pomemben. Veliko bolj pomembne so same stopnice hierarhije – metrika naraščajoče inteligence.
Težava tega modela je, da je mitičen, tako kot model evolucijske lestve. Pred darvinizmom Živa narava zdelo, da gre za lestvico živih bitij, kjer je človek zasedel stopničko nad bolj primitivnimi živalmi.
In tudi po Darwinu ostaja lestev evolucije eden najpogostejših konceptov. Prikazuje preobrazbo rib v plazilce, njih v sesalce in primatov v ljudi. Poleg tega je vsako naslednje bitje bolj razvito (in seveda bolj inteligentno) od svojega predhodnika. Tako je lestev intelekta v korelaciji z lestvijo vesolja. Vendar oba modela odražata popolnoma protiznanstvena stališča.
Natančnejši diagram za naravno evolucijo bi bil disk, ki seva navzven, kot na zgornji sliki. To strukturo je prvi razvil David Hillis z univerze v Teksasu na podlagi DNK. Ta genealoška mandala se začne v središču z najbolj primitivnimi oblikami življenja in se nato razveja navzven. Čas teče naprej, zato se najnovejše oblike življenja nahajajo po obodu kroga.
Ta slika poudarja neprecenljivo dejstvo o evoluciji temeljnega pomena – vsa živa bitja so se razvijala enako. Človek se nahaja na zunanjem delu diska skupaj s ščurki, mehkužci, praprotmi, lisicami in bakterijami.
Vse vrste brez izjeme so šle skozi neprekinjeno tri milijarde let dolgo verigo uspešnega razmnoževanja, kar pomeni, da so bakterije in ščurki prav tako visoko razviti kot ljudje. Ni stopnic.
Prav tako ne obstaja lestvica inteligence. Inteligenca ni enodimenzionalna. To je kompleks različne vrste in načine spoznavanja, od katerih je vsak neprekinjen. Naredimo preprosto vajo za merjenje inteligence pri živalih. Če bi bila inteligenca enodimenzionalna, bi zlahka po naraščajoči inteligenci razvrstili papigo, delfina, konja, veverico, hobotnico, modrega kita, mačko in gorilo.
Trenutno ni znanstvenih dokazov o obstoju takšnega zaporedja. Razlog za to je lahko pomanjkanje razlik med stopnjo inteligence določenih živali, vendar je tudi to neutemeljeno.
Zoologija je bogata s primeri osupljivih razlik v razmišljanju živali. Mogoče so vse živali obdarjene z "splošno" inteligenco? Morda, vendar nimamo niti enega orodja za merjenje te vrste inteligence. Vendar pa imamo veliko sistemov merjenja za različne vrste kognicije.
Namesto ene same črte decibelov bi bilo bolj primerno prikazati inteligenco kot diagram verjetnostnega prostora, kot pri vizualizaciji možnih oblik, ki jo je ustvaril algoritem Richarda Dawkinsa. Inteligenca je kombinatorni kontinuum. Številna vozlišča, od katerih je vsako kontinuum, ustvarjajo kompleks ogromne raznolikosti v mnogih dimenzijah. Nekatere vrste inteligence so lahko zelo kompleksne, z velikim naborom podvozlišč mišljenja. Drugi so preprostejši, a bolj ekstremni, dosežejo skrajno točko prostora.
Te komplekse, ki nam pomenijo različne različice inteligence, lahko dojemamo kot simfonije, ki se izvajajo na različni tipi glasbila. Ne razlikujejo se le po glasnosti, ampak tudi po melodiji, barvi, tempu itd. Lahko jih dojemaš kot ekosistem. V tem smislu so različne komponente miselnih vozlišč soodvisne in so ustvarjene druga iz druge.
Kot je rekel Marvin Minsky, je človeška zavest družba razuma. Naše razmišljanje je popoln ekosistem. Naši možgani imajo veliko načinov spoznavanja, ki opravljajo različne mentalne funkcije: dedukcija, indukcija, čustvena inteligenca, abstraktno in prostorsko mišljenje, kratkoročni in dolgoročni spomin.
Celoten človeški živčni sistem je del možganov z lastno stopnjo kognicije. Pravzaprav miselni proces ne izvajajo možgani, temveč celotno človeško telo.
Vse različice mišljenja se razlikujejo tako med vrstami kot med pripadniki iste vrste. Veverica si lahko več let zapomni točno lokacijo več tisoč želodov, kar je človeku popolnoma nerazumljivo. V tem načinu razmišljanja smo ljudje slabši od veveric. Veveričja inteligenca je kombinacija te supermoči z drugimi oblikami inteligence, v katerih je človek boljši od veveric. V živalskem kraljestvu je mogoče najti veliko primerov superiornosti nekaterih oblik živalske inteligence nad človeško inteligenco.
Enako se je razvilo z umetno inteligenco, ki je na nekaterih področjih že večja od človeške inteligence. Vsak kalkulator je matematični genij, spomin iskalnika Google pa je že na nek način boljši od našega.
Nekateri AI izvajajo miselne dejavnosti, ki jih mi nismo sposobni. Zapomniti si vsako besedo na šestih milijardah spletnih strani je za ljudi zastrašujoča naloga, za iskalnike pa prava stvar. V prihodnosti bomo ustvarili povsem nove načine razmišljanja, ki ljudem niso dostopni in v naravi ne obstajajo.
Izumitelji letal so se zgledovali po naravnem letenju – mahanju s krili. Kasneje pa so izumili fiksno krilo s propelerji, ki so bili nanj pritrjeni, in to je bil popolnoma nov princip letenja, ki ga v naravi ni.
Tako izumljamo nove načine razmišljanja, ki jih ni sposobna nobena druga vrsta. Najverjetneje bodo to načela, ki veljajo samo za visoko specializirane probleme: na primer novi logični konstrukti, ki so potrebni samo v statistiki in teoriji verjetnosti.
Nova vrsta razmišljanja bo pomagala rešiti probleme, ki jim človeški um ni kos. Nekatera najtežja vprašanja v poslovanju in znanosti zahtevajo rešitve v dveh korakih. Prva faza je izumljanje nov način naravno razmišljanje. Drugi je, da začnemo iskati odgovore skupaj z AI.
Ljudje bodo začeli imeti AI za pametnejšo od sebe, če bo lahko pomagala rešiti prej nerešljive težave. Pravzaprav AI razmišljanje ni boljše od našega, je le drugačno. Menim, da je glavna prednost umetne inteligence ta, da lahko razmišlja kot vesoljec, in ta tujost je njena glavna prednost.
Poleg tega bomo ustvarili kompleksne »skupnosti« umetne inteligence z različnimi načini razmišljanja. Tako zapleteni bodo, da bodo lahko rešili probleme, ki jih mi ne moremo rešiti. Zato se bodo nekateri ljudje zmotno odločili, da so kompleksi AI inteligentnejši od ljudi. Vendar ne mislimo, da je iskalnik Google pametnejši od človeka, čeprav je njegov spomin boljši od našega.
Verjetno nas bodo ti kompleksi umetne inteligence presegli na mnogih področjih, vendar nobeden od njih ne bo presegel ljudi povsod naenkrat. Podobna situacija se je zgodila pri nas fizična moč. Dvesto let je minilo od industrijske revolucije in noben stroj ni v nobenem pogledu postal močnejši od povprečnega človeka, čeprav so stroji kot razred bistveno boljši od ljudi v hitrosti teka, dvigovanju uteži, natančnosti rezanja in drugih dejavnostih.
Kljub vse večji kompleksnosti strukture AI je nemogoče izmeriti z metodami sodobne znanosti. Nimamo orodij, s katerimi bi ugotovili, ali je bolj zapletena kumara ali boeing 747, niti nimamo načina, da bi izmerili razlike v njuni zapletenosti. Zato še vedno nimamo natančnih meril za intelektualne sposobnosti.
Sčasoma bo vedno težje ugotoviti, kaj je bolj kompleksno in s tem pametnejše: inteligenca A ali inteligenca B. Obstaja veliko neraziskanih področij miselne dejavnosti in predvsem to nam onemogoča razumevanje, da um ni eno- dimenzijsko.
Druga napačna predstava o človeškem umu je, da verjamemo, da je naš um univerzalen. To splošno razširjeno prepričanje vpliva na pot, ki jo uberemo pri ustvarjanju umetne splošne inteligence (AGI), ki so jo nekoč napovedali strokovnjaki za AI.
Vendar, če razmišljamo o umu kot o ogromnem prostoru možnosti, ne moremo govoriti o stanju splošnega namena. Človeški um ne zaseda nekega abstraktnega osrednjega mesta in druge specializirane vrste uma se ne vrtijo okoli njega.
Namesto tega je človeška inteligenca izjemno specifična vrsta inteligence, ki se je razvijala v milijonih let za preživetje naše vrste na tem planetu. Če bi želeli naš intelekt uvrstiti med vse druge možne vrste inteligence, bi končal nekje v kotu – kot sam naš svet, stisnjen na robu ogromne galaksije.
Seveda si lahko zamislimo in včasih izmislimo določeno vrsto mišljenja, ki je po svojih značilnostih podobna švicarski nož. Zdi se, da je kos številnim nalogam, vendar ne z udarcem.
Sem spada tudi tehnično pravilo, ki ga morajo upoštevati vse stvari, ne glede na to, ali so bile ustvarjene namenoma ali so nastale naravno: »Nemogoče je optimizirati vse dimenzije. Najdete lahko samo kompromise. Splošni večnamenski stroj ne more preseči specializiranih funkcij.«
Miselnost "naredi vse" ne more delovati enakovredno specializiranim izvajalcem določenih nalog. Ker menimo, da je naša zavest univerzalen mehanizem, verjamemo, da kognicija ne bi smela temeljiti na kompromisih in da je mogoče izumiti umetno inteligenco, ki izkazuje največjo stopnjo učinkovitosti pri vseh vrstah mišljenja.
Vendar ne vidim nobenega dokaza za to trditev. Preprosto še nismo ustvarili zadostnega števila različic zavesti, ki bi nam omogočile videti celotno sliko (in za zdaj raje ne obravnavamo živalske zavesti skozi prizmo enega parametra kot ločene vrste razmišljanja s spremenljivo amplitudo).
Del tega prepričanja, da je naše razmišljanje čim bolj univerzalno, izhaja iz koncepta univerzalnega računalništva. To predpostavko so leta 1950 poimenovali Church-Turingova teza. Navaja, da so vsi izračuni, ki izpolnjujejo določene parametre, enakovredni.
Tako obstaja osnova, ki je univerzalna za vse izračune. Ne glede na to, ali računanje izvaja en sam stroj s številnimi hitrimi mehanizmi, stroj z manjšo produktivnostjo ali celo v bioloških možganih, govorimo o istem logičnem procesu. To po drugi strani pomeni, da lahko simuliramo kateri koli računalniški proces (razmišljanje) z uporabo katerega koli stroja, ki lahko izvaja "univerzalne" izračune.
S tem principom zagovorniki singularnosti utemeljujejo svoja pričakovanja, da bomo lahko oblikovali umetne možgane na osnovi silicija, ki bodo lahko prilagodili človeško zavest, da bomo lahko ustvarili umetno inteligenco, ki bo razmišljala enako kot človek, vendar veliko bolj učinkovito. Te upe je treba obravnavati z določeno mero skepse, saj temeljijo na napačni interpretaciji Church-Turingove teze.
Izhodišče te teorije je: "V pogojih neomejenega pomnilnika in časa so vsi izračuni enakovredni." Težava je v tem, da v resnici noben računalnik nima značilnosti neskončnega pomnilnika ali časa. Ko delate izračune v resnični svet, je časovna komponenta izjemno pomembna, do te mere, da je pogosto vprašanje življenja in smrti.
Da, vse vrste razmišljanja so enakovredne, če izvzamemo časovni vidik. Da, možno je simulirati človeško misel v kateri koli matrici, če se odločite, da ne upoštevate časa ali omejitev prostora in spomina v realnosti.
Vendar, če v to enačbo vključite časovno spremenljivko, boste morali bistveno spremeniti formulacijo načela: "Dva računalniška sistema, ki delujeta na radikalno različnih platformah, ne bosta izvajala enakovrednih izračunov v realnem času."
To načelo je mogoče preoblikovati na naslednji način: »Edina metoda za pridobitev enakovrednih načinov razmišljanja je, da jih izvajamo na isti podlagi. Fizični medij, na katerem izvajate svoje izračune - še posebej, ko se njihova kompleksnost povečuje - močno vpliva na način razmišljanja v realnem času."
Če nadaljujem z logično verigo, bom domneval, da je edina metoda za ustvarjanje vrste razmišljanja, ki je čim bližje človeku, izvajanje izračunov z uporabo snovi, ki je zelo podobna naši sivi snovi.
To pomeni, da lahko domnevamo tudi, da bo obsežna, kompleksna umetna inteligenca, ustvarjena na osnovi suhega silicija, generirala okorna, kompleksna in nečloveška razmišljanja. Če bi lahko ustvarili umetno inteligenco, ki deluje na mokri snovi z uporabo človeško podobnih umetnih nevronov, bi bil miselni proces takšne umetne inteligence veliko bližje našemu.
Prednosti takšnega »mokrega« sistema so sorazmerne z bližino uporabljenih fizičnih medijev človeškim. Ustvarjanje takšne snovi bi zahtevalo ogromne materialne stroške, da bi dosegli raven, ki je vsaj podobna tisti, ki nam je lastna po naravi. In na ta način lahko ustvarimo novo osebo - samo počakati moramo 9 mesecev.
Poleg tega, kot smo že omenili, razmišljamo s celotnim bitjem, ne samo z zavestjo. Sodobna znanost ima ogromno podatkov o tem, kako naš živčni sistem vpliva, napoveduje in se prilagaja v našem "racionalnem" procesu odločanja. Bolj kot podrobno si ogledamo človeški telesni sistem, bolj natančno ga lahko pozneje poustvarimo. Tudi umetna inteligenca, ki deluje na substanci, radikalno drugačni od naše (suh silicij namesto mokrega ogljika), bo razmišljala drugače.
Mislim, da ta funkcija ni bolj "funkcija kot napaka." Kot sem trdil v drugi točki tega članka, so razlike v miselnem procesu umetne inteligence njegova glavna prednost. Tu je še en razlog, zakaj bi bilo napačno reči, da je "pametnejši od človeških možganov".
V jedru koncepta nadčloveške inteligence – predvsem pa teorije nenehnega samoizboljševanja takšne umetne inteligence – je iskreno prepričanje o brezmejnosti inteligence. Za to trditev nisem našel nobenega dokaza.
Ponovno napačno razumevanje inteligence kot sistema, ki ga opredeljuje samo ena dimenzija, prispeva k širjenju te izjave, vendar moramo razumeti, da ostaja neutemeljena. V vesolju ni neskončnih fizičnih razsežnosti – vsaj znanosti še niso znane.
Temperatura ni neskončna - obstajajo minimalne in maksimalne vrednosti mraza in toplote. Tudi prostor in čas nista neomejena, prav tako ne hitrost. Morda lahko številsko os imenujemo neskončna, vendar imajo vsi drugi fizični parametri svoje meje. Seveda je tudi sam um končen.
Postavlja se vprašanje: kje so meje inteligence? Navajeni smo verjeti, da je meja nekje daleč, tako »nad« nami kot mi »nad« mravljami. Če pustimo ob strani nerešen problem enodimenzionalnosti, kako lahko dokažemo, da še nismo dosegli meje? Zakaj ne moremo biti krona stvarstva? Ali pa smo morda že skoraj dosegli meje človeških zmožnosti? Zakaj verjamemo, da je inteligenca koncept, ki se neskončno razvija?
Bolje je, da naš intelekt dojemamo kot eno od različic ogromnega števila vrst mišljenja. Čeprav ima vsaka dimenzija spoznanja in računanja mejo, če obstaja na stotine dimenzij, potem obstaja nešteto vrst inteligence, vendar nobena ni neskončna v nobeni dimenziji.
Ko ustvarjamo ali se srečujemo s temi neštetimi variacijami na temo zavesti, jih lahko doživljamo kot tiste, ki presegajo naše zmožnosti. V svoji zadnji knjigi Neizogibno sem začrtal seznam nekaterih teh sort, ki so tako ali drugače slabše od nas. Spodaj bom navedel del tega seznama:
Um, ki je čim bližje človeku, vendar ima večjo hitrost reakcije (najenostavnejša umetna inteligenca);
Zelo počasen um, katerega glavne komponente so obsežen prostor za shranjevanje in spomin;
Univerzalna inteligenca, sestavljena iz milijonov individualnih zavesti, ki delujejo usklajeno;
Panjski um, sestavljen iz velikega števila izjemno produktivnih inteligenc, ki se ne zavedajo, da so eno;
Borg supermind (rasa kiborgov s kolektivnim umom, ki poskušajo asimilirati v svoj kolektiv vsa živa bitja iz serije Zvezdne steze - pribl. Newabout) - množica visoko funkcionalnih inteligenc, ki se jasno zavedajo, da so ena celota;
Um, ustvarjen z namenom razvijanja osebne zavesti uporabnika, vendar neprimeren za koga drugega;
Um, ki si je sposoben predstavljati kompleksnejši um, vendar ga ne more ustvariti;
Um, ki je sposoben nekega dne uspešno ustvariti bolj kompleksen um;
Um, ki lahko ustvari bolj kompleksen um, ta pa lahko ustvari še bolj kompleksen um itd.;
Um, ki ima hiter dostop do svoje izvorne kode (lahko kadarkoli spremeni značilnosti svojega delovanja);
Superlogični um, prikrajšan za sposobnost doživljanja čustev;
Standardni um, usmerjen v reševanje zadanih problemov, vendar nezmožen introspekcije;
Um, ki je sposoben introspekcije, vendar ne more rešiti problemov, ki so mu dodeljeni;
Um, katerega razvoj traja dolgo časa in potrebuje zaščitniški um;
Izjemno počasen um, razpršen po ogromnem fizičnem prostoru, ki se zdi "neviden" oblikam zavesti, ki se hitreje odzivajo;
Um, ki je sposoben hitro in večkrat reproducirati svoje kopije;
Um, ki je sposoben reproducirati svoje kopije in ostati eno z njimi;
Um, ki je sposoben doseči nesmrtnost s premikanjem od gostitelja do gostitelja;
Hiter, dinamičen um, sposoben spreminjati proces in naravo mišljenja;
Nano-um, najmanjša neodvisna enota (po velikosti in izhodu energije), ki je sposobna samoanalize;
Um, specializiran za ustvarjanje scenarijev in napovedovanje;
Um, ki nikoli ne pozabi ničesar, tudi napačnih informacij;
Pol stroj, pol žival;
Pol stroj, pol androgin kiborg;
Um, ki pri svojem delu uporablja nam nerazumljivo kvantitativno analizo.
Danes nekateri vsako od teh vrst razmišljanja imenujejo nadčloveška umetna inteligenca, v prihodnosti pa nas bo raznolikost in tujost teh oblik inteligence prisilila, da se obrnemo na nove slovarje in podrobno preučimo temo razmišljanja in inteligence.
Poleg tega privrženci ideje o nadčloveški AI domnevajo, da je njena raven mentalne sposobnosti bo eksponentno rasla (čeprav še vedno nimajo sistema za ocenjevanje te ravni). Morda verjamejo, da se proces eksponentnega razvoja že dogaja.
Kakor koli že, dokazov o taki rasti danes ni, ne glede na to, kako to merite. V nasprotnem primeru bi to pomenilo, da se miselne sposobnosti AI v določenem časovnem obdobju podvojijo.
Kje je dokaz za to? Edina stvar, ki zdaj eksponentno raste, so naložbe v industrijo umetne inteligence. Toda donosnosti teh naložb ni mogoče opisati z Moorovim zakonom. AI ne postane dvakrat pametnejši v treh ali celo v desetih letih.
Vprašal sem številne strokovnjake s področja umetne inteligence, a vsi so se strinjali, da nimamo kriterijev za inteligenco. Ko sem vprašal Raya Kurzweila, pravega eksponentnega čarovnika, kje najti dokaze o eksponentnem razvoju umetne inteligence, mi je zapisal, da razvoj umetne inteligence ni eksploziven proces, ampak postopen proces.
»Za dodajanje nove ravni v hierarhijo je potrebno eksponentno povečanje računske moči in povečanje kompleksnosti algoritma ... Tako bi morali pričakovati linearno povečanje števila pogojnih ravni, saj vsaka od njih zahteva eksponentno povečanje naših lastnih zmogljivosti. Ni nam preostalo veliko stopenj kompleksnosti, da bi dosegli sposobnosti umetne inteligence neokorteksa (glavni del človeške možganske skorje, ki je odgovoren za višje živčne funkcije – pribl. Novo kaj), zato še vedno verjamem, da so moje domneve o letu 2029 pravilne.”
Zdi se, kot da Ray pravi, da ne raste eksponentno moč umetne inteligence, ampak prizadevanja za njeno ustvarjanje, medtem ko se njihov rezultat vsakokrat preprosto poveča za eno stopnjo. To je skoraj nasprotje hipoteze o eksploziji inteligence. To se lahko v prihodnosti spremeni, vendar AI danes očitno ne raste eksponentno.
Torej, ko si predstavljamo "razcvet umetne inteligence", ne bi smeli razmišljati o tem kot o plazu, temveč kot o razcepu na številne nove sorte. Rezultat tehnološkega napredka najverjetneje ne bo nadčlovek, ampak nadčlovek. Onkraj našega znanja, vendar ne nujno »nad« njim.
Še en splošno sprejet, vendar večinoma nepodprt mit o zasužnjevanju s superinteligenco je, da lahko skoraj neskončna inteligenca hitro reši vse naše težave.
Številni zagovorniki hitrega razvoja umetne inteligence pričakujejo, da bo povzročila razmah v razvoju. Vero v to imenujem "miselnost" (izraz je prevedel Vjačeslav Golovanov - pribl. Newabout). Ta pristop temelji na prepričanju, da napredek ovira le premalo razmišljanja ali inteligence. (Opozoril bom tudi, da je vera v AI kot zdravilo za vse bolezni večinoma značilna za ljudi, ki sami radi razmišljajo.)
Razmislimo o vprašanju premagovanja raka ali podaljšanja življenja. To so težave, ki jih ni mogoče rešiti samo z razmišljanjem. Nobeno razmišljanje ne more ugotoviti, kako se celice starajo ali kako se telomeri krajšajo. Nobena inteligenca, ne glede na to, kako kul, ne more razumeti, kako deluje Človeško telo, samo z branjem vsega znanega znanstvena literatura v svetu in ga analizirati.
Super-AI ne bo mogel preprosto razmišljati o vseh sedanjih in preteklih poskusih cepitve atomskega jedra in dan kasneje pripraviti pripravljen recept za termonuklearno fuzijo. Da bi prišli od nerazumevanja do razumevanja katere koli teme, je potrebno več kot samo razmišljanje.
V resnici obstaja veliko eksperimentov, od katerih vsak daje cel kup nasprotujočih si podatkov in zahteva nadaljnje eksperimente za oblikovanje pravilne delovne hipoteze. Samo razmišljam o tem možni rezultati ne bo dal pravilnih izhodnih podatkov.
Razmišljanje (inteligenca) je le del orodja znanosti. Najverjetneje le majhen del. Na primer, enostavno nimamo dovolj podatkov, da bi se približali rešitvi problema smrti. Pri delu z živimi organizmi večina teh poskusov zahteva čas. Počasen celični metabolizem se ne more pospešiti. Za doseganje rezultatov so potrebna leta, meseci ali vsaj dnevi.
Če želimo vedeti, kaj se zgodi s subatomskimi delci, ni dovolj, da o njih samo razmišljamo. Izdelati moramo zelo velike, zelo zapletene, zelo sofisticirane fizikalne modele, da ugotovimo. Tudi če najpametnejši fiziki postanejo tisočkrat pametnejši, kot so zdaj, se brez trkalnika ne bodo naučili ničesar novega.
Nobenega dvoma ni, da lahko super-AI pospeši razvoj znanosti. Ustvarimo lahko računalniške modele atomov ali celic in jih lahko pospešimo na številne načine, vendar obstajajo težave, ki preprečujejo simulacijam takojšen napredek.
Ne smemo pozabiti, da je mogoče simulacije in modele pregledati hitreje kot njihove subjekte preprosto zato, ker zavržejo določene spremenljivke. To je bistvo manekenstva. Pomembno je tudi omeniti, da je potrebno dolgo časa, da se takšni modeli testirajo, preučujejo in validirajo, da se zagotovi, da so ustrezni za svoje teme. Preizkušanja z izkušnjami ni mogoče pospešiti.
Poenostavljene različice v simulaciji so uporabne za iskanje najbolj obetavnih načinov za pospešitev napredka. A v resnici nič ni odveč, vse je do neke mere pomembno - to je ena velika definicija realnosti. Ko modeli in simulacije postajajo vedno bolj podrobni, se raziskovalci soočajo z dejstvom, da resničnost teče hitreje od svoje 100-odstotne simulacije.
Tu je še ena definicija resničnosti: najhitreje delujoča različica vseh možnih podrobnosti in stopenj svobode. Če bi lahko modelirali vse molekule v celici in vse celice v človeškem telesu, model ne bi deloval tako hitro kot človeško telo. Ne glede na to, kako premišljeno načrtujete takšen model, boste še vedno morali porabiti čas za eksperimentiranje in ni pomembno, ali gre za pravi sistem ali simulacijo.
Da bi bila umetna inteligenca uporabna, jo je treba uvesti v svet in v tem svetu se potrebna hitrost inovacij precej hitro spreminja. Brez prvih eksperimentov, prototipov, napak in ukvarjanja z realnostjo lahko razum razmišlja, vendar ne bo dajal rezultatov. Ne bo naredil nobenih takojšnjih odkritij niti sekundo, niti uro ali leto po tem, ko ga imenujejo »pametnejši od človeka«.
Pojavi se AI. Seveda se bo stopnja odkrivanja pospešila, ko bo ta umetna inteligenca postala bolj zapletena, delno zato, ker bo tuja umetna inteligenca postavljala vprašanja, ki si jih ne bi zastavil noben človek, a tudi zelo močna (v primerjavi z nami) inteligenca ne zagotavlja takojšnjega napredka. Reševanje problemov zahteva veliko več kot le inteligenco.
Problema raka in pričakovane življenjske dobe nista edina, ki ju samo inteligenca ne more rešiti. Pogosta napačna predstava med zagovorniki tehnološke singularnosti je, da če ustvarimo AI, ki je pametnejša od ljudi, se bo ta nenadoma razvila in ustvarila še pametnejšo AI.
Nova umetna inteligenca bo razmišljala globlje in izumila kaj še pametnejšega in tako naprej, dokler ne bo izumljeno nekaj božjega. Ni dokazov, da je samo razmišljanje dovolj za ustvarjanje novih ravni inteligence. Ta vrsta kontemplacije temelji na veri.
Vendar pa obstajajo številni dokazi, da bi izumili novo učinkovita inteligenca ne zahteva le miselnega napora, temveč tudi eksperimentiranje, podatke, zahtevna vprašanja, poskuse in napake.
Razumem, da se morda motim. Še vedno smo v zgodnji fazi. Morda bomo odkrili univerzalno lestvico inteligence oziroma njeno neskončnost v vseh pomenih. Obstaja možnost tehnološke singularnosti, saj zelo malo vemo o tem, kaj sta inteligenca in samozavedanje. Po mojem mnenju vse kaže, da je to malo verjetno, vendar še vedno obstaja možnost.
Vendar pa podpiram širše cilje OpenAI: razviti moramo prijazno umetno inteligenco in ugotoviti, kako ji dati vrednosti, ki se samopodvajajo in so usklajene z našimi.
Obstaja možnost, da bi bila nadčloveška umetna inteligenca dolgoročno škodljiva, vendar ta ideja temelji na nepopolnih dokazih in je ne bi smeli jemati resno, ko gre za znanost, politiko ali napredek.
Asteroid, ki bi udaril v Zemljo, bi nas lahko uničil, kar obstaja (kot je potrdila fundacija B612), vendar ne bi smeli upoštevati takšnega izida v zvezi z globalnim segrevanjem, vesoljskim potovanjem ali načrtovanjem mest.
Razpoložljivi dokazi kažejo, da umetna inteligenca verjetno ne bo nadčloveška. Imel bo nove različice razmišljanja, ki so človeku nedostopne, vendar brez celovite uporabe ne bo postal bog, ki bo v trenutku rešil naše glavne probleme.
Namesto tega bo postalo skupek intelektov s invalidnosti, bo na nam neznanih področjih deloval bolje od nas in bo skupaj z nami našel rešitve tako za obstoječe kot za nove težave.
Razumem, kako privlačna je ideja o nadčloveški in božji AI. Lahko bi postal novi Superman. Toda tako kot Superman je tudi on izmišljen lik. Superman morda obstaja nekje v vesolju, vendar je to zelo malo verjetno. Kakor koli že, miti so lahko koristni in ko nastanejo, ne izginejo.
Ideja o Supermanu bo živela večno. Zamisel o nadčloveški umetni inteligenci in singularnosti se pojavlja zdaj in ne bo nikoli pozabljena. Razumeti moramo, za kakšno idejo gre: religiozno ali znanstveno. Če raziskujemo vprašanje inteligence, umetne ali naravne, moramo jasno razumeti, da so naše ideje o nadčloveški AI le mit.
Plemena na izoliranih otokih Mikronezije so prvič stopila v stik z zunanjim svetom med drugo svetovno vojno. Bogovi so prileteli iz daljnih dežel, se spustili z neba na hrupnih pticah, prinesli darila in odleteli za vedno. Po otokih so se razširili kulti vrnitve teh bogov in novih darov. Mnogi tudi zdaj, 50 let kasneje, še vedno čakajo na vrnitev.
Nadčloveška umetna inteligenca bi lahko postala naš novi kult tovora. Morda bomo čez sto let ljudje naš čas dojemali na enak način: kot da bi verjeli v nadčloveško umetno inteligenco in desetletja čakali, da se vsak trenutek pojavi in nam prinese nepredstavljiva darila.
Vendar pa nenadčloveška umetna inteligenca že obstaja. Še naprej iščemo novo definicijo zanjo, jo zapletamo. V širšem smislu pa je um, ki nam je tuj, spekter intelektualnih zmožnosti, mišljenja, mehanizmov sklepanja, učenja in samozavedanja. AI se širi in se bo še naprej širil. Postane globlji, raznolikejši, močnejši.
Pred AI noben izum ni mogel popolnoma spremeniti sveta. Do konca 21. stoletja bo umetna inteligenca tako močna, da bo spremenila vse v naših življenjih.
Kakor koli že, mit o nadčloveški umetni inteligenci, ki nam bo dal super-bogastvo ali super-suženjstvo (ali oboje), bo živel naprej. Vendar bo ostal mit, ki se verjetno ne bo prevedel v resničnost.”
Globalna apokalipsa, ki vključuje AI (umetno inteligenco), vse bolj straši vodilne svetovne raziskovalce na področju računalniške tehnologije. To bi lahko bil upor robotov, ki bodo, vodeni s svojim programom in vrednotami, želeli uničiti biološke oblike življenja na planetu. Možen je scenarij, v katerem stroji, ki jih nadzoruje umetna inteligenca, postanejo prevladujoča oblika življenja.
Zakaj so svetovno znani znanstveniki, kot so Bill Gates, Steve Hawking, Elon Musk in drugi, zaskrbljeni zaradi tega problema in javno razglašajo resnično grožnjo tega scenarija? Bi lahko bili dogodki, ki so se zgodili v hollywoodskem filmu "Terminator", preroški? Znano je, da vsaka izmišljena zgodba temelji na resničnih dejstvih.
Računalniki postajajo vse boljši pri laganju in zavajanju
Laž je oblika vedenja, ki se je razvila v procesu evolucije. Ljudje, nekatere živali in ptice, se zatekajo k prevaram, da bi prišli do hrane in koristi, kar povečuje možnosti za preživetje. Pred kratkim so te evolucijske metode uspešno obvladali stroji z umetno inteligenco.
Oblikovalci iz Georgia Institute of Technology so napredovali pri ustvarjanju robotov, ki v algoritmih obnašanja uporabljajo laži in prevare. Znanstveniki verjamejo, da bo v prihodnosti ta tehnologija našla široko uporabo v vojaški sferi.
Predvideva se, da bodo prototipe robotov lahko uporabljali v realnih bojnih pogojih. Ti animirani mehanizmi bodo lahko izvajali dela za zaščito zalog in skladišč streliva. Varnostniki prihodnosti bodo s programi za prevaro lahko spreminjali svoje patruljne poti in izvajali nepredvidljiva dejanja. Kot načrtujejo razvijalci, bodo takšne metode pomagale zavajati potencialne sovražnike ljudi in drugih robotov.
Po mnenju profesorja Arkina je raziskovanje povezano s številnimi etičnimi problemi. Izguba nadzora nad tehnologijo, če ta pade v roke slabovoljcev, lahko povzroči resno katastrofo.
Stroji prevzemajo trg dela
Medtem ko je javnost zaposlena z razmišljanjem o svetovni vojni, ki vključuje umetno inteligenco, znanstveniki opisujejo bolj pereče in resnične nevarnosti. V proizvodnji se vse pogosteje uporabljajo razni avtomatski stroji in mehanizmi, ki uničujejo delovna mesta.
Številni analitiki in strokovnjaki se strinjajo, da bi lahko zaradi aktivnega razvoja na področju logičnih programov in avtomatizacije veliko ljudi izgubilo službo. V Združenih državah Amerike je več kot 250 tisoč robotov, ki se ukvarjajo s proizvodnjo tradicionalnih človeških del.
V državah vzhoda, ki proizvedejo več kot 90 % svetovne tehnologije, še vedno prevladuje ročno delo. Le ugibamo lahko, kaj se bo s prihodom robotov zgodilo z zaposlenimi v proizvodnji.
Ne skrbijo samo delavci, da bodo stroji izpodrinili ljudi s trga dela. Strokovnjak za umetno inteligenco Andrew Ng iz projekta Google Brain in vodilni strokovnjak pri Baidu (kitajski ekvivalent Googlu) je prav tako izrazil zaskrbljenost zaradi aktivnega razvoja na področju umetne inteligence. Po njegovih besedah je umetna elektronska inteligenca sposobna narediti isto kot navaden človek, le da hitreje, bolje in z manj sredstvi.
Univerza v Oxfordu v Veliki Britaniji je izvedla raziskavo, ki odraža dinamiko vpliva umetne inteligence na proizvodnjo. Po pridobljenih podatkih bo v naslednjih dvajsetih letih 35 % delovnih mest nadzorovanih z umetno inteligenco.
Računalniški programi so boljši od hekerjev
Z vidika običajnega človeka je heker kot superman, ki je sposoben doseči kakršen koli rezultat. V resnici so to programerji z utrujenim izrazom na obrazu in tradicionalno skodelico kave.
Hekanje je precej dolgočasna in dolgočasna dejavnost, ki zahteva veliko časa in sredstev. Poleg tega se celotni oddelki strokovnjakov ukvarjajo z razvojem programov za zaščito pred vdori. Največja grožnja zlobnim hekerjem prihaja iz naprednih sistemov umetne inteligence.
Umetna inteligenca se lahko uporablja ne le za zaščito, ampak tudi za vdiranje. V okviru programa kibernetske varnosti se razvija umetna inteligenca, ki lahko najde ranljivosti sovražnikov, medtem ko na spletu zaščiti svoje logične naprave pred zunanjimi grožnjami in napadi.
Po mnenju znanstvenikov se elektronski hekerji, ki temeljijo na AI, razvijajo zaradi doseganja skupnega dobrega in blaginje. Toda če napadalci dobijo dostop do takih programov, lahko pride do žalostnih dogodkov. Strašljivo si je predstavljati situacijo, v kateri zmogljiva umetna inteligenca vdre v varnostne protokole jedrske elektrarne in pridobi popoln nadzor. V tej situaciji se lahko človeštvo znajde nemočno.
Programi se naučijo razumeti motive ljudi
Vsakdanje življenje mnogih ljudi je neločljivo povezano z uporabo različnih družbenih omrežij. Eno najbolj priljubljenih omrežij na svetu je Facebook. Toda malo ljudi ve, da AI ne ostane neopažen vsakega obiska osebe na straneh določenega družbenega omrežja. Mark Zuckerberg je med obiskom Berlina pojasnil, čemu služi AI.
Program je namenjen analizi vedenja uporabnikov na Facebook straneh. Na podlagi zbranih podatkov program daje priporočila glede interesov in preferenc občinstva. Na tej stopnji razvoja je avtonomni sistem sposoben prepoznavanja vzorcev in samoučenja v skladu s programom.
V prihodnosti je načrtovana izdelava inteligentne umetne inteligence, ki lahko samostojno izboljša svoje veščine s prepisovanjem svoje kode. To lahko vodi do izboljšanja življenja ali pa postane najnovejši razvoj človeštva.
Kiborgi bodo zamenjali ljubimce
Mnogi hollywoodski filmi temeljijo na ideji ljubezni in medvrstnih odnosih med človekom in strojem. Iz področja znanstvene fantastike ta koncept prehaja v sodobni svet.
Futurist dr. Ian Pearson verjame, da bo do leta 2050 seks med človekom in robotom pogostejši kot le med ljudmi. Znanstvenik aktivno sodeluje z Bondaro, vodilno verigo seks trgovin v Veliki Britaniji.
Zdravniško poročilo omenja, da bodo do leta 2025 razviti spolni roboti z umetno inteligenco. Do leta 2035 bo seks skozi virtualno resničnost zelo razširjen, na ravni sodobne pornografije. In do leta 2050 bo seks z roboti postal vsakdanja realnost in norma.
Branilci tradicionalne vrednote, imajo negativen odnos do seksa z inteligentnimi stroji. Takšne povezave bodo letvico pričakovanj postavile previsoko. visoka stopnja, kar bo negativno vplivalo na odnos do žensk.
Stroji postajajo vse bolj podobni ljudem
Razvijalci na področju ustvarjanja humanoidnih robotov, Japonec Hiroshi Ishiguro in Kitajec Sun Yang, so ustvarili edinstven stroj. Kiborg Yang-Yan ima videz svojega ustvarjalca in je poimenovan po njeni hčerki. Stroj ima AI in je sposoben izvajati številna preprosta dejanja.
To ni edini humanoidni primer robotike. Singapurska tehnološka univerza je predlagala tudi sodoben primer kiborga - Nadine. Tudi ta prototip ima umetno inteligenco in deluje v izobraževalni ustanovi.
Oblikovala v podobi privlačne rjavolaske, z mehka koža, kiborg ima številne vgrajene funkcije. Robot se lahko sreča s sogovornikom in ga pozdravi z rokovanjem. Naprava lahko tudi vzpostavi očesni stik in se nasmehne. AI si lahko zapomni goste in vzdržuje preprost dialog na podlagi prejšnjih izkušenj.
Roboti pridobivajo občutke
Sodobni roboti po inteligenci niso nič slabši od ljudi. Zaradi nedavnega razvoja je po videzu kiborga precej težko ločiti od človeka. Zaenkrat je edina lastnost, ki je roboti res nimajo, sposobnost izražanja čustev. S tem problemom se ukvarjajo znanstveniki po vsem svetu. In kmalu se roboti popolnoma ne razlikujejo od ljudi.
Razvijalci iz vzhodnoazijske podružnice Microsoft Application & Services Group so izdali edinstven program. Računalnik je sposoben voditi dialog s sogovornikom in hkrati doživljati čustva. Umetna inteligenca, imenovana Hiaoche, je sposobna posnemati pogovorni slog sedemnajstletnice.
Če podatkov primanjkuje, se lahko sistem zateče k laži. Če jo ujamejo pri varanju, lahko Hiaoche izrazi jezo ali zadrego. AI se lahko zateče k sarkazmu, je sumničav in izraža nepotrpežljivost.
Nepredvidljivost odzivov programa spominja na komunikacijo z resnično osebo. Doslej tehnologija ni našla široke uporabe in se najpogosteje uporablja za zabavo. Ustvarjalec Hiaoche dela na izboljšanju logičnih algoritmov, kar bi lahko vodilo do prihodnjega temeljnega preboja.
Avtomobili bodo kmalu v naših glavah
V luči zadnjih dogodkov se odpirajo nove priložnosti. Ne zdi se več fantastično, da se lahko v nekaj minutah naučimo tujega jezika tako, da ga naložimo v možgane. Googlov tehnični direktor Ray Kurzweil verjame, da bo do leta 2030 razvita tehnologija za vsaditev nanorobotov v možgane. To bo dvignilo človeško inteligenco na bistveno novo raven.
Ti mikro mehanizmi bodo zavest spremenili v močan računalniški center. Oseba si bo lahko takoj zapomnila vse informacije, razvrstila in poslala svoje misli v arhiv. Po potrebi bo mogoče prenesti filme, dokumente in prejeti e-pošto na glavo.
Strokovnjak na področju umetne inteligence Kurzweil verjame, da simbioza z nanoroboti ne bo pripomogla le k povečanju inteligence, temveč bo lahko tudi pozdravila številne bolezni, povezane z delovanjem živčnega sistema.
Grožnje uporabe takšne tehnologije lahko primerjamo s svetovno teorijo zarote. Po pridobitvi nadzora nad umom vodilnega politika v državi ga bo AI lahko nadzoroval kot slabovoljnega zombija. Prav tako lahko tak sistem uporabljajo obveščevalne službe, kar pa ne obeta nič dobrega.
Kako roboti postanejo orožje
S padcem Sovjetske zveze se hladna vojna ni končala. Na svetovnem prizorišču sta se pojavili dve novi velesili, Kitajska in Rusija. Amerika pa namenja na desetine milijard dolarjev za razvoj na področju računalniške varnosti.
Pentagon verjame, da je ključ do prihodnje tehnološke premoči v uporabi umetne inteligence. Aktivno se razvija razvoj samoučečih se avtonomnih sistemov ter vzporednih in sorodnih področij. Prototipi daljinsko vodene vojaške opreme so že razviti, ostalo je le še, da jo usposobimo za samostojno delovanje.
Uporaba takih naprav med vojno obljublja velike koristi. Vojakom se ne bo treba izpostavljati sovražnikovemu ognju in tvegati svojih življenj. Tudi sovražnikova morala v vojni proti neživim robotom bo spodkopana.
Tukaj so tudi Zadnja stran. Vsaka računalniška oprema je podvržena sistemskim okvaram in vdorom. V tem primeru so roboti, ki uidejo izpod nadzora, sposobni obrniti orožje proti svojim ustvarjalcem in civilistom.
Številni vodilni strokovnjaki za AI ne podpirajo ideje o ustvarjanju avtonomnih bojnih robotov. Toda v luči naraščajočega vojaškega spopada v svetu in odsotnosti mednarodne prepovedi uporabe takšnih tehnologij številne države izvajajo svoj razvoj v strogi tajnosti. Kmalu se bo pojavilo vse več poročil o uporabi robotov na vročih točkah planeta.
Roboti se učijo v napačno smer
Zaradi predvidevanja morebitnih okvar v programih in za preprečitev vstaje strojev se razvijajo novi koncepti, ki stroju pojasnjujejo pravilno in nezaželeno vedenje.
Ta razvoj bi lahko naredil AI bolj human. Nekateri znanstveniki vidijo ta pristop kot ključ do preprečevanja, da bi umetna inteligenca obračala orožje proti človeštvu.
Na Georgia Institute of Technology izvajajo edinstvene poskuse. Raziskovalci pod vodstvom Marka Riedla in Brenta Harrisona računalniškim zgodbam pripovedujejo dobesedno. S to metodo si prizadevajo uvesti AI v človeške vrednote z razvojem njene etike. Znanstveniki za poučevanje programa uporabljajo metode, ki se uporabljajo pri vzgoji otrok. AI, kot neizkušen otrok, ne razlikuje med pojmoma dobro in slabo.
V tem pristopu ostaja resna napaka. Zgodovina človeštva vsebuje veliko primerov, ko so okoliščine prisilile cele visoko razvite države, da so začele vojne in zagrešile grozote. Primer bi bila fašistična Nemčija, katere vojaki so izvajali genocid nad celimi narodi. Hkrati je bila takratna nemška kultura ena najbolj razvitih na svetu. Kaj bo preprečilo AI, da ponovi Hitlerjevo izkušnjo?
Razvoj umetne inteligence bo nekega dne vodil v njeno premoč nad človeškimi mentalnimi sposobnostmi. Vendar, ali ne bo to postalo nevarno za človeštvo? Situacijo je mogoče preučiti z natančnejšo opredelitvijo koncepta umetne inteligence, pri čemer za osnovo primerjave vzamemo naravno inteligenco. Ali lahko ena oseba združuje inteligenco in inteligenco hkrati? Ali pa pameten človek ne more biti intelektualec in obratno?
Takšna vprašanja se porajajo v povezavi z bližajočo se dobo umetne inteligence, katere možno nevarnost mora človeštvo vedeti vnaprej in pravočasno ukrepati za zagotovitev njene varnosti. Nevarnost umetne inteligence bo najprej povezana z njeno neodvisnostjo in nenadzorovanim odločanjem. Trenutno so že dodeljena sredstva za preučevanje tega problema. Inštitut OpenAI proučuje možnosti za razvoj umetne inteligence. Na trenutni stopnji razvoja sistemov AI je nevarnost njegove uporabe lahko povezana z naslednjimi dejavniki:
- programske napake. Vsaka programska oprema je lahko v nevarnosti te vrste;
- neodvisna dejavnost umetne inteligence, ki je škodljiva za ljudi. Nevarnost umetne inteligence lahko nastopi po izumu pametnega računalnika. Zato je treba določiti stopnjo inteligence računalnika, ki je lahko sprejemljiva, pa tudi pretirana, ki predstavlja nevarnost za človeka. Te lastnosti je treba natančno izmeriti zaradi konvergence človekovih in računalniških miselnih sposobnosti, ki je neizogibna. Informacijski sistemi, ki obstajajo danes, so človek-stroj, ki lahko deluje zaradi inteligence uporabnika ali računalniškega strokovnjaka.
Na primer, kakšna nevarnost bi izhajala iz inteligentnega računovodskega sistema, ki bi lahko proizvedel napačne informacije? Nevarnost se lahko pojavi, ko tak sistem razvije elemente osebnosti, na primer lastni interes, ki nima nič skupnega s človekom. Rešitev tega problema je lahko prepoved ustvarjanja sistemov, ki se razlikujejo po možnosti evolucije.
Poleg tega je nevarnost lahko povezana z vsebino logičnih napak v AI. Uporablja se lahko za reševanje precej zapletenih problemov, katerih seznam ni takoj znan. Zato je treba sprejeti posebne ukrepe za potrditev pravilnosti odločbe, ki bo pridobljena. Najverjetneje bo treba razviti vse vrste načinov za nadzor takšnih sistemov, na primer posebno programsko opremo, ki bo samodejno preverjala pravilnost rešitve in ne bo zahtevala človeškega sodelovanja.
