Veikia futuristinis „Future Design Club“, sukurtas verslo leidinio „Invest-Foresight“ globoje. Ateities scenarijų analizei klubas subūrė įvairių žinių sričių ekspertus. Pirmasis susitikimas įvyko Rusijos mokslų akademijos Filosofijos institute ir vyko kartu su nauju paties instituto seminaru „Skaitmeninio amžiaus filosofija“. Pateko į futurologų ir filosofų radarą dirbtinis intelektas(AI) ir jo poveikis visuomenei bei asmenims.
Ko tikėtis iš dirbtinio intelekto, kokių apribojimų ir pavojų kelia naujoviškos informacinės sistemos, sakė biofizikas, Senėjimo biologijos instituto vadovaujantis ekspertas. Igoris Artiukhovas.
Mokslininkas pastebėjo, kad regione tvyro terminologinis chaosas. Dažniausiai naudojama formulė yra 70 metų senumo formulė, kurią pateikė amerikiečių inžinierius, termino „dirbtinis intelektas“ autorius. Džonas Makartis. Jis apibrėžė AI kaip tam tikrą sistemą, įrenginį ar jų tinklą, galintį išspręsti intelektines problemas. Igoris Artyukhovas pabrėžė, kad intelektas nėra intelekto sinonimas, bet apibūdina gebėjimą dirbti su žiniomis ir duomenimis.
Taip pat yra daug algoritmų klasifikacijų. Dar visai neseniai, pasak Igorio Artyukhovo, dominavo ekspertų patobulinimai (iš viršaus į apačią), tačiau jie neatitiko nei kūrėjų, nei vartotojų lūkesčių, ir prasidėjo AI žiema. Atgimimą lėmė neuroninių tinklų plėtra, į aktyvią fazę įžengusi 2015–2016 m. Šiuos pokyčius įkvėpė žmogaus smegenų tyrimai. Neuroniniai tinklai dažniausiai kartojasi Bendri principai smegenų funkcionavimą, nors dirbtiniai neuronai gali skirtis nuo natūralių. Šiandien yra neuronų tinklų „zoologijos sodas“, o dauguma jų neseniai buvo gauti naudojant giluminio mokymosi technologijas.
„Intelektuali“ 17 metų revoliucija
DI tema išpopuliarėjo 2016 m., kai „AlphaGo“ programa įveikė pasaulio čempioną žaidime „Go“, kuris laikomas daug sunkesniu nei šachmatai. Tai įvyko 10 metų anksčiau, nei buvo prognozuota. „Google“ programos „DeepMind“ pasiekimai paskatino diskusijas ne tik „ar įmanomas dirbtinis intelektas? „Ką jis sugeba“?
Šiandien dirbtinis intelektas gali automatizuoti bet kokią žmogaus funkciją tokios pat ar aukštesnės kokybės, sako klubo narys, fizikos ir matematikos mokslų daktaras. Jurijus Vizilteris.
« 2017 m. buvo uždarytos visos pagrindinės „skylės“ kelyje į visavertį dirbtinį intelektą. Ankstesnėse prognozėse buvo teigiama, kad ši riba bus peržengta 2025–2030 m. Bet tai įvyko jau praėjusių metų balandį“, – pabrėžė Jurijus Vizilteris. – Yra du AI tipai – vienas bando imituoti žmogaus samprotavimą ir yra skaidri dėžutė, kurioje yra logika, yra pažinimas, yra darbas su struktūriniais modeliais ir su kalbomis. Antrasis tipas yra gilieji tinklai, kurie gali mokytis, arba Black Box. Anksčiau nebuvo įmanoma prisijungti patogiu būdušios dvi AI dalys. Praėjusiais metais atsirado giluminiai neuroniniai tinklai, gebantys rašyti programas loginėmis kalbomis, galintys dirbti su loginių išvadų bazėmis ir struktūromis.».
Dirbtinių dalykų baimė
Sritys, kuriose galima panaudoti dirbtinį intelektą, daugėja. Programos kuria naujas vaistų formules, atlieka sudėtingus genetinius tyrimus, „valdo“ nepilotuojamas transporto priemones ir laivus... Artimiausiu metu išvysime dirbtines asmenybes, kurių prototipas šiandien yra „Siri“ ir panašios programos. Jau vyksta eksperimentai siekiant sukurti pasaulinį AI blokų grandinėje, ty paskirstytasis kompiuteris bus naudojamas itin sudėtingoms problemoms spręsti, įskaitant privačiuose kompiuteriuose ir įrenginiuose. Kvantinio dirbtinio intelekto atsiradimas nėra toli. Teoriškai kvantiniai kompiuteriai pranoko įprastus kompiuterius: jie gali formuoti kvantinius neuroninius tinklus. Jei kūrėjų idėjos bus įgyvendintos, tai lems naujos kokybės AI atsiradimą.
Ar AI gali tapti nekontroliuojama? Igoris Artyukhovas į šį klausimą atsako taip:
« Taip, ir dabar AI kartais veikia kūrėjams nesuprantamu būdu. Tačiau žmonės ne visada elgiasi pagal visuotinai priimtą logiką.».
Pasak biofiziko, daugelis dirbtinio intelekto pavojų yra tolimi ir yra tik Darvino evoliucijos suformuotų žmogaus instinktų projekcija į mašinos intelektą. Igoris Artyukhovas mano, kad DI savisaugos instinktas yra svetimas. „Blogo“ AI atsiradimą gali lemti programinės įrangos klaidos (o jos egzistuoja bet kokiame kode ir yra ištaisomos per algoritmo gyvavimo laikotarpį), mokymosi klaidos ir piktybiniai ketinimai, t.y. Pavojus yra ne dirbtinis intelektas, o žmogaus kvailumas.
Susitikimo dalyviai priėjo prie išvados, kad dirbtinio intelekto etikos kūrimo ir robotų mokytojų rengimo užduotis tampa svarbiausia.
Žmogaus skaitmeninė transformacija
Viena iš labiausiai paplitusių baimių yra ta, kad dirbtinis intelektas sukels platų nedarbą. Žurnalo „Invest-Foresight“ vyriausiasis redaktorius, kultūros mokslų kandidatas Konstantinas Frumkinas bandė atsakyti į klausimą „Kokią nišą darbo rinkoje paliks dirbtinis intelektas žmonėms? Jo nuomone, XX amžiaus technologinės revoliucijos naudos gavėjas – miesto intelektualas – skrenda į tą pačią bedugnę, į kurią prasidėjus industrializacijai pateko amatininkas ar valstietis.
« Artimiausiu metu pamatysime, kaip dirbtinis intelektas išstums žmones iš protinio darbo sferos“, – įsitikinęs Konstantinas Frumkinas. – Jau dabar matome žmogaus gebėjimų, pažinimo stiliaus ir mąstymo transformaciją: taip vyksta prisitaikymas prie skaitmeninio amžiaus. Šios adaptacijos simbolis buvo „klipo mąstymo“ sąvoka.“».
Tačiau nėra įrodymų, kad šis pritaikymas leistų žmogui rasti būtent tas nišas, kurias jam paliks dirbtinis intelektas. Svarbiausia sritis, kurios, anot Konstantino Frumkino, nereikėtų palikti robotams, yra tikslų siekimo sritis. Vyriausybei skaitmeninant, AI prioritetų ir vertybių nustatymas tampa neatsiejamas nuo politikos ir įstatymų. Šis užsiėmimas, pasak Konstantino Frumkino, ateityje gali užtikrinti masinį užimtumą.
Dirbtinis intelektas, žmogaus kūnas
Ateities nuspėti nebeįmanoma, nes pokyčių greitis yra labai didelis, sako Jurijus Vizilteris. Tačiau Aukštosios ekonomikos mokyklos profesorius ir duomenų mokslininkas Leonidas Žukovas pakvietė susitikimo dalyvius aptarti kelis plėtros scenarijus.
« Santykinai netolimoje ateityje matau du AI vystymosi scenarijus: transhumanistinį (natūralaus žmogaus technologizavimas) ir grynai techninį (autonominio dirbtinio intelekto, AAI sukūrimas), iš pradžių dirbtinį., pažymėjo Leonidas Žukovas. – Antrasis būdas yra tai, kuo mokslinės fantastikos rašytojai gąsdina žmoniją, tapydami mašinų civilizacijos, išstumiančios žmonių civilizaciją, vaizdus. Tačiau kadangi žmogaus sąmonės mįslė dar neįminta, lieka abejonių, ar iš principo įmanoma sukurti tokį intelektą. Nepriklausomai nuo to, ar AGI bus sukurtas, ar ne, šiandien nesunku įsivaizduoti tiek mašinų, tiek biologinių technologijų išsivystymą iki tokio tobulumo, kad žmogus, išlaikęs smegenis, gaus visiškai dirbtinį kūną.».
Kaip mano Leonidas Žukovas, vienas iš fantastinių būdų sukurti AGI yra pagrįstas idėja perrašyti žmogaus sąmonę į dirbtinę terpę.
« Jei tokia technologija taps įmanoma, nesunku įsivaizduoti visiškai virtualų pasaulį, kuriame, tikėtina, dalis žmonijos norės judėti (arba keliauti per šią virtualybę, kaip iš esmės kompiuterių žaidėjai jau šiandien keliauja žaidimų pasauliais). )“, – svarsto mokslininkas.
Pirmojo „Design the Future“ klubo susitikimo dalyviai nubrėžė būsimų diskusijų kontūrus. Tačiau klubas gyvuos virtualioje aplinkoje, o visus pasirodymus galima rasti „Invest Foresight“ svetainėje.
Dirbtinis intelektas kelia grėsmę žmonėms, perspėja Stephenas Hawkingas. Žmogaus sukurtas dirbtinis intelektas gali virsti didžiausia nelaime(!), konkuruojančia su žmogaus civilizacija.
Dirbtinis intelektas, ateities robotai – žmogaus parama
Elektroninis intelektas gali sukurti savo mašinų civilizaciją ir taip tapti viena rimčiausių grėsmių žmonijai.
Pavojaus prognozė kilusi iš garsaus fiziko Stepheno Hawkingo (atradusio visatos pasaulį). Mūsų laikais tai, žinoma, yra potenciali grėsmė, tačiau vieną „gerą dieną“ ateityje dirbtinis intelektas gali išsiugdyti „savo valią“. Dabar atėjo laikas rimtai pagalvoti apie šią problemą.
Fizikas dar kartą perspėjo: dirbtinis intelektas gali išsivystyti į tobulą mąstymo struktūrą. Tokia sudėtinga ir protinga, kad ji įvaldys gebėjimą augti ir suprasti pasaulį pagal savo valią, o tai gali prieštarauti žmonijos planams.
Tai gali paskatinti galingų ginklų atsiradimą ir išprovokuoti žmonijos kontroliuojamos teritorijos praradimą. — Profesorius Hawkingas ragina mokslininkus atidžiai išnagrinėti dirbtinio intelekto elgesio problemą ir jo galimybes ateityje.
Reikia pasakyti, kad profesorius Hawkingas neatmeta dirbtinio intelekto idėjos į neigiamą sritį. Mokslininkas pabrėžia, kad jei pakankamai gerai atliksime namų darbus ir tyrinėsime, galime .
Su tokiu asistentu kaip AI galime pasiekti geresnį gyvenimo būdą, sako fizikas. Dirbtinis intelektas gali padėti žmonijai išnaikinti ligas ir skurdą.
Profesorius Hawkingas kalbėjo „The Leverhulme“ centro atidaryme, palietė ir mašininio intelekto naudingumą, ir neigiamus jo aspektus. Centras buvo sukurtas žvalgybos ateičiai, skirtas atlikti tyrimus ir tirti pasekmes spartus vystymasis dirbtinis intelektas.
Reikia priminti, kad Stephenui Hawkingui 100 metų yra akimirka. Tiesą sakant, intelektualūs AI nėra ateinančių šimtų metų reikalas, nebent kas nors atsineštų procesorių iš 2135 m.
Leverulmo AI ateities centras suburs kelių Jungtinės Karalystės ir JAV universitetų bendradarbiavimą. Idėja yra sukurti tarpdisciplininę mokslinių tyrimų bendruomenę.
Komanda planuoja glaudžiai bendradarbiauti su verslu ir vyriausybe, siekdama, be kitų užduočių, nustatyti trumpalaikę ir ilgalaikę riziką ir naudą, susijusią su lažybomis dėl dirbtinio intelekto. Centro direktorius Huw Price'as patikino: išmaniųjų mašinų kūrimas yra svarbus žmonijos etapas, o centras stengsis sukurti „geriausią ateitį“.
Be savo tyrimų apimties, Centras analizuos spartaus intelektualių mašinų, tokių kaip robotai, vystymosi pasekmes. Robotai, siūlantys problemų sprendimus Kasdienybė, sukurti žmonijai riziką ir etines dilemas. Daugelis žmonių, nepasitikėdami elektronika, bijo dirbtinio intelekto, be to, skaitmeninis intelektas gali pranokti žmogaus intelektą ir valdyti žmogaus gyvenimą.
Manau, kad nėra didelio skirtumo tarp to, ką galima pasiekti naudojant biologines smegenis ir to, ką galima pasiekti kompiuteriu. Taigi iš to seka, kad teoriškai kompiuteriai gali imituoti žmogaus intelektą – jį pranokti. S. Hawkingas.
Profesorius Hawkingas mano, kad galima AI nauda mūsų gyvenime yra didžiulė. Tokia technologinė revoliucija galėtų padėti žmonijai pakeisti dalį planetai padarytos žalos. „Sėkmė kuriant AI gali būti didžiausias įvykis civilizacijos istorijoje“, – sako profesorius Hawkingas.
Tačiau tai taip pat gali būti paskutinis žingsnis žmonijos istorijoje, nebent, žinoma, išmoktume išvengti rizikos, nes kartu su AI gali kelti ir pavojų: galingų ginklų, naujų būdų nedaugeliui prispausti daugybę. Galiausiai tai gali sukelti geležies kūnų dominavimą prieš biologinius, o tai sukels dideles katastrofas ateityje.
Ką daryti, jei AI, o mes kalbame apie intelektą su galimybe inicijuoti elgesio pasirinkimą, prieštarauja žmogaus gyvenimo aspektams? Juk tada paklusnus geležinis pagalbininkas virtuvėje gali persikvalifikuoti į sąlygų diktatorių!
- Galingo AI sukūrimas bus arba geriausias, arba blogiausias dalykas, kuris kada nors nutiks žmonijai. Mes nežinome, kas laukia ateityje, sako profesorius Hawkingas. Štai kodėl 2014 m. aš ir daugelis kitų paraginome atlikti daugiau šios srities tyrimų. Labai džiaugiuosi, kad kažkas mane išgirdo, – centro atidaryme užbaigė profesorius Hawkingas.
Populiarus amerikiečių internetinis žurnalas „Wired“ paskelbė itin įdomų Kevino Kelly tekstą, kuriame jis nuodugniai kritikuoja dirbtinio intelekto pavojų idėją. „NI“ skelbia šios medžiagos vertimą, pagamintas naudojant Newochem telegramos kanalą su nedideliais sumažinimais.
„Girdėjau, kad ateityje kompiuteriai su dirbtiniu intelektu taps tiek protingesni už žmones, kad atims iš mūsų darbo vietas ir resursus, o galiausiai žmonijai ateis galas. Bet ar taip? Mane užduoda panašų klausimą kiekvieną kartą, kai skaitau paskaitą apie AI.
Klausėjai rimtesni nei bet kada, jų susirūpinimą iš dalies lemia kai kurių ekspertų, kuriuos kankina tas pats klausimas, rūpesčiai. Tai yra protingiausi mūsų amžininkai – Stephenas Hawkingas, Elonas Muskas, Maxas Tegmarkas, Samas Harrisas ir Billas Gatesas.
Visi jie pripažįsta tokio scenarijaus tikimybę. Neseniai vykusioje AI konferencijoje devynių labiausiai apsišvietusių šios srities guru grupė atėjo prie vieningos išvados, kad antžmogiško intelekto sukūrimas yra neišvengiamas ir yra visai šalia.
Ir vis dėlto žmonijos pavergimo dirbtiniu intelektu scenarijus remiasi penkiomis prielaidomis, kurios atidžiau panagrinėjus pasirodo neįrodytos. Šie teiginiai ateityje gali būti teisingi, tačiau šiuo metu yra nepagrįsti.
Jie yra čia:
- Dirbtinis intelektas jau tampa protingesnis už žmogaus protą, ir šis procesas yra eksponentinis.
- Sukursime bendros paskirties dirbtinį intelektą, panašų į mūsų.
- Iš silicio galime sukurti žmogaus intelektą.
- Intelektas gali būti neribotas.
- Grandiozinio superintelekto sukūrimas išspręs daugumą mūsų problemų.
Skirtingai nuo šių ortodoksų postulatų, galiu pacituoti tokią įrodytą ereziją:
- Intelektas nėra vienmatis, todėl „protingesnis už žmogų“ yra beprasmė sąvoka.
- Žmonės nėra apdovanoti bendrosios paskirties intelektu, o tai nekelia grėsmės ir dirbtiniam intelektui.
- Konkurenciją tarp žmonių ir kompiuterių ribos išlaidos.
- Intelektas nėra beribis.
- AI kūrimas yra tik dalis pažangos.
Jei tikėjimas žmonių pavergimu dirbtiniu intelektu grindžiamas penkiomis nepagrįstomis prielaidomis, tai ši idėja labiau panaši į religinius įsitikinimus – mitus. Tolesniuose skyriuose savo kontrargumentus papildysiu faktais ir įrodysiu, kad antžmogiškas dirbtinis intelektas iš tiesų yra ne kas kita, kaip mitas.
Dažniausias klaidingas supratimas apie dirbtinį intelektą kyla iš vienodai populiaraus požiūrio į natūralų intelektą, kad jis yra vienmatis. Sunkiųjų mokslų srityje daugelis vaizduoja intelektą taip, kaip Nickas Bostromas savo knygoje Superintelligence – tiesiogine prasme kaip vienos dimensijos linijinį grafiką su didėjančia amplitudė.
Viename gale yra žemiausią intelekto lygį turinčios būtybės, pavyzdžiui, smulkūs gyvūnai, o kitame – genijai, tarsi intelekto lygis niekuo nesiskiria nuo decibelais matuojamo garso lygio. Žinoma, tokiu atveju nesunku įsivaizduoti tolesnį padidėjimą, kai intelekto lygis viršija aukščiausią grafiko tašką ir netgi peržengia jį.
Šis modelis topologiškai prilygsta kopėčioms, kurių laipteliais didėjančia tvarka išdėstyti intelekto lygiai. Mažiau protingi gyvūnai užima žemesnius laiptelius, o aukštesnio lygio dirbtinis intelektas neišvengiamai atsidurs virš mūsų. Laikas, kada tai įvyks, neturi reikšmės. Daug svarbesni yra patys hierarchijos žingsniai – augančio intelekto metrikai.
Šio modelio problema yra ta, kad jis yra mitinis, kaip ir evoliucinis kopėčių modelis. Prieš darvinizmą Gyva gamta atrodė gyvų būtybių kopėčios, kur žmogus užėmė laiptelį aukščiau primityvesnių gyvūnų.
Ir net po Darvino evoliucijos kopėčios išlieka viena iš labiausiai paplitusių sąvokų. Jame demonstruojamas žuvų pavertimas ropliais, jų – žinduoliais, o primatų – žmonėmis. Be to, kiekviena paskesnė būtybė yra labiau išsivysčiusi (ir, žinoma, protingesnė) nei jo pirmtakas. Taigi, intelekto kopėčios koreliuoja su visatos kopėčiomis. Tačiau abu modeliai atspindi visiškai antimokslines pažiūras.
Tikslesnė natūralios evoliucijos diagrama būtų diskas, spinduliuojantis į išorę, kaip aukščiau esančiame paveikslėlyje. Pirmą kartą šią struktūrą sukūrė Davidas Hillisas iš Teksaso universiteto, remdamasis DNR. Ši genealoginė mandala prasideda centre nuo primityviausių gyvybės formų, o paskui išsišakoja į išorę. Laikas juda į priekį, todėl naujausios gyvybės formos yra aplink apskritimo perimetrą.
Šis vaizdas išryškina neįkainojamą esminės svarbos evoliucijos faktą – visi gyvi dalykai vystėsi vienodai. Žmogus yra išorinėje disko dalyje kartu su tarakonais, moliuskais, paparčiais, lapėmis ir bakterijomis.
Visos be išimties rūšys praėjo nenutrūkstamą sėkmingo dauginimosi grandinę, trunkančią tris milijardus metų, o tai reiškia, kad bakterijos ir tarakonai yra taip pat labai išsivystę kaip ir žmonės. Laiptų nėra.
Taip pat nėra intelekto kopėčių. Intelektas nėra vienmatis. Tai yra kompleksas įvairių tipų ir pažinimo būdai, kurių kiekvienas yra tęstinis. Atlikime paprastą pratimą gyvūnų intelektui išmatuoti. Jei intelektas būtų vienmatis, papūga, delfinas, arklys, voverė, aštuonkojis, mėlynasis banginis, katė ir gorila lengvai suskirstytume intelekto didėjimo tvarka.
Šiuo metu nėra jokių mokslinių įrodymų, kad tokia seka egzistuoja. To priežastis gali būti tam tikrų gyvūnų intelekto lygio skirtumų trūkumas, tačiau tai taip pat nepagrįsta.
Zoologijoje gausu ryškių gyvūnų mąstymo skirtumų pavyzdžių. Galbūt visi gyvūnai yra apdovanoti „bendros paskirties“ intelektu? Galbūt, bet mes neturime vieno įrankio tokio tipo intelektui išmatuoti. Tačiau turime daugybę matavimo sistemų, skirtų įvairiems pažinimo tipams.
Vietoj vienos decibelinės linijos labiau tiktų intelektą vaizduoti kaip tikimybių erdvės diagramą, kaip galimų formų vizualizacijoje, kuri buvo sukurta Richardo Dawkinso algoritmu. Intelektas yra kombinacinis kontinuumas. Daugelis mazgų, kurių kiekvienas yra kontinuumas, sukuria didžiulės įvairovės kompleksą daugeliu matmenų. Kai kurios intelekto rūšys gali būti labai sudėtingos, su daugybe mąstymo mazgų. Kiti paprastesni, bet ekstremalesni, pasiekia kraštutinį erdvės tašką.
Šie kompleksai, kurie mums reiškia skirtingas intelekto atmainas, gali būti suvokiami kaip simfonijos, atliekamos skirtingi tipai muzikos instrumentai. Jie skiriasi ne tik garsumu, bet ir melodija, spalva, tempu ir tt Galite juos suvokti kaip ekosistemą. Šia prasme įvairūs mąstymo mazgų komponentai yra tarpusavyje priklausomi ir yra sukurti vienas iš kito.
Kaip sakė Marvinas Minskis, žmogaus sąmonė yra proto visuomenė. Mūsų mąstymas yra išbaigta ekosistema. Mūsų smegenys turi daugybę pažinimo būdų, kurie atlieka įvairias psichines funkcijas: dedukciją, indukciją, emocinį intelektą, abstraktų ir erdvinį mąstymą, trumpalaikę ir ilgalaikę atmintį.
Visa žmogaus nervų sistema yra smegenų dalis, turinti savo pažinimo lygį. Tiesą sakant, mąstymo procesą vykdo ne smegenys, o visas žmogaus kūnas.
Visos mąstymo atmainos skiriasi tiek tarp rūšių, tiek tarp tos pačios rūšies atstovų. Voverė gali ilgus metus atsiminti tikslią kelių tūkstančių gilių vietą, o tai žmogui visiškai nesuprantama. Pagal tokį mąstymą žmonės yra prastesni už voveres. Voverės intelektas yra šios supergalios derinys su kitomis intelekto formomis, kuriose žmonės yra pranašesni už voveres. Gyvūnų karalystėje galima rasti daug pavyzdžių, kaip tam tikros gyvūnų intelekto formos pranašesnės už žmogaus intelektą.
Ta pati situacija susiklostė ir su dirbtiniu intelektu, kuris kai kuriose srityse jau yra pranašesnis už žmogaus intelektą. Bet koks skaičiuotuvas yra matematikos genijus, o Google paieškos sistemos atmintis jau tam tikra prasme geresnė nei mūsų.
Kai kurios AI atlieka protinę veiklą, kurios mes nesugebame. Prisiminti kiekvieną žodį šešiuose milijarduose tinklalapių yra nelengva užduotis žmonėms ir vėjas paieškos sistemoms. Ateityje kursime visiškai naujus mąstymo būdus, kurie žmogui neprieinami ir neegzistuoja gamtoje.
Lėktuvų išradėjus įkvėpė natūralus skrydis – sparnų plakimas. Tačiau vėliau buvo išrastas fiksuotas sparnas su prie jo pritvirtintais sraigtais, ir tai buvo visiškai naujas skrydžio principas, gamtoje neaptinkamas.
Taip mes išrandame naujus mąstymo būdus, kurių nesugeba jokia kita rūšis. Greičiausiai tai bus principai, taikomi tik labai specializuotoms problemoms: pavyzdžiui, nauji loginiai konstruktai, kurių reikia tik statistikoje ir tikimybių teorijoje.
Naujas mąstymas padės išspręsti problemas, su kuriomis žmogaus protas negali susidoroti. Kai kurie sudėtingiausi verslo ir mokslo klausimai reikalauja dviejų žingsnių sprendimų. Pirmasis etapas yra išradimas naujas būdas natūralus mąstymas. Antrasis – pradėti ieškoti atsakymų kartu su AI.
Žmonės pradės manyti, kad dirbtinis intelektas yra protingesnis už save, jei jis gali padėti išspręsti anksčiau neišspręstas problemas. Tiesą sakant, AI mąstymas nėra geresnis nei mūsų, jis tiesiog kitoks. Manau, kad pagrindinė dirbtinio intelekto nauda yra ta, kad jis gali mąstyti kaip ateivis, o šis svetimumas yra pagrindinis jo pranašumas.
Be to, kursime sudėtingas DI „bendruomenes“ su skirtingais mąstymo būdais. Jie bus tokie sudėtingi, kad galės išspręsti problemas, kurių mes negalime išspręsti. Todėl kai kurie žmonės klaidingai nuspręs, kad dirbtinio intelekto kompleksai yra protingesni už žmones. Bet mes nemanome, kad Google paieškos sistema yra protingesnė už žmogų, nors jo atmintis geresnė nei mūsų.
Tikėtina, kad šie dirbtinio intelekto kompleksai mus pralenks daugelyje sričių, tačiau nė vienas jų neaplenks žmonių visur iš karto. Panaši situacija buvo ir pas mus fizinė jėga. Praėjo du šimtai metų nuo pramonės revoliucijos ir jokia mašina jokiu būdu netapo stipresnė už vidutinį žmogų, nors mašinos kaip klasė gerokai pranašesnės už žmones važiavimo greičiu, svarmenų kilnojimu, pjovimo tikslumu ir kita veikla.
Nepaisant didėjančio AI struktūros sudėtingumo, jo neįmanoma išmatuoti naudojant šiuolaikinio mokslo metodus. Neturime priemonių nustatyti, ar agurkas ar Boeing 747 yra sudėtingesnis, taip pat neturime būdo įvertinti jų sudėtingumo skirtumus. Štai kodėl mes vis dar neturime tikslių intelektinių galimybių kriterijų.
Laikui bėgant bus vis sunkiau nustatyti, kuris yra sudėtingesnis ir, atitinkamai, protingesnis: intelektas A ar intelektas B. Yra daug neištirtų protinės veiklos sričių, ir tai daugiausia trukdo mums suprasti, kad protas nėra vienas. matmenų.
Antroji klaidinga nuomonė apie žmogaus protą yra ta, kad mes tikime, kad mūsų protas yra universalus. Šis plačiai paplitęs įsitikinimas daro įtaką keliui, kuriuo einame kurdami dirbtinį bendrąjį intelektą (AGI), kurį kadaise skelbė AI ekspertai.
Tačiau jei mąstome apie protą kaip apie didžiulę galimybių erdvę, negalime kalbėti apie bendros paskirties būseną. Žmogaus protas neužima kažkokios abstrakčios centrinės vietos, o kiti specializuoti proto tipai aplink jį nesisuka.
Atvirkščiai, žmogaus intelektas yra labai specifinis intelekto tipas, kuris per milijonus metų vystėsi tam, kad mūsų rūšis išliktų šioje planetoje. Jei norėtume savo intelektą patalpinti tarp visų kitų galimų intelekto tipų, jis atsidurtų kažkur kampe – kaip ir pats mūsų pasaulis, susispietęs ant didžiulės galaktikos krašto.
Žinoma, galime įsivaizduoti ir kartais sugalvoti tam tikrą mąstymo tipą, savo savybėmis panašų į Šveicariškas peilis. Atrodo, kad jis susidoroja su daugybe užduočių, bet ne su kaupu.
Tai apima ir techninę taisyklę, kuriai turi paklusti visi daiktai, nepaisant to, ar jie buvo sukurti tyčia, ar atsirado natūraliai: „Neįmanoma optimizuoti visų matmenų. Galite rasti tik kompromisus. Bendrosios paskirties daugiafunkcė mašina negali pranokti specializuotų funkcijų.
„Daryk viską“ mentalitetas negali prilygti specializuotiems konkrečių užduočių vykdytojams. Kadangi savo sąmonę laikome universaliu mechanizmu, manome, kad pažinimas neturėtų būti grindžiamas kompromisais ir kad galima išrasti dirbtinį intelektą, kuris demonstruoja maksimalų visų tipų mąstymo efektyvumą.
Tačiau nematau jokių šio teiginio įrodymų. Paprasčiausiai dar nesukūrėme pakankamai sąmonės atmainų, kurios leistų matyti visą vaizdą (ir kol kas nenorime gyvūninės sąmonės per vieno parametro prizmę laikyti atskiru mąstymo tipu su kintama amplitudė).
Dalis šio įsitikinimo, kad mūsų mąstymas yra kuo universalesnis, kyla iš universalaus skaičiavimo koncepcijos. Ši prielaida buvo pavadinta Church-Turingo teze 1950 m. Jame teigiama, kad visi skaičiavimai, atitinkantys tam tikrus parametrus, yra lygiaverčiai.
Taigi, yra pagrindas, kuris yra universalus visiems skaičiavimams. Nepriklausomai nuo to, ar skaičiavimą atlieka viena mašina su daugybe greitų mechanizmų, mažiau didelio našumo mašina, ar net biologinėse smegenyse, mes kalbame apie tą patį loginį procesą. Tai savo ruožtu reiškia, kad galime imituoti bet kokį skaičiavimo procesą (mąstymą) naudodami bet kurią mašiną, galinčią atlikti „universalius“ skaičiavimus.
Naudodami šį principą singuliarumo šalininkai pateisina savo lūkesčius, kad pavyks sukurti silicio pagrindu sukurtas dirbtines smegenis, kuriose tilptų žmogaus sąmonė, kad sugebėsime sukurti dirbtinį intelektą, kuris mąstytų taip pat, kaip žmogus, tačiau daug efektyviau. Šias viltis reikėtų vertinti tam tikru skepticizmu, nes jos pagrįstos neteisingu Church-Turingo tezės aiškinimu.
Šios teorijos išeities taškas yra toks: „Neribotos atminties ir laiko sąlygomis visi skaičiavimai yra lygiaverčiai“. Problema ta, kad iš tikrųjų joks kompiuteris neturi begalinės atminties ar laiko savybių. Kai atliekate skaičiavimus realus pasaulis, laiko komponentas yra nepaprastai svarbus, todėl dažnai tai yra gyvybės ir mirties klausimas.
Taip, visi mąstymo tipai yra vienodi, jei neįtraukiate laiko aspekto. Taip, žmogaus mintį galima imituoti bet kurioje matricoje, jei pasirenkate ignoruoti laiką arba erdvės ir atminties apribojimus realybėje.
Tačiau jei į šią lygtį įtrauksite laiko kintamąjį, turėsite gerokai pakeisti principo formuluotę: „Dvi skaičiavimo sistemos, veikiančios radikaliai skirtingose platformose, neatliks lygiaverčių skaičiavimų realiu laiku“.
Šį principą galima pakartoti taip: „Vienintelis būdas gauti lygiaverčius mąstymo būdus yra juos įgyvendinti tuo pačiu pagrindu. Fizinė terpė, kurioje atliekate savo skaičiavimus, ypač didėjant jų sudėtingumui, daro didelę įtaką mąstymo realiuoju laiku tipui.
Tęsdamas loginę grandinę, manysiu, kad vienintelis būdas sukurti kuo artimesnį žmogui mąstymo tipą yra atlikti skaičiavimus naudojant medžiagą, kuri labai panaši į mūsų pilkąją medžiagą.
Tai reiškia, kad taip pat galime daryti prielaidą, kad tūrinis, sudėtingas dirbtinis intelektas, sukurtas sauso silicio pagrindu, sukurs gremėzdišką, sudėtingą ir nežmogišką mąstymą. Jei būtų galima sukurti dirbtinį intelektą, kuris veiktų šlapioje medžiagoje, naudojant į žmones panašius dirbtinius neuronus, tokio AI mąstymo procesas būtų daug artimesnis mūsų.
Tokios „šlapios“ sistemos privalumai yra proporcingi naudojamų fizinių terpių artumui žmonėms. Tokios medžiagos sukūrimas pareikalautų milžiniškų materialinių išlaidų, kad būtų pasiektas lygis, bent jau panašus į tai, kas mums būdinga iš prigimties. O susikurti naują žmogų galime taip – tereikia laukti 9 mėnesius.
Be to, kaip minėta anksčiau, mes mąstome visa savo esybe, o ne tik savo sąmone. Šiuolaikinis mokslas turi daug duomenų apie tai, kaip mūsų nervų sistema daro įtaką, prognozuoja ir prisitaiko prie mūsų „racionalaus“ sprendimų priėmimo proceso. Kuo detaliau pažvelgsime į žmogaus kūno sistemą, tuo atidžiau galėsime vėliau ją atkurti. Dirbtinis intelektas, veikiantis nuo mūsų radikaliai skirtinga medžiaga (sausas silicis vietoj šlapios anglies), taip pat mąstys kitaip.
Nemanau, kad ši funkcija yra labiau „funkcija, o ne klaida“. Kaip teigiau antrajame šio straipsnio punkte, AI mąstymo proceso skirtumai yra pagrindinis jo pranašumas. Štai dar viena priežastis, kodėl būtų neteisinga sakyti, kad tai „protingesnė už žmogaus smegenis“.
Antžmogiško intelekto sampratos, ypač nuolatinio tokio AI tobulėjimo teorijos, esmė yra nuoširdus tikėjimas intelekto neribotumu. Šio teiginio įrodymų neradau.
Vėlgi, klaidingas intelekto, kaip tik vienos dimensijos apibrėžtos sistemos, suvokimas prisideda prie šio teiginio plitimo, tačiau turime suprasti, kad jis lieka nepagrįstas. Visatoje nėra begalinių fizinių matmenų – bent jau jie dar nėra žinomi mokslui.
Temperatūra nėra begalinė - yra minimalios ir didžiausios šalčio ir šilumos vertės. Erdvė ir laikas taip pat nėra neriboti, kaip ir greitis. Galbūt skaičių ašis gali būti vadinama begaline, tačiau visi kiti fiziniai parametrai turi savo ribas. Žinoma, pats protas taip pat yra baigtinis.
Kyla klausimas: kur yra intelekto ribos? Esame įpratę manyti, kad riba yra kažkur toli, kaip „virš mūsų“, kaip „virš“ skruzdėlių. Atmetus neišspręstą vienmatiškumo problemą, kaip įrodyti, kad dar nepasiekėme ribos? Kodėl mes negalime būti kūrybos karūna? O gal jau beveik pasiekėme žmogaus galimybių ribas? Kodėl manome, kad intelektas yra be galo besivystanti sąvoka?
Geriau savo intelektą suvokti kaip vieną iš daugybės mąstymo tipų atmainų. Nors kiekvienas pažinimo ir skaičiavimo matmuo turi ribą, jei yra šimtai dimensijų, tada yra begalė intelekto atmainų, tačiau nė viena nėra begalinė jokiame matmenyje.
Kurdami arba susidūrę su šiais nesuskaičiuojamais sąmonės temos variantais, galime patirti, kad jie viršija mūsų galimybes. Paskutinėje savo knygoje „Neišvengiama“ pateikiau sąrašą kai kurių šių veislių, kurios vienaip ar kitaip yra prastesnės už mus. Žemiau pateiksiu šio sąrašo dalį:
Protas, kiek įmanoma artimesnis žmogui, bet pasižymintis didesniu reakcijos greičiu (paprasčiausias dirbtinis intelektas);
Labai lėtas protas, kurio pagrindiniai komponentai yra didelė talpa ir atmintis;
Visuotinis intelektas, susidedantis iš milijonų individualių sąmonių, veikiančių vieningai;
Avilio protas, susidedantis iš daugybės itin produktyvių intelektų, kurie nežino, kad jie yra viena;
Borgo supermindas (kiborgų rasė, turinti kolektyvinį protą, bandanti į savo kolektyvą asimiliuoti visus gyvus dalykus iš „Star Trek“ serijos) apytiksliai Newabout) – daugybė labai funkcinių intelektų, aiškiai suvokiančių, kad jie yra viena visuma;
Protas, sukurtas siekiant lavinti asmeninę dėvėtojo sąmonę, bet netinkamas niekam kitam;
Protas, galintis įsivaizduoti sudėtingesnį protą, bet negalintis jo sukurti;
Protas, galintis vieną dieną sėkmingai sukurti sudėtingesnį protą;
Protas, galintis sukurti sudėtingesnį protą, kuris savo ruožtu gali sukurti dar sudėtingesnį protą ir pan.;
Protas, turintis greitą prieigą prie savo šaltinio kodo (gali bet kada pakeisti savo veikimo ypatybes);
Superlogiškas protas, netekęs galimybės patirti emocijas;
Standartinis protas, siekiantis išspręsti priskirtas problemas, bet nesugebantis žiūrėti į save;
Protas, gebantis žiūrėti į save, bet nesugebantis išspręsti jam priskirtų problemų;
Protas, kurio vystymasis trunka ilgą laiką, kuriam reikia apsauginio proto;
Išskirtinai lėtas protas, išsisklaidęs didžiulėje fizinėje erdvėje, kuris atrodo „nematomas“ greičiau reaguojančioms sąmonės formoms;
Protas, galintis greitai ir pakartotinai atkurti savo kopijas;
Protas, galintis atkurti savo kopijas ir likti vienas su jomis;
Protas, galintis pasiekti nemirtingumą, judėdamas nuo šeimininko prie šeimininko;
Greitas, dinamiškas protas, gebantis keisti mąstymo procesą ir prigimtį;
Nanoprotas, mažiausias nepriklausomas vienetas (dydžiu ir energijos išeiga), galintis savarankiškai analizuoti;
Protas, besispecializuojantis kuriant scenarijus ir prognozuojant;
Protas, kuris niekada nieko nepamiršta, įskaitant neteisingą informaciją;
pusiau mašina, pusiau gyvūnas;
Dalis mašinos, dalis androgininis kiborgas;
Protas, kuris savo darbe naudoja mums nesuprantamą kiekybinę analizę.
Šiandien kai kas kiekvieną iš šių mąstymo tipų vadina antžmogišku dirbtiniu intelektu, tačiau ateityje šių intelekto formų įvairovė ir svetimumas privers mus atsiversti naujus žodynus ir išsamiai išnagrinėti mąstymo ir intelekto temą.
Be to, antžmogiškojo AI idėjos šalininkai mano, kad jo lygis protinius gebėjimus augs eksponentiškai (nors jie vis dar neturi šio lygio įvertinimo sistemos). Galbūt jie tiki, kad eksponentinės raidos procesas jau vyksta.
Šiaip ar taip, šiandien nėra tokio augimo įrodymų, kad ir kaip jį vertintumėte. Priešingu atveju tai reikštų, kad AI protiniai gebėjimai per tam tikrą laiką padvigubėja.
Kur to patvirtinimas? Vienintelis dalykas, kuris dabar auga eksponentiškai, yra investicijos į AI pramonę. Tačiau šių investicijų grąža negali būti apibūdinta Moore'o įstatymu. AI netampa dvigubai protingesnis per trejus metus ar net per dešimt metų.
Klausiau daugelio AI srities ekspertų, bet visi sutiko, kad intelekto kriterijų neturime. Kai paklausiau Ray'aus Kurzweilo, tikro eksponentinio vedlio, kur rasti eksponentinės AI raidos įrodymų, jis man parašė, kad AI vystymasis nėra sprogstamasis, o laipsniškas procesas.
„Norint į hierarchiją įtraukti naują lygmenį, reikia ir eksponentiškai padidinti skaičiavimo galią, ir padidinti algoritmo sudėtingumą... Taigi, turėtume tikėtis linijinio sąlyginių lygių skaičiaus padidėjimo, nes kiekvienas iš jų reikalauja eksponentinis mūsų pačių galimybių padidėjimas. Mums liko nedaug sudėtingumo lygių, kad pasiektume neokortekso (pagrindinės žmogaus smegenų žievės dalies, atsakingos už aukštesnes nervų funkcijas) AI gebėjimus. apytiksliai Nauja ką), todėl vis dar tikiu, kad mano prielaidos apie 2029 m. yra teisingos.
Rėjus tarsi sako, kad eksponentiškai auga ne dirbtinio intelekto galia, o pastangos jį sukurti, o jų rezultatas kaskart tiesiog didinamas vienu žingsniu. Tai beveik priešinga žvalgybos sprogimo hipotezei. Ateityje tai gali pasikeisti, tačiau akivaizdu, kad AI šiandien neauga eksponentiškai.
Taigi, kai įsivaizduojame „AI bumą“, turėtume galvoti apie tai ne kaip apie laviną, o kaip apie skilimą į daugybę naujų atmainų. Technologinės pažangos rezultatas greičiausiai bus ne antžmogis, o supermenas. Už mūsų žinių ribų, bet nebūtinai „aukščiau“.
Kitas plačiai priimtas, bet iš esmės nepagrįstas mitas apie superintelekto pavergimą yra tai, kad beveik begalinis intelektas gali greitai išspręsti visas mūsų problemas.
Daugelis spartaus AI vystymosi šalininkų tikisi, kad tai sukels bumą. Aš vadinu tikėjimą šiuo „mąstymu“ (terminą išvertė Viačeslavas Golovanovas - apytiksliai Newabout). Šis požiūris pagrįstas įsitikinimu, kad pažangą stabdo tik nepakankamas mąstymas ar intelektas. (Taip pat atkreipsiu dėmesį, kad tikėjimas dirbtiniu intelektu kaip panacėja nuo visų ligų dažniausiai būdingas žmonėms, kurie patys mėgsta mąstyti.)
Panagrinėkime vėžio nugalėjimo ar gyvenimo pailginimo klausimą. Tai problemos, kurių negalima išspręsti vien mąstant. Joks mąstymas negali išsiaiškinti, kaip ląstelės sensta ar kaip trumpėja telomerai. Joks intelektas, kad ir koks šaunus būtų, negali suprasti, kaip tai veikia Žmogaus kūnas, tiesiog perskaičius viską, kas žinoma mokslinė literatūra pasaulyje ir jį analizuojant.
Super-AI negalės tiesiog galvoti apie visus dabartinius ir praeities eksperimentus, susijusius su atomo branduolio padalijimu, o po dienos pateikti paruoštą termobranduolinės sintezės receptą. Norint pereiti nuo nesusipratimo iki bet kurio dalyko supratimo, reikia daugiau nei tik galvoti.
Tiesą sakant, yra daug eksperimentų, kurių kiekvienas suteikia daugybę prieštaringų duomenų ir reikalauja tolesnių eksperimentų, kad susidarytų teisinga darbo hipotezė. Tiesiog pagalvoju apie tai galimus rezultatus nepateiks teisingų išvesties duomenų.
Mąstymas (intelektas) yra tik dalis mokslo įrankio. Greičiausiai tik nedidelė dalis. Pavyzdžiui, mes tiesiog neturime pakankamai duomenų, kad galėtume priartėti prie mirties problemos sprendimo. Dirbant su gyvais organizmais dauguma šių eksperimentų užtrunka. Lėtas ląstelių metabolizmas negali pagreitėti. Norint pasiekti rezultatų, prireikia metų, mėnesių ar bent dienų.
Jei norime sužinoti, kas atsitinka su subatominėmis dalelėmis, neužtenka tik apie jas galvoti. Turime sukurti labai didelius, labai sudėtingus, labai sudėtingus fizikos modelius, kad tai išsiaiškintume. Net jei protingiausi fizikai taps tūkstantį kartų protingesni nei yra dabar, jie nieko naujo nesužinos be greitintuvo.
Nėra jokių abejonių, kad super-AI gali paspartinti mokslo vystymąsi. Galime sukurti kompiuterinius atomų ar ląstelių modelius ir įvairiais būdais juos paspartinti, tačiau yra problemų, kurios neleidžia modeliavimui nedelsiant pažangos.
Verta prisiminti, kad modeliavimas ir modeliai gali būti išnagrinėti greičiau nei jų subjektai vien todėl, kad jie atmeta tam tikrus kintamuosius. Tai yra pati modeliavimo esmė. Taip pat svarbu pažymėti, kad tokie modeliai ilgai išbandomi, tiriami ir patvirtinami, siekiant užtikrinti, kad jie būtų tinkami tiriamiesiems. Patirties išbandymas negali būti paspartintas.
Supaprastintos modeliavimo versijos yra naudingos ieškant perspektyviausių būdų, kaip pagreitinti pažangą. Tačiau iš tikrųjų nieko nėra perteklinio, viskas tam tikru mastu yra svarbi - tai vienas didelis realybės apibrėžimas. Kadangi modeliai ir modeliavimas tampa vis išsamesni, mokslininkai susiduria su faktu, kad tikrovė veikia greičiau nei 100% modeliavimas.
Štai dar vienas realybės apibrėžimas: greičiausiai veikianti visų įmanomų detalių ir laisvės laipsnių versija. Jei galėtumėte modeliuoti visas ląstelės molekules ir visas žmogaus kūno ląsteles, modelis neveiktų taip greitai, kaip žmogaus kūnas. Kad ir kaip apgalvotai kurtumėte tokį modelį, vis tiek turėsite skirti laiko eksperimentams, ir nesvarbu, ar tai tikra sistema, ar simuliacija.
Kad būtų naudingas, dirbtinis intelektas turi būti pristatytas pasaulyje, o šiame pasaulyje būtini inovacijų tempai keičiasi gana greitai. Be pirmųjų eksperimentų, prototipų, klaidų ir įsitraukimo į realybę, intelektas gali mąstyti, bet neduos rezultatų. Jis nepadarys jokių tiesioginių atradimų nei sekundę, nei valandą, nei metus po to, kai bus pavadintas „protingesniu už žmogų“.
Pasirodo AI. Žinoma, atradimų greitis paspartės, nes šis dirbtinis intelektas taps sudėtingesnis, iš dalies dėl to, kad užsienio dirbtinis intelektas užduos klausimus, kurių joks žmogus neužduotų, tačiau net ir labai galingas (palyginti su mumis) intelektas negarantuoja tiesioginės pažangos. Problemų sprendimas reikalauja daug daugiau nei tik intelekto.
Vėžio ir gyvenimo trukmės problemos nėra vienintelės, kurių vien intelektas negali išspręsti. Technologinio išskirtinumo šalininkų paplitusi klaidinga nuomonė yra ta, kad jei sukursime DI, kuris yra protingesnis už žmones, jis staiga išsivystys ir sukurs dar protingesnį AI.
Naujasis dirbtinis intelektas mąstys giliau ir išras ką nors dar protingesnio, ir taip toliau, kol bus išrastas kažkas panašaus į dievą. Nėra įrodymų, kad vien mąstymo pakanka sukurti naujus intelekto lygius. Šio tipo kontempliacija grindžiama tikėjimu.
Tačiau yra daug įrodymų, kad norint išrasti naujų efektyvus intelektas tai reikalauja ne tik protinių pastangų, bet ir eksperimentavimo, duomenų, sudėtingų klausimų, bandymų ir klaidų.
Suprantu, kad galiu klysti. Mes vis dar esame ankstyvoje stadijoje. Galbūt atrasime universalų intelekto mastelį ar jo begalybę visomis prasmėmis. Yra technologinio singuliarumo galimybė, nes mes labai mažai žinome, kas yra intelektas ir savimonė. Mano nuomone, viskas rodo, kad tai mažai tikėtina, bet vis tiek yra galimybė.
Tačiau aš palaikau platesnius OpenAI tikslus: turime sukurti draugišką AI ir sugalvoti, kaip suteikti jai vertybes, kurios yra savaime atkartojamos ir suderintos su mūsų.
Yra tikimybė, kad antžmogiškas dirbtinis intelektas ilgainiui gali būti žalingas, tačiau ši idėja pagrįsta nevisiškais įrodymais ir neturėtų būti rimtai vertinama, kai kalbama apie mokslą, politiką ar pažangą.
Asteroidas, atsitrenkęs į Žemę, gali mus sunaikinti, tokia galimybė egzistuoja (kaip patvirtino fondas B612), bet neturėtume atsižvelgti į tokį rezultatą globalinio atšilimo, kosminių kelionių ar miestų planavimo klausimais.
Turimi įrodymai rodo, kad tikėtina, kad AI nebus antžmogiškas. Jis turės naujų, žmogui neprieinamų mąstymo atmainų, tačiau be visapusiško pritaikymo netaps dievu, kuris akimirksniu išspręstų pagrindines mūsų problemas.
Vietoj to jis taps intelektų visuma su negalia, geriau už mus dirbs mums nepažįstamose srityse ir kartu su mumis galės rasti sprendimus tiek esamoms, tiek naujoms problemoms spręsti.
Suprantu, kokia patraukli yra antžmogiško ir dieviško AI idėja. Jis gali tapti naujuoju Supermenu. Tačiau, kaip ir Supermenas, jis yra išgalvotas personažas. Supermenas gali egzistuoti kažkur visatoje, bet tai mažai tikėtina. Kad ir kaip būtų, mitai gali būti naudingi, o sukurti – niekur nedingsta.
Supermeno idėja gyvuos amžinai. Superžmogiškojo AI ir išskirtinumo idėja kyla dabar ir niekada nebus pamiršta. Turime suprasti, kokia tai idėja: religinė ar mokslinė. Jei tyrinėjame intelekto, dirbtinio ar natūralaus, klausimą, turime aiškiai suprasti, kad mūsų idėjos apie antžmogišką AI tėra mitas.
Gentys izoliuotose Mikronezijos salose pirmą kartą kontaktavo su išoriniu pasauliu Antrojo pasaulinio karo metais. Dievai skrido iš tolimų kraštų, nusileido iš dangaus ant triukšmingų paukščių, atnešė dovanų ir išskrido amžiams. Šių dievų sugrįžimo ir naujų dovanų kultai pasklido po salas. Net ir dabar, praėjus 50 metų, daugelis vis dar laukia sugrįžtant.
Superhuman AI gali tapti mūsų nauju krovinių kultu. Galbūt po šimto metų žmonės mūsų laiką suvoks taip pat: tarsi tikėtume antžmogišku dirbtiniu intelektu ir dešimtmečius lauktume, kol jis bet kurią minutę pasirodys ir atneš mums neįsivaizduojamų dovanų.
Tačiau ne antžmogiškas AI jau egzistuoja. Mes ir toliau ieškome jam naujo apibrėžimo, jį apsunkiname. Tačiau plačiąja prasme mums svetimas protas yra intelektualinių galimybių, mąstymo, samprotavimo, mokymosi ir savimonės mechanizmų spektras. AI plinta ir plis toliau. Jis tampa gilesnis, įvairesnis, galingesnis.
Iki AI joks išradimas negalėjo visiškai pakeisti pasaulio. Iki XXI amžiaus pabaigos dirbtinis intelektas bus toks galingas, kad pakeis viską mūsų gyvenime.
Kad ir kaip būtų, mitas apie antžmogišką dirbtinį intelektą, suteiksiantį mums superturto ar supervergovės (arba abiejų), gyvuos. Tačiau tai liks mitu, kurio vargu ar pavyks paversti realybe.
Pasaulinė apokalipsė, susijusi su AI (dirbtiniu intelektu), vis labiau gąsdina pirmaujančius pasaulio mokslininkus kompiuterių technologijų srityje. Tai gali būti robotų sukilimas, kurie, vadovaudamiesi savo programa ir vertybėmis, norės planetoje sunaikinti biologines gyvybės formas. Galimas scenarijus, kai dirbtinio intelekto valdomos mašinos tampa dominuojančia gyvybės forma.
Kodėl pasaulinio garso mokslininkai, tokie kaip Billas Gatesas, Steve'as Hawkingas, Elonas Muskas ir kiti, yra susirūpinę šia problema ir viešai skelbia realią šio scenarijaus grėsmę? Ar Holivudo filme „Terminatorius“ nutikę įvykiai gali būti pranašiški? Yra žinoma, kad bet kokia išgalvota istorija yra pagrįsta tikrais faktais.
Kompiuteriai vis geriau meluoja ir apgaudinėja
Melas yra elgesio forma, susiformavusi evoliucijos procese. Žmonės, kai kurie gyvūnai ir paukščiai griebiasi apgaulės, kad gautų maisto ir pašalpų, o tai padidina tikimybę išgyventi. Pastaruoju metu šiuos evoliucinius metodus sėkmingai įvaldė AI mašinos.
Džordžijos technologijos instituto dizaineriai padarė pažangą kurdami robotus, kurie savo elgesio algoritmuose naudoja melą ir apgaulę. Mokslininkai mano, kad ateityje ši technologija bus plačiai pritaikyta karinėje srityje.
Spėjama, kad robotų prototipus bus galima panaudoti realiomis kovos sąlygomis. Šie animaciniai mechanizmai galės atlikti atsargų ir šaudmenų sandėlių apsaugos darbus. Naudodamiesi apgaulės programomis, ateities apsaugos darbuotojai galės keisti patruliavimo maršrutus ir atlikti nenuspėjamus veiksmus. Kaip planuoja kūrėjai, tokie metodai padės apgauti galimus žmonių ir kitų robotų priešus.
Pasak profesoriaus Arkino, tyrimai yra susiję su daugybe etinių problemų. Technologijų kontrolės praradimas, jei jos pateks į piktadarių rankas, gali sukelti rimtą nelaimę.
Mašinos užvaldo darbo rinką
Kol visuomenė yra užsiėmusi mąstymu apie pasaulinį karą, apimantį AI, mokslininkai aprašo aktualesnius ir tikresnius pavojus. Gamyboje vis dažniau naudojamos įvairios automatinės mašinos ir mechanizmai, naikinantys darbo vietas.
Daugelis analitikų ir ekspertų sutinka, kad dėl aktyvios plėtros logikos programų ir automatizavimo srityje daugelis žmonių gali netekti darbo. Jungtinėse Amerikos Valstijose tradicinio žmogaus darbo gamyboje dalyvauja daugiau nei 250 tūkstančių robotų.
Rytų šalyse, kuriose pagaminama daugiau nei 90% pasaulio technologijų, vis dar vyrauja rankų darbas. Galima tik spėlioti, kas atsitiks su gamyboje dirbančiais žmonėmis, atsiradus robotams.
Ne tik darbuotojai reiškia susirūpinimą, kad mašinos išstums žmones iš darbo rinkos. Dirbtinio intelekto ekspertas Andrew Ng iš Google Brain Project ir pagrindinis Baidu ekspertas (Kiniškas Google atitikmuo) taip pat išreiškė susirūpinimą dėl aktyvių pokyčių AI srityje. Anot jo, dirbtinis elektroninis intelektas yra pajėgus daryti tą patį, ką ir paprastas žmogus, tik greičiau, geriau ir su mažiau išteklių.
Oksfordo universitetas Jungtinėje Karalystėje atliko tyrimus, atspindinčius AI įtakos gamybai dinamiką. Remiantis gautais duomenimis, per ateinančius dvidešimt metų 35% darbo vietų kontroliuos AI.
Kompiuterinės programos yra pranašesnės už programišius
Paprasto žmogaus požiūriu įsilaužėlis yra tarsi antžmogis, galintis pasiekti bet kokį rezultatą. Realiai tai programišiai su pavargusia veido išraiška ir tradiciniu kavos puodeliu.
Įsilaužimas yra gana nuobodi ir varginanti veikla, kuri atima daug laiko ir išteklių. Be to, ištisi specialistų skyriai užsiima programų, skirtų apsisaugoti nuo įsibrovimo, kūrimu. Didžiausią grėsmę blogiems įsilaužėliams kelia pažangios AI sistemos.
Dirbtinis intelektas gali būti naudojamas ne tik apsaugai, bet ir įsilaužimui. Kibernetinio saugumo programos kontekste kuriamas dirbtinis intelektas, kuris gali rasti priešų pažeidžiamumą, o internete apsaugo savo loginius įrenginius nuo išorinių grėsmių ir atakų.
Mokslininkų teigimu, dirbtiniu intelektu pagrįsti elektroniniai įsilaužėliai kuriami siekiant bendro gėrio ir klestėjimo. Bet jei užpuolikai gaus prieigą prie tokių programų, gali nutikti liūdnų įvykių. Baisu įsivaizduoti situaciją, kai galingas AI įsilaužia į atominės elektrinės saugumo protokolus ir įgyja visišką kontrolę. Šioje situacijoje žmonija gali atsidurti bejėgė.
Programos moko suprasti žmonių motyvus
Daugelio žmonių kasdienis gyvenimas yra neatsiejamai susijęs su naudojimusi įvairiais socialiniais tinklais. Vienas populiariausių tinklų pasaulyje yra „Facebook“. Tačiau mažai žmonių žino, kad kiekvienas asmens apsilankymas tam tikro socialinio tinklo puslapiuose nelieka AI nepastebėtas. Vizito Berlyne metu Markas Zuckerbergas paaiškino, kokiems tikslams tarnauja AI.
Programa skirta analizuoti vartotojų elgesį Facebook puslapiuose. Remdamasi surinktais duomenimis, programa pateikia rekomendacijas dėl auditorijos pomėgių ir pageidavimų. Šiame vystymosi etape autonominė sistema gali atpažinti modelius ir savarankiškai mokytis pagal programą.
Ateityje planuojama sukurti intelektualųjį AI, kuris galėtų savarankiškai tobulinti savo įgūdžius perrašydamas savo kodą. Tai gali padėti pagerinti gyvenimą arba tapti naujausiu žmonijos vystymusi.
Kiborgai pakeis įsimylėjėlius
Daugelis Holivudo filmų yra pagrįsti meilės ir tarprūšinių žmogaus ir mašinos santykių idėja. Iš mokslinės fantastikos srities ši sąvoka patenka į šiuolaikinį pasaulį.
Futuristas daktaras Ianas Pearsonas mano, kad iki 2050 metų seksas tarp žmogaus ir roboto vyks dažniau nei tik tarp žmonių. Mokslininkas aktyviai bendradarbiauja su „Bondara“ – pirmaujančiu sekso parduotuvių tinklu Didžiojoje Britanijoje.
Gydytojo išvadoje minima, kad iki 2025 metų bus sukurti dirbtinį intelektą turintys sekso robotai. Iki 2035 m. seksas per virtualią realybę taps plačiai paplitęs šiuolaikinės pornografijos lygmeniu. O iki 2050 metų seksas su robotais taps kasdienybe ir taps norma.
Gynėjai tradicines vertybes, turi neigiamą požiūrį į seksą su protingomis mašinomis. Tokie ryšiai per aukštai užkels lūkesčių kartelę. aukštas lygis, o tai neigiamai paveiks požiūrį į moteris.
Mašinos tampa vis panašesnės į žmones
Kūrėjai humanoidinių robotų kūrimo srityje, japonas Hiroshi Ishiguro ir kinas Sun Yang, sukūrė unikalią mašiną. Yang-Yan kiborgas turi savo kūrėjo išvaizdą ir pavadintas jos dukters vardu. Įrenginys turi AI ir gali atlikti daugybę paprastų veiksmų.
Tai ne vienintelis humanoidinis robotikos pavyzdys. Singapūro technologijos universitetas taip pat pasiūlė modernų kiborgo pavyzdį – Nadine. Šis prototipas taip pat turi dirbtinį intelektą ir veikia mokymo įstaigoje.
Sukurta patrauklios brunetės pavidalu, su švelni oda, kiborgas turi daugybę įmontuotų funkcijų. Sutikti ir pasisveikinti su pašnekovu robotas gali paspausdamas ranką. Prietaisas taip pat gali užmegzti akių kontaktą ir šypsotis. AI gali prisiminti svečius ir palaikyti paprastą dialogą, pagrįstą ankstesne patirtimi.
Robotai įgauna jausmus
Šiuolaikiniai robotai intelektu nenusileidžia žmonėms. Dėl naujausių įvykių gana sunku atskirti kiborgą nuo žmogaus. Kol kas vienintelė savybė, kurios robotai tikrai neturi – gebėjimas jaustis. Viso pasaulio mokslininkai dirba su šia problema. Ir netrukus robotai visiškai nesiskiria nuo žmonių.
„Microsoft Application & Services Group“ Rytų Azijos filialo kūrėjai išleido unikalią programą. Kompiuteris geba vesti dialogą su pašnekovu ir tuo pačiu išgyventi emocijas. Dirbtinis intelektas, vardu Hiaoche, gali imituoti septyniolikmetės merginos pokalbio stilių.
Jei trūksta duomenų, sistema gali griebtis melo. Jei ji bus pagauta apgaudinėjanti, Hiaoche gali išreikšti pyktį ar gėdą. AI gali griebtis sarkazmo, būti įtarus ir išreikšti nekantrumą.
Programos atsakymų nenuspėjamumas primena bendravimą su tikru žmogumi. Iki šiol ši technologija nerado plataus pritaikymo ir dažniausiai naudojama pramogoms. Kūrėjas Hiaoche tobulina loginius algoritmus, kurie ateityje galėtų lemti esminį proveržį.
Greitai mūsų galvose atsiras automobiliai
Atsižvelgiant į naujausius pokyčius, atsiveria naujos galimybės. Jau nebeatrodo fantastiška išmokti užsienio kalbą per kelias minutes, atsisiunčiant ją į smegenis. „Google“ CTO Ray Kurzweil mano, kad iki 2030 m. bus sukurta nanorobotų implantavimo į smegenis technologija. Tai pakels žmogaus intelektą į iš esmės naują lygį.
Šie mikro mechanizmai pavers sąmonę galingu skaičiavimo centru. Žmogus galės akimirksniu prisiminti bet kokią informaciją, rūšiuoti ir siųsti savo mintis į archyvą. Esant poreikiui bus galima parsisiųsti filmus, dokumentus ir gauti el.
Dirbtinio intelekto srities ekspertas Kurzweilas mano, kad simbiozė su nanorobotais ne tik padės padidinti intelektą, bet ir galės išgydyti daugybę ligų, susijusių su nervų sistemos veikla.
Tokios technologijos naudojimo grėsmes galima palyginti su pasauline sąmokslo teorija. Įgijęs pirmaujančio šalies politiko proto kontrolę, AI galės jį valdyti kaip silpnavalį zombį. Taip pat tokia sistema gali naudotis žvalgybos tarnybos, o tai nieko gero nežada.
Kaip robotai tampa ginklais
Žlugus Sovietų Sąjungai, Šaltasis karas nesibaigė. Pasaulinėje arenoje iškilo dvi naujos supervalstybės – Kinija ir Rusija. Amerika savo ruožtu išleidžia dešimtis milijardų dolerių kompiuterių saugumo srityje.
Pentagonas mano, kad raktas į ateities technologinį pranašumą slypi AI naudojime. Aktyviai plėtojama savarankiškai besimokančių autonominių sistemų, lygiagrečių ir susijusių sričių kūrimas. Jau sukurti nuotoliniu būdu valdomos karinės technikos prototipai, belieka ją išmokyti veikti savarankiškai.
Tokių prietaisų naudojimas karo metu žada didelę naudą. Kariams nereikės atsidurti priešo ugnyje ir rizikuoti savo gyvybėmis. Taip pat bus pakenkta priešo moralei kare prieš negyvus robotus.
Taip pat yra nugaros pusė. Bet kuriai kompiuterinei įrangai gali atsirasti sistemos gedimų ir įsilaužimų. Tokiu atveju nevaldomi robotai gali atsukti ginklus prieš savo kūrėjus ir civilius.
Daugelis pirmaujančių AI ekspertų nepritaria idėjai sukurti autonominius kovinius robotus. Tačiau, atsižvelgiant į stiprėjančią karinę konfrontaciją pasaulyje ir nesant tarptautinio draudimo naudoti tokias technologijas, daugelis šalių savo plėtrą vykdo griežtai paslaptyje. Netrukus pasirodys vis daugiau pranešimų apie robotų naudojimą karštuosiuose planetos taškuose.
Robotai mokosi neteisinga kryptimi
Numatant galimus programų gedimus ir siekiant užkirsti kelią mašinų sukilimui, kuriamos naujos koncepcijos, kuriomis siekiama paaiškinti mašinai teisingą ir nepageidaujamą elgesį.
Dėl šių pokyčių AI gali būti humaniškesnis. Kai kurie mokslininkai mano, kad šis požiūris yra raktas, neleidžiantis dirbtiniam intelektui nukreipti ginklus prieš žmoniją.
Džordžijos technologijos institute atliekami unikalūs eksperimentai. Tyrėjai, vadovaujami Marko Riedlo ir Brento Harrisono, tiesiogine prasme pasakoja kompiuterines istorijas. Tokiu būdu jie siekia supažindinti AI su žmogiškosiomis vertybėmis, plėtodami jo etiką. Mokslininkai programoje naudoja metodus, naudojamus auklėjant vaiką. AI, kaip ir nepatyręs vaikas, neskiria gėrio ir blogio sąvokų.
Šiame požiūryje išlieka rimtas trūkumas. Žmonijos istorijoje yra daug pavyzdžių, kai aplinkybės privertė ištisas labai išsivysčiusias šalis pradėti karus ir daryti baisius žiaurumus. Pavyzdys būtų fašistinė Vokietija, kurios kariai vykdė ištisų tautų genocidą. Tuo pat metu vokiečių kultūra tuo metu buvo viena labiausiai išsivysčiusių pasaulyje. Kas neleis AI pakartoti Hitlerio patirties?
Dirbtinio intelekto vystymas vieną dieną lems jo pranašumą prieš žmogaus protinius gebėjimus. Tačiau ar tai netaps pavojinga žmonijai? Situaciją galima ištirti tiksliau apibrėžiant AI sąvoką, palyginimo pagrindu imant natūralų intelektą. Ar vienas žmogus gali sujungti intelektą ir intelektą tuo pačiu metu? O gal protingas žmogus gali nebūti intelektualas ir atvirkščiai?
Tokie klausimai kyla dėl artėjančios AI eros, kurios galimą pavojų žmonija turi žinoti iš anksto ir laiku imtis priemonių savo saugumui užtikrinti. Visų pirma, AI pavojus bus susijęs su jo nepriklausomumu ir nekontroliuojamu sprendimų priėmimu. Šiuo metu šiai problemai tirti jau yra skirtos lėšos. OpenAI institutas tiria AI plėtros perspektyvas. Dabartiniame AI sistemų kūrimo etape jo naudojimo pavojus gali būti susijęs su šiais veiksniais:
- programinės įrangos klaidos. Bet kuriai programinei įrangai gali kilti tokio pobūdžio pavojus;
- nepriklausoma dirbtinio intelekto veikla, kuri kenkia žmonėms. DI pavojus gali kilti po išmaniojo kompiuterio išradimo. Todėl būtina nustatyti kompiuterio intelekto laipsnį, kuris gali būti priimtinas, taip pat per didelis, keliantis pavojų žmonėms. Šios savybės turi būti tiksliai išmatuotos dėl žmogaus ir kompiuterio protinių gebėjimų konvergencijos, kuri yra neišvengiama. Šiandien egzistuojančios informacinės sistemos yra žmogus-mašinos, kurios gali veikti dėl vartotojo ar kompiuterių eksperto sumanumo.
Pavyzdžiui, koks pavojus kiltų iš protingos apskaitos sistemos, kuri gali pateikti neteisingą informaciją? Pavojus gali kilti, kai tokia sistema išvysto asmenybės elementus, pavyzdžiui, savanaudiškumą, neturintį nieko bendra su žmonėmis. Šios problemos sprendimas gali būti draudimas kurti sistemas, kurios skiriasi evoliucijos galimybe.
Be to, pavojus gali būti susijęs su AI loginių klaidų turiniu. Jis gali būti naudojamas sprendžiant gana sudėtingas problemas, kurių sąrašas nėra iš karto žinomas. Todėl turi būti imtasi specialių priemonių, kad būtų patvirtintas priimto sprendimo teisingumas. Greičiausiai reikės sukurti visokius tokių sistemų valdymo būdus, pavyzdžiui, specialią programinę įrangą, kuri automatiškai patikrins sprendimo teisingumą ir nereikės žmogaus dalyvavimo.
