Klub Desain Masa Depan yang futuristik, dibuat di bawah naungan publikasi bisnis Invest-Foresight, telah dibuka. Klub ini mempertemukan para ahli di berbagai bidang pengetahuan untuk menganalisis skenario masa depan. Pertemuan pertama berlangsung di Institut Filsafat Akademi Ilmu Pengetahuan Rusia dan diadakan bersamaan dengan seminar baru “Filsafat Era Digital” dari institut itu sendiri. Berada di bawah radar para futurolog dan filsuf kecerdasan buatan(AI) dan dampaknya terhadap masyarakat dan individu.
Apa yang diharapkan dari AI, keterbatasan dan bahaya apa yang dimiliki sistem informasi inovatif, kata seorang ahli biofisika, pakar terkemuka di Institute of Biology of Aging Igor Artyukhov.
Ilmuwan mencatat bahwa kekacauan terminologis terjadi di wilayah tersebut. Formulasi yang paling umum digunakan adalah formulasi berusia 70 tahun yang diberikan oleh seorang insinyur Amerika, penulis istilah “kecerdasan buatan”. John McCarthy. Dia mendefinisikan AI sebagai sistem, perangkat, atau jaringan tertentu yang mampu memecahkan masalah intelektual. Igor Artyukhov menekankan bahwa kecerdasan tidak identik dengan kecerdasan, tetapi mencirikan kemampuan bekerja dengan pengetahuan dan data.
Ada juga banyak klasifikasi algoritma. Sampai saat ini, menurut Igor Artyukhov, perkembangan ahli (top-down) mendominasi, tetapi tidak memenuhi harapan pembuat atau pengguna, dan musim dingin AI pun dimulai. Kebangkitan tersebut disebabkan oleh perkembangan jaringan syaraf tiruan yang memasuki fase aktif pada tahun 2015-2016. Perkembangan ini terinspirasi oleh penelitian terhadap otak manusia. Jaringan saraf sebagian besar berulang prinsip-prinsip umum fungsi otak, meskipun neuron buatan mungkin berbeda dari neuron alami. Saat ini terdapat “kebun binatang” jaringan saraf, dan sebagian besar dari jaringan tersebut baru-baru ini diperoleh dengan menggunakan teknologi pembelajaran mendalam.
Revolusi "Intelektual" tahun ke-17
Topik AI menjadi hit besar pada tahun 2016 ketika program AlphaGo mengalahkan juara dunia dalam permainan Go, yang dianggap jauh lebih sulit daripada catur. Ini terjadi 10 tahun lebih awal dari perkiraan. Pencapaian program DeepMind Google telah menggerakkan perdebatan lebih dari sekadar “mungkinkah AI?” dalam bidang “apa yang mampu dia lakukan?”
Saat ini, AI dapat mengotomatiskan fungsi manusia apa pun dengan kualitas yang sama atau lebih tinggi, kata seorang anggota klub, Doktor Fisika dan Matematika. Yuri Vizilter.
« Pada tahun 2017, semua “lubang” mendasar dalam upaya menciptakan AI yang lengkap telah ditutup. Perkiraan sebelumnya menyebutkan bahwa ambang batas ini akan terlampaui pada tahun 2025-2030. Tapi ini sudah terjadi pada bulan April tahun lalu,” tegas Yuri Vizilter. – Ada dua jenis AI - yang satu mencoba meniru pemikiran manusia dan merupakan kotak transparan yang di dalamnya terdapat logika, ada kognisi, ada yang bekerja dengan model terstruktur dan dengan bahasa. Tipe kedua adalah jaringan dalam yang mampu belajar, atau Black Box. Sebelumnya tidak mungkin untuk terhubung dengan cara yang nyaman dua bagian AI ini. Tahun lalu, jaringan saraf dalam muncul yang mampu menulis program dalam bahasa logis, mampu bekerja dengan basis inferensi logis dan struktur.».
Takut pada yang buatan
Area di mana kecerdasan buatan dapat digunakan semakin banyak. Program mengembangkan formula obat baru, melakukan tes genetik yang kompleks, “mengendalikan” kendaraan dan kapal tak berawak... Di masa mendatang, kita akan melihat kepribadian buatan, yang prototipenya saat ini adalah Siri dan program serupa. Eksperimen sedang dilakukan untuk menciptakan AI global pada blockchain, yaitu komputasi terdistribusi akan digunakan untuk memecahkan masalah yang sangat kompleks, termasuk pada komputer dan perangkat pribadi. Kemunculan kecerdasan buatan kuantum tidak lama lagi. Secara teori, komputer kuantum telah melampaui jangkauan komputer konvensional: mereka mampu membentuk jaringan saraf kuantum. Jika ide para pengembang diimplementasikan, hal ini akan mengarah pada munculnya AI dengan kualitas baru.
Mungkinkah AI lepas kendali? Igor Artyukhov menjawab pertanyaan ini sebagai berikut:
« Ya, bahkan sekarang AI terkadang bekerja dengan cara yang tidak dapat dipahami oleh pengembang. Namun manusia tidak selalu bertindak berdasarkan logika yang diterima secara umum.».
Menurut ahli biofisika tersebut, banyak bahaya AI yang tidak masuk akal dan hanya merupakan proyeksi naluri manusia yang dibentuk oleh evolusi Darwin ke dalam kecerdasan mesin. Igor Artyukhov percaya bahwa naluri mempertahankan diri adalah hal yang asing bagi AI. Munculnya AI yang “buruk” dapat disebabkan oleh kesalahan perangkat lunak (dan kesalahan tersebut ada dalam kode apa pun dan diperbaiki selama masa pakai algoritme), kesalahan pembelajaran, dan niat jahat, mis. Bahayanya bukan AI, tapi kebodohan manusia.
Para peserta pertemuan sampai pada kesimpulan bahwa tugas mengembangkan etika AI dan melatih guru untuk robot menjadi hal yang terpenting.
Transformasi digital manusia
Salah satu ketakutan yang paling umum adalah bahwa AI akan menyebabkan meluasnya pengangguran. Pemimpin redaksi majalah Invest-Foresight, kandidat ilmu budaya Konstantin Frumkin mencoba menjawab pertanyaan “Apa ceruk pasar tenaga kerja yang akan diberikan AI untuk manusia?” Menurutnya, penerima manfaat dari revolusi teknologi abad ke-20 - intelektual perkotaan - sedang terbang ke jurang yang sama dengan yang dialami oleh pengrajin atau petani dengan dimulainya industrialisasi.
« Dalam waktu dekat, kita akan melihat perpindahan manusia dari bidang kerja mental karena kecerdasan buatan,” Konstantin Frumkin yakin. – Kita sudah melihat transformasi dalam kemampuan manusia, gaya kognitif dan pemikiran: inilah bagaimana adaptasi terhadap era digital terjadi. Simbol dari adaptasi ini adalah konsep “clip thingking”“».
Namun, tidak ada bukti bahwa adaptasi ini akan memungkinkan seseorang menemukan ceruk yang akan ditinggalkan oleh kecerdasan buatan. Area terpenting yang menurut Konstantin Frumkin tidak boleh diserahkan kepada robot adalah bidang penetapan tujuan. Seiring dengan digitalisasi pemerintah, penetapan prioritas dan nilai AI menjadi tidak terpisahkan dari kebijakan dan undang-undang. Pekerjaan ini, menurut Konstantin Frumkin, mampu menyediakan lapangan kerja massal di masa depan.
Kecerdasan buatan, tubuh manusia
Masa depan tidak mungkin lagi diprediksi karena kecepatan perubahannya sangat tinggi, kata Yuri Vizilter. Namun, seorang profesor di Sekolah Tinggi Ekonomi dan seorang ilmuwan data Leonid Zhukov mengundang para peserta pertemuan untuk membahas beberapa skenario pembangunan.
« Saya melihat dua skenario untuk pengembangan AI dalam waktu yang relatif dekat: transhumanistik (teknologiisasi manusia alami) dan murni teknis (penciptaan kecerdasan buatan otonom, AAI), awalnya buatan, kata Leonid Zhukov. – Cara kedua adalah dengan menakut-nakuti umat manusia dengan menulis fiksi ilmiah, melukiskan gambaran peradaban mesin yang menggantikan peradaban manusia. Namun, karena misteri kesadaran manusia belum terpecahkan, masih ada keraguan mengenai apakah penciptaan kecerdasan seperti itu pada prinsipnya mungkin dilakukan. Terlepas dari apakah AGI akan diciptakan atau tidak, tidak sulit membayangkan saat ini perkembangan teknologi, baik mesin maupun bio, sedemikian rupa sehingga seseorang, dengan tetap mempertahankan otaknya, akan menerima tubuh yang sepenuhnya buatan.».
Seperti yang diyakini Leonid Zhukov, salah satu cara fantastis untuk menciptakan AGI didasarkan pada gagasan untuk menulis ulang kesadaran manusia ke dalam media buatan.
« Jika teknologi semacam ini menjadi mungkin, tidak sulit untuk membayangkan dunia yang sepenuhnya virtual, di mana, mungkin, sebagian umat manusia ingin berpindah (atau melakukan perjalanan melalui virtualitas ini, karena pada kenyataannya, para pemain komputer sudah melakukan perjalanan melalui dunia game saat ini. )“, sang ilmuwan merenung.
Peserta pertemuan pertama klub “Merancang Masa Depan” menguraikan kontur diskusi masa depan. Namun, klub akan hadir dalam lingkungan virtual, dan semua pertunjukan dapat ditemukan di situs web Invest Foresight.
Kecerdasan buatan adalah ancaman bagi manusia, Stephen Hawking memperingatkan. Kecerdasan buatan yang diciptakan manusia dapat berubah menjadi bencana terbesar (!), Menyaingi peradaban manusia.
Kecerdasan buatan, robot masa depan - dukungan manusia
Kecerdasan elektronik dapat menciptakan peradaban mesinnya sendiri, sehingga menjadi salah satu ancaman paling serius bagi umat manusia.
Prediksi bahaya datang dari fisikawan terkenal Stephen Hawking (penemu dunia alam semesta). Di masa kini, hal ini tentu saja merupakan ancaman potensial, namun suatu saat nanti, kecerdasan buatan mungkin akan mengembangkan “kehendaknya sendiri”. Sekarang saatnya memikirkan masalah ini dengan serius.
Fisikawan sekali lagi mengeluarkan peringatan: kecerdasan buatan dapat berkembang menjadi struktur pemikiran yang sempurna. Begitu kompleks dan cerdas sehingga dia akan menguasai kemampuan untuk tumbuh dan memahami dunia sesuai dengan keinginannya sendiri, yang mungkin bertentangan dengan rencana umat manusia.
Hal ini dapat menyebabkan munculnya senjata ampuh dan memicu hilangnya wilayah yang dikuasai umat manusia. — Profesor Hawking meminta para peneliti untuk mempelajari dengan cermat masalah perilaku kecerdasan buatan dan kemungkinannya di masa depan.
Harus dikatakan bahwa Profesor Hawking tidak menampik gagasan kecerdasan buatan ke dalam area negatif. Ilmuwan tersebut menunjukkan bahwa jika kita mengerjakan pekerjaan rumah dan melakukan penelitian dengan cukup baik, kita bisa .
Dengan asisten seperti AI, kita bisa mencapai cara hidup yang lebih baik, kata fisikawan tersebut. Kecerdasan buatan dapat membantu umat manusia memberantas penyakit dan kemiskinan.
Profesor Hawking berbicara pada pembukaan The Leverhulme center, menyinggung kegunaan kecerdasan mesin dan aspek negatifnya. Pusat ini diciptakan untuk masa depan intelijen, dirancang untuk melakukan penelitian dan mempelajari implikasinya perkembangan yang cepat kecerdasan buatan.
Perlu diingat bahwa bagi Stephen Hawking, 100 tahun adalah sebuah momen. Faktanya, AI yang cerdas bahkan tidak akan bertahan dalam seratus tahun ke depan, kecuali seseorang membawa prosesor dari tahun 2135.
Leverulm Center for the Future of AI akan mempertemukan kolaborasi antara beberapa universitas di Inggris dan Amerika Serikat. Idenya adalah untuk menciptakan komunitas penelitian interdisipliner.
Tim ini berencana untuk bekerja sama dengan dunia usaha dan pemerintah untuk mencoba, antara lain, menentukan risiko dan manfaat jangka pendek dan jangka panjang dari bertaruh pada kecerdasan buatan. Direktur Pusat tersebut, Huw Price, meyakinkan: penciptaan mesin cerdas merupakan tahap penting bagi umat manusia, dan pusat tersebut akan berusaha menciptakan “masa depan yang terbaik.”
Selain penelitiannya yang luas, Pusat ini akan menganalisis implikasi dari pesatnya perkembangan mesin cerdas seperti robot. Robot menawarkan solusi terhadap masalah Kehidupan sehari-hari, menciptakan risiko dan dilema etika bagi umat manusia. Banyak orang, karena tidak mempercayai elektronik, takut terhadap AI, dan selain itu, kecerdasan digital dapat melampaui kecerdasan manusia dan mengendalikan kehidupan manusia.
Saya percaya bahwa tidak ada perbedaan besar antara apa yang dapat dicapai dengan otak biologis dan apa yang dapat dicapai dengan komputer. Oleh karena itu, secara teoritis, komputer dapat meniru kecerdasan manusia – melampauinya. S.Hawking.
Profesor Hawking percaya bahwa potensi manfaat AI dalam kehidupan kita sangatlah besar. Revolusi teknologi seperti ini dapat membantu umat manusia membalikkan beberapa kerusakan yang terjadi pada planet ini. “Keberhasilan dalam menciptakan AI bisa menjadi peristiwa terbesar dalam sejarah peradaban,” kata Profesor Hawking.
Tapi ini juga bisa menjadi langkah terakhir dalam sejarah manusia, kecuali kita belajar bagaimana menghindari risiko, karena selain manfaatnya, AI juga bisa menimbulkan bahaya: senjata ampuh, cara baru bagi segelintir orang untuk menindas banyak orang. Pada akhirnya, hal ini dapat mengakibatkan dominasi benda besi dibandingkan benda biologis, sehingga menyebabkan bencana besar di masa depan.
Bagaimana jika AI, dan kita berbicara tentang kecerdasan dengan kemampuan untuk memulai pilihan perilaku, bertentangan dengan aspek kehidupan seseorang? Lagi pula, asisten besi yang patuh di dapur dapat berlatih kembali sebagai diktator kondisi!
— Perkembangan AI yang kuat akan menjadi hal terbaik atau terburuk yang pernah terjadi pada umat manusia. Kita tidak tahu apa yang akan terjadi di masa depan, kata Profesor Hawking. Itu sebabnya, pada tahun 2014, saya dan banyak orang lainnya menyerukan lebih banyak penelitian di bidang ini. Saya sangat senang ada yang mendengarkan saya, pungkas Profesor Hawking pada pembukaan pusat tersebut.
Majalah online populer Amerika Wired menerbitkan teks yang sangat menarik oleh Kevin Kelly, di mana dia mengkritik secara menyeluruh gagasan tentang bahaya kecerdasan buatan. "NI" menerbitkan terjemahan materi ini, dibuat menggunakan saluran telegram Newochem dengan sedikit pengurangan.
“Saya telah mendengar bahwa di masa depan, komputer dengan kecerdasan buatan akan menjadi jauh lebih pintar daripada manusia sehingga akan merampas pekerjaan dan sumber daya kita, dan sebagai akibatnya, umat manusia akan berakhir. Tapi benarkah? Saya mendapat pertanyaan serupa setiap kali saya memberikan kuliah tentang AI.
Para penanya menjadi lebih serius dari sebelumnya, kekhawatiran mereka sebagian disebabkan oleh kekhawatiran beberapa ahli yang tersiksa oleh pertanyaan yang sama. Ini termasuk orang-orang terpintar di zaman kita - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris dan Bill Gates.
Mereka semua mengakui kemungkinan terjadinya skenario seperti itu. Pada konferensi AI baru-baru ini, panel yang terdiri dari sembilan guru paling tercerahkan di bidangnya telah datang dengan suara bulat menyimpulkan bahwa penciptaan kecerdasan manusia super tidak dapat dihindari dan akan segera terjadi.
Namun, skenario perbudakan umat manusia oleh kecerdasan buatan didasarkan pada lima asumsi, yang jika dicermati lebih dekat, ternyata tidak terbukti. Pernyataan-pernyataan ini mungkin benar di masa depan, namun saat ini tidak berdasar.
Di sini mereka:
- Kecerdasan buatan sudah menjadi lebih pintar dari pikiran manusia, dan proses ini bersifat eksponensial.
- Kami akan mengembangkan AI dengan tujuan umum yang serupa dengan kami.
- Kita bisa menciptakan kecerdasan manusia dari silikon.
- Kecerdasan bisa jadi tidak terbatas.
- Penciptaan kecerdasan super yang luar biasa akan menyelesaikan sebagian besar masalah kita.
Berbeda dengan dalil-dalil ortodoks ini, saya dapat mengutip ajaran sesat yang terbukti berikut ini:
- Kecerdasan tidak bersifat satu dimensi, jadi “lebih pintar dari seseorang” adalah konsep yang tidak ada artinya.
- Manusia tidak diberkahi dengan kecerdasan untuk tujuan umum, yang juga bukan merupakan ancaman bagi kecerdasan buatan.
- Persaingan antara manusia dan komputer akan dibatasi oleh biaya.
- Kecerdasan tidak terbatas.
- Penciptaan AI hanyalah sebagian dari kemajuan.
Jika keyakinan akan perbudakan manusia oleh kecerdasan buatan didasarkan pada lima asumsi yang tidak berdasar, maka gagasan ini lebih mirip dengan keyakinan agama – mitos. Pada bab-bab berikutnya, saya akan melengkapi argumen tandingan saya dengan fakta dan membuktikan bahwa kecerdasan buatan manusia super memang tidak lebih dari sekadar mitos.
Kesalahpahaman paling umum tentang AI berasal dari pandangan populer mengenai kecerdasan alami yang menganggap AI bersifat satu dimensi. Dalam ilmu pengetahuan alam, banyak yang menggambarkan kecerdasan seperti yang dilakukan Nick Bostrom dalam bukunya Superintelligence - secara harfiah sebagai grafik garis satu dimensi dengan amplitudo yang meningkat.
Di satu sisi ada makhluk dengan tingkat kecerdasan paling rendah, misalnya binatang kecil, dan di sisi lain - jenius, seolah-olah tingkat kecerdasannya tidak berbeda dengan tingkat suara yang diukur dalam desibel. Tentu saja, dalam hal ini mudah untuk membayangkan peningkatan lebih lanjut di mana tingkat kecerdasan melebihi titik tertinggi grafik dan bahkan melampauinya.
Model ini secara topologi setara dengan sebuah tangga, di mana tingkat kecerdasan disusun dalam urutan menaik. Hewan yang kurang cerdas menempati anak tangga terbawah, dan kecerdasan buatan tingkat tinggi pasti akan ditempatkan di atas kita. Jangka waktu terjadinya hal ini tidak menjadi masalah. Yang jauh lebih penting adalah langkah-langkah hierarki itu sendiri - metrik pertumbuhan kecerdasan.
Masalah dengan model ini adalah bahwa model ini bersifat mitos, sama seperti model tangga evolusi. Sebelum Darwinisme Alam yang hidup tampaknya merupakan tangga makhluk hidup, di mana manusia menempati satu tingkat di atas hewan yang lebih primitif.
Dan bahkan setelah Darwin, tangga evolusi tetap menjadi salah satu konsep yang paling umum. Ini menunjukkan transformasi ikan menjadi reptil, mamalia, dan primata menjadi manusia. Selain itu, setiap makhluk berikutnya lebih berkembang (dan, tentu saja, lebih cerdas) dibandingkan pendahulunya. Dengan demikian, tangga akal berkorelasi dengan tangga alam semesta. Namun, kedua model tersebut mencerminkan pandangan yang sepenuhnya anti-ilmiah.
Diagram evolusi alam yang lebih akurat adalah piringan yang memancar ke luar, seperti pada gambar di atas. Struktur ini pertama kali dikembangkan oleh David Hillis dari University of Texas, berdasarkan DNA. Mandala silsilah ini dimulai dari pusat dengan bentuk kehidupan paling primitif dan kemudian bercabang ke luar. Waktu bergerak maju, sehingga bentuk kehidupan terkini terletak di sekeliling lingkaran.
Gambar ini menyoroti fakta yang tak ternilai tentang evolusi yang sangat penting - semua makhluk hidup berevolusi secara setara. Manusia terletak di bagian luar piringan tersebut bersama dengan kecoa, moluska, pakis, rubah dan bakteri.
Semua spesies, tanpa kecuali, telah melalui rantai keberhasilan reproduksi yang tak terputus selama tiga miliar tahun, yang berarti bakteri dan kecoa sama-sama berevolusi seperti manusia. Tidak ada tangga.
Demikian pula, tidak ada tangga kecerdasan. Kecerdasan tidak bersifat satu dimensi. Ini adalah sebuah kompleks berbagai jenis dan cara mengetahui, yang masing-masing berkesinambungan. Mari kita lakukan latihan sederhana untuk mengukur kecerdasan pada hewan. Jika kecerdasan bersifat satu dimensi, kita dapat dengan mudah mengurutkan berdasarkan peningkatan kecerdasannya, yaitu burung beo, lumba-lumba, kuda, tupai, gurita, paus biru, kucing, dan gorila.
Saat ini belum ada bukti ilmiah mengenai keberadaan urutan seperti itu. Alasannya mungkin karena kurangnya perbedaan tingkat kecerdasan pada hewan tertentu, tetapi hal ini juga tidak berdasar.
Zoologi kaya akan contoh perbedaan mencolok dalam cara berpikir hewan. Mungkinkah semua hewan diberkahi dengan kecerdasan “tujuan umum”? Mungkin saja, namun kita tidak mempunyai satu alat pun untuk mengukur kecerdasan jenis ini. Namun, kami memiliki banyak sistem pengukuran untuk berbagai jenis kognisi.
Daripada menggunakan garis desibel tunggal, akan lebih tepat untuk menggambarkan kecerdasan sebagai diagram ruang probabilitas, seperti dalam visualisasi kemungkinan bentuk yang diciptakan oleh algoritma Richard Dawkins. Intelijen adalah sebuah kontinum kombinatorial. Banyak node, yang masing-masing merupakan sebuah kontinum, menciptakan kompleks keanekaragaman kolosal dalam banyak dimensi. Beberapa jenis kecerdasan bisa sangat kompleks, dengan sejumlah besar sub-simpul pemikiran. Yang lain lebih sederhana, tetapi lebih ekstrim, mereka mencapai titik ekstrim dalam ruang.
Kompleks-kompleks ini, yang bagi kita memiliki arti berbagai jenis kecerdasan, dapat dianggap sebagai simfoni yang dipertunjukkan jenis yang berbeda alat-alat musik. Mereka berbeda tidak hanya dalam volume, tetapi juga dalam melodi, warna, tempo, dll. Anda dapat melihatnya sebagai suatu ekosistem. Dalam pengertian ini, berbagai komponen simpul berpikir saling bergantung dan tercipta satu sama lain.
Seperti yang dikatakan Marvin Minsky, kesadaran manusia adalah masyarakat yang berakal. Pemikiran kita adalah ekosistem yang lengkap. Otak kita memiliki banyak cara mengetahui yang menjalankan fungsi mental berbeda: deduksi, induksi, kecerdasan emosional, pemikiran abstrak dan spasial, memori jangka pendek dan jangka panjang.
Seluruh sistem saraf manusia merupakan bagian dari otak dengan tingkat kognisinya masing-masing. Padahal, proses berpikir dilakukan bukan oleh otak, melainkan oleh seluruh tubuh manusia.
Semua ragam pemikiran berbeda-beda baik antar spesies maupun antar anggota spesies yang sama. Seekor tupai dapat mengingat lokasi pasti dari beberapa ribu biji pohon ek selama bertahun-tahun, yang sama sekali tidak dapat dipahami oleh manusia. Dalam pemikiran seperti ini, manusia lebih rendah daripada tupai. Kecerdasan tupai merupakan gabungan antara kekuatan super tersebut dengan bentuk kecerdasan lainnya yang mana manusia lebih unggul dari tupai. Dalam dunia hewan, kita dapat menemukan banyak contoh keunggulan bentuk-bentuk kecerdasan hewan tertentu dibandingkan kecerdasan manusia.
Situasi yang sama juga terjadi pada kecerdasan buatan, yang dalam beberapa hal sudah lebih unggul daripada kecerdasan manusia. Kalkulator apa pun adalah jenius matematika, dan memori mesin pencari Google dalam beberapa hal sudah lebih baik daripada memori kita.
Beberapa AI melakukan aktivitas mental yang tidak mampu kita lakukan. Mengingat setiap kata di enam miliar halaman web adalah tugas yang berat bagi manusia dan mudah bagi mesin pencari. Di masa depan, kita akan menciptakan cara berpikir yang benar-benar baru yang tidak dapat diakses oleh manusia dan tidak ada di alam.
Penemu pesawat terbang terinspirasi oleh penerbangan alami – kepakan sayap. Namun, kemudian ditemukan sayap tetap dengan baling-baling yang terpasang padanya, dan ini adalah prinsip penerbangan yang benar-benar baru, yang tidak ditemukan di alam.
Inilah cara kita menemukan cara berpikir baru yang tidak mampu dilakukan oleh spesies lain. Kemungkinan besar, prinsip-prinsip ini hanya berlaku untuk masalah yang sangat terspesialisasi: misalnya, konstruksi logis baru yang hanya diperlukan dalam statistik dan teori probabilitas.
Cara berpikir baru akan membantu memecahkan masalah yang tidak dapat diatasi oleh pikiran manusia. Beberapa pertanyaan tersulit dalam bisnis dan sains memerlukan solusi dua langkah. Tahap pertama adalah menciptakan jalan baru pemikiran alami. Yang kedua adalah mulai mencari jawaban bersama dengan AI.
Orang-orang akan mulai menganggap AI lebih pintar dari diri mereka sendiri jika AI dapat membantu memecahkan masalah yang sebelumnya tidak terpecahkan. Faktanya, pemikiran AI tidak lebih baik dari pemikiran kita, hanya saja berbeda. Saya percaya bahwa manfaat utama dari kecerdasan buatan adalah ia mampu berpikir seperti alien, dan keterasingan inilah yang menjadi keunggulan utamanya.
Selain itu, kami akan menciptakan “komunitas” AI yang kompleks dengan cara berpikir yang berbeda. Mereka akan menjadi sangat kompleks sehingga mampu memecahkan masalah yang tidak dapat kita selesaikan. Oleh karena itu, sebagian orang akan salah mengira bahwa kompleks AI lebih cerdas daripada manusia. Namun menurut kami mesin pencari Google tidak lebih pintar dari seseorang, meskipun ingatannya lebih baik dari kami.
Kemungkinan besar kompleks kecerdasan buatan ini akan melampaui kita di banyak bidang, namun tidak satupun dari mereka yang akan melampaui manusia di mana pun sekaligus. Situasi serupa terjadi pada kami kekuatan fisik. Dua ratus tahun telah berlalu sejak Revolusi Industri, dan tidak ada mesin yang menjadi lebih kuat dari rata-rata manusia dalam hal apa pun, meskipun mesin sebagai satu kelas secara signifikan lebih unggul daripada manusia dalam kecepatan berlari, mengangkat beban, presisi pemotongan, dan aktivitas lainnya.
Meskipun struktur AI semakin kompleks, tidak mungkin mengukurnya menggunakan metode sains modern. Kita tidak memiliki alat untuk membedakan apakah mentimun atau Boeing 747 lebih kompleks, dan kita juga tidak memiliki cara untuk mengukur perbedaan kompleksitasnya. Itu sebabnya kita masih belum memiliki kriteria pasti mengenai kemampuan intelektual.
Seiring waktu, akan menjadi semakin sulit untuk menentukan mana yang lebih kompleks, dan karenanya, lebih cerdas: kecerdasan A atau kecerdasan B. Ada banyak bidang aktivitas mental yang belum dijelajahi, dan hal ini terutama menghalangi kita untuk memahami bahwa pikiran bukanlah satu-satunya. dimensi.
Kesalahpahaman kedua tentang pikiran manusia adalah kita percaya bahwa pikiran kita bersifat universal. Keyakinan luas ini mempengaruhi jalan yang kita ambil menuju penciptaan kecerdasan umum buatan (AGI), yang pernah digembar-gemborkan oleh para ahli AI.
Namun, jika kita menganggap pikiran sebagai ruang kemungkinan yang luas, kita tidak dapat berbicara tentang keadaan yang memiliki tujuan umum. Pikiran manusia tidak menempati tempat sentral yang abstrak, dan jenis pikiran khusus lainnya tidak berputar mengelilinginya.
Sebaliknya, kecerdasan manusia adalah jenis kecerdasan yang sangat spesifik yang telah berkembang selama jutaan tahun demi kelangsungan spesies kita di planet ini. Jika kita ingin menempatkan kecerdasan kita di antara semua jenis kecerdasan lainnya, maka kecerdasan kita akan berakhir di suatu sudut - seperti dunia kita sendiri, yang berada di tepi galaksi yang sangat besar.
Tentu saja, kita dapat membayangkan, dan terkadang menciptakan, suatu jenis pemikiran tertentu yang memiliki karakteristik serupa pisau Swiss. Dia tampaknya mengatasi banyak tugas, tetapi tidak dengan sukses.
Ini juga mencakup aturan teknis yang harus dipatuhi oleh segala sesuatu, terlepas dari apakah benda itu diciptakan dengan sengaja atau muncul secara alami: “Tidak mungkin mengoptimalkan semua dimensi. Anda hanya dapat menemukan kompromi. Mesin multifungsi serba guna tidak dapat mengungguli fungsi khusus.”
Mentalitas melakukan segalanya tidak dapat bekerja setara dengan orang yang melakukan tugas tertentu secara khusus. Karena kami menganggap kesadaran kami sebagai mekanisme universal, kami percaya bahwa kognisi tidak boleh didasarkan pada kompromi dan bahwa kecerdasan buatan dapat diciptakan yang menunjukkan tingkat efisiensi maksimum dalam semua jenis pemikiran.
Namun, saya tidak melihat bukti untuk klaim ini. Kita belum menciptakan cukup banyak jenis kesadaran yang memungkinkan kita melihat gambaran utuhnya (dan untuk saat ini kita memilih untuk tidak mempertimbangkan kesadaran hewan melalui prisma satu parameter sebagai jenis pemikiran terpisah dengan amplitudo variabel).
Sebagian dari keyakinan bahwa pemikiran kita bersifat universal berasal dari konsep komputasi universal. Asumsi ini disebut dengan tesis Church-Turing pada tahun 1950. Dinyatakan bahwa semua perhitungan yang memenuhi parameter tertentu adalah ekuivalen.
Jadi, ada dasar yang bersifat universal untuk semua perhitungan. Terlepas dari apakah penghitungan dilakukan oleh satu mesin dengan banyak mekanisme cepat, oleh mesin dengan produktivitas lebih rendah, atau bahkan dalam otak biologis, kita membicarakan proses logis yang sama. Hal ini berarti kita dapat mensimulasikan proses komputasi apa pun (berpikir) menggunakan mesin apa pun yang dapat melakukan komputasi “universal”.
Dengan menggunakan prinsip ini, para pendukung singularitas membenarkan harapan mereka bahwa kita akan mampu merancang otak buatan berbasis silikon yang dapat mengakomodasi kesadaran manusia, bahwa kita akan mampu menciptakan kecerdasan buatan yang akan berpikir dengan cara yang sama seperti manusia, namun jauh lebih efisien. Harapan-harapan ini harus diperlakukan dengan skeptisisme tertentu, karena harapan-harapan ini didasarkan pada penafsiran yang salah terhadap tesis Church-Turing.
Titik awal teori ini adalah: “Dalam kondisi memori dan waktu yang tidak terbatas, semua perhitungan adalah setara.” Masalahnya adalah pada kenyataannya, tidak ada komputer yang memiliki karakteristik memori atau waktu yang tidak terbatas. Saat Anda melakukan perhitungan di dunia nyata, komponen waktu sangatlah penting, sehingga seringkali menjadi persoalan hidup dan mati.
Ya, semua jenis pemikiran adalah sama, jika kita mengecualikan aspek waktu. Ya, simulasi pemikiran manusia dalam matriks apa pun dapat dilakukan jika Anda memilih untuk mengabaikan waktu atau keterbatasan ruang dan memori dalam kenyataan.
Namun, jika Anda memasukkan variabel waktu ke dalam persamaan ini, Anda harus mengubah rumusan prinsip secara signifikan: “Dua sistem komputasi yang beroperasi pada platform yang sangat berbeda tidak akan melakukan penghitungan yang setara secara real-time.”
Prinsip ini dapat dirumuskan kembali sebagai berikut: “Satu-satunya cara untuk memperoleh cara berpikir yang setara adalah dengan melaksanakannya atas dasar yang sama. Media fisik tempat Anda melakukan perhitungan - terutama ketika kompleksitasnya meningkat - sangat memengaruhi jenis pemikiran dalam waktu nyata."
Melanjutkan rantai logis, saya berasumsi bahwa satu-satunya metode untuk menciptakan jenis pemikiran yang sedekat mungkin dengan manusia adalah dengan melakukan perhitungan menggunakan materi yang sangat mirip dengan materi abu-abu kita.
Ini berarti bahwa kita juga dapat berasumsi bahwa kecerdasan buatan yang banyak dan kompleks yang dibuat berdasarkan silikon kering akan menghasilkan jenis pemikiran yang kikuk, kompleks, dan tidak manusiawi. Jika kecerdasan buatan yang berjalan pada materi basah dapat diciptakan dengan menggunakan neuron buatan yang mirip manusia, proses berpikir AI semacam itu akan lebih mirip dengan kita.
Keuntungan dari sistem “basah” tersebut sebanding dengan kedekatan media fisik yang digunakan dengan media manusia. Penciptaan zat semacam itu akan membutuhkan biaya material yang sangat besar untuk mencapai tingkat yang setidaknya sama dengan apa yang melekat pada diri kita secara alami. Dan kita bisa menciptakan manusia baru dengan cara ini - kita hanya perlu menunggu 9 bulan.
Juga, seperti disebutkan sebelumnya, kita berpikir dengan seluruh keberadaan kita, bukan hanya dengan kesadaran kita. Ilmu pengetahuan modern memiliki banyak data mengenai bagaimana sistem saraf kita mempengaruhi, memprediksi, dan beradaptasi dalam proses pengambilan keputusan “rasional”. Semakin detail kita melihat sistem tubuh manusia, semakin hati-hati kita dapat menciptakannya kembali. Kecerdasan buatan, yang beroperasi pada zat yang sangat berbeda dari kita (silikon kering, bukan karbon basah), juga akan berpikir berbeda.
Menurut saya, fitur ini lebih merupakan "fitur daripada bug". Seperti yang saya kemukakan di poin kedua artikel ini, perbedaan proses berpikir AI menjadi keunggulan utamanya. Inilah alasan lain mengapa salah jika mengatakan bahwa otak "lebih pintar dari otak manusia".
Inti dari konsep kecerdasan manusia super - dan khususnya teori peningkatan diri terus-menerus dari AI tersebut - adalah keyakinan yang tulus akan ketidakterbatasan kecerdasan. Saya tidak menemukan bukti untuk klaim ini.
Sekali lagi, kesalahan persepsi mengenai intelijen sebagai suatu sistem yang hanya ditentukan oleh satu dimensi berkontribusi terhadap penyebaran pernyataan ini, namun kita harus memahami bahwa pernyataan tersebut tetap tidak berdasar. Tidak ada dimensi fisik yang tak terbatas di alam semesta - setidaknya, dimensi tersebut belum diketahui sains.
Suhu tidak terbatas - ada nilai minimum dan maksimum untuk dingin dan panas. Ruang dan waktu juga tidak terbatas, begitu pula kecepatan. Mungkin sumbu bilangan bisa disebut tak terbatas, tetapi semua parameter fisik lainnya ada batasnya. Tentu saja, pikiran itu sendiri juga terbatas.
Timbul pertanyaan: di manakah batas kecerdasan? Kita terbiasa percaya bahwa batasnya ada di suatu tempat yang jauh, “di atas” kita sama seperti kita “di atas” semut. Mengesampingkan masalah satu dimensi yang belum terselesaikan, bagaimana kita bisa membuktikan bahwa kita belum mencapai batasnya? Mengapa kita tidak bisa menjadi mahkota ciptaan? Atau mungkin kita sudah hampir mencapai batas kemampuan manusia? Mengapa kita percaya bahwa kecerdasan adalah konsep yang terus berkembang?
Lebih baik memandang kecerdasan kita sebagai salah satu varietas dari sejumlah besar jenis pemikiran. Meskipun setiap dimensi kognisi dan kalkulasi mempunyai batasnya, jika terdapat ratusan dimensi, maka terdapat jenis kecerdasan yang tak terhitung banyaknya, namun tidak ada yang tidak terbatas dalam dimensi mana pun.
Saat kita menciptakan atau menghadapi variasi tema kesadaran yang tak terhitung jumlahnya ini, kita mungkin mengalaminya di luar kemampuan kita. Dalam buku saya yang terakhir, The Inevitable, saya menguraikan daftar beberapa varietas yang lebih rendah dari kita dalam satu atau lain hal. Di bawah ini saya akan memberikan sebagian dari daftar ini:
Pikiran yang sedekat mungkin dengan manusia, tetapi memiliki kecepatan reaksi lebih tinggi (kecerdasan buatan yang paling sederhana);
Pikiran yang sangat lambat, komponen utamanya adalah ruang penyimpanan dan memori yang besar;
Kecerdasan universal, terdiri dari jutaan kesadaran individu yang bertindak secara serempak;
Suatu sarang pikiran yang terdiri dari sejumlah besar kecerdasan yang sangat produktif, tanpa menyadari bahwa mereka adalah satu;
Borg supermind (ras cyborg dengan pikiran kolektif, mencoba mengasimilasi semua makhluk hidup dari seri Star Trek ke dalam kolektif mereka - kira-kira. Baru tentang) - sekumpulan kecerdasan yang sangat fungsional, menyadari dengan jelas bahwa mereka adalah satu kesatuan;
Pikiran yang diciptakan dengan tujuan mengembangkan kesadaran pribadi pemakainya, tetapi tidak cocok untuk orang lain;
Pikiran yang mampu membayangkan pikiran yang lebih kompleks, namun tidak mampu menciptakannya;
Pikiran yang suatu hari mampu berhasil menciptakan pikiran yang lebih kompleks;
Pikiran yang dapat menciptakan pikiran yang lebih kompleks, yang pada gilirannya dapat menciptakan pikiran yang lebih kompleks lagi, dan seterusnya;
Pikiran yang memiliki akses cepat ke kode sumbernya (dapat mengubah fitur fungsinya kapan saja);
Pikiran superlogis, kehilangan kemampuan untuk mengalami emosi;
Pikiran standar, ditujukan untuk memecahkan masalah yang diberikan, tetapi tidak mampu melakukan introspeksi;
Pikiran yang mampu melakukan introspeksi, tetapi tidak mampu memecahkan masalah yang dibebankan padanya;
Pikiran yang perkembangannya membutuhkan jangka waktu yang lama, memerlukan pikiran yang protektif;
Pikiran yang sangat lambat, tersebar di ruang fisik yang luas, yang tampak "tidak terlihat" oleh bentuk kesadaran yang merespons lebih cepat;
Pikiran yang mampu dengan cepat dan berulang kali mereproduksi salinan dirinya sendiri;
Pikiran yang mampu mereproduksi salinannya dan tetap menyatu dengannya;
Pikiran yang mampu mencapai keabadian dengan berpindah dari satu host ke host lainnya;
Pikiran yang cepat, dinamis, mampu mengubah proses dan sifat berpikir;
Nano-mind, unit independen terkecil (dalam ukuran dan keluaran energi) yang mampu melakukan analisis diri;
Pikiran yang berspesialisasi dalam menciptakan skenario dan perkiraan;
Pikiran yang tidak pernah melupakan apapun, termasuk informasi yang salah;
Setengah mesin, setengah hewan;
Sebagian mesin, sebagian cyborg berkelamin dua;
Pikiran yang dalam pekerjaannya menggunakan analisis kuantitatif yang tidak dapat kita pahami.
Saat ini, beberapa orang menyebut masing-masing jenis pemikiran ini sebagai manusia super AI, tetapi di masa depan, keragaman dan keterasingan dari bentuk-bentuk kecerdasan ini akan memaksa kita untuk membuka kamus baru dan mempelajari topik pemikiran dan kecerdasan secara mendetail.
Selain itu, penganut gagasan manusia super AI berasumsi bahwa levelnya kemampuan mental akan tumbuh secara eksponensial (meskipun mereka masih belum memiliki sistem untuk memperkirakan tingkat ini). Mungkin mereka percaya bahwa proses pembangunan eksponensial sudah terjadi.
Apa pun yang terjadi, saat ini tidak ada bukti pertumbuhan tersebut, tidak peduli bagaimana Anda mengukurnya. Jika tidak, ini berarti kemampuan mental AI berlipat ganda dalam jangka waktu tertentu.
Dimana konfirmasinya? Satu-satunya hal yang kini tumbuh secara eksponensial adalah investasi di industri AI. Namun laba atas investasi ini tidak dapat dijelaskan oleh hukum Moore. AI tidak menjadi dua kali lebih pintar dalam tiga tahun, atau bahkan sepuluh tahun.
Saya bertanya kepada banyak pakar di bidang AI, namun semua orang sepakat bahwa kita tidak memiliki kriteria kecerdasan. Ketika saya bertanya kepada Ray Kurzweil, seorang ahli eksponensial sejati, di mana menemukan bukti perkembangan AI yang eksponensial, dia menulis kepada saya bahwa perkembangan AI bukanlah proses yang eksplosif, melainkan proses bertahap.
“Untuk menambahkan level baru ke hierarki memerlukan peningkatan daya komputasi secara eksponensial dan peningkatan kompleksitas algoritme... Oleh karena itu, kita dapat mengharapkan peningkatan linier dalam jumlah level bersyarat, karena masing-masing level memerlukan peningkatan eksponensial dalam kemampuan kita sendiri. Tidak banyak tingkat kerumitan yang tersisa bagi kita untuk mencapai kemampuan AI neokorteks (bagian utama korteks otak manusia, yang bertanggung jawab atas fungsi saraf yang lebih tinggi - kira-kira. Apa yang baru), jadi saya masih yakin asumsi saya tentang tahun 2029 benar.”
Ray sepertinya mengatakan bahwa bukan kekuatan kecerdasan buatan yang tumbuh secara eksponensial, namun upaya untuk menciptakannya, sementara hasilnya hanya meningkat satu langkah setiap saat. Hal ini hampir berlawanan dengan hipotesis ledakan intelijen. Hal ini mungkin berubah di masa depan, namun AI jelas tidak tumbuh secara eksponensial saat ini.
Jadi ketika kita membayangkan “ledakan AI”, kita harus menganggapnya bukan sebagai sebuah longsoran salju, melainkan sebagai perpecahan menjadi banyak varietas baru. Hasil dari kemajuan teknologi kemungkinan besar bukanlah manusia super, melainkan manusia super. Di luar pengetahuan kita, namun belum tentu “di atas” itu.
Mitos lain yang diterima tetapi sebenarnya tidak didukung tentang perbudakan oleh kecerdasan super menyatakan bahwa kecerdasan yang hampir tak terbatas dapat dengan cepat menyelesaikan semua masalah kita.
Banyak pendukung perkembangan AI yang pesat memperkirakan hal ini akan menciptakan kemajuan yang pesat. Saya menyebut kepercayaan pada “thinkisme” ini (istilah ini diterjemahkan oleh Vyacheslav Golovanov - kira-kira. Baru tentang). Pendekatan ini didasarkan pada keyakinan bahwa kemajuan hanya terhambat oleh kurangnya pemikiran atau kecerdasan. (Saya juga ingin mencatat bahwa kepercayaan pada AI sebagai obat mujarab untuk segala penyakit sebagian besar merupakan karakteristik orang-orang yang suka berpikir.)
Mari kita pertimbangkan masalah mengalahkan kanker atau memperpanjang hidup. Ini adalah masalah yang tidak bisa diselesaikan hanya dengan berpikir. Tidak ada pemikiran yang bisa mengetahui bagaimana sel menua atau bagaimana telomer memendek. Tidak ada kecerdasan, betapapun kerennya, yang dapat memahami cara kerjanya tubuh manusia, hanya dengan membaca semua yang diketahui literatur ilmiah di dunia dan menganalisisnya.
Super-AI tidak akan bisa begitu saja memikirkan semua eksperimen saat ini dan masa lalu dalam pembelahan inti atom, dan sehari kemudian menghasilkan resep fusi termonuklir yang sudah jadi. Untuk beralih dari kesalahpahaman menuju pemahaman terhadap subjek apa pun memerlukan lebih dari sekadar berpikir.
Pada kenyataannya, terdapat banyak sekali eksperimen, yang masing-masing memberikan sejumlah besar data yang kontradiktif dan memerlukan eksperimen lebih lanjut untuk membentuk hipotesis kerja yang benar. Hanya memikirkannya hasil yang mungkin tidak akan memberikan data keluaran yang benar.
Berpikir (kecerdasan) hanyalah sebagian dari alat ilmu pengetahuan. Kemungkinan besar hanya sebagian kecil saja. Misalnya, kita tidak mempunyai cukup data untuk memecahkan masalah kematian. Saat menangani organisme hidup, sebagian besar eksperimen ini membutuhkan waktu. Metabolisme sel yang lambat tidak dapat dipercepat. Dibutuhkan waktu bertahun-tahun, berbulan-bulan, atau setidaknya berhari-hari untuk mendapatkan hasilnya.
Jika kita ingin mengetahui apa yang terjadi pada partikel subatom, tidak cukup hanya memikirkannya saja. Kita harus membangun model fisika yang sangat besar, sangat kompleks, dan sangat canggih untuk mengetahuinya. Sekalipun fisikawan terpintar menjadi seribu kali lebih pintar dari sekarang, mereka tidak akan mempelajari sesuatu yang baru tanpa penumbuk tersebut.
Tidak ada keraguan bahwa super-AI dapat mempercepat perkembangan ilmu pengetahuan. Kita dapat membuat model atom atau sel komputer, dan kita dapat mempercepatnya dengan banyak cara, namun ada masalah yang menghambat kemajuan simulasi.
Perlu diingat bahwa simulasi dan model dapat diperiksa lebih cepat dibandingkan subjeknya hanya karena mereka membuang variabel tertentu. Inilah inti dari pemodelan. Penting juga untuk dicatat bahwa model seperti itu membutuhkan waktu lama untuk diuji, dipelajari, dan divalidasi untuk memastikan relevansinya dengan subjeknya. Pengujian berdasarkan pengalaman tidak dapat dipercepat.
Versi simulasi yang disederhanakan berguna untuk menemukan cara paling menjanjikan untuk mempercepat kemajuan. Namun pada kenyataannya, tidak ada yang berlebihan, semuanya penting sampai batas tertentu - ini adalah salah satu definisi besar tentang realitas. Ketika model dan simulasi menjadi semakin rinci, peneliti dihadapkan pada kenyataan bahwa kenyataan berjalan lebih cepat dibandingkan simulasi 100%.
Berikut definisi lain dari realitas: versi yang berfungsi paling cepat dari semua kemungkinan detail dan derajat kebebasan. Jika Anda dapat memodelkan semua molekul dalam sel dan semua sel dalam tubuh manusia, model tersebut tidak akan berjalan secepat tubuh manusia. Tidak peduli seberapa cermat Anda merancang model seperti itu, Anda tetap perlu meluangkan waktu untuk bereksperimen, tidak peduli apakah itu sistem nyata atau simulasi.
Agar bermanfaat, kecerdasan buatan harus diperkenalkan ke dunia, dan di dunia ini laju inovasi yang diperlukan berubah dengan cepat. Tanpa percobaan pertama, prototipe, kesalahan dan keterlibatan dengan kenyataan, intelek dapat berpikir, namun tidak akan membuahkan hasil. Dia tidak akan membuat penemuan apa pun dalam waktu sedetik, atau satu jam, atau setahun setelah dia disebut “lebih pintar dari manusia”.
AI muncul. Tentu saja, laju penemuan akan meningkat seiring dengan semakin kompleksnya AI ini, sebagian karena kecerdasan buatan asing akan menanyakan pertanyaan-pertanyaan yang tidak akan ditanyakan oleh manusia, namun bahkan kecerdasan yang sangat kuat (dibandingkan dengan kita) tidak menjamin kemajuan dalam waktu dekat. Memecahkan masalah memerlukan lebih dari sekedar kecerdasan.
Masalah kanker dan angka harapan hidup bukanlah satu-satunya masalah yang tidak dapat diselesaikan dengan kecerdasan saja. Kesalahpahaman umum di kalangan pendukung singularitas teknologi adalah jika kita menciptakan AI yang lebih pintar dari manusia, maka AI tersebut akan tiba-tiba berevolusi dan menciptakan AI yang lebih pintar lagi.
Kecerdasan buatan yang baru akan berpikir lebih dalam dan menciptakan sesuatu yang lebih cerdas, dan seterusnya hingga sesuatu yang seperti dewa ditemukan. Tidak ada bukti bahwa berpikir saja sudah cukup untuk menciptakan tingkat kecerdasan yang baru. Jenis perenungan ini didasarkan pada iman.
Namun, ada banyak bukti untuk menciptakan hal baru intelijen yang efektif hal ini tidak hanya membutuhkan upaya mental, tetapi juga eksperimen, data, pertanyaan-pertanyaan yang menantang, trial and error.
Saya mengerti bahwa saya mungkin salah. Kami masih berada pada tahap awal. Mungkin kita akan menemukan skala kecerdasan universal atau ketidakterbatasannya dalam segala hal. Ada kemungkinan terjadinya singularitas teknologi, karena kita hanya tahu sedikit tentang apa itu kecerdasan dan kesadaran diri. Menurut saya, semuanya menunjukkan bahwa hal ini tidak mungkin terjadi, tetapi masih ada peluang.
Namun, saya mendukung tujuan OpenAI yang lebih luas: kita harus mengembangkan AI yang ramah dan mencari cara untuk memberikan nilai-nilai yang dapat mereplikasi diri sendiri dan selaras dengan nilai kita.
Ada kemungkinan bahwa manusia super AI bisa berbahaya dalam jangka panjang, namun gagasan ini didasarkan pada bukti yang tidak lengkap dan tidak boleh dianggap serius jika menyangkut sains, politik, atau kemajuan.
Sebuah asteroid yang menabrak Bumi dapat menghancurkan kita, sebuah kemungkinan yang memang ada (seperti yang dikonfirmasi oleh B612 Foundation), namun kita tidak boleh mempertimbangkan dampak seperti itu dalam hal pemanasan global, perjalanan ruang angkasa, atau perencanaan kota.
Bukti yang ada menunjukkan bahwa kemungkinan besar AI bukanlah manusia super. Dia akan memiliki ragam pemikiran baru yang tidak dapat diakses oleh manusia, namun tanpa penerapan yang komprehensif dia tidak akan menjadi tuhan yang akan menyelesaikan masalah utama kita dalam sekejap.
Sebaliknya, itu akan menjadi kumpulan intelek kecacatan, akan bekerja lebih baik dari kami di bidang yang tidak kami kenal, dan bersama kami akan dapat menemukan solusi baik untuk masalah yang ada maupun yang baru.
Saya memahami betapa menariknya gagasan AI yang menyerupai manusia super dan dewa. Dia bisa menjadi Superman baru. Tapi, seperti Superman, dia adalah karakter fiksi. Superman mungkin ada di suatu tempat di alam semesta, tapi kemungkinannya sangat kecil. Meski begitu, mitos bisa bermanfaat dan, begitu tercipta, mitos itu tidak akan hilang.
Ide tentang Superman akan hidup selamanya. Ide tentang manusia super AI dan singularitas sedang muncul sekarang dan tidak akan pernah terlupakan. Kita perlu memahami gagasan macam apa ini: keagamaan atau ilmiah. Jika kita mengeksplorasi pertanyaan tentang kecerdasan, baik buatan maupun alami, kita harus memahami dengan jelas bahwa gagasan kita tentang manusia super AI hanyalah mitos belaka.
Suku-suku di pulau-pulau terpencil di Mikronesia pertama kali melakukan kontak dengan dunia luar selama Perang Dunia II. Para dewa terbang dari negeri yang jauh, turun dari surga dengan burung-burung yang berisik, membawa hadiah dan terbang selamanya. Kultus tentang kembalinya dewa-dewa ini dan hadiah baru menyebar ke seluruh pulau. Bahkan sekarang, 50 tahun kemudian, masih banyak yang menunggu kepulangan mereka.
AI manusia super bisa menjadi kultus kargo baru kita. Mungkin seratus tahun dari sekarang, orang-orang akan memandang zaman kita dengan cara yang sama: seolah-olah kita percaya pada manusia super AI dan menunggu selama beberapa dekade hingga AI itu muncul kapan saja dan memberi kita hadiah yang tak terbayangkan.
Namun, AI non-manusia super sudah ada. Kami terus mencari definisi baru untuk memperumitnya. Namun dalam arti luas, pikiran yang asing bagi kita adalah spektrum kemampuan intelektual, pemikiran, mekanisme penalaran, pembelajaran, dan kesadaran diri. AI sedang menyebar dan akan terus menyebar. Hal ini menjadi lebih dalam, lebih beragam, lebih kuat.
Sebelum adanya AI, tidak ada penemuan yang dapat mengubah dunia sepenuhnya. Pada akhir abad ke-21, kecerdasan buatan akan menjadi begitu kuat sehingga akan mengubah segalanya dalam hidup kita.
Meski begitu, mitos tentang manusia super AI yang akan memberi kita kekayaan super atau perbudakan super (atau keduanya) akan tetap hidup. Namun, hal tersebut hanya akan menjadi mitos dan sulit untuk diwujudkan menjadi kenyataan.”
Kiamat global yang melibatkan AI (kecerdasan buatan) semakin menakutkan para peneliti terkemuka dunia di bidang teknologi komputer. Hal ini bisa jadi merupakan pemberontakan robot yang, dengan dipandu oleh program dan nilai-nilai mereka, ingin menghancurkan bentuk kehidupan biologis di planet ini. Skenario di mana mesin yang dikendalikan AI menjadi bentuk kehidupan yang dominan mungkin saja terjadi.
Mengapa ilmuwan terkenal dunia seperti Bill Gates, Steve Hawking, Elon Musk dan lainnya prihatin dengan masalah ini dan secara terbuka menyatakan ancaman nyata dari skenario ini? Mungkinkah peristiwa yang terjadi dalam film Hollywood "Terminator" bersifat kenabian? Diketahui bahwa setiap cerita fiksi didasarkan pada fakta nyata.
Komputer menjadi lebih baik dalam berbohong dan menipu
Berbohong adalah suatu bentuk perilaku yang berkembang dalam proses evolusi. Manusia, beberapa hewan dan burung, melakukan penipuan untuk mendapatkan makanan dan manfaat, yang meningkatkan peluang untuk bertahan hidup. Baru-baru ini, metode evolusioner tersebut telah berhasil dikuasai oleh mesin AI.
Desainer dari Institut Teknologi Georgia telah membuat kemajuan dalam menciptakan robot yang menggunakan kebohongan dan penipuan dalam algoritma perilaku mereka. Para ilmuwan percaya bahwa di masa depan, teknologi ini akan diterapkan secara luas di bidang militer.
Prototipe robot diharapkan dapat digunakan dalam kondisi pertempuran nyata. Mekanisme bernyawa ini akan mampu melakukan pekerjaan untuk melindungi perbekalan dan gudang amunisi. Dengan menggunakan program penipuan, penjaga keamanan di masa depan akan dapat mengubah rute patrolinya dan melakukan tindakan yang tidak terduga. Sesuai rencana pengembang, metode seperti itu akan membantu menipu calon musuh manusia dan robot lainnya.
Menurut Profesor Arkin, penelitian dikaitkan dengan sejumlah masalah etika. Hilangnya kendali atas teknologi, jika jatuh ke tangan pihak yang tidak berkepentingan, dapat menyebabkan bencana yang serius.
Mesin mengambil alih pasar kerja
Saat masyarakat sibuk memikirkan perang global yang melibatkan AI, para ilmuwan menggambarkan bahaya yang lebih mendesak dan nyata. Berbagai mesin dan mekanisme otomatis semakin banyak digunakan dalam produksi, sehingga menghancurkan lapangan kerja.
Banyak analis dan pakar sepakat bahwa perkembangan aktif di bidang program logika dan otomasi dapat menyebabkan banyak orang kehilangan pekerjaan. Di Amerika Serikat, terdapat lebih dari 250 ribu robot yang terlibat dalam produksi karya manusia tradisional.
Di negara-negara timur, yang memproduksi lebih dari 90% teknologi dunia, tenaga kerja manual masih mendominasi. Orang hanya bisa menebak apa yang akan terjadi pada orang-orang yang bekerja di bidang produksi dengan munculnya robot.
Bukan hanya pekerja saja yang mengungkapkan kekhawatiran bahwa mesin akan menggantikan manusia dari pasar tenaga kerja. Pakar kecerdasan buatan Andrew Ng dari Google Brain Project dan pakar terkemuka di Baidu (setara dengan Google di China) juga menyatakan keprihatinannya terhadap perkembangan aktif di bidang AI. Menurutnya, kecerdasan elektronik buatan mampu melakukan hal yang sama seperti manusia biasa, hanya saja lebih cepat, lebih baik, dan dengan sumber daya yang lebih sedikit.
Universitas Oxford di Inggris telah melakukan penelitian yang mencerminkan dinamika dampak AI terhadap manufaktur. Berdasarkan data yang diperoleh, dalam dua puluh tahun ke depan, 35% pekerjaan akan dikuasai oleh AI.
Program komputer lebih unggul daripada peretas
Dari sudut pandang orang biasa, seorang hacker ibarat manusia super, mampu mencapai hasil apapun. Kenyataannya, mereka adalah programmer dengan ekspresi lelah di wajah mereka dan secangkir kopi tradisional.
Peretasan adalah aktivitas yang agak membosankan dan membosankan yang membutuhkan banyak waktu dan sumber daya. Selain itu, seluruh departemen spesialis terlibat dalam pengembangan program yang dirancang untuk melindungi terhadap intrusi. Ancaman terbesar bagi peretas jahat datang dari sistem AI yang canggih.
Kecerdasan buatan tidak hanya dapat digunakan untuk perlindungan, tetapi juga untuk peretasan. Dalam konteks program keamanan siber, AI sedang dikembangkan yang dapat menemukan kerentanan pada musuh, sekaligus melindungi perangkat logisnya dari ancaman dan serangan eksternal.
Menurut para ilmuwan, peretas elektronik berbasis AI sedang dikembangkan demi mencapai kebaikan dan kemakmuran bersama. Namun jika penyerang mendapatkan akses ke program tersebut, kejadian menyedihkan bisa terjadi. Sangat menakutkan membayangkan situasi di mana AI yang kuat meretas protokol keamanan pembangkit listrik tenaga nuklir dan mendapatkan kendali penuh. Dalam situasi ini, umat manusia mungkin merasa tidak berdaya.
Program belajar memahami motif orang
Kehidupan sehari-hari banyak orang tidak dapat dipisahkan dari penggunaan berbagai jejaring sosial. Salah satu jaringan paling populer di dunia adalah Facebook. Namun hanya sedikit orang yang mengetahui bahwa setiap kunjungan seseorang ke halaman jejaring sosial tertentu tidak luput dari perhatian AI. Selama kunjungannya ke Berlin, Mark Zuckerberg menjelaskan tujuan AI.
Program ini dirancang untuk menganalisis perilaku pengguna di halaman Facebook. Berdasarkan data yang dikumpulkan, program membuat rekomendasi tentang minat dan preferensi penonton. Pada tahap perkembangan ini, sistem otonom mampu mengenali pola dan belajar mandiri sesuai dengan programnya.
Di masa depan, direncanakan untuk menciptakan AI cerdas yang dapat meningkatkan keterampilannya secara mandiri dengan menulis ulang kodenya. Hal ini mungkin mengarah pada perbaikan dalam kehidupan, atau mungkin menjadi perkembangan terkini umat manusia.
Cyborg akan menggantikan kekasih
Banyak film Hollywood yang didasarkan pada gagasan cinta dan hubungan antarspesies antara manusia dan mesin. Dari ranah fiksi ilmiah, konsep ini mengalir ke dunia modern.
Futuris Dr. Ian Pearson percaya bahwa pada tahun 2050, hubungan seks antara manusia dan robot akan lebih sering terjadi daripada hanya antar manusia. Ilmuwan tersebut secara aktif berkolaborasi dengan Bondara, jaringan toko seks terkemuka di Inggris.
Laporan dokter menyebutkan pada tahun 2025 robot seks dengan kecerdasan buatan akan dikembangkan. Pada tahun 2035, seks melalui realitas virtual akan tersebar luas, pada tingkat pornografi modern. Dan pada tahun 2050, seks dengan robot akan menjadi kenyataan sehari-hari dan menjadi hal yang biasa.
Pembela nilai-nilai tradisional, memiliki sikap negatif terhadap seks dengan mesin cerdas. Koneksi seperti itu akan membuat ekspektasi terlalu tinggi. level tinggi, yang akan berdampak negatif terhadap sikap terhadap perempuan.
Mesin menjadi semakin mirip manusia
Pengembang di bidang pembuatan robot humanoid, Hiroshi Ishiguro dari Jepang dan Sun Yang dari Cina, menciptakan mesin yang unik. Cyborg Yang-Yan memiliki penampilan seperti penciptanya dan dinamai menurut nama putrinya. Mesin tersebut memiliki AI dan mampu melakukan sejumlah tindakan sederhana.
Ini bukan satu-satunya contoh robotika humanoid. Universitas Teknologi Singapura juga mengusulkan contoh modern cyborg - Nadine. Prototipe ini juga memiliki kecerdasan buatan dan beroperasi di lembaga pendidikan.
Didesain dalam bentuk rambut coklat yang menarik, dengan kulit lembut, cyborg memiliki sejumlah fungsi bawaan. Robot dapat bertemu dan menyapa lawan bicaranya dengan berjabat tangan. Perangkat tersebut juga dapat melakukan kontak mata dan tersenyum. AI mampu mengingat tamu dan mempertahankan dialog sederhana berdasarkan pengalaman sebelumnya.
Robot mendapatkan perasaan
Robot modern tidak kalah dengan manusia dalam hal kecerdasan. Berkat perkembangan terkini, cukup sulit membedakan penampilan cyborg dengan manusia. Sejauh ini, satu-satunya sifat yang sebenarnya tidak dimiliki robot adalah kemampuan mengeluarkan emosi. Para ilmuwan di seluruh dunia sedang mengatasi masalah ini. Dan segera robot-robot itu benar-benar tidak dapat dibedakan dari manusia.
Pengembang dari Microsoft Application & Services Group cabang Asia Timur telah merilis program unik. Komputer mampu melakukan dialog dengan lawan bicara sekaligus merasakan emosi. Kecerdasan buatan yang diberi nama Hiaoche ini mampu meniru gaya percakapan seorang gadis berusia tujuh belas tahun.
Jika datanya kurang, sistem bisa berbohong. Jika dia ketahuan selingkuh, Hiaoche mungkin akan mengungkapkan kemarahan atau rasa malu. AI mungkin menggunakan sarkasme, curiga, dan menunjukkan ketidaksabaran.
Respons program yang tidak dapat diprediksi mengingatkan kita pada komunikasi dengan orang sungguhan. Sejauh ini teknologi tersebut belum banyak diterapkan dan paling sering digunakan untuk hiburan. Pencipta Hiaoche sedang berupaya meningkatkan algoritme logika, yang dapat menghasilkan terobosan mendasar di masa depan.
Mobil akan segera ada di kepala kita
Mengingat perkembangan terkini, peluang-peluang baru terbuka. Rasanya tidak lagi luar biasa untuk bisa belajar bahasa asing dalam beberapa menit dengan mengunduhnya ke dalam otak. CTO Google Ray Kurzweil percaya bahwa pada tahun 2030 teknologi penanaman robot nano ke dalam otak akan dikembangkan. Hal ini akan meningkatkan kecerdasan manusia ke tingkat yang baru secara fundamental.
Mekanisme mikro ini akan mengubah kesadaran menjadi pusat komputasi yang kuat. Seseorang akan dapat langsung mengingat informasi apa pun, mengurutkan, dan mengirimkan pemikirannya sendiri ke arsip. Jika perlu, dimungkinkan untuk mengunduh film, dokumen, dan menerima email ke kepala.
Pakar di bidang AI, Kurzweil meyakini simbiosis dengan robot nano tidak hanya membantu meningkatkan kecerdasan, tetapi juga mampu menyembuhkan sejumlah penyakit yang berhubungan dengan aktivitas sistem saraf.
Ancaman penggunaan teknologi tersebut dapat disamakan dengan teori konspirasi global. Setelah memperoleh kendali pikiran atas politisi terkemuka di negara itu, AI akan mampu mengendalikannya seperti zombie yang berkemauan lemah. Selain itu, sistem seperti itu dapat digunakan oleh badan intelijen, dan ini bukan pertanda baik.
Bagaimana robot menjadi senjata
Dengan jatuhnya Uni Soviet, Perang Dingin tidak berhenti. Dua negara adidaya baru, Tiongkok dan Rusia, telah muncul di panggung dunia. Amerika, sebaliknya, menghabiskan puluhan miliar dolar untuk pengembangan di bidang keamanan komputer.
Pentagon percaya bahwa kunci keunggulan teknologi di masa depan terletak pada penggunaan AI. Pengembangan sistem otonom belajar mandiri, serta bidang paralel dan terkait, sedang dikembangkan secara aktif. Prototipe peralatan militer yang dikendalikan dari jarak jauh telah dikembangkan; yang tersisa hanyalah melatihnya untuk beroperasi secara mandiri.
Penggunaan perangkat tersebut selama perang menjanjikan manfaat yang besar. Para prajurit tidak perlu terkena tembakan musuh dan mempertaruhkan nyawa mereka. Moral musuh dalam perang melawan robot mati juga akan melemah.
ada juga sisi belakang. Peralatan komputer apa pun dapat mengalami kegagalan sistem dan peretasan. Dalam hal ini, robot yang lepas kendali mampu mengarahkan senjata untuk melawan penciptanya dan warga sipil.
Banyak pakar AI terkemuka tidak mendukung gagasan menciptakan robot tempur otonom. Namun, mengingat meningkatnya konfrontasi militer di dunia dan tidak adanya larangan internasional terhadap penggunaan teknologi tersebut, banyak negara melakukan pengembangannya dengan sangat rahasia. Segera, semakin banyak laporan akan muncul tentang penggunaan robot di titik-titik panas di planet ini.
Robot belajar ke arah yang salah
Mengantisipasi kemungkinan kegagalan dalam program dan untuk mencegah kebangkitan mesin, konsep-konsep baru sedang dikembangkan yang bertujuan untuk menjelaskan kepada mesin perilaku yang benar dan tidak diinginkan.
Perkembangan ini berpotensi menjadikan AI lebih manusiawi. Beberapa ilmuwan melihat pendekatan ini sebagai kunci untuk mencegah AI mengubah senjata melawan kemanusiaan.
Eksperimen unik sedang dilakukan di Institut Teknologi Georgia. Para peneliti, yang dipimpin oleh Mark Riedl dan Brent Harrison, menceritakan kisah-kisah komputer secara harfiah. Dengan cara ini, mereka berupaya memperkenalkan AI pada nilai-nilai kemanusiaan dengan mengembangkan etikanya. Para ilmuwan menggunakan metode yang digunakan dalam membesarkan anak untuk mengajarkan program tersebut. AI, seperti anak yang belum berpengalaman, tidak membedakan konsep baik dan buruk.
Masih terdapat kelemahan serius dalam pendekatan ini. Sejarah umat manusia mengandung banyak contoh ketika keadaan memaksa seluruh negara maju untuk memulai perang dan melakukan kekejaman yang mengerikan. Contohnya adalah Jerman fasis, yang tentaranya melakukan genosida terhadap seluruh bangsa. Pada saat yang sama, budaya Jerman pada waktu itu adalah salah satu yang paling berkembang di dunia. Apa yang bisa mencegah AI mengulangi pengalaman Hitler?
Perkembangan kecerdasan buatan suatu saat akan mengarah pada keunggulannya dibandingkan kemampuan mental manusia. Namun, bukankah hal ini akan berbahaya bagi umat manusia? Situasi ini dapat dipelajari dengan mendefinisikan konsep AI secara lebih tepat, dengan menggunakan kecerdasan alami sebagai dasar perbandingan. Bisakah satu orang menggabungkan kecerdasan dan kecerdasan pada saat yang bersamaan? Ataukah orang pintar tidak bisa menjadi intelektual dan sebaliknya?
Pertanyaan-pertanyaan seperti itu muncul sehubungan dengan semakin dekatnya era AI, kemungkinan bahaya yang harus diketahui umat manusia sebelumnya dan mengambil tindakan tepat waktu untuk memastikan keamanannya. Pertama-tama, bahaya AI terkait dengan independensinya dan pengambilan keputusan yang tidak terkendali. Saat ini, dana telah dialokasikan untuk mempelajari masalah ini. OpenAI Institute mempelajari prospek pengembangan AI. Pada tahap pengembangan sistem AI saat ini, bahaya penggunaannya mungkin disebabkan oleh faktor-faktor berikut:
- kesalahan perangkat lunak. Perangkat lunak apa pun mungkin berisiko seperti ini;
- aktivitas independen AI yang berbahaya bagi manusia. Bahaya AI mungkin muncul setelah penemuan komputer pintar. Oleh karena itu, perlu ditentukan tingkat kecerdasan suatu komputer, apakah dapat diterima, maupun berlebihan, sehingga dapat membahayakan manusia. Sifat-sifat ini harus diukur secara akurat karena konvergensi kemampuan mental manusia dan komputer yang tidak dapat dihindari. Sistem informasi yang ada saat ini merupakan manusia-mesin yang dapat beroperasi berkat kecerdasan pengguna atau ahli komputer.
Misalnya, bahaya apa yang timbul dari sistem akuntansi cerdas yang dapat menghasilkan informasi yang salah? Bahaya bisa muncul ketika sistem seperti itu mengembangkan unsur-unsur kepribadian, misalnya kepentingan pribadi yang tidak ada hubungannya dengan manusia. Solusi untuk masalah ini mungkin berupa larangan penciptaan sistem yang berbeda dalam kemungkinan evolusinya.
Selain itu, bahayanya mungkin terkait dengan kandungan kesalahan logika di AI. Ini dapat digunakan untuk memecahkan masalah yang cukup kompleks, yang daftarnya tidak dapat diketahui dengan segera. Oleh karena itu, perlu dilakukan tindakan khusus untuk memastikan kebenaran keputusan yang akan diperoleh. Kemungkinan besar, akan ada kebutuhan untuk mengembangkan segala macam cara untuk mengendalikan sistem tersebut, misalnya, perangkat lunak khusus yang secara otomatis akan memeriksa kebenaran solusi dan tidak memerlukan partisipasi manusia.
