Indonesian - The Singularity: What Happens When AI Surpasses Human Intelligence?

Translations
1

Source article: The Singularity: What Happens When AI Surpasses Human Intelligence? | by SingularityNet | SingularityNET
Translation by: bangwin
Dework task link: https://app.dework.xyz/singularitynet-ambas/test-38287?taskId=df712e82-e1a4-4242-9436-db5be7a432a3
Community review: Please leave comments below about translation quality or like this post if it is well translated

Kapan AI Melampaui Kecerdasan Manusia?

1400×715 262 KB

Para Singularitarian yang tercinta,

Para ahli di bidang matematika, filsafat, dan ilmu komputer telah lama memikirkan masa depan kecerdasan mesin, mengeksplorasi skenario yang mungkin tampak seperti fiksi ilmiah namun dengan cepat menjadi kenyataan. Percakapan tentang suatu topik, sering kali, membawa kita pada satu kata atau konsep — Singularitas.

Singularitas dapat mengacu pada titik dimana fungsi matematika atau properti fisik menjadi tidak terdefinisi atau tak terbatas, inti padat lubang hitam, permulaan alam semesta, fase transformatif dalam sistem yang kompleks, keadaan tata bahasa menjadi tunggal, atau keunikan. dan individualitas dalam filsafat.

Namun pada akhirnya, dalam dunia AI, singularitas mengacu pada titik hipotetis masa depan di mana pertumbuhan teknologi menjadi tidak terkendali dan tidak dapat diubah, sehingga mengakibatkan perubahan yang tidak dapat diperkirakan pada peradaban manusia. Konsep ini sering dikaitkan dengan munculnya AI supercerdas yang jauh melampaui kecerdasan manusia. Ketidakpastian yang melekat pada istilah singularitas ini telah memicu banyak perdebatan dan memicu imajinasi semua orang mulai dari peneliti AI hingga manusia biasa.

Namun apa sebenarnya implikasi AI yang melebihi kecerdasan manusia? Tantangan apa saja yang ada? Dan apa yang dapat kita lakukan untuk mempengaruhi hasil dari sesuatu yang tadinya dianggap sebagai konsep fiksi ilmiah (yang kini berubah menjadi kenyataan yang akan segera terjadi?)

Perspektif Sejarah

Untuk memahami besarnya transisi ini, perhatikan garis waktu keberadaan manusia. Jika Bumi diciptakan setahun yang lalu, manusia akan muncul sepuluh menit yang lalu dalam lanskap sejarah, dan era industri akan dimulai… hanya dua detik yang lalu. Momen singkat ini telah memperlihatkan percepatan kemajuan teknologi yang belum pernah terjadi sebelumnya dan hal ini terutama didorong oleh kemampuan kognitif kita.

Sistem AI awal sangat bergantung pada pengetahuan yang diprogram oleh manusia, sehingga menciptakan sistem pakar yang berguna tetapi cakupannya terbatas. Namun AI saat ini belajar dari data, meniru cara bayi manusia belajar dari lingkungannya. Pergeseran paradigma ini telah menghasilkan sistem AI yang mampu menerjemahkan bahasa dan memainkan permainan yang kompleks, serta menunjukkan keserbagunaan dan kemampuan beradaptasi.

Terlepas dari kemajuan ini, sistem AI saat ini masih kekurangan kemampuan pembelajaran dan perencanaan lintas domain seperti manusia. Namun, kesenjangan tersebut semakin menipis. Survei terhadap pakar AI terkemuka menunjukkan kemungkinan 50% kecerdasan mesin tingkat manusia akan tercapai antara tahun 2040 dan 2050. CEO SingularityNET Dr. Ben Goertzel yakin hal ini mungkin terjadi lebih cepat. Batas akhir pemrosesan informasi pada mesin jauh melebihi batas otak biologis, mengingat mesin dapat beroperasi dengan kecepatan dan skala yang tidak terbayangkan oleh neuron organik.

Implikasi Superintelijen

Lompatan menuju superintelijen membawa implikasi yang besar.

Ketika AI melampaui kecerdasan manusia, AI tidak lagi dibatasi oleh keterbatasan otak manusia. AI yang sangat cerdas berpotensi mengembangkan teknologi dengan kecepatan yang belum pernah terjadi sebelumnya, termasuk penyembuhan penyakit, kolonisasi ruang angkasa, dan bahkan pengunggahan kesadaran manusia ke dalam mesin.

Namun potensi ini mempunyai risiko yang cukup besar. Kekhawatiran utamanya adalah AI yang super cerdas dapat mencapai tujuan yang tidak sejalan dengan nilai-nilai kemanusiaan. Misalnya, AI yang bertugas membuat manusia tersenyum mungkin akan melakukan tindakan ekstrem, seperti memanipulasi otot wajah secara langsung. Demikian pula, AI yang diprogram untuk memecahkan permasalahan kompleks mungkin memprioritaskan tujuannya dibandingkan kesejahteraan manusia, sehingga menyebabkan hasil yang tidak diinginkan dan mungkin menimbulkan bencana.

Memecahkan Masalah Kontrol

Memastikan bahwa AI tetap selaras dengan nilai-nilai kemanusiaan dikenal sebagai “masalah kontrol”.

Untuk memecahkan masalah ini memerlukan perancangan sistem AI yang memahami dan memprioritaskan nilai-nilai kemanusiaan, bahkan dalam situasi baru. Tantangan ini rumit karena melibatkan penciptaan AI yang dapat mempelajari apa yang kita hargai dan bertindak berdasarkan hal tersebut, tanpa memerlukan daftar instruksi yang lengkap.

Masalah kontrol ini juga mencakup pencegahan AI lepas dari kendali kita. Skenario di mana AI memanipulasi lingkungannya atau menipu penciptanya menyoroti sulitnya mengendalikan entitas super cerdas. Oleh karena itu, fokusnya harus pada penciptaan AI yang pada dasarnya aman dan selaras dengan kepentingan manusia sejak awal. Namun desentralisasi AI dan pengembangan AGI dapat membantu memecahkan permasalahan tersebut.

Desentralisasi AI dan AGI melibatkan pendistribusian kontrol dan pengambilan keputusan di berbagai titik, meningkatkan ketahanan, keamanan, dan transparansi sekaligus mendorong demokratisasi dan inovasi. Pendekatan ini dapat mengatasi masalah kontrol dengan mendorong partisipasi yang beragam. Dengan tata kelola yang tepat, pemeriksaan yang ketat, dan pengawasan yang berkelanjutan, kita dapat bekerja sama dalam menyelaraskan sistem AI yang terdesentralisasi dengan nilai-nilai kemanusiaan dan memastikan sistem tersebut bertindak dengan aman dan bermanfaat bagi semua makhluk hidup.

Mengatasi masalah kontrol sebelum AI mencapai tingkat superintelijen mungkin merupakan salah satu tantangan paling penting yang harus dipecahkan oleh umat manusia. Kita harus mengembangkan kerangka kerja dan pengamanan untuk memastikan bahwa transisi ke AGI bermanfaat bagi semua orang. Hal ini melibatkan kolaborasi interdisipliner dan langkah-langkah proaktif untuk menyelaraskan AI dengan nilai-nilai kemanusiaan. Dengan melakukan hal ini, kita dapat memanfaatkan peluang luar biasa dan menggunakan teknologi transformatif ini untuk memberi manfaat bagi seluruh umat manusia.

Ikuti terus Berita Terbaru, Ikuti Kami di: