Category Archives: Article
Artificial Intelligence
Dikutip dari https://futureoflife.org dan berbagai sumber.
Mungkinkah Robot Memgelola Kebun,
menyemai dan menuai ? Bicara A.I, orang cenderung membayangkan robot-robot yang canggih, peralatan yang sangat mutakhir.Tapi ternyata A.I lebih daripada itu.
Dari SIRI hingga mobil yang mengendalikan sendiri, artificial intelligence (AI) berkembang pesat. Sementara fiksi ilmiah sering menggambarkan AI sebagai robot dengan karakteristik mirip manusia, AI dapat mencakup apa pun dari algoritme penelusuran Google hingga senjata Watson milik IBM hingga otonom.
Kecerdasan buatan saat ini dikenal dengan sebutan AI sempit (atau AI lemah), karena dirancang untuk melakukan tugas yang sempit (misalnya hanya pengenalan wajah atau hanya pencarian internet atau hanya mengendarai mobil). Namun, tujuan jangka panjang banyak peneliti adalah menciptakan AI umum (AGI atau AI kuat). Sementara AI sempit dapat mengungguli manusia pada apapun tugas spesifiknya, seperti bermain catur atau memecahkan persamaan, AGI akan mengalahkan manusia di hampir setiap tugas kognitif.
Artificial Intelligence
Kutipan Elon Musk
MENGAPA PENELITIAN AI HARUS MEMENUHI UNSUR KEAMANAN?
Dalam waktu dekat, tujuan menjaga pengaruh AI pada masyarakat bermanfaat memotivasi penelitian di banyak bidang, mulai dari ekonomi dan hukum hingga topik teknis seperti verifikasi, validitas, keamanan, dan kontrol. Meskipun mungkin sedikit lebih dari gangguan kecil jika laptop Anda crash atau diretas, itu menjadi lebih penting bahwa sistem AI melakukan apa yang Anda ingin lakukan seperti mengontrol mobil Anda, pesawat Anda, alat pacu jantung Anda, perdagangan otomatis Anda sistem atau jaringan listrik Anda. Tantangan jangka pendek lainnya adalah mencegah perlombaan senjata yang menghancurkan dalam senjata otonom yang mematikan.
Dalam jangka panjang, pertanyaan penting adalah apa yang akan terjadi jika pencarian AI yang kuat berhasil dan sistem AI menjadi lebih baik daripada manusia di semua tugas kognitif. Seperti yang ditunjukkan oleh I.J. Baik pada 1965, merancang sistem AI yang lebih cerdas itu sendiri merupakan tugas kognitif. Sistem seperti itu berpotensi mengalami perbaikan diri rekursif, memicu ledakan kecerdasan yang membuat kecerdasan manusia jauh tertinggal di belakang.
Dengan menciptakan teknologi baru yang revolusioner, superintelligence semacam itu dapat membantu kita memberantas perang, penyakit, dan kemiskinan, dan dengan demikian penciptaan AI yang kuat mungkin menjadi peristiwa terbesar dalam sejarah manusia.
Namun, beberapa ahli menyatakan keprihatinannya, bahwa itu mungkin juga yang terakhir, kecuali kita belajar menyelaraskan tujuan AI dengan milik kita sebelum menjadi maha cerdas.
Ada beberapa yang mempertanyakan apakah AI yang benar-benar kuat akan tercapai, dan yang lain yang bersikeras bahwa penciptaan superintelligent AI dijamin akan bermanfaat. Di FLI kami mengenali kedua kemungkinan ini, tetapi juga mengenali potensi sistem kecerdasan buatan untuk secara sengaja atau tidak sengaja menyebabkan bahaya besar. Kami percaya penelitian hari ini akan membantu kami lebih baik mempersiapkan dan mencegah konsekuensi negatif yang potensial di masa depan, sehingga menikmati manfaat dari AI sambil menghindari jebakan.
BAGAIMANA BISA AI BERBAHAYA?
Sebagian besar peneliti setuju bahwa AI superintelligent tidak mungkin menunjukkan emosi manusia seperti cinta atau benci, dan bahwa tidak ada alasan untuk mengharapkan AI menjadi sengaja penuh kebajikan atau jahat. Sebaliknya, ketika mempertimbangkan bagaimana AI mungkin menjadi risiko, para ahli berpikir dua skenario kemungkinan besar:
AI diprogram untuk melakukan sesuatu yang menghancurkan: Senjata otonom adalah sistem kecerdasan buatan yang diprogram untuk membunuh. Di tangan orang yang salah, senjata-senjata ini bisa dengan mudah menyebabkan korban massal. Selain itu, perlombaan senjata AI dapat secara tidak sengaja menyebabkan perang AI yang juga mengakibatkan korban massal. Untuk menghindari digagalkan oleh musuh, senjata-senjata ini akan dirancang untuk menjadi sangat sulit untuk hanya “mematikan,” sehingga manusia dapat kehilangan kontrol terhadap situasi seperti itu. Risiko ini adalah salah satu yang hadir bahkan dengan AI sempit, tetapi tumbuh sebagai tingkat kecerdasan AI dan peningkatan otonomi.
AI diprogram untuk melakukan sesuatu yang bermanfaat, tetapi mengembangkan metode destruktif untuk mencapai tujuannya: Hal ini dapat terjadi setiap kali kita gagal untuk menyelaraskan sepenuhnya tujuan AI dengan tujuan kita, yang sangat sulit. Jika Anda meminta mobil cerdas yang patuh untuk membawa Anda ke bandara secepat mungkin, mungkin Anda akan dikejar oleh helikopter dan diliputi muntahan, tidak melakukan apa yang Anda inginkan tetapi secara harfiah apa yang Anda minta. Jika sistem superintelligent ditugasi dengan proyek geoengineering yang ambisius, itu bisa menimbulkan malapetaka dengan ekosistem kita sebagai efek samping, dan melihat upaya manusia untuk menghentikannya sebagai ancaman yang harus dipenuhi.
Seperti yang diilustrasikan contoh-contoh ini, kekhawatiran tentang AI tingkat lanjut bukanlah kedengkian, tetapi kompetensi. AI super cerdas akan sangat baik dalam mencapai tujuannya, dan jika sasaran tersebut tidak selaras dengan tujuan kami, kami memiliki masalah. Anda mungkin bukan pembasmi jahat yang menginjak semut karena kebencian, tetapi jika Anda bertanggung jawab atas proyek energi hijau hidroelektrik dan ada sarang semut di wilayah tersebut yang dibanjiri, terlalu buruk bagi semut. Tujuan utama dari penelitian keselamatan AI adalah tidak pernah menempatkan umat manusia di posisi semut-semut itu.
MENGAPA MINAT TERAKHIR DALAM KESELAMATAN AI
Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates, dan banyak nama besar lainnya dalam sains dan teknologi baru-baru ini menyatakan keprihatinan di media dan melalui surat terbuka tentang risiko yang ditimbulkan oleh AI, bergabung dengan banyak peneliti AI terkemuka. Mengapa subjek tiba-tiba menjadi berita utama?
Gagasan bahwa pencarian AI yang kuat pada akhirnya akan berhasil telah lama dianggap sebagai fiksi ilmiah, berabad-abad atau lebih jauh. Namun, berkat terobosan baru-baru ini, banyak tonggak AI, yang oleh para ahli dilihat hanya beberapa dekade jauh lima tahun yang lalu, kini telah tercapai, membuat banyak ahli serius mempertimbangkan kemungkinan superintelligence dalam hidup kita. Sementara beberapa ahli masih menduga bahwa AI tingkat manusia berjarak berabad-abad, sebagian besar penelitian AI di 2015 Puerto Rico Conference menduga bahwa itu akan terjadi sebelum 2060. Karena mungkin diperlukan waktu puluhan tahun untuk menyelesaikan penelitian keamanan yang diperlukan, adalah bijaksana untuk memulainya sekarang.
Karena AI memiliki potensi untuk menjadi lebih cerdas daripada manusia mana pun kita tidak memiliki cara yang pasti untuk memprediksi bagaimana ia akan berperilaku. Kami tidak dapat menggunakan perkembangan teknologi masa lalu sebagai dasar karena kami tidak pernah menciptakan apa pun yang memiliki kemampuan untuk, secara sadar atau tidak sadar, mengakali kami. Contoh terbaik dari apa yang bisa kita hadapi mungkin adalah evolusi kita sendiri. Orang-orang sekarang mengendalikan planet ini, bukan karena kita yang terkuat, tercepat atau terbesar, tetapi karena kita yang paling pintar. Jika kami bukan lagi yang paling pintar, apakah kami yakin untuk tetap memegang kendali?
Posisi FLI adalah bahwa peradaban kita akan berkembang selama kita memenangkan perlombaan antara kekuatan teknologi yang berkembang dan kebijaksanaan yang kita kelola. Dalam kasus teknologi AI, posisi FLI adalah bahwa cara terbaik untuk memenangkan perlombaan adalah tidak menghalangi yang pertama, tetapi untuk mempercepat yang terakhir, dengan mendukung penelitian keselamatan AI.
ATAS MITOS TOP TENTANG ADVANCED AI
Percakapan yang menarik terjadi tentang masa depan kecerdasan buatan dan apa yang akan / harus berarti bagi umat manusia. Ada kontroversi yang menarik di mana para ahli terkemuka dunia tidak setuju, seperti: dampak masa depan AI di pasar kerja; jika / ketika AI tingkat manusia akan dikembangkan; apakah ini akan mengarah pada ledakan intelijen; dan apakah ini sesuatu yang harus kita sambut atau takutkan. Tetapi ada juga banyak contoh kontroversi semu membosankan yang disebabkan oleh kesalahpahaman orang dan saling berbicara satu sama lain. Untuk membantu diri kita berfokus pada kontroversi yang menarik dan pertanyaan terbuka - dan bukan pada kesalahpahaman - mari kita menjernihkan beberapa mitos yang paling umum.
menyemai dan menuai ? Bicara A.I, orang cenderung membayangkan robot-robot yang canggih, peralatan yang sangat mutakhir.Tapi ternyata A.I lebih daripada itu.
Dari SIRI hingga mobil yang mengendalikan sendiri, artificial intelligence (AI) berkembang pesat. Sementara fiksi ilmiah sering menggambarkan AI sebagai robot dengan karakteristik mirip manusia, AI dapat mencakup apa pun dari algoritme penelusuran Google hingga senjata Watson milik IBM hingga otonom.
Kecerdasan buatan saat ini dikenal dengan sebutan AI sempit (atau AI lemah), karena dirancang untuk melakukan tugas yang sempit (misalnya hanya pengenalan wajah atau hanya pencarian internet atau hanya mengendarai mobil). Namun, tujuan jangka panjang banyak peneliti adalah menciptakan AI umum (AGI atau AI kuat). Sementara AI sempit dapat mengungguli manusia pada apapun tugas spesifiknya, seperti bermain catur atau memecahkan persamaan, AGI akan mengalahkan manusia di hampir setiap tugas kognitif.
Artificial Intelligence
Kutipan Elon Musk
MENGAPA PENELITIAN AI HARUS MEMENUHI UNSUR KEAMANAN?
Dalam waktu dekat, tujuan menjaga pengaruh AI pada masyarakat bermanfaat memotivasi penelitian di banyak bidang, mulai dari ekonomi dan hukum hingga topik teknis seperti verifikasi, validitas, keamanan, dan kontrol. Meskipun mungkin sedikit lebih dari gangguan kecil jika laptop Anda crash atau diretas, itu menjadi lebih penting bahwa sistem AI melakukan apa yang Anda ingin lakukan seperti mengontrol mobil Anda, pesawat Anda, alat pacu jantung Anda, perdagangan otomatis Anda sistem atau jaringan listrik Anda. Tantangan jangka pendek lainnya adalah mencegah perlombaan senjata yang menghancurkan dalam senjata otonom yang mematikan.
Dalam jangka panjang, pertanyaan penting adalah apa yang akan terjadi jika pencarian AI yang kuat berhasil dan sistem AI menjadi lebih baik daripada manusia di semua tugas kognitif. Seperti yang ditunjukkan oleh I.J. Baik pada 1965, merancang sistem AI yang lebih cerdas itu sendiri merupakan tugas kognitif. Sistem seperti itu berpotensi mengalami perbaikan diri rekursif, memicu ledakan kecerdasan yang membuat kecerdasan manusia jauh tertinggal di belakang.
Dengan menciptakan teknologi baru yang revolusioner, superintelligence semacam itu dapat membantu kita memberantas perang, penyakit, dan kemiskinan, dan dengan demikian penciptaan AI yang kuat mungkin menjadi peristiwa terbesar dalam sejarah manusia.
Namun, beberapa ahli menyatakan keprihatinannya, bahwa itu mungkin juga yang terakhir, kecuali kita belajar menyelaraskan tujuan AI dengan milik kita sebelum menjadi maha cerdas.
Ada beberapa yang mempertanyakan apakah AI yang benar-benar kuat akan tercapai, dan yang lain yang bersikeras bahwa penciptaan superintelligent AI dijamin akan bermanfaat. Di FLI kami mengenali kedua kemungkinan ini, tetapi juga mengenali potensi sistem kecerdasan buatan untuk secara sengaja atau tidak sengaja menyebabkan bahaya besar. Kami percaya penelitian hari ini akan membantu kami lebih baik mempersiapkan dan mencegah konsekuensi negatif yang potensial di masa depan, sehingga menikmati manfaat dari AI sambil menghindari jebakan.
BAGAIMANA BISA AI BERBAHAYA?
Sebagian besar peneliti setuju bahwa AI superintelligent tidak mungkin menunjukkan emosi manusia seperti cinta atau benci, dan bahwa tidak ada alasan untuk mengharapkan AI menjadi sengaja penuh kebajikan atau jahat. Sebaliknya, ketika mempertimbangkan bagaimana AI mungkin menjadi risiko, para ahli berpikir dua skenario kemungkinan besar:
AI diprogram untuk melakukan sesuatu yang menghancurkan: Senjata otonom adalah sistem kecerdasan buatan yang diprogram untuk membunuh. Di tangan orang yang salah, senjata-senjata ini bisa dengan mudah menyebabkan korban massal. Selain itu, perlombaan senjata AI dapat secara tidak sengaja menyebabkan perang AI yang juga mengakibatkan korban massal. Untuk menghindari digagalkan oleh musuh, senjata-senjata ini akan dirancang untuk menjadi sangat sulit untuk hanya “mematikan,” sehingga manusia dapat kehilangan kontrol terhadap situasi seperti itu. Risiko ini adalah salah satu yang hadir bahkan dengan AI sempit, tetapi tumbuh sebagai tingkat kecerdasan AI dan peningkatan otonomi.
AI diprogram untuk melakukan sesuatu yang bermanfaat, tetapi mengembangkan metode destruktif untuk mencapai tujuannya: Hal ini dapat terjadi setiap kali kita gagal untuk menyelaraskan sepenuhnya tujuan AI dengan tujuan kita, yang sangat sulit. Jika Anda meminta mobil cerdas yang patuh untuk membawa Anda ke bandara secepat mungkin, mungkin Anda akan dikejar oleh helikopter dan diliputi muntahan, tidak melakukan apa yang Anda inginkan tetapi secara harfiah apa yang Anda minta. Jika sistem superintelligent ditugasi dengan proyek geoengineering yang ambisius, itu bisa menimbulkan malapetaka dengan ekosistem kita sebagai efek samping, dan melihat upaya manusia untuk menghentikannya sebagai ancaman yang harus dipenuhi.
Seperti yang diilustrasikan contoh-contoh ini, kekhawatiran tentang AI tingkat lanjut bukanlah kedengkian, tetapi kompetensi. AI super cerdas akan sangat baik dalam mencapai tujuannya, dan jika sasaran tersebut tidak selaras dengan tujuan kami, kami memiliki masalah. Anda mungkin bukan pembasmi jahat yang menginjak semut karena kebencian, tetapi jika Anda bertanggung jawab atas proyek energi hijau hidroelektrik dan ada sarang semut di wilayah tersebut yang dibanjiri, terlalu buruk bagi semut. Tujuan utama dari penelitian keselamatan AI adalah tidak pernah menempatkan umat manusia di posisi semut-semut itu.
MENGAPA MINAT TERAKHIR DALAM KESELAMATAN AI
Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates, dan banyak nama besar lainnya dalam sains dan teknologi baru-baru ini menyatakan keprihatinan di media dan melalui surat terbuka tentang risiko yang ditimbulkan oleh AI, bergabung dengan banyak peneliti AI terkemuka. Mengapa subjek tiba-tiba menjadi berita utama?
Gagasan bahwa pencarian AI yang kuat pada akhirnya akan berhasil telah lama dianggap sebagai fiksi ilmiah, berabad-abad atau lebih jauh. Namun, berkat terobosan baru-baru ini, banyak tonggak AI, yang oleh para ahli dilihat hanya beberapa dekade jauh lima tahun yang lalu, kini telah tercapai, membuat banyak ahli serius mempertimbangkan kemungkinan superintelligence dalam hidup kita. Sementara beberapa ahli masih menduga bahwa AI tingkat manusia berjarak berabad-abad, sebagian besar penelitian AI di 2015 Puerto Rico Conference menduga bahwa itu akan terjadi sebelum 2060. Karena mungkin diperlukan waktu puluhan tahun untuk menyelesaikan penelitian keamanan yang diperlukan, adalah bijaksana untuk memulainya sekarang.
Karena AI memiliki potensi untuk menjadi lebih cerdas daripada manusia mana pun kita tidak memiliki cara yang pasti untuk memprediksi bagaimana ia akan berperilaku. Kami tidak dapat menggunakan perkembangan teknologi masa lalu sebagai dasar karena kami tidak pernah menciptakan apa pun yang memiliki kemampuan untuk, secara sadar atau tidak sadar, mengakali kami. Contoh terbaik dari apa yang bisa kita hadapi mungkin adalah evolusi kita sendiri. Orang-orang sekarang mengendalikan planet ini, bukan karena kita yang terkuat, tercepat atau terbesar, tetapi karena kita yang paling pintar. Jika kami bukan lagi yang paling pintar, apakah kami yakin untuk tetap memegang kendali?
Posisi FLI adalah bahwa peradaban kita akan berkembang selama kita memenangkan perlombaan antara kekuatan teknologi yang berkembang dan kebijaksanaan yang kita kelola. Dalam kasus teknologi AI, posisi FLI adalah bahwa cara terbaik untuk memenangkan perlombaan adalah tidak menghalangi yang pertama, tetapi untuk mempercepat yang terakhir, dengan mendukung penelitian keselamatan AI.
ATAS MITOS TOP TENTANG ADVANCED AI
Percakapan yang menarik terjadi tentang masa depan kecerdasan buatan dan apa yang akan / harus berarti bagi umat manusia. Ada kontroversi yang menarik di mana para ahli terkemuka dunia tidak setuju, seperti: dampak masa depan AI di pasar kerja; jika / ketika AI tingkat manusia akan dikembangkan; apakah ini akan mengarah pada ledakan intelijen; dan apakah ini sesuatu yang harus kita sambut atau takutkan. Tetapi ada juga banyak contoh kontroversi semu membosankan yang disebabkan oleh kesalahpahaman orang dan saling berbicara satu sama lain. Untuk membantu diri kita berfokus pada kontroversi yang menarik dan pertanyaan terbuka - dan bukan pada kesalahpahaman - mari kita menjernihkan beberapa mitos yang paling umum.
