Menurut beberapa penelitian baru-baru ini, ada kemungkinan besar bahwa bentuk-bentuk kecerdasan buatan atau AI yang canggih akan melenyapkan umat manusia dari muka bumi. Sebuah makalah tentang ini, yang ditulis oleh Google DeepMind dan peneliti Oxford, diterbitkan dalam jurnal Artificial Intelligence pada akhir Agustus. Makalah ini menunjukkan bahwa mesin canggih di masa depan pada akhirnya akan termotivasi untuk melanggar aturan yang ditetapkan oleh penciptanya dan bersaing untuk sumber daya atau energi yang terbatas.
Perlu dicatat bahwa GAN atau jaringan permusuhan generatif adalah model kecerdasan buatan yang paling sukses saat ini. Makalah baru menunjukkan bahwa di masa depan, jaringan semacam itu, yang mungkin memantau beberapa fungsi penting pada saat itu, dapat dimotivasi untuk membuat strategi penipuan yang sangat merugikan umat manusia.
Pengamatan teratas
Di era sekarang ini, kecerdasan buatan telah menjadi bagian integral dari kehidupan kita sehari-hari. AI dapat mengendarai mobil di jalan raya, memodifikasi situs web, membuat karya seni, dan banyak lagi. Namun terlepas dari keuntungan seperti itu, banyak ilmuwan dan analis menyebut kecerdasan buatan sebagai kejahatan bagi keberadaan manusia. Makalah penelitian terbaru telah mencoba menunjukkan bagaimana kecerdasan buatan dapat menjadi ancaman bagi keberadaan manusia dengan memeriksa sistem penghargaan buatan yang potensial.
Michael Cohen, yang merupakan salah satu penulis, menekankan dalam serangkaian tweet bahwa AI mengganggu pengiriman hadiah mereka, yang dapat memiliki konsekuensi fatal di masa depan.
Klaim utama lain dari tim ahli adalah bahwa krisis energi di masa depan dapat menciptakan masalah yang dapat berupa manusia versus kecerdasan buatan.
Cohen tweeted bahwa ini tidak hanya mungkin, tetapi sangat mungkin. “Anda selalu dapat menggunakan lebih banyak energi untuk meningkatkan kemungkinan kamera akan melihat 1 selamanya, tetapi kami membutuhkan energi untuk menumbuhkan makanan,” katanya. Ini membawa kita ke persaingan yang tak terhindarkan dengan operator yang jauh lebih maju.”
Artikel itu juga menyoroti kekhawatiran bahwa kecerdasan buatan akan memusnahkan umat manusia di masa depan, mirip dengan ketakutan bahwa bentuk kehidupan asing akan mendominasi planet ini. Hal ini juga sangat mirip dengan ketakutan bahwa peradaban yang berbeda dan populasi mereka akan terlibat dalam perang besar di masa depan, memperebutkan kebutuhan dasar seperti energi dan minyak.
Ini bukan pertama kalinya kecerdasan buatan disebut sebagai ancaman potensial karena jangkauannya yang canggih. Para peneliti di DeepMind telah mengusulkan perlindungan terhadap kemungkinan seperti itu, menyebut solusi AI sebagai “tombol merah besar.” Pada tahun 2016, DeepMind mengusulkan kerangka kerja untuk mencegah mesin canggih dari “mengabaikan perintah shutdown dan bandel” dalam makalah mereka Safely Interruptible Agents.
#Ilmuwan #Google #dan #Oxford #mengklaim #bahwa #kecerdasan #buatan #dapat #menghancurkan #umat #manusia #masa #depan