Ini Isi Lengkap Petisi Elon Musk dkk yang Meminta  Pengembangan AI Dihentikan

Ilustrasi ChatGPT (The Rising Panjab)
Sharing for Empowerment

JAKARTA, KalderaNews.com — Salah satu orang terkaya dunia, Elon Musk, beserta 1000 petinggi perusahaan teknologi menandatangani petisi yang meminta OpenAI menghentikan sementara pengembangan ChatGPT.

Petisi tersebut mengatakan perlombaan mengembangkan kecerdasan buatan telah sampai pada tahap yang membahayakan peradaban manusia bila tidak ada pengawasan dan pengendalian dari publik.

Petisi itu pertama kali dibuat Future of Life Institute, sebuah organisasi nirlaba bekerja mengurangi bencana global dan risiko eksistensial dari kecerdasan buatan terhadap umat manusia.

BACA JUGA:

Berikut isi lengkap petisi tersebut.

Kami mengimbau semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan.

Sistem AI dengan kecerdasan kompetitif manusia (human-competitive intelligence) dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan, seperti yang ditunjukkan oleh penelitian ekstensif  dan diakui oleh laboratorium AI terkemuka.

Sebagaimana dinyatakan dalam Prinsip-Prinsip Asilomar AI yang didukung secara luas, AI Lanjutan dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus direncanakan serta dikelola dengan penataan dan sumber daya yang sepadan.

Sayangnya, tingkat perencanaan dan manajemen ini tidak terjadi, bahkan beberapa bulan terakhir laboratorium AI terperangkap dalam perlombaan di luar kendali untuk mengembangkan dan menerapkan kesadaran digital yang semakin kuat yang tidak dapat dipahami oleh siapa pun – bahkan oleh pembuatnya – sanggup memprediksi, atau mengontrol secara andal.

Sistem AI kontemporer kini bersaing dengan manusia dalam pekerjaan-pekerjaan dasar  dan kita harus bertanya pada diri sendiri: 

Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan?

Haruskah kita mengotomatiskan semua pekerjaan termasuk pekerjaan yang (dikerjakan oleh manusia dengan) memuaskan?

Haruskah kita mengembangkan kesadaran bukan manusia yang pada akhirnya mungkin melampaui, mengakali, membuat usang, dan menggantikan kita?

Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita?

Keputusan semacam itu tidak boleh didelegasikan kepada pemimpin teknologi yang tidak dipilih. Sistem AI yang kuat harus dikembangkan hanya setelah kita yakin bahwa efeknya akan positif dan risikonya dapat dikelola. Keyakinan ini harus dibenarkan dengan baik dan meningkat dengan besarnya efek potensial sistem.

Pernyataan terbaru OpenAI terkait kecerdasan umum buatan, menyatakan bahwa “Pada titik tertentu, mungkin penting untuk mendapatkan tinjauan independen sebelum mulai melatih sistem di masa mendatang, dan untuk upaya yang paling maju, setuju untuk membatasi laju pertumbuhan komputasi yang digunakan untuk membuat model yang baru.”

Kami setuju. Sekarang kita berada di titik itu.

Oleh karena itu, kami mengimbau semua lab AI untuk segera menghentikan sementara pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan.

Jeda ini harus bersifat publik dan dapat diverifikasi, serta menyertakan semua aktor utama. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.

Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk bersama-sama mengembangkan dan menerapkan serangkaian protokol keselamatan bersama untuk desain dan pengembangan AI tingkat lanjut yang diaudit secara ketat dan diawasi oleh pakar luar yang independen.

Protokol ini harus memastikan bahwa sistem yang mengikutinya aman tanpa keraguan. Hal ini tidak berarti jeda pada pengembangan AI secara umum, hanya langkah mundur dari  satu perlombaan berbahaya ke model kotak hitam lain yang lebih besar dengan kemampuan baru yang tidak dapat diprediksi.

Penelitian dan pengembangan AI harus difokuskan kembali untuk membuat sistem yang kuat dan canggih saat ini menjadi lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, dapat dipercaya, dan loyal.

Secara paralel, pengembang AI harus bekerja dengan pembuat kebijakan untuk secara dramatis mempercepat pengembangan sistem tata kelola AI yang kuat.

Ini minimal harus mencakup: otoritas pengatur baru dan mampu yang didedikasikan untuk AI; pengawasan dan pelacakan sistem AI berkemampuan tinggi dan kumpulan besar kemampuan komputasi; sistem asal dan watermarking untuk membantu membedakan yang nyata dari yang sintetis dan untuk melacak kebocoran model; ekosistem audit dan sertifikasi yang kuat; pertanggungjawaban atas kerugian yang disebabkan oleh AI; pendanaan publik yang kuat untuk penelitian teknis keamanan AI; dan institusi dengan sumber daya yang baik untuk mengatasi gangguan ekonomi dan politik yang dramatis (terutama terhadap demokrasi) yang akan ditimbulkan oleh AI.

Umat manusia dapat menikmati masa depan yang berkembang dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, kita dapat menikmati “musim bunga AI” di mana kita menuai hasilnya, merekayasa sistem ini untuk kemanfaatan bagi semua orang, dan memberikan kesempatan kepada masyarakat untuk beradaptasi.

Masyarakat telah menghentikan teknologi lain dengan efek yang berpotensi menjadi bencana pada masyarakat. Kita bisa melakukannya di sini. Mari nikmati musim bunga AI yang panjang, jangan terburu-buru tanpa persiapan menuju musim gugur.

Petisi berjudul “Pause Giant AI Experiments: An Open Letter” tersebut juga ikut ditandatangani tokoh lainnya, seperti Yoshua Bengio,  professor pada University of Montreal; Stuart Russell,  Professor of Computer Science, University of Berkeley dan director Center for Intelligent Systems,  co-author  “Artificial Intelligence: a Modern Approach”; Yuval Noah Harari, penulis dan professor, Hebrew University of Jerusalem; Emad Mostaque, CEO, Stability AI; Andrew Yang,  NYT Bestselling Author, Presidential Ambassador of Global Entrepreneurship; John J Hopfield,  professor emeritus, Princenon University;  Valerie Pisano, President & CEO, MILA; Connor Leahy, CEO, Conjecture; Kate Jerome, penulis buku anak,  Cofounder Little Bridges, Award-winning children’s book author; Evan Sharp, Co-Founder, Pinterest dan banyak lagi.

Demikian banyaknya tokoh penting sehingga kolom nama pada petidi itu tidak dapat menampilkan semuanya. Ketika berita ini ditulis sudah 2800 lebih yang membubuhkan tanda tangan.◾

Cek Berita dan Artikel KalderaNews.com lainnya di Google News

*Jika merasa artikel ini bermanfaat, silakan dishare pada saudara, sahabat dan teman-temanmu. Tertarik menjalin kerjasama dengan KalderaNews.com? Silakan hubungi WA (0812 8027 7190) atau email: kalderanews@gmail.com




Be the first to comment

Leave a Reply

Your email address will not be published.


*