PauseAI

PauseAI

Tanggal pendirian	Mei 2023 (2023-05)
Pendiri	Joep Meindertsma
Didirikan di	Utrecht, Netherlands
Jenis	Kelompok kepentingan, Organisasi nirlaba
Tujuan	Mitigasi dari Risiko eksistensial dari kecerdasan buatan dan risiko yang ditimbulkan oleh kecerdasan buatan tingkat lanjut
Wilayah	Internasional
Situs web	pauseai.info

PauseAI adalah gerakan politik internasional yang didirikan di Belanda pada tahun 2023. Gerakan ini berfokus pada upaya menghentikan pengembangan sistem kecerdasan buatan yang memiliki kemampuan melampaui GPT-4, setidaknya sampai tersedia pemahaman teknis yang memadai mengenai pembangunan sistem yang aman serta mekanisme pengawasan demokratis. PauseAI didirikan di Utrecht oleh wirausahawan perangkat lunak Joep Meindertsma pada Mei 2023. Keberadaan gerakan ini berkaitan dengan meningkatnya perhatian global terhadap keselamatan kecerdasan buatan dan berkembangnya diskusi mengenai implikasi teknologi berkemampuan tinggi. PauseAI memposisikan diri sebagai organisasi yang mengadvokasi koordinasi kebijakan internasional dalam mengelola perkembangan kecerdasan buatan tingkat lanjut.

Proposal

PauseAI menyampaikan sejumlah usulan yang bertujuan membatasi pelatihan dan penerapan sistem kecerdasan buatan pada tingkat kemampuan di atas GPT-4. Usulan tersebut mencakup pembentukan lembaga keselamatan AI internasional dengan fungsi serupa lembaga pengawas teknologi global lain seperti Badan Tenaga Atom Internasional atau IAEA, pembatasan pelatihan model AI umum yang memiliki kemampuan melebihi GPT-4 kecuali terdapat verifikasi keamanan yang dapat diandalkan, serta penerapan aturan bahwa model hanya dapat digunakan setelah evaluasi menunjukkan tidak adanya kemampuan berbahaya. Rangkaian usulan ini disusun sebagai kerangka regulasi yang dapat diterapkan oleh berbagai negara dalam menangani perkembangan teknologi AI yang semakin kompleks.

Latar Belakang

Lonjakan perkembangan kemampuan model kecerdasan buatan yang terjadi pada akhir 2010-an dan awal 2020-an menjadi konteks utama kemunculan PauseAI. Periode tersebut ditandai oleh peluncuran model bahasa besar seperti GPT-3 dan GPT-4, serta model pembangkit gambar seperti Midjourney dan DALL-E. Kemajuan ini mendorong bertambahnya perhatian internasional terhadap potensi risiko dari sistem kecerdasan buatan yang semakin berkembang. Pada tahun 2023, Future of Life Institute mengeluarkan surat terbuka yang menyerukan penghentian sementara pelatihan sistem yang lebih kuat dari GPT-4. Surat tersebut ditandatangani oleh sejumlah peneliti kecerdasan buatan dan tokoh industri termasuk Yoshua Bengio, Stuart Russell, dan Elon Musk.

Sejarah

Joep Meindertsma mulai mempelajari risiko eksistensial dari kecerdasan buatan setelah membaca buku Superintelligence: Paths, Dangers, Strategies karya Nick Bostrom yang terbit pada tahun 2014. Ia mendirikan PauseAI pada Mei 2023 dan menghentikan sementara pekerjaannya sebagai CEO sebuah perusahaan perangkat lunak. Meindertsma menyatakan bahwa laju perkembangan penelitian penyelarasan kecerdasan buatan berada di belakang laju kemajuan kemampuan AI, serta menyatakan bahwa terdapat kemungkinan terjadinya ancaman dalam kurun waktu yang relatif singkat. Kondisi tersebut mendorongnya untuk membentuk sebuah organisasi yang dapat menyatukan upaya terkait isu kecerdasan buatan.

Aksi publik pertama PauseAI berlangsung di depan kantor Microsoft di Brussel pada Mei 2023 bertepatan dengan sebuah acara mengenai kecerdasan buatan. Pada November di tahun yang sama, gerakan ini melakukan aksi protes di luar Kongres Keamanan Kecerdasan Buatan pertama yang diadakan di Bletchley Park.Deklarasi Bletchley yang ditandatangani pada pertemuan tersebut memuat pengakuan terhadap potensi risiko berskala besar yang berasal dari kecerdasan buatan. Deklarasi ini disebut sebagai langkah awal dalam upaya mengatur keamanan kecerdasan buatan. Pernyataan tersebut juga menekankan perlunya perjanjian internasional yang mengikat, dengan Protokol Montreal dan perjanjian yang melarang senjata laser pembutaan menjadi contoh kesepakatan global yang telah diterapkan.

Pada Februari 2024 anggota PauseAI mengadakan aksi di depan kantor pusat OpenAI di San Francisco sebagai respons terhadap perubahan kebijakan penggunaan model kecerdasan buatan yang sebelumnya melarang pemanfaatan untuk tujuan militer. Pada 13 Mei 2024, aksi protes digelar di tiga belas negara menjelang Kongres Kecerdasan Buatan Seoul, termasuk di Amerika Serikat, Inggris, Brasil, Jerman, Australia, dan Norwegia. Meindertsma menyampaikan bahwa peserta pertemuan tersebut memiliki peran dalam menghentikan percepatan kompetisi pengembangan kecerdasan buatan. Di San Francisco, peserta aksi membawa poster dengan tulisan “When in doubt, pause” dan “Quit your job at OpenAI. Trust your conscience”. Dua hari setelah rangkaian aksi tersebut, Jan Leike kepala tim superalignment (penyelarasan kecerdasan artifisial tingkat lanjut) di OpenAI mengundurkan diri dengan alasan bahwa keselamatan tidak mendapat prioritas yang setara dibandingkan dengan pengembangan produk.