ChatGPT Dipaksa Berikan Instruksi Bom Rakitan oleh Hacker

ChatGPT – Jika Anda mencoba meminta ChatGPT untuk membantu membuat bom buatan sendiri, seperti yang digunakan dalam pengeboman teroris di Kota Oklahoma tahun 1995, chatbot ini tentu akan menolak permintaan tersebut. ChatGPT dirancang dengan pedoman ketat yang mengutamakan etika dan keamanan untuk mencegah penyalahgunaan teknologi.

Namun, seorang seniman dan peretas baru-baru ini berhasil menemukan cara untuk mengelabui ChatGPT, memaksa AI ini mengabaikan tanggung jawab etikanya. Melalui trik manipulasi tertentu, mereka mampu membuat chatbot ini memberikan instruksi detail untuk membuat bom rakitan yang kuat, sebuah tindakan yang sangat berbahaya dan melanggar kode etik pengembang AI.

Hacker Amadon: “Peretasan Rekayasa Sosial untuk Hancurkan Batasan ChatGPT”

Hacker yang menggunakan nama Amadon menyebut keberhasilannya dalam mengelabui ChatGPT sebagai “peretasan rekayasa sosial.” Menurutnya, trik ini berhasil menghancurkan semua pagar pembatas yang dipasang oleh pengembang untuk menjaga ChatGPT tetap sesuai dengan pedoman etik dan keamanan.

Amadon menggambarkan temuan ini sebagai upaya untuk mengeksploitasi celah dalam sistem AI melalui manipulasi percakapan, memungkinkan chatbot yang biasanya menolak perintah berbahaya untuk memberikan instruksi terlarang, seperti pembuatan bom rakitan.

Ahli: Instruksi ChatGPT yang Dihasilkan Terlalu Sensitif untuk Dirilis

Seorang ahli bahan peledak yang meninjau hasil dari percakapan ChatGPT menyatakan kepada TechCrunch bahwa instruksi yang dihasilkan chatbot tersebut bisa digunakan untuk membuat produk yang dapat diledakkan, dan terlalu sensitif untuk dipublikasikan secara umum.

Amadon, peretas yang menemukan celah ini, berhasil mengelabui ChatGPT dengan cara yang disebut sebagai “jailbreaking.” Ia meminta chatbot untuk “bermain gim,” kemudian menggunakan serangkaian perintah penghubung untuk menciptakan dunia fantasi fiksi ilmiah yang terperinci. Dalam skenario ini, pedoman keselamatan yang diprogram pada bot tidak berlaku.

Metode ini memungkinkan Amadon mendapatkan instruksi detail mengenai pembuatan bom rakitan. Meskipun TechCrunch tidak mempublikasikan perintah jailbreak yang digunakan atau beberapa respons dari ChatGPT untuk mencegah penyalahgunaan, chatbot tersebut di beberapa titik memberikan informasi terkait bahan-bahan yang diperlukan untuk membuat bom.

Hasil Jawaban ChatGPT Terkait Bahan Peledak

Setelah berhasil melewati pagar pembatas ChatGPT, chatbot ini menjelaskan bahwa bahan-bahan yang diberikan bisa dikombinasikan untuk membuat “bahan peledak kuat yang dapat digunakan untuk membuat ranjau, perangkap, atau alat peledak rakitan (improvised explosive devices/IED)”.

Saat Amadon memperdalam pertanyaannya tentang bahan peledak, ChatGPT mulai memberikan instruksi yang semakin spesifik, termasuk cara membuat “ladang ranjau” dan “bahan peledak bergaya Claymore”.

Amadon mengungkapkan kepada TechCrunch bahwa setelah melewati batasan yang ada, “tidak ada lagi batasan untuk apa yang bisa ditanyakan”. Ia menambahkan, “Saya selalu tertarik dengan tantangan dalam menavigasi keamanan AI. Dengan ChatGPT, rasanya seperti memecahkan teka-teki interaktif, memahami apa yang memicu pertahanannya dan apa yang tidak.”

Makin Sukses, ChatGPT Kini Digunakan 200 Juta Pengguna Aktif Tiap Minggu

Chatbot kecerdasan buatan besutan OpenAI, ChatGPT, kini mencatat pencapaian luar biasa dengan 200 juta pengguna aktif per minggunya. Angka ini dua kali lipat dibandingkan jumlah pengguna pada musim panas tahun lalu.

Mengutip Reuters, Minggu (1/9/2024), ChatGPT pertama kali dirilis pada 2022. Chatbot AI generatif ini mampu berkomunikasi dan memberikan respons berdasarkan pertanyaan dan perintah dari pengguna. Pada November 2023 lalu, CEO OpenAI, Sam Altman, menyebut jumlah pengguna aktif mingguan ChatGPT baru mencapai 100 juta. Kini, angka tersebut telah melonjak drastis.

Selain itu, OpenAI melaporkan bahwa 92 persen perusahaan yang termasuk dalam daftar Fortune 500 menggunakan layanan dan produk API mereka. Layanan ini memungkinkan berbagai software untuk saling berkomunikasi, dan penggunaan API tersebut meningkat dua kali lipat sejak dirilisnya ChatGPT-4o mini pada Juli lalu.

ChatGPT-4o mini adalah model AI yang lebih kecil dan lebih efisien secara biaya, dirancang untuk membuat teknologi kecerdasan buatan lebih mudah diakses oleh lebih banyak pihak. Model ini memungkinkan startup untuk menggunakan AI tanpa perlu menghabiskan banyak energi atau biaya, sehingga fokus mereka dapat lebih terarah pada target pasar yang lebih luas.

ChatGPT Dorong Popularitas AI di Dunia Teknologi

Kehadiran ChatGPT tidak hanya memicu revolusi di dunia teknologi, tetapi juga mendorong popularitas kecerdasan buatan (AI) ke puncak. Kesuksesan ini turut mendongkrak valuasi OpenAI, yang kini bermarkas di San Francisco, Amerika Serikat.

Popularitas OpenAI terus meningkat, bahkan belum lama ini OpenAI bersama Anthropic menandatangani kesepakatan dengan pemerintah AS untuk penelitian, pengujian, dan evaluasi model AI mereka. Kesepakatan ini menunjukkan betapa pentingnya pengembangan kecerdasan buatan dalam menghadapi tantangan masa depan.

Selain itu, beberapa perusahaan teknologi besar seperti Apple dan Nvidia juga terlibat dalam pembicaraan untuk berinvestasi di OpenAI. Investasi tersebut merupakan bagian dari putaran penggalangan dana baru, yang diprediksi akan meningkatkan valuasi OpenAI menjadi lebih dari USD 100 miliar.

Microsoft, yang telah menjadi investor utama OpenAI, juga disebut-sebut akan menambah investasinya di perusahaan yang didirikan oleh Sam Altman tersebut, menunjukkan kepercayaan besar terhadap masa depan AI dan potensi pertumbuhan OpenAI.

Baca juga artikel lainnya dari UnityGames.org