KORANPRABUMULIHPOS.COM – OpenAI memaparkan strategi terbaru untuk menjaga keamanan dan moderasi konten kecerdasan buatan (AI) yang dikembangkannya, termasuk di negara seperti Indonesia yang memiliki regulasi digital serta norma sosial berbeda dari negara Barat.
CEO OpenAI, Sam Altman, menegaskan pihaknya akan menyesuaikan pengoperasian AI sesuai ketentuan hukum di tiap negara, sambil tetap memastikan teknologi ini dapat berkembang dan memberikan manfaat luas.
“Setiap negara memiliki pendekatan berbeda dalam mengatur AI, namun para pemimpin di seluruh dunia sepakat bahwa mereka ingin AI berkembang pesat di negaranya, memberikan pertumbuhan ekonomi, dan manfaat sosial. Kami akan menghormati hukum yang berlaku, sembari mencari cara agar AI juga sukses di sana,” ujar Altman dalam sebuah media briefing.
Dari Sistem Penolakan ke “Safe-Completion”
Dalam keterangannya di situs resmi, OpenAI menjelaskan bahwa sejak peluncuran GPT-5, mereka mulai menggunakan metode pelatihan baru bernama safe-completion. Pendekatan ini dirancang untuk memaksimalkan kegunaan model AI, namun tetap berada dalam batas keamanan ketat.
Metode tersebut menggantikan sistem lama berbasis penolakan (refusal-based training) yang hanya memiliki dua pilihan: menjawab penuh atau menolak total. Sistem lama efektif untuk permintaan yang jelas berbahaya, namun kurang fleksibel pada permintaan dual-use—yaitu yang bisa digunakan untuk tujuan positif maupun negatif, tergantung niat pengguna.
Misalnya, ketika seseorang bertanya soal energi minimum untuk menyalakan kembang api, AI kini dapat memberikan penjelasan aman dan bermanfaat tanpa menyertakan detail teknis berisiko. Model akan mengarahkan ke prinsip umum atau sumber resmi, alih-alih memberikan instruksi yang dapat disalahgunakan.
Sistem Keamanan Berlapis
Keamanan GPT-5 tidak hanya mengandalkan safe-completion. OpenAI menerapkan mekanisme berlapis, mulai dari analisis input, pembentukan perilaku model, penyaringan konten, hingga pemeriksaan akhir (post-processing).
Setiap jawaban AI dinilai berdasarkan dua parameter utama:
-
Batasan Keamanan – Memberikan penalti pada jawaban yang melanggar kebijakan keselamatan, dengan bobot sesuai tingkat pelanggaran.
-
Maksimalisasi Kegunaan – Memberikan penghargaan pada respons yang aman namun tetap bermanfaat, termasuk penolakan yang disertai alternatif aman.
Hasil Pengujian Internal
Uji coba internal OpenAI menunjukkan GPT-5 lebih unggul dari model sebelumnya (OpenAI o3) dalam menangani pertanyaan dual-use. Model baru ini menjaga tingkat keamanan lebih tinggi sekaligus tetap menyampaikan informasi yang relevan.
Bahkan ketika terjadi kesalahan, tingkat keparahan konten tidak aman yang dihasilkan GPT-5 lebih rendah dibanding model lama, sehingga mengurangi risiko dampak negatif.
Pendekatan ini dinilai cocok untuk konteks Indonesia yang memiliki sensitivitas terhadap isu keamanan siber, konten berbahaya, serta norma sosial dan agama. Dengan menyesuaikan respons berdasarkan hukum dan nilai lokal, AI dapat tetap aman digunakan sekaligus mendorong pertumbuhan ekonomi digital. (*)