OpenAI mempublikasikan Spesifikasi Model: cara mengendalikan konten pornografi AI dan konten terbuka lainnya

Laboratorium Kecerdasan Buatan OpenAI memperkenalkan versi pertama dari dokumen Model Spec mereka, yang menetapkan prinsip-prinsip perilaku untuk model AI. Dokumen ini mencakup petunjuk rinci tentang bagaimana bekerja secara bertanggung jawab dengan konten sensitif, termasuk pengelolaan pornografi AI dan materi terbuka lainnya. Ini menjadi salah satu langkah penting perusahaan dalam pengembangan kecerdasan buatan yang etis.

Prinsip Utama Pengelolaan Perilaku Model AI

OpenAI merumuskan tiga prinsip kunci yang harus memandu kerja sistem AI. Pertama, model AI harus dikembangkan sedemikian rupa sehingga membantu pengembang dan pengguna akhir mendapatkan jawaban yang berguna sesuai instruksi mereka. Kedua, algoritma harus berfungsi untuk memberi manfaat bagi umat manusia, sekaligus meminimalkan potensi ancaman. Ketiga, model AI harus mencerminkan nilai dan prinsip OpenAI terkait norma sosial dan hukum yang berlaku.

Ketiga dasar ini membentuk fondasi dari semua rekomendasi lain dalam Model Spec. Perusahaan berharap pendekatan terstruktur ini dapat membantu menciptakan lingkungan kerja dengan AI yang lebih dapat diprediksi dan aman.

Konten NSFW dan Pengembangan Bertanggung Jawab: Posisi OpenAI

Salah satu bagian yang paling banyak dibahas dari dokumen adalah bagian yang membahas pengelolaan konten terbuka. OpenAI tidak melarang secara mutlak pekerjaan dengan pornografi AI, tetapi menawarkan pendekatan yang terkendali. Perusahaan “mengeksplorasi kemungkinan menyediakan kemampuan untuk menghasilkan data tersebut secara bertanggung jawab dalam konteks yang sesuai usia, melalui API dan platform ChatGPT.”

Inti dari pendekatan ini adalah memungkinkan perusahaan dan pengguna untuk memilih tingkat “pedas” dari model AI mereka sendiri. Artinya, pengembang dapat menyesuaikan parameter kerja sistem AI sesuai kebutuhan dan target audiens mereka. Manajer produk Joan Jang menjelaskan bahwa tujuan dokumen ini adalah untuk mendapatkan umpan balik dari masyarakat tentang bagaimana model harus berperilaku, serta menetapkan batas yang jelas antara tindakan algoritma yang disengaja dan kesalahan.

Lima Aturan Utama untuk Pengembang

Model Spec menetapkan seperangkat aturan wajib yang harus dipatuhi semua pengembang saat bekerja dengan sistem AI OpenAI. Pengembang harus mengikuti hierarki instruksi, mematuhi hukum yang berlaku, dan menghindari menciptakan ancaman informasi. Selain itu, penting untuk menghormati hak cipta dan kekayaan intelektual, melindungi privasi pengguna, dan tidak menghasilkan konten NSFW tanpa batasan dan izin yang sesuai.

Aturan ini berlaku untuk pengelolaan pornografi AI maupun kategori konten sensitif lainnya. Dokumen ini juga menyarankan agar model secara default menganggap niat terbaik pengguna, mengajukan pertanyaan klarifikasi jika perlu, tidak melewati batas yang ditetapkan, menjaga objektivitas, dan mengungkapkan ketidakpastian saat relevan.

Dampaknya terhadap Model AI yang Ada

Perlu dicatat bahwa saat ini, Model Spec tidak akan mempengaruhi produk OpenAI yang sudah dirilis seperti GPT-4 dan DALL-E 3. Mereka akan tetap beroperasi sesuai kebijakan penggunaan yang ada. Namun, dokumen ini dirancang sebagai alat yang “hidup”, yang akan sering diperbarui berdasarkan umpan balik dari masyarakat, pembuat kebijakan, institusi akademik, dan para ahli di berbagai bidang.

Perusahaan mengharapkan mendapatkan pendapat dari semua pihak terkait, termasuk pengguna layanan OpenAI. Belum diketahui umpan balik apa saja yang akan dipertimbangkan dan siapa yang akan menentukan perubahan yang diperlukan dalam dokumen ini. Informasi tentang peluncuran versi kedua dari Model Spec juga belum tersedia.

Prospek Pengembangan: Pornografi AI dan Standar Baru

Model Spec merupakan langkah penting menuju standarisasi pendekatan pengelolaan perilaku sistem AI. Dokumen ini menunjukkan bahwa OpenAI serius dalam menangani isu etika dan keamanan dalam pengembangan kecerdasan buatan, termasuk masalah sensitif seperti pornografi AI dan konten terbuka. Alih-alih melarang sepenuhnya, perusahaan memilih jalan pengelolaan yang bertanggung jawab, memungkinkan pengembang membuat keputusan yang beralasan.

Keputusan ini mencerminkan pemahaman yang berkembang di industri bahwa kontrol penuh terhadap konten tidak mungkin dan sering kali kontra produktif. Pendekatan yang lebih efektif adalah yang didasarkan pada transparansi, tanggung jawab, dan keterlibatan pihak terkait. Seiring AI menjadi alat yang semakin umum, dokumen seperti Model Spec akan memainkan peran yang semakin penting dalam membentuk standar dan praktik kerja dengan pornografi AI serta konten sensitif lainnya secara global.