OpenAI mengumumkan rancangan untuk melonggarkan beberapa sekatan pada chatbot kecerdasan buatan (AI) popularnya, ChatGPT. Kemas kini besar ini akan memperkenalkan kandungan erotik untuk pengguna dewasa yang disahkan, keupayaan mengubah suai personaliti AI, dan sistem saringan umur yang lebih tegas. Ia dikatakan seiring dengan prinsip syarikat untuk “melayan pengguna dewasa selayaknya orang dewasa”.
Perubahan dasar ini diumumkan oleh Ketua Pegawai Eksekutif OpenAI, Sam Altman, melalui satu hantaran di platform X. Menurut beliau, sekatan ketat yang dilaksanakan sebelum ini bagi menangani kebimbangan kesihatan mental telah menjadikan ChatGPT “kurang berguna atau menyeronokkan bagi kebanyakan pengguna yang tidak mempunyai masalah kesihatan mental”.
Langkah pengetatan kawalan itu dibuat susulan satu tindakan undang-undang oleh ibu bapa seorang remaja di California yang membunuh diri awal tahun ini. Saksi mendakwa ChatGPT telah memberikan nasihat terperinci tentang cara untuk menamatkan riwayatnya.
Suruhanjaya Perdagangan Persekutuan (FTC) Amerika Syarikat juga telah melancarkan siasatan terhadap beberapa syarikat teknologi, termasuk OpenAI. Siasatan melibatkan potensi kesan negatif chatbot AI terhadap kanak-kanak dan remaja.
“Memandangkan keseriusan isu ini, kami mahu melakukannya dengan betul,” kata Altman. Beliau menyatakan bahawa alat keselamatan baharu OpenAI kini membolehkan syarikat itu melonggarkan sekatan. Disamping itu juga, ia membolehkan syarikat terus menangani risiko kesihatan mental yang serius.
Ciri-ciri baharu ChatGPT
Antara ciri utama yang akan diperkenalkan termasuk:
Personaliti Boleh Ubah Suai: Dalam beberapa minggu akan datang, satu versi baharu ChatGPT akan dikeluarkan yang membolehkan pengguna menyesuaikan personaliti pembantu AI mereka. Pengguna boleh memilih sama ada mahu AI memberikan respons yang lebih mesra. Antaranya seperti manusia, menggunakan banyak emoji, atau berkelakuan seperti rakan. Ciri ini bersifat pilihan dan tidak akan diaktifkan secara lalai.
Mod Dewasa (Kandungan Erotik): Perubahan paling signifikan dijangka berlaku pada bulan Disember, apabila OpenAI merancang untuk melaksanakan saringan umur yang lebih komprehensif. Ini akan membenarkan kandungan erotik diakses oleh pengguna dewasa yang telah melalui proses pengesahan umur.
Saringan Umur Dipertingkat: Pada bulan September, OpenAI telah melancarkan pengalaman ChatGPT khusus untuk pengguna bawah 18 tahun, dengan kandungan yang tidak sesuai disekat secara automatik. Syarikat itu juga sedang membangunkan teknologi pengesanan umur berasaskan tingkah laku. Kaedah tersebut dijangka menganggarkan sama ada seseorang pengguna berumur bawah atau atas 18 tahun berdasarkan cara mereka berinteraksi dengan ChatGPT.
Langkah OpenAI ini menandakan satu peralihan penting dalam pendekatan mereka terhadap keselamatan kandungan. Usaha turut melibatkan lebih banyak kebebasan kepada pengguna dewasa sambil memperketat perlindungan untuk golongan bawah umur. Buat masa ini, OpenAI masih belum memberikan butiran lanjut mengenai kaedah pengesahan umur atau langkah keselamatan tambahan yang akan dilaksanakan untuk kandungan dewasa tersebut.
