Anthropic telah menyekat akses semua pelanggannya kepada model kecerdasan buatan (AI) terbaharunya, Fable 5 dan Mythos 5.
Langkah ini diambil bagi mematuhi arahan yang diterima daripada kerajaan Amerika Syarikat (AS) pada Jumaat, 12 Jun yang lalu. Walau bagaimanapun, model-model lain serta bot sembang (chatbot) Claude tidak terjejas oleh sekatan tersebut.
Arahan atas sebab keselamatan
Menerusi satu pengumuman rasmi, Anthropic menjelaskan bahawa kerajaan AS memohon agar syarikat itu menggantung semua akses warga asing kepada model AI yang baru dilancarkan tersebut.
Arahan pematuhan ini terpakai kepada semua warga asing tanpa mengira sama ada mereka berada di dalam atau luar AS, dan turut merangkumi pekerja Anthropic sendiri atas alasan kebimbangan terhadap keselamatan negara.
Walaupun pihak kerajaan AS tidak memperincikan kebimbangan tersebut, Anthropic percaya ia berpunca daripada satu maklumat mengenai wujudnya potensi kaedah untuk ‘jailbreak’ (tindakan menggodam untuk melepasi sekatan keselamatan) pada model Fable 5.
Syarikat tersebut baru sahaja melancarkan model AI Fable pada 9 Jun, yang direka khusus untuk membawa banyak keupayaan Mythos kepada orang awam. Mythos merupakan model keselamatan siber serba canggih Anthropic yang tersedia secara eksklusif hanya kepada rakan kongsi Project Glasswing mereka.
Keupayaan Fable dilaporkan “melebihi” mana-mana model yang pernah dilancarkan oleh Anthropic sebelum ini. Sebagai contoh, dalam ujian dalaman syarikat, model ini berjaya menamatkan permainan Pokémon FireRed. Pencapaian tersebut sebelum ini gagal dilakukan oleh Claude terhadap versi permainan asalnya, Pokémon Red.
Langkah Keselamatan dan Pertahanan AI
Anthropic turut menyenaraikan langkah-langkah yang diambil bagi memastikan keselamatan Fable terjamin di dalam hantarannya.
Dalam pada masa yang sama telah mewujudkan sistem perlindungan yang sangat kukuh untuk “mengurangkan kemungkinan Fable disalah guna bagi tugas-tugas berkaitan keselamatan siber”.
Anthropic menambah perlindungan tersebut terlalu ketat sehinggakan ramai pengguna merungut ia agak terlalu menyeluruh.
Syarikat itu juga menjelaskan tiada mana-mana penyedia perkhidmatan yang dapat menjamin ketahanan yang sempurna terhadap cubaan penggodaman, dan setiap model akan sentiasa terdedah kepada serangan yang dicipta khusus untuknya.
Strategi pertahanan mereka bertujuan untuk menjadikan penggodaman ini samada sangat terhad fungsinya atau terlalu mahal kosnya untuk dihasilkan, di samping diintegrasikan dengan pemantauan rapi bagi mengesan serta menghentikan sebarang serangan yang berjaya.
Respons Anthropic Terhadap Arahan
Kerajaan AS difahamkan telah memberikan maklumat dan bukti secara lisan mengenai satu potensi kaedah penggodaman terhad yang dikongsikan oleh sebuah entiti yang tidak didedahkan namanya kepada pegawai awam.
Anthropic berjanji untuk berkongsi lebih banyak butiran berhubung perkara ini dalam tempoh 24 jam akan datang. Namun syarikat itu dengan tegas menyatakan tidak bersetuju bahawa hanya potensi penggodaman sewajarnya dijadikan asbab untuk menarik balik model yang sudah dikomersialkan.
“Seperti yang telah kami nyatakan secara umum, kami percaya kerajaan seharusnya mempunyai keupayaan untuk menyekat pelaksanaan (AI) yang tidak selamat, namun sebagai sebahagian daripada proses berkanun yang telus, adil, jelas, dan berasaskan fakta-fakta teknikal,” tulis wakil Anthropic, yang sebelum ini sering lantang menyuarakan saranan mengenai keperluan terhadap pengawasan AI.
Syarikat itu turut menegaskan tindakan sekatan terbaharu ini sama sekali tidak mematuhi prinsip-prinsip tersebut.
