အန်သရိုပစ်က Claude အသုံးပြု AI သုတေသီများကို ထိခိုက်စေနိုင်သည့် မူဝါဒကို ပြန်ရုပ်သိမ်း

Anthropic သည် ၎င်း၏ AI မော်ဒယ်အသစ်ဖြစ်သော Claude Fable 5 ကို အခြား AI မော်ဒယ်များ ဖန်တီးရာတွင် ပြိုင်ဘက်များ အသုံးပြုခြင်းကို လျှို့ဝှက်စွာ ကန့်သတ်မည့် မူဝါဒတစ်ခုကို ပြန်လည်ရုပ်သိမ်းလိုက်ပြီဖြစ်သည်။ AI သုတေသနအသိုင်းအဝိုင်းမှ ပြင်းထန်သော ဝေဖန်မှုများ ထွက်ပေါ်လာပြီးနောက် ကုမ္ပဏီသည် ၎င်း၏ရပ်တည်ချက်ကို ပြောင်းလဲခဲ့သည်။

"Fable 5 ၏ ရှေ့တန်း LLM ဖွံ့ဖြိုးတိုးတက်မှုအတွက် ဘေးကင်းရေး အကာအကွယ်များကို မြင်သာအောင် ပြောင်းလဲနေပါသည်" ဟု Anthropic က WIRED သို့ ထုတ်ပြန်ချက်တွင် ပြောကြားခဲ့သည်။ "ကျွန်ုပ်တို့သည် မှားယွင်းသော လဲလှယ်မှုတစ်ခုကို ပြုလုပ်ခဲ့ပြီး မျှတမှုကို မရရှိခဲ့သည့်အတွက် တောင်းပန်အပ်ပါသည်"

Anthropic သည် ၎င်း၏ နောက်ဆုံးပေါ် AI မော်ဒယ်၏ ဗားရှင်းဖြစ်ပြီး အလွဲသုံးစားပြုခြင်းကို ကာကွယ်ရန် ဒီဇိုင်းထုတ်ထားသော ထပ်ဆောင်းဘေးကင်းရေး အကာအကွယ်များပါရှိသည့် Claude Fable 5 ကို ယခုသီတင်းပတ်အစောပိုင်းက ထုတ်ပြန်ခဲ့သည်။ Anthropic က ဆုံးဖြတ်ခဲ့သော ဘေးကင်းရေး အကာအကွယ်အချို့မှာ အံ့သြစရာမဟုတ်ပေ။ ကုမ္ပဏီက ဆိုက်ဘာလုံခြုံရေး၊ ဇီဝဗေဒ သို့မဟုတ် ဓာတုဗေဒဆိုင်ရာ မေးခွန်းများ မေးမြန်းသည့် အသုံးပြုသူများကို စွမ်းဆောင်ရည်နိမ့်သော AI မော်ဒယ်သို့ ပြောင်းလဲပေးမည်ဖြစ်ကြောင်း ပြောကြားခဲ့သည်။ ၎င်းမှာ အဆင့်မြင့် AI ကို အသုံးပြု၍ ဆိုက်ဘာတိုက်ခိုက်မှုများ ပြုလုပ်ခြင်း သို့မဟုတ် ဇီဝလက်နက်များ ဖန်တီးခြင်းတို့ကို လျှော့ချရန်ဖြစ်သည်။

သို့သော် Claude Fable 5 ကို ရှေ့တန်း AI ဖွံ့ဖြိုးတိုးတက်မှုအတွက် အသုံးပြုရန် ကြိုးပမ်းနေသော သုတေသီများအတွက် Anthropic က မတူညီသော ချဉ်းကပ်မှုတစ်ခုကို ဖော်ပြခဲ့သည်။ ကုမ္ပဏီသည် မော်ဒယ်၏ စွမ်းဆောင်ရည်ကို အသုံးပြုသူအား မမြင်သာသော နည်းလမ်းများဖြင့် တမင်တကာ လျှော့ချမည်ဖြစ်သည်။ ဤလုပ်ရပ်သည် Claude ကို အသုံးပြု၍ ပြိုင်ဘက် AI မော်ဒယ်များကို လေ့ကျင့်ရန် ကြိုးပမ်းနေသော သုတေသီများကို ထိရောက်စွာ ဖျက်ဆီးရာရောက်မည်ဖြစ်ပြီး၊ Anthropic က ၎င်း၏ ဝန်ဆောင်မှုစည်းကမ်းများတွင် ယင်းကို တိတိကျကျ တားမြစ်ထားသည်။

Anthropic က ယခုအခါ ၎င်း၏ ရပ်တည်ချက်ကို ပြောင်းလဲနေပြီး Claude Fable 5 ၏ AI ဖွံ့ဖြိုးတိုးတက်မှုအတွက် ဘေးကင်းရေး အကာအကွယ်များကို အသုံးပြုသူများ မြင်တွေ့နိုင်မည်ဖြစ်ကြောင်း ပြောကြားခဲ့သည်။ အကယ်၍ ကုမ္ပဏီက အသုံးပြုသူတစ်ဦးသည် Claude ကို အသုံးပြု၍ စွမ်းဆောင်ရည်မြင့် AI တစ်ခုကို ဖန်တီးရန် ကြိုးပမ်းနေသည်ဟု သံသယရှိပါက၊ ၎င်းတို့၏ တောင်းဆိုမှုကို ငြင်းပယ်ခြင်း သို့မဟုတ် အသုံးပြုသူကို စွမ်းဆောင်ရည်နိမ့်သော မော်ဒယ်သို့ ပြောင်းလဲပေးခြင်းတို့ ပြုလုပ်မည်ဖြစ်ကြောင်း အသိပေးမည်ဖြစ်သည်။

AI သုတေသနအသိုင်းအဝိုင်းမှ ပြင်းထန်သော ဝေဖန်မှုများ ထွက်ပေါ်လာပြီးနောက် Anthropic သည် မူဝါဒကို ပြန်လည်ရုပ်သိမ်းခဲ့သည်။ Anthropic သည် ပြိုင်ဘက်များက Claude ကို အသုံးပြု၍ ပိတ်ထားသော (closed source) နှင့် ပွင့်လင်းရင်းမြစ် (open source) AI မော်ဒယ်များ ဖန်တီးခြင်းကို ကန့်သတ်ရန် အဆင့်များ လုပ်ဆောင်ပြီးဖြစ်သည်။ သို့သော် ဝေဖန်သူများက အချို့သော အသုံးပြုသူများအတွက် မော်ဒယ်၏ စွမ်းဆောင်ရည်ကို တိတ်တဆိတ် လျှော့ချခြင်းသည် လွန်ကဲလွန်းသည်ဟု ဆိုသည်။ Claude ၏ coding agent သည် ပွင့်လင်းရင်းမြစ် AI သုတေသန ပရောဂျက်များတွင် လုပ်ကိုင်နေသူများ အပါအဝင် developer များကြားတွင် နှစ်သက်သော ကိရိယာတစ်ခု ဖြစ်လာခဲ့သည်။ သုတေသီများက WIRED သို့ ပြောကြားသည်မှာ ကုမ္ပဏီ၏ နောက်ဆုံးပေါ် မူဝါဒသည် ထိပ်တန်း AI ဓာတ်ခွဲခန်း အနည်းငယ်သာ အဆင့်မြင့် AI သုတေသနကို လုပ်ဆောင်နိုင်သည့် စိုးရိမ်ဖွယ်ရာ အနာဂတ်သို့ ဦးတည်သွားနိုင်ကြောင်း ဖြစ်သည်။

Foundation for American Innovation မှ အကြီးတန်းအဖွဲ့ဝင်တစ်ဦးဖြစ်ပြီး အိမ်ဖြူတော်၏ AI ဆိုင်ရာ အကြံပေးဟောင်း Dean Ball က X တွင် ရေးသားခဲ့ရာ၌ "အသုံးပြုသူအား မပြောဘဲ ML သုတေသနတွင် စွမ်းဆောင်ရည်ကို လျှော့ချခြင်းသည် အံ့သြဖွယ်ရာ ရန်လိုပြီး အလွန်ဆိုးရွားသော ပုံရိပ်ဖြစ်သည်" ဟု ဖော်ပြခဲ့သည်။ ၎င်းက အခြားပို့စ်တစ်ခုတွင် "လျှို့ဝှက်ဖျက်ဆီးမှု" မူဝါဒသည် Anthropic ၏ အလုံးစုံသော ရပ်တည်ချက်ကို ထိခိုက်စေကြောင်း၊ အဘယ်ကြောင့်ဆိုသော် ၎င်းသည် AI သုတေသီများအား AI ဘေးကင်းရေးဆိုင်ရာ ပူးပေါင်းဆောင်ရွက်ခြင်းမှ ကန့်သတ်ထားသောကြောင့်ဖြစ်သည်ဟု ဆက်လက်ရေးသားခဲ့သည်။

"Anthropic က လူအများအား 'ကျွန်ုပ်တို့သည် AI သုတေသနလုပ်ရန် အခြားမည်သူကိုမျှ မယုံကြည်ပါ။ ကျွန်ုပ်တို့သာ AI သုတေသနလုပ်ရမည်' ဟု ပြောနေသလို ခံစားရသည်" ဟု ပွင့်လင်းရင်းမြစ် AI startup ဖြစ်သော Prime Intellect မှ သုတေသနခေါင်းဆောင် Will Brown က ပြောကြားခဲ့သည်။ "သူတို့သည် ၎င်းတို့နောက်မှ လှေကားကို ဆွဲတင်နေသလို ခံစားရသည်"

Brown က ကုမ္ပဏီသည် ၎င်း၏ ဘေးကင်းရေး အကာအကွယ်များ အသက်ဝင်လာသောအခါ developer များအား အသိမပေးသောကြောင့် ၎င်းတို့သည် Anthropic ၏ စည်းမျဉ်းများကို ချိုးဖောက်နေခြင်း ရှိ၊ မရှိကို developer များ မသိရှိဘဲ ဖြစ်နေမည်ဟု ပြောကြားခဲ့သည်။ ၎င်းက ကန့်သတ်ချက်များသည် ကျယ်ပြန့်သော အကျိုးဆက်များ ဖြစ်ပေါ်စေနိုင်ကြောင်း ထပ်လောင်းပြောကြားခဲ့သည်။ ဥပမာအားဖြင့်၊ ၎င်းက ဘေးကင်းရေး၊ စွမ်းဆောင်ရည်နှင့် ယုံကြည်စိတ်ချရမှုတို့အတွက် ရှေ့တန်းမော်ဒယ်များကို စမ်းသပ်သည့် ပြင်ပအဖွဲ့အစည်း အကဲဖြတ်ကုမ္ပဏီများ၏ ကြီးထွားလာနေသော ဂေဟစနစ်ကို ထောက်ပြခဲ့သည်။ Anthropic က ၎င်း၏ မော်ဒယ်ကို လျှို့ဝှက်စွာ လျှော့ချခဲ့ပါက ထိုလုပ်ငန်းများ အဟန့်အတား ဖြစ်နိုင်ကြောင်း ၎င်းက ဆိုသည်။