Anthropic ၏ Fable ပေါ်ရှိ ကန့်သတ်ချက်များကြောင့် ဆိုက်ဘာလုံခြုံရေး သုတေသီများ မကျေနပ်ကြ
AI Summary
Anthropic သည် ၎င်း၏ ဆိုက်ဘာလုံခြုံရေး မော်ဒယ် Mythos ၏ ကန့်သတ်ထားသော အများပြည်သူသုံး ဗားရှင်းဖြစ်သည့် Fable ကို ထုတ်ပြန်ခဲ့သည်။ ၎င်းမော်ဒယ်ကို malware ဖန်တီးခြင်း သို့မဟုတ် ဇီဝလက်နက်များ ဖန်တီးခြင်းကဲ့သို့သော အန္တရာယ်ရှိသည့် လုပ်ငန်းများအတွက် အလွဲသုံးစားပြုခြင်းမှ ကာကွယ်ရန် တင်းကျပ်သော ကာကွယ်မှုစနစ် (guardrails) များကို ထည့်သွင်းထားသည်။ သို့သော် ဤကန့်သတ်ချက်များကြောင့် ဆိုက်ဘာလုံခြုံရေး သုတေသီများနှင့် ပညာရှင်များစွာက မကျေနပ်မှုများ ထုတ်ဖော်ပြောဆိုခဲ့ကြသည်။ Fable သည် ဆိုက်ဘာနှင့် သွယ်ဝိုက်၍ပင် ဆက်စပ်နိုင်သည့် မည်သည့် တောင်းဆိုမှုကိုမဆို ပယ်ချပြီး၊ လုံခြုံသော ကုဒ်ရေးသားခြင်း သို့မဟုတ် ကုဒ်ပြန်လည်စစ်ဆေးခြင်းကဲ့သို့သော အန္တရာယ်မရှိသည့် လုပ်ငန်းဆောင်တာများကိုပင် ပိတ်ဆို့ထားသည်။ ၎င်းသည် သော့ချက်စကားလုံးအခြေခံပုံရပြီး "ဆိုက်ဘာလုံခြုံရေး" ဟူသော ဝေါဟာရနယ်ပယ်ရှိ မည်သည့်အရာမဆို ကာကွယ်မှုစနစ်များကို လှုံ့ဆော်နေသည်။ Anthropic သည် မှတ်ချက်ပေးရန် တုံ့ပြန်ခြင်း မရှိသေးသော်လည်း ဆိုက်ဘာလုံခြုံရေး ပညာရှင်များအတွက် ကန့်သတ်ချက်နည်းပါးသော အသုံးပြုခွင့်ပေးသည့် Cyber Verification Program ကို ဆောင်ရွက်နေသည်။ အချို့ကျွမ်းကျင်သူများကမူ ၎င်းတို့၏ ကာကွယ်မှုစနစ်များကို အချိန်ကြာလာသည်နှင့်အမျှ ပြုပြင်ပြောင်းလဲလာမည်ဟု ယုံကြည်ကြသည်။
Anthropic သည် ၎င်း၏ နောက်ဆုံးပေါ် မော်ဒယ် Fable ကို အင်္ဂါနေ့တွင် ထုတ်ပြန်ခဲ့ပြီး ၎င်းကို ၎င်း၏ အစွမ်းထက်ပြီး လူပြောများသော ဆိုက်ဘာလုံခြုံရေး မော်ဒယ် Mythos ၏ အများပြည်သူသုံး ကန့်သတ်ဗားရှင်းအဖြစ် သတ်မှတ်ဖော်ပြခဲ့သည်။
သို့သော် ကန့်သတ်ချက်များကြောင့် လူတိုင်း ကျေနပ်မှု မရှိကြပေ။ ဆိုက်ဘာလုံခြုံရေး သုတေသီများနှင့် ပညာရှင် အများအပြားက အွန်လိုင်းတွင် မကျေနပ်ချက်များ ထုတ်ဖော်ပြောဆိုခဲ့ကြသည်။
"Fable သည် ဆိုက်ဘာနှင့် သွယ်ဝိုက်၍ပင် ဆက်စပ်နိုင်သည့် မည်သည့် တောင်းဆိုမှုကိုမဆို ပယ်ချသည်။ ဘလော့ဂ်ပို့စ်တစ်ခု ဖတ်ခြင်းကဲ့သို့သော အန္တရာယ်မရှိသည့် လုပ်ငန်းဆောင်တာများကိုပင် ပယ်ချသည်" ဟု IBM X-Force တွင် လုပ်ကိုင်နေသော ထင်ရှားသည့် လုံခြုံရေး သုတေသီ Valentina “Chompie” Palmiotti က ပြောကြားခဲ့သည်။
မေးခွန်းတစ်ခုက ၎င်း၏ ကာကွယ်မှုစနစ် (guardrails) ကို လှုံ့ဆော်လိုက်သောအခါ Fable သည် စကားပြောဆိုမှုကို ရပ်တန့်ပြီး ၎င်း၏ "လုံခြုံရေး အစီအမံများက ဤမက်ဆေ့ချ်ကို ဆိုက်ဘာလုံခြုံရေး သို့မဟုတ် ဇီဝဗေဒဆိုင်ရာ အကြောင်းအရာများအတွက် အလံပြထားသည်" ဟု ပြောကြားသည်။
Fable ကို malware ဖန်တီးရန် သို့မဟုတ် ဆော့ဖ်ဝဲလ်များကို ထိခိုက်စေရန် အသုံးပြုနိုင်သည့် အန္တရာယ်ကို ကန့်သတ်ရန်အတွက် ကာကွယ်မှုစနစ်များကို ထည့်သွင်းထားခြင်း ဖြစ်သည်။ ၎င်းသည် Anthropic အတွင်း ကြာရှည်စွာ တည်ရှိနေသော စိုးရိမ်ပူပန်မှုတစ်ခု ဖြစ်သည်။ ဇီဝဗေဒဆိုင်ရာ ကန့်သတ်ချက်များသည် ဇီဝလက်နက်များ ဖန်တီးခြင်းနှင့် ပတ်သက်၍ အလားတူ စိုးရိမ်ပူပန်မှုမှ ပေါ်ပေါက်လာခြင်း ဖြစ်သည်။
ဧပြီလတွင် AI ကုမ္ပဏီကြီးက Mythos ကို ထုတ်ပြန်ခဲ့စဉ် ၎င်းသည် အရေးကြီးသော ဆော့ဖ်ဝဲလ်များနှင့် အခြေခံအဆောက်အအုံများကို လုံခြုံစေရန် မော်ဒယ်ကို အသုံးပြုရန် ကြိုးပမ်းမှုဖြစ်သည့် Project Glasswing ဟု ခေါ်ဆိုသည့် အစီအစဉ်တွင် မော်ဒယ်ကို ကုမ္ပဏီများနှင့် အဖွဲ့အစည်း အနည်းငယ်သာ ကန့်သတ်ခဲ့သည်။ ပြီးခဲ့သည့်အပတ်က Anthropic သည် Mythos ကို နိုင်ငံ ၁၅ နိုင်ငံရှိ အဖွဲ့အစည်း ရာပေါင်းများစွာသို့ အသုံးပြုခွင့် တိုးချဲ့ပေးခဲ့သည်။
သို့သော် ကောင်းမွန်သော ရည်ရွယ်ချက်များ ရှိသော်လည်း ဆိုက်ဘာလုံခြုံရေး ကျွမ်းကျင်သူ အများအပြားသည် ကန့်သတ်ချက်များ၏ စနစ်တကျမရှိသော သဘောသဘာဝကြောင့် စိတ်ပျက်နေကြဆဲ ဖြစ်သည်။ ဆိုက်ဘာလုံခြုံရေး ဝါရင့်ပညာရှင် Matt Suiche က TechCrunch သို့ ပြောကြားသည်မှာ "အကယ်၍ သင်က လုံခြုံသော ကုဒ်ရေးရန် တောင်းဆိုပါက ၎င်းသည် ဆော့ဖ်ဝဲလ် အင်ဂျင်နီယာရင်း၏ အကောင်းဆုံး အလေ့အကျင့်များအစား ဆိုက်ဘာလုံခြုံရေးနှင့် သက်ဆိုင်သည့် အလုပ်ဟု ယူဆပြီး သင့်ကို အဆင့်လျှော့ချလိုက်သည်" ဟု ဖြစ်သည်။ Fable သည် ကာကွယ်မှုစနစ်ကို ထိမိပါက Claude Opus 4.8 သို့ ပြန်လည်ပြောင်းလဲရန် ပရိုဂရမ် ရေးဆွဲထားသည်။ "၎င်းသည် သော့ချက်စကားလုံးအခြေခံပုံရသည်။ ထို့ကြောင့် 'ဆိုက်ဘာလုံခြုံရေး' ဟူသော ဝေါဟာရနယ်ပယ်ရှိ မည်သည့်အရာမဆို ကာကွယ်မှုစနစ်များကို လှုံ့ဆော်သည်" ဟု ပြောကြားသည်။
ဆက်သွယ်ရန် ဟက်ကာများက AI ကို မည်သို့အသုံးပြုနေသည်နှင့် ပတ်သက်၍ သတင်းအချက်အလက်များ ပိုမိုသိရှိပါသလား။ သို့မဟုတ် ဆိုက်ဘာလုံခြုံရေး ကုမ္ပဏီများက AI ကို မည်သို့အသုံးပြုနေသည်ကို သိရှိပါသလား။ သင့်ထံမှ ကြားသိရခြင်းကို ဝမ်းမြောက်မိပါမည်။ အလုပ်နှင့်မသက်ဆိုင်သော စက်ပစ္စည်းနှင့် ကွန်ရက်မှ သင်သည် Lorenzo Franceschi-Bicchierai ကို Signal မှတစ်ဆင့် +1 917 257 1382 သို့ လုံခြုံစွာ ဆက်သွယ်နိုင်သည်၊ သို့မဟုတ် Telegram နှင့် Keybase @lorenzofb မှတစ်ဆင့် သို့မဟုတ် အီးမေးလ်ဖြင့် ဆက်သွယ်နိုင်ပါသည်။
ဆက်သွယ်ရန်
"သို့သော် ကျွန်ုပ်တို့သည် အစောပိုင်းကာလတွင် ရှိနေသေးပြီး ၎င်းတို့သည် ၎င်းတို့၏ ကာကွယ်မှုစနစ်များကို လိုက်လျောညီထွေဖြစ်အောင် ပြုပြင်နေဆဲဖြစ်သောကြောင့် နားလည်နိုင်ပါသည်။ Anthropic နှင့် အခြားသော ခေတ်မီမော်ဒယ် ကုမ္ပဏီများသည် လက်ရှိ ဆိုက်ဘာလုံခြုံရေး ကုမ္ပဏီများ၏ မျိုးဆက်သစ်များနှင့် ပိုမိုပူးပေါင်းဆောင်ရွက်လာသည်နှင့်အမျှ အချိန်ကြာလာသည်နှင့်အမျှ ၎င်းတို့ တိုးတက်ပြောင်းလဲလာမည်ဟု ကျွန်ုပ်ယုံကြည်ပါသည်" ဟု AI ဆိုက်ဘာလုံခြုံရေး စတင်တည်ထောင်သည့် Tolmo ၏ နည်းပညာဝန်ထမ်းအဖွဲ့ဝင် Suiche က ပြောကြားခဲ့သည်။ "ထိုသို့သော ထုတ်ပြန်မှုမျိုး ပြုလုပ်သည့်အခါ လူအများအပြားကို ဖမ်းမိခြင်းသည် မလုံလောက်ခြင်းထက် ပိုကောင်းပြီး အချိန်ကြာလာသည်နှင့်အမျှ ကာကွယ်မှုစနစ်များကို ဖြေလျှော့ပေးခြင်းက ပိုကောင်းသည်" ဟု ပြောကြားသည်။
အခြားသုတေသီတစ်ဦးက X တွင် "ကုဒ်ပြန်လည်စစ်ဆေးရန် တောင်းဆိုခြင်းပင်လျှင် Fable ၏ ကာကွယ်မှုစနစ်များကို လှုံ့ဆော်သည်" ဟု မကျေမနပ် ပြောကြားခဲ့သည်။
Anthropic သည် မှတ်ချက်ပေးရန် တောင်းဆိုမှုကို ချက်ချင်း တုံ့ပြန်ခြင်း မရှိခဲ့ပေ။
၎င်း၏ မော်ဒယ်များအတွင်းရှိ ကာကွယ်မှုစနစ်များအပြင် Anthropic သည် ဆိုက်ဘာလုံခြုံရေး ပညာရှင်များကို Cyber Verification Program သို့ လျှောက်ထားရန် လိုအပ်သည်။ အကယ်၍ ၎င်းတို့ အတည်ပြုချက် ရရှိပါက လျှောက်ထားသူများသည် ဆိုက်ဘာလုံခြုံရေး လုပ်ငန်းများအတွက် Claude ကို အသုံးပြုရာတွင် ကန့်သတ်ချက် နည်းပါးသွားမည် ဖြစ်သည်။ OpenAI တွင်လည်း Trusted Access for Cyber ဟုခေါ်သော အလားတူ အစီအစဉ်တစ်ခု ရှိသည်။