အိမ်ဖြူတော်က Anthropic ကို jailbreak အားလုံးကို ပိတ်ပင်စေလိုသော်လည်း ၎င်းမှာ ဖြစ်နိုင်ခြေမရှိနိုင်ပေ

ထရမ့်အစိုးရအဖွဲ့နှင့် Anthropic ကုမ္ပဏီတို့အကြား ၎င်းတို့၏ အဆင့်မြင့်ဆုံး AI မော်ဒယ်များနှင့် ပတ်သက်၍ သဘောထားကွဲလွဲမှုမှာ အရှိန်အဟုန်ဖြင့် အဆုံးအဖြတ်ပေးရမည့် အခြေအနေသို့ ရောက်ရှိလာပုံရသည်။

ထရမ့်အစိုးရအဖွဲ့ တာဝန်ရှိသူများက Inner Loop သို့ ပြောကြားရာတွင် Anthropic ကုမ္ပဏီအနေဖြင့် Claude Fable 5 ကို ပြန်လည်ထုတ်လွှတ်လိုပါက (ယင်း AI မော်ဒယ်ကို ပြီးခဲ့သည့်သီတင်းပတ်က jailbreaking ခေါ် မော်ဒယ်၏ လုံခြုံရေးစနစ်များကို ကျော်လွှားရန် prompt များ အသုံးပြုသည့်နည်းလမ်းနှင့် ပတ်သက်၍ စိုးရိမ်မှုများကြောင့် ပို့ကုန်ထိန်းချုပ်မှုများဖြင့် အော့ဖ်လိုင်းသို့ ပို့ဆောင်ခဲ့ခြင်းဖြစ်သည်) အစိုးရက စွပ်စွဲထားသည့် အားနည်းချက်များကို အမှန်တကယ် ဖြေရှင်းရန်အတွက် ကုမ္ပဏီအနေဖြင့် အရေးယူဆောင်ရွက်မှုများ ပြုလုပ်ရန် လိုအပ်မည်ဖြစ်ကြောင်း သိရသည်။

အစိုးရအဖွဲ့၏ စိုးရိမ်မှုများမှာ ချဲ့ကားပြောဆိုခြင်းဖြစ်ပြီး jailbreak များ၏ သက်ရောက်မှုမှာ အနည်းငယ်သာရှိကြောင်း Anthropic က ရက်အတော်ကြာ ပြောကြားခဲ့သည်။ ၎င်းတို့၏ ရပ်တည်ချက်ကို တနင်္လာနေ့က ပြုလုပ်ခဲ့သည့် နည်းပညာဆိုင်ရာ အစည်းအဝေးတစ်ခုတွင် ကုန်သွယ်ရေးဌာနနှင့် အမျိုးသားဆိုက်ဘာညွှန်ကြားရေးမှူးရုံးမှ Sean Cairncross တို့ထံ ထပ်လောင်းပြောကြားခဲ့သည်။

သို့သော် တာဝန်ရှိသူများကမူ jailbreak များသည် အရေးပါမှု ရှိ၊ မရှိ ငြင်းခုံနေရမည့် အချိန်ကုန်လွန်သွားပြီဖြစ်ကြောင်း ပြောကြားသည်။ အကြောင်းမှာ အမျိုးသားလုံခြုံရေးအေဂျင်စီ (NSA) က Fable 5 ၏ လုံခြုံရေးအကာအကွယ်များကို ပိတ်ပင်နိုင်သည့် နည်းလမ်းများရှိကြောင်း ကောက်ချက်ချထားသောကြောင့်ဖြစ်သည်။ ယင်းအကာအကွယ်များကို အသုံးပြုသူများအနေဖြင့် ဆိုက်ဘာလုံခြုံရေး၊ ဓာတုဗေဒနှင့် ဇီဝဗေဒဆိုင်ရာ Mythos မော်ဒယ်၏ စွမ်းဆောင်ရည်များကို ရယူခြင်းမှ တားဆီးရန် ထည့်သွင်းထားခြင်းဖြစ်သည်။

ဆွေးနွေးမှုများနှင့် ရင်းနှီးကျွမ်းဝင်သူ သုံးဦး၏ အဆိုအရ ဤအဆင့်တွင် အစိုးရအဖွဲ့သည် အခြေအနေကို Anthropic ကုမ္ပဏီအနေဖြင့် ဖြေရှင်းရမည့် ပြဿနာတစ်ခုအဖြစ်သာ ရှုမြင်ထားသည်။

ကုန်သွယ်ရေးဌာန၏ AI စံနှုန်းများနှင့် ဆန်းသစ်တီထွင်မှုဆိုင်ရာဌာန သို့မဟုတ် အမျိုးသားလုံခြုံရေးအေဂျင်စီတို့တွင် ဈေးကွက်သို့ ရောက်ရှိလာသည့် မော်ဒယ်တိုင်းတွင် ဖြစ်ပေါ်လာနိုင်သည့် jailbreak တိုင်းကို လိုက်လံစုံစမ်းရန် လုံလောက်သော ဝန်ထမ်းအင်အား သို့မဟုတ် စွမ်းဆောင်ရည်မရှိကြောင်း ၎င်းတို့က ပြောကြားသည်။

ထို့ကြောင့် Anthropic ကုမ္ပဏီအနေဖြင့် Fable 5 သာမက ၎င်း၏ နယ်ပယ်အသီးသီးရှိ AI မော်ဒယ်အားလုံးကို ဖြစ်နိုင်ခြေရှိသော jailbreak များကို ရှာဖွေရန်နှင့် အစိုးရထံသို့ ကိုယ်တိုင်အကြောင်းကြားရန်အတွက် ပိုမိုတက်ကြွစွာ စမ်းသပ်မှုများ ပြုလုပ်သင့်ကြောင်း အစိုးရအဖွဲ့က ယုံကြည်ထားသည်။

သို့သော် ပိုမိုအခြေခံကျသည့်အချက်မှာ Anthropic အနေဖြင့် jailbreaking ကို မည်သို့တားဆီးရမည်မှာ မရှင်းလင်းသေးပေ။

လွတ်လပ်သော ဆိုက်ဘာလုံခြုံရေး ကျွမ်းကျင်သူများက AI မော်ဒယ်များရှိ လုံခြုံရေးအကာအကွယ်များသည် ယာယီဖြေရှင်းချက်သာဖြစ်ကြောင်း ပိုမိုရှုမြင်လာကြသည်။ အကြောင်းမှာ ကျွမ်းကျင်သော အသုံးပြုသူများနှင့် အနာဂတ် AI မော်ဒယ်များသည် ကန့်သတ်ချက်များကို ကျော်လွှားနိုင်မည့် နည်းလမ်းများကို ရှာဖွေတွေ့ရှိလာမည်ဖြစ်သောကြောင့်ဖြစ်ပြီး၊ ဆိုလိုသည်မှာ အိမ်ဖြူတော် လိုလားနေသည့်အရာမှာ ဖြစ်နိုင်ခြေမရှိခြင်းပင်ဖြစ်သည်။

အိမ်ဖြူတော် ပြောရေးဆိုခွင့်ရှိသူတစ်ဦးက မှတ်ချက်ပေးရန် ငြင်းဆိုခဲ့သည်။

DNI = ဖိတ်ကြားခြင်းမပြုရ (Do Not Invite)

သီတင်းပတ်အစတွင် ထရမ့်က အမျိုးသားထောက်လှမ်းရေးဆိုင်ရာ ယာယီညွှန်ကြားရေးမှူးအဖြစ် ခန့်အပ်ရန် ရွေးချယ်ထားသည့် Bill Pulte မှာ အလုပ်စတင်နိုင်မည့် အခြေအနေမရှိခဲ့ပေ။ ယခုအခါ ထရမ့်က သူ့ကို ကယ်တင်လိုက်ပြီဖြစ်သော်လည်း၊ ယခုအခါ အမြဲတမ်း DNI လျာထားသူ Jay Clayton မှာ အဆိုပါရာထူးကို ထမ်းဆောင်နိုင်တော့မည်မဟုတ်သည့် အခြေအနေနှင့် ရင်ဆိုင်နေရသည်။

အကျဉ်းချုပ်ရသော် - ထရမ့်သည် ရာထူးမှ ထွက်ခွာတော့မည့် DNI Tulsi Gabbard နေရာတွင် အစားထိုးရန် ၎င်း၏ အိမ်ရာဘဏ္ဍာရေးအကြီးအကဲ Pulte ကို ကနဦးတွင် အမည်စာရင်းတင်သွင်းခဲ့သည်။

Pulte တွင် ဥပဒေအရ လိုအပ်သည့် အမျိုးသားလုံခြုံရေးဆိုင်ရာ အတွေ့အကြုံမရှိခြင်းနှင့် ထရမ့်၏ နိုင်ငံရေးရန်သူများအပေါ် မေးခွန်းထုတ်စရာဖြစ်သည့် ပေါင်နှံမှုဆိုင်ရာ လိမ်လည်မှုစွပ်စွဲချက်များကို ထောက်ပြခဲ့ခြင်းတို့ကြောင့် နှစ်ပါတီစလုံး၏ ကန့်ကွက်မှုနှင့် ရင်ဆိုင်ခဲ့ရပြီးနောက်၊ ထရမ့်က နယူးယောက်တောင်ပိုင်းခရိုင်အတွက် အမေရိကန်ရှေ့နေဖြစ်သူ Clayton ကို အမြဲတမ်း DNI အဖြစ် အမည်စာရင်းတင်သွင်းကြောင်း ကြေညာခဲ့သည်။

Gabbard သည် ဇွန်လ ၁၈ ရက်နေ့တွင် ရာထူးမှ ထွက်ခွာရန် စီစဉ်ထားပြီး Pulte ၏ ပထမဆုံးလုပ်ငန်းခွင်ဝင်မည့်ရက်ကို ဇွန်လ ၁၉ ရက်နေ့အဖြစ် သတ်မှတ်ထားသည်။ သို့သော် ဆီးနိတ်ရီပတ်ဘလစ်ကန်များက Clayton ၏ ကြားနာမှုကို ဇွန်လ ၁၇ ရက်နေ့သို့ အမြန်ဆုံးပြုလုပ်ပြီး ဇွန်လ ၂၂ ရက်နေ့တွင် စတင်နိုင်ပါက Pulte အနေဖြင့် ရုံးသို့ပင် ရောက်ရှိနိုင်ပါ့မလားဟု မေးခွန်းထုတ်ခဲ့ကြသည်။

ဗုဒ္ဓဟူးနေ့တွင် ထရမ့်က အဆိုပါအစီအစဉ်ကို ဖျက်သိမ်းလိုက်သည်။ ဆီးနိတ်ရီပတ်ဘလစ်ကန် ခေါင်းဆောင်မှုနှင့် filibuster (ဆွေးနွေးမှုကို အဆုံးမသတ်ဘဲ ကြန့်ကြာအောင်လုပ်ခြင်း) နှင့် ပတ်သက်၍ ပိုမိုကျယ်ပြန့်သော အငြင်းပွားမှု၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့် ထရမ့်က Clayton ၏ ကြားနာမှုကို အကန့်အသတ်မရှိ ရွှေ့ဆိုင်းလိုက်ကြောင်း ကြေညာခဲ့သည်။ ၎င်းမှာ Pulte ကို ရာထူးမှ ဖယ်ရှားခြင်းမခံရစေရန် ရည်ရွယ်ချက်ဖြင့် ပြုလုပ်ခြင်းဖြစ်ပုံရသည်။ ထို့နောက် ဆီးနိတ်ရီပတ်ဘလစ်ကန်များက Clayton မတက်ရောက်ပါက သို့မဟုတ် ၎င်း၏ အမည်စာရင်းကို ပြန်လည်ရုပ်သိမ်းခြင်းမရှိပါက ကြားနာမှုကို ဆက်လက်လုပ်ဆောင်သွားမည်ဖြစ်ကြောင်း ကြေညာခဲ့သည်။

ဤအခြေအနေသည် အမျိုးသားထောက်လှမ်းရေးညွှန်ကြားရေးမှူးရုံးအတွက် ကြီးမားသော ထိုးနှက်ချက်တစ်ခု ဖြစ်လာနိုင်ပြီး၊ ထရမ့်က Pulte ကို အေဂျင်စီကို အကြီးအကျယ် လျှော့ချရန် ညွှန်ကြားထားသည်။ အေဂျင်စီနှင့် ရင်းနှီးသူများ၏ အဆိုအရ ဝန်ထမ်းများသည် Pulte အနေဖြင့် အေဂျင်စီကို သိရှိနားလည်ရန် အနည်းငယ်သာ ကြိုးပမ်းမှုနှင့် ပုံမှန်အစီရင်ခံစာများ တင်ပြမှု အားနည်းခြင်းတို့အပေါ် စိတ်ပျက်လျက်ရှိကြောင်း သိရသည်။