OpenAI သည် ပရွမ့်အင်ဂျက်ရှင် တိုက်ခိုက်မှုများမှ အရေးကြီးဒေတာများကို ကာကွယ်ရန် လော့ခ်ဒေါင်းမုဒ်ကို မိတ်ဆက်လိုက်ပြီ
AI Summary
OpenAI သည် prompt injection တိုက်ခိုက်မှုများမှ ထပ်ဆောင်းကာကွယ်မှုပေးမည့် "Lockdown Mode" အမည်ရှိ လုပ်ဆောင်ချက်အသစ်ကို ကြေညာခဲ့သည်။ ဤတိုက်ခိုက်မှုများတွင် ဆိုးရွားသော chatbot ညွှန်ကြားချက်များကို ဝက်ဘ်စာမျက်နှာများနှင့် အခြားအကြောင်းအရာရင်းမြစ်များတွင် ဝှက်ထားခြင်းဖြစ်ပြီး၊ ယင်းလုပ်ဆောင်ချက်သည် ထိခိုက်လွယ်သော ဒေတာများ မျှဝေခံရနိုင်ခြေကို လျှော့ချရန် ရည်ရွယ်သည်။ Lockdown Mode ကို ဖွင့်ထားပါက တိုက်ရိုက်ဝက်ဘ်ရှာဖွေခြင်း၊ ဝက်ဘ်မှ ပုံများ ပြန်လည်ရယူခြင်းနှင့် ပြသခြင်း၊ နက်ရှိုင်းသော သုတေသနပြုခြင်းနှင့် agent mode တို့ကို ပိတ်ထားမည်ဖြစ်သည်။ သို့သော်လည်း cache လုပ်ထားသော ဝက်ဘ်အကြောင်းအရာ သို့မဟုတ် အပ်လုဒ်လုပ်ထားသော ဖိုင်များမှ prompt injection များကြောင့် တုံ့ပြန်မှု၏ အပြုအမူ သို့မဟုတ် တိကျမှုကို ဆက်လက်ထိခိုက်စေနိုင်သေးကြောင်း ကုမ္ပဏီက သတိပေးထားသည်။ ဤလုပ်ဆောင်ချက်သည် ထိခိုက်လွယ်သော ဒေတာများကို ကိုင်တွယ်သည့် လူပုဂ္ဂိုလ်များနှင့် အဖွဲ့အစည်းများအတွက် အထူးဒီဇိုင်းထုတ်ထားခြင်းဖြစ်ပြီး၊ prompt injection နှင့် ဆက်စပ်သော ဒေတာခိုးယူမှုအန္တရာယ်များမှ ပိုမိုတင်းကျပ်သော ကာကွယ်မှုကို လိုလားသူများအတွက် ဖြစ်သည်။ လက်ရှိတွင် Lockdown Mode ကို ကိုယ်တိုင်ဝန်ဆောင်မှုပေးသော ChatGPT Business အကောင့်များနှင့် အရည်အချင်းပြည့်မီသော ကိုယ်ပိုင်အကောင့်များသို့ ဖြန့်ချိပေးနေပြီဖြစ်သည်။
ထင်ရှားသော ပြောကြားချက်များ
"Lockdown Mode သည် လူတိုင်းအတွက် ရည်ရွယ်ခြင်းမဟုတ်ပါ"
"၎င်းသည် ထိခိုက်လွယ်သော ဒေတာများကို ကိုင်တွယ်သည့် လူပုဂ္ဂိုလ်များနှင့် အဖွဲ့အစည်းများအတွက် ဒီဇိုင်းထုတ်ထားခြင်းဖြစ်ပြီး prompt injection နှင့် ဆက်စပ်သော ဒေတာခိုးယူမှုအန္တရာယ်များမှ ပိုမိုတင်းကျပ်သော ကာကွယ်မှုကို လိုလားသူများအတွက် ဖြစ်သည်"
"cache လုပ်ထားသော ဝက်ဘ်အကြောင်းအရာ သို့မဟုတ် အပ်လုဒ်လုပ်ထားသော ဖိုင်တစ်ခုတွင် ပေါ်လာနိုင်ပြီး၊ တုံ့ပြန်မှု၏ အပြုအမူ သို့မဟုတ် တိကျမှုကို ဆက်လက်ထိခိုက်စေနိုင်သည်"
OpenAI က prompt injection တိုက်ခိုက်မှုများမှ ထပ်ဆောင်းကာကွယ်မှု ပေးလိမ့်မည်ဟု ဆိုသော လုပ်ဆောင်ချက်အသစ်တစ်ခုကို ကြေညာခဲ့သည်။ ထိုတိုက်ခိုက်မှုများတွင် ဆိုးရွားသော chatbot ညွှန်ကြားချက်များကို ဝက်ဘ်စာမျက်နှာများနှင့် အခြားအကြောင်းအရာရင်းမြစ်များတွင် ဝှက်ထားခြင်းဖြစ်သည်။
အခြားအရာများအနက် Lockdown Mode သည် တိုက်ရိုက်ဝက်ဘ်ရှာဖွေခြင်း (ထို့ကြောင့် သင်သည် cache လုပ်ထားသော အကြောင်းအရာများကိုသာ ဝင်ရောက်ကြည့်ရှုနိုင်မည်)၊ ဝက်ဘ်မှ ပုံများကို ပြန်လည်ရယူခြင်းနှင့် ပြသခြင်း (သင်သည် ပုံများကို ဆက်လက်ထုတ်လုပ်နိုင်သေးသည်)၊ နက်ရှိုင်းသော သုတေသနပြုခြင်းနှင့် agent mode တို့ကို ပိတ်ထားမည်ဖြစ်သည်။
ကုမ္ပဏီက Lockdown Mode ကို ဖွင့်ထားသော်လည်း ChatGPT သည် prompt injection များ၏ ထိခိုက်လွယ်နေနိုင်သေးသည်ဟု ဆိုသည်။ ဥပမာအားဖြင့်၊ ၎င်းတို့သည် "cache လုပ်ထားသော ဝက်ဘ်အကြောင်းအရာ သို့မဟုတ် အပ်လုဒ်လုပ်ထားသော ဖိုင်တစ်ခုတွင် ပေါ်လာနိုင်ပြီး၊ တုံ့ပြန်မှု၏ အပြုအမူ သို့မဟုတ် တိကျမှုကို ဆက်လက်ထိခိုက်စေနိုင်သည်" ဟု ကုမ္ပဏီက ပြောကြားခဲ့သည်။
သို့သော် ရည်ရွယ်ချက်မှာ ထိုလုပ်ငန်းစဉ်တွင် ထိခိုက်လွယ်သော ဒေတာများ မျှဝေခံရနိုင်ခြေကို လျှော့ချရန်ဖြစ်သည်။
"Lockdown Mode သည် လူတိုင်းအတွက် ရည်ရွယ်ခြင်းမဟုတ်ပါ" ဟု OpenAI က ပြောသည်။ "၎င်းသည် ထိခိုက်လွယ်သော ဒေတာများကို ကိုင်တွယ်သည့် လူပုဂ္ဂိုလ်များနှင့် အဖွဲ့အစည်းများအတွက် ဒီဇိုင်းထုတ်ထားခြင်းဖြစ်ပြီး prompt injection နှင့် ဆက်စပ်သော ဒေတာခိုးယူမှုအန္တရာယ်များမှ ပိုမိုတင်းကျပ်သော ကာကွယ်မှုကို လိုလားသူများအတွက် ဖြစ်သည်" ဟု ၎င်းက ထပ်လောင်းပြောကြားသည်။
ကုမ္ပဏီက Lockdown Mode ကို လက်ရှိတွင် ကိုယ်တိုင်ဝန်ဆောင်မှုပေးသော ChatGPT Business အကောင့်များအပြင် အရည်အချင်းပြည့်မီသော ကိုယ်ပိုင်အကောင့်များသို့လည်း ဖြန့်ချိပေးနေသည်ဟု ဆိုသည်။