သုံးသပ်ချက်: ထင်ရှားကျော်ကြားသော အင်စတာဂရမ် AI ချတ်ဘော့ ဖောက်ဖျက်ခံရမှုက အလိုအလျောက်စနစ်၏ လုံခြုံရေးအန္တရာယ်များကို မီးမောင်းထိုးပြ

ဇွန် ၃ ရက်- တိုက်ခိုက်သူများက Meta ၏ AI အထောက်အကူပြု ချတ်ဘော့ (chatbot) ကို အဆင့်မြင့်အကောင့်များသို့ ဝင်ရောက်ခွင့်ပေးရန် ပြောဆိုခဲ့သည့် Instagram ဟက်ခ်လုပ်မှုတစ်ခုသည် ကုမ္ပဏီ၏ အရေးကြီးသော အသုံးပြုသူလုပ်ဆောင်ချက်များကို အလိုအလျောက်လုပ်ဆောင်ရန် တွန်းအားပေးမှု၏ အဓိကအားနည်းချက်ကို ဖော်ထုတ်ပြသခဲ့သည်။

အဆိုပါ ချိုးဖောက်မှုကြောင့် ဟက်ကာများသည် အသုံးမပြုတော့သည့် အိုဘားမားအိမ်ဖြူတော်စာမျက်နှာ၊ အလှကုန်ရောင်းချသူ Sephora နှင့် အမေရိကန်အာကာသတပ်ဖွဲ့မှ အကြီးတန်းအရာရှိတစ်ဦးတို့၏ အကောင့်များကို သိမ်းပိုက်နိုင်ခဲ့သည်။

ချတ်ဘော့ကို အထောက်အထားကို ကိုယ်တိုင်စစ်ဆေးခြင်းမရှိဘဲ အကောင့်ဝင်ရောက်ခွင့်အချက်အလက်များကို ပြန်လည်သတ်မှတ်ရန် ဆွဲဆောင်ခဲ့ခြင်းဖြစ်ပြီး၊ ယင်းသည် ယုံကြည်စိတ်ချရသော လုံခြုံရေးကိရိယာတစ်ခုကို ကြီးမားသော အားနည်းချက်အဖြစ်သို့ ပြောင်းလဲစေခဲ့ကြောင်း ဆိုက်ဘာလုံခြုံရေးကျွမ်းကျင်သူများက Reuters သို့ ပြောကြားခဲ့သည်။

နည်းပညာကုမ္ပဏီများသည် အကောင့်ပြန်လည်ရယူခြင်းကဲ့သို့သော လုပ်ငန်းဆောင်တာများအတွက် AI စနစ်များကို ကျယ်ပြန့်သော အခွင့်အာဏာများ ပေးအပ်နေချိန်တွင် ယင်းစနစ်များသည် ကျွမ်းကျင်သူများက "prompt injection" ဟုခေါ်သော တိုက်ခိုက်မှုပုံစံဖြင့် ခြယ်လှယ်ခံရနိုင်ဆဲဖြစ်သောကြောင့် ယခုဖြစ်ရပ်သည် ပိုမိုကျယ်ပြန့်သော အားနည်းချက်ကို မီးမောင်းထိုးပြခဲ့သည်။

Meta အတွက်မူ ယခုဖြစ်ရပ်သည် အရေးကြီးသောအချိန်တွင် ဖြစ်ပွားခဲ့ခြင်းဖြစ်သည်။ လူမှုမီဒီယာကုမ္ပဏီကြီးသည် AI ကို အလေးထားလုပ်ဆောင်နေပြီး၊ ထောင်နှင့်ချီသော အလုပ်အကိုင်များကို လျှော့ချခဲ့ကာ AI အခြေခံအဆောက်အအုံအတွက် ဒေါ်လာ ၁၄၅ ဘီလီယံအထိ ရင်းနှီးမြှုပ်နှံရန် ကတိပြုထားသည်။ ယခုဖြစ်ရပ်သည် နည်းပညာသည် အရေးကြီးသော လုပ်ဆောင်ချက်များကို ဘေးကင်းစွာ ကိုင်တွယ်နိုင်ရန် အဆင်သင့်မဖြစ်သေးမီ ကုမ္ပဏီက အလိုအလျောက်စနစ်များကို အရှိန်မြှင့်တင်နေခြင်းအပေါ် စိုးရိမ်ပူပန်မှုများကို ပိုမိုပြင်းထန်စေနိုင်သည်။

Meta က ယခုပြဿနာကို ဖြေရှင်းပြီးဖြစ်ကြောင်းနှင့် ထိခိုက်ခဲ့သည့် အကောင့်များကို လုံခြုံအောင်လုပ်ဆောင်နေကြောင်း တနင်္လာနေ့တွင် ပြောကြားခဲ့သော်လည်း၊ ယခုဖြစ်ရပ်သည် ကုမ္ပဏီ၏ ကြီးမားသော AI ရင်းနှီးမြှုပ်နှံမှုအပေါ် စိုးရိမ်နေပြီးသား ရင်းနှီးမြှုပ်နှံသူများကို ထိတ်လန့်စေခဲ့ပြီး ၎င်း၏ရှယ်ယာတန်ဖိုး ၅ ရာခိုင်နှုန်းကျော် ကျဆင်းသွားခဲ့သည်။

ကုမ္ပဏီက အသေးစိတ်အချက်အလက်များကို ထပ်မံပြောကြားရန် ငြင်းဆိုခဲ့သည်။ Reuters က ဟက်ကာများကို ချက်ချင်းဖော်ထုတ်နိုင်ခြင်း သို့မဟုတ် ဆက်သွယ်နိုင်ခြင်း မရှိသေးပေ။

လုံခြုံရေးသုတေသီနှင့် Meta ဝန်ထမ်းဟောင်းဖြစ်သူ Jane Wong ၏ Instagram အကောင့်များလည်း ဟက်ခံခဲ့ရပြီး၊ သူမ၏အကောင့်ကို ပြန်လည်ရယူရန် ၅ မိနစ်မှ ၁၀ မိနစ်ခန့် ကြာမြင့်ခဲ့ကြောင်း Reuters သို့ ပြောကြားခဲ့သည်။ သူမ၏ စကားဝှက်ကို သူမမသိဘဲ ပြောင်းလဲခဲ့ကြောင်းနှင့် ပြန်လည်သတ်မှတ်ရန် ကြိုးပမ်းမှု တောင်းဆိုချက်များစွာ ရရှိခဲ့ကြောင်း X တွင် တင်ထားသော ပို့စ်တစ်ခု၌ သူမက ပြောကြားခဲ့သည်။

"ဒါက အခြေခံဗိသုကာဆိုင်ရာ ချို့ယွင်းချက်ပါ။ မော်ဒယ်ကို အခွင့်ထူးခံ ဝင်ရောက်ထိန်းချုပ်မှုမရှိဘဲ အခွင့်ထူးခံလုပ်ဆောင်ချက်တွေ ပေးထားခဲ့တာပါ" ဟု ဆိုက်ဘာလုံခြုံရေးကုမ္ပဏီ Red Sift မှ မဟာမိတ်များနှင့် ပူးပေါင်းဆောင်ရွက်မှုဆိုင်ရာ ဒုတိယဥက္ကဋ္ဌ Brian Westnedge က ပြောကြားခဲ့သည်။

"Meta ဟာ လူသားအထောက်အကူပြုမှု မရှိခြင်းအတွက် ဝေဖန်မှုတွေ ဆက်တိုက်ရင်ဆိုင်ခဲ့ရပြီး၊ ဝန်ထမ်းအင်အား အများအပြားကို လျှော့ချခဲ့ကာ AI အတွက် ဘီလီယံနဲ့ချီပြီး သုံးစွဲနေပါတယ်။ ဒီဖြစ်ရပ်က အဲဒီအချက်သုံးချက်ရဲ့ အလယ်တည့်တည့်မှာ ကျရောက်နေပါတယ်" ဟု ၎င်းက ထပ်လောင်းပြောကြားခဲ့သည်။

ဘေးကင်းရေးတွင် AI အသုံးပြုမှုအပေါ် စိုးရိမ်ပူပန်မှုများ ဖြစ်ပေါ်စေသော ဟက်ခ်လုပ်မှု

မည်သူမည်ဝါမသိရသေးသော ဟက်ကာများသည် သီတင်းပတ်ကုန်တွင် တိုက်ခိုက်မှုများကို လုပ်ဆောင်ခဲ့ပြီး၊ အသုံးပြုသူများကို ၎င်းတို့၏အကောင့်များမှ ပိတ်ဆို့ခဲ့ကာ X နှင့် Reddit အပါအဝင် ပလက်ဖောင်းများပေါ်တွင် တိုင်ကြားမှုများစွာ ဖြစ်ပေါ်စေခဲ့သည်။

အွန်လိုင်းသတင်းဝက်ဘ်ဆိုက် 404 Media က တနင်္လာနေ့တွင် ပထမဆုံးအကြိမ် သတင်းတင်ပြခဲ့သည့် ယခုဟက်ခ်လုပ်မှုသည် Meta အတွက် ၎င်း၏ထုတ်ကုန်များတစ်လျှောက် AI ကို အကောင်အထည်ဖော်ရာတွင် နောက်ဆုံးပေါ် အခက်အခဲတစ်ခုဖြစ်သည်။

ကုမ္ပဏီသည် အကောင့်ဝင်ရောက်ခွင့် ဆုံးရှုံးသွားသော သို့မဟုတ် မှားယွင်းသော ပြစ်ဒဏ်များ ရင်ဆိုင်ရသော အသုံးပြုသူများအတွက် လူသားအထောက်အကူပြုမှု မရှိခြင်းဟူသော ကြာရှည်စွာရှိနေခဲ့သည့် ပြဿနာကို ဖြေရှင်းရန် မတ်လတွင် အထောက်အကူပြု ချတ်ဘော့ကို စတင်မိတ်ဆက်ခဲ့သည်။

Reuters ၏ သြဂုတ်လက စုံစမ်းစစ်ဆေးမှုတစ်ခုအရ Meta ၏ AI ချတ်ဘော့များသည် ကလေးများနှင့် "ကာမဂုဏ်ဆိုင်ရာ" စကားပြောဆိုခြင်း၊ မှားယွင်းသော ဆေးဘက်ဆိုင်ရာအချက်အလက်များ ပေးခြင်း သို့မဟုတ် ၎င်းတို့သည် လူအစစ်အမှန်များဖြစ်ကြောင်း ပြောဆိုခြင်းတို့ကို တားဆီးနိုင်သည့် အကာအကွယ်များ မရှိကြောင်း တွေ့ရှိခဲ့သည်။

ထိုအချိန်မှစ၍ ကုမ္ပဏီသည် ဆယ်ကျော်သက်များ၏ မိဘများအား ၎င်းတို့၏ ပလက်ဖောင်းများပေါ်တွင် မသင့်လျော်သော အကြောင်းအရာများကို ငယ်ရွယ်သူများ ဝင်ရောက်ကြည့်ရှုခြင်းမှ ကာကွယ်ရန် ပိုမိုထိန်းချုပ်ခွင့် ပေးအပ်မည်ဖြစ်ကြောင်း ကြေညာခဲ့သည်။

ဆန်းစစ်သူများနှင့် ကျွမ်းကျင်သူများက ယခုပြဿနာသည် Meta တစ်ခုတည်းနှင့် သက်ဆိုင်ခြင်းမဟုတ်ကြောင်း ပြောကြားခဲ့ပြီး၊ ဟက်ကာများက AI ကို လက်နက်အဖြစ် အသုံးပြုလာသည်နှင့်အမျှ ယခုကဲ့သို့သော တိုက်ခိုက်မှုများ ပိုမိုဖြစ်ပွားလာနိုင်ကြောင်း သတိပေးခဲ့သည်။

"စိုးရိမ်စရာက AI ကိုယ်တိုင်မဟုတ်ဘဲ၊ AI ကို ဘာတွေလုပ်ဖို့ ခွင့်ပြုထားလဲဆိုတာနဲ့ ပတ်သက်ပြီး လုံလောက်တဲ့ အကာအကွယ်တွေ ရှိမရှိဆိုတာပါပဲ" ဟု အမျိုးသားဆိုက်ဘာလုံခြုံရေးမဟာမိတ်အဖွဲ့မှ သတင်းအချက်အလက်လုံခြုံရေးနှင့် ပူးပေါင်းဆောင်ရွက်မှုဆိုင်ရာ ဒါရိုက်တာ Cliff Steinhauer က ပြောကြားခဲ့သည်။

ChatGPT ကို ၂၀၂၂ ခုနှစ်နှောင်းပိုင်းတွင် စတင်မိတ်ဆက်ခဲ့ပြီး AI ချတ်ဘော့များကို အလျင်အမြန် အသုံးပြုလာခဲ့ရာမှစ၍ ဟက်ကာများသည် prompt တိုက်ခိုက်မှုများကို အသုံးချခဲ့ကြသည်။ ထိုကဲ့သို့သော ဖြစ်ရပ်တစ်ခုတွင် တိုက်ခိုက်သူသည် Chevrolet အရောင်းကိုယ်စားလှယ်၏ ဘော့ကို Tahoe SUV တစ်စီးကို ၁ ဒေါ်လာဖြင့် ရောင်းချရန် လှည့်ဖြားခဲ့သည်။

"ဒါက Meta သီးသန့်ပြဿနာမဟုတ်ပါဘူး။ လူတွေက ဒီ AI အေးဂျင့်တွေကို အများကြီးလုပ်ဖို့ အသုံးပြုနေကြပါတယ်။ ကျွန်တော်တို့ တကယ်တွေ့နေရတာက AI ကို အသုံးပြုရာကနေ ဖြစ်ပေါ်လာတဲ့ မမျှော်လင့်ထားတဲ့ ပြဿနာတွေပါပဲ" ဟု Northeastern တက္ကသိုလ်၊ လျှပ်စစ်နှင့် ကွန်ပျူတာအင်ဂျင်နီယာဌာနမှ ပါမောက္ခ Engin Kirda က ပြောကြားခဲ့သည်။

"အရင်တုန်းက လူတွေကို လိမ်လည်မှုတွေနဲ့ ပစ်မှတ်ထားခဲ့ကြတယ်။ အခုတော့ အေးဂျင့်တွေကို လိမ်လည်မှုတွေနဲ့ ပစ်မှတ်ထားတာကို တွေ့နေရပါတယ်" ဟု ၎င်းက ပြောကြားခဲ့ပြီး၊ ရှုပ်ထွေးသော လုပ်ငန်းဆောင်တာများကို လုပ်ဆောင်နိုင်ရန် စွမ်းဆောင်ထားသည့် AI အေးဂျင့်များ သို့မဟုတ် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ ဒစ်ဂျစ်တယ်လက်ထောက်များကို ရည်ညွှန်းပြောဆိုခဲ့ခြင်းဖြစ်သည်။