လူသားများ ထိန်းချုပ်နိုင်စွမ်း ဆုံးရှုံးသွားနိုင်ကြောင်း သတိပေးပြီး AI ဓာတ်ခွဲခန်းများကို ခေတ္တရပ်နားထားရန် Anthropic တိုက်တွန်း

ကမ္ဘာ့ထိပ်တန်း ဉာဏ်ရည်တု (AI) ကုမ္ပဏီများအနေဖြင့် အဆင့်မြင့် AI စနစ်များ တီထွင်ထုတ်လုပ်မှုကို ခေတ္တရပ်ဆိုင်းရန် ညှိနှိုင်းဆောင်ရွက်ကြဖို့ Anthropic ကုမ္ပဏီက အဆိုပြုလိုက်သည်။ နည်းပညာတိုးတက်မှုနှုန်းမှာ အလွန်မြန်ဆန်နေသဖြင့် လူသားများအနေဖြင့် ထိန်းချုပ်နိုင်စွမ်း ဆုံးရှုံးသွားနိုင်သည့် အန္တရာယ်ရှိကြောင်း ၎င်းတို့က သတိပေးထားသည်။

Claude chatbot ကို ဖန်တီးသည့် အဆိုပါကုမ္ပဏီက ကြာသပတေးနေ့တွင် တင်ပြခဲ့သော ဘလော့ဂ်ပို့စ်တစ်ခု၌ ခေတ်မီ AI များသည် လုပ်ငန်းတာဝန်များကို ဆောင်ရွက်ရာတွင် ပိုမိုမြန်ဆန်လာသည်နှင့်အမျှ ၎င်းတို့၏ တီထွင်ထုတ်လုပ်မှုကို "နှေးကွေးစေရန် သို့မဟုတ် ခေတ္တရပ်ဆိုင်းထားရန် ရွေးချယ်ခွင့်ရှိခြင်းသည် ကမ္ဘာကြီးအတွက် ကောင်းမွန်လိမ့်မည်" ဟု ဖော်ပြထားသည်။

Anthropic ၏ အတွင်းပိုင်း သုတေသနဌာနအနေဖြင့် အခြားသူများနှင့် ပူးပေါင်း၍ ဤကိစ္စရပ်ကို လေ့လာသွားမည်ဖြစ်ပြီး၊ ပိုမိုတိကျသည့် အသေးစိတ်အချက်အလက်များကို မဖော်ပြထားသော်လည်း ယုံကြည်စိတ်ချရသော နှေးကွေးမှု သို့မဟုတ် ရပ်ဆိုင်းမှုမျိုး ဖြစ်ပေါ်လာစေရန် စနစ်များ တည်ဆောက်ရာတွင် ကူညီပေးမည့် "လုပ်ဆောင်ချက်များကို လုပ်ဆောင်သွားမည်" ဖြစ်ကြောင်း ပြောကြားခဲ့သည်။

Anthropic ၏ ပြိုင်ဘက်ဖြစ်သော OpenAI ကမူ ဗုဒ္ဓဟူးနေ့တွင် ထုတ်ပြန်သည့် အစီရင်ခံစာ၌ ကွဲပြားသော ချဉ်းကပ်မှုတစ်ခုကို တင်ပြခဲ့ပြီး "ပုဂ္ဂလိက ကုမ္ပဏီများက တစ်ဦးတည်း ဆုံးဖြတ်ခြင်းမဟုတ်ဘဲ ဒီမိုကရေစီနည်းကျ ရွေးကောက်တင်မြှောက်ထားသော အစိုးရများကသာ စည်းမျဉ်းများ၊ ကာကွယ်မှုများနှင့် တာဝန်ခံမှု ယန္တရားများကို နောက်ဆုံးတွင် ဆုံးဖြတ်ရမည်" ဟု ဆိုသည်။

"AI ဆန်းသစ်တီထွင်မှုနှုန်းနှင့် ပတ်သက်သည့် ဆုံးဖြတ်ချက်များကို မည်သည့်ဓာတ်ခွဲခန်း၊ ကုမ္ပဏီ သို့မဟုတ် အထူးအကျိုးစီးပွားအဖွဲ့အစည်းတစ်ခုခု၏ လက်ထဲသို့ ပုံအပ်မထားသင့်ဟု ကျွန်ုပ်တို့ ယုံကြည်သည်" ဟု ၎င်းတို့က ဖော်ပြခဲ့သည်။

AI မော်ဒယ်များသည် ပိုမိုမြန်ဆန်လာပြီး ဆော့ဖ်ဝဲလ်ရေးသားခြင်းကဲ့သို့သော လုပ်ငန်းတာဝန်များကို ကိုယ်တိုင်ဆောင်ရွက်နိုင်သည့် အရှိန်အဟုန်မှာလည်း လျင်မြန်စွာ တိုးတက်လာနေကြောင်း Anthropic က ၎င်း၏ပို့စ်တွင် ရေးသားထားသည်။ လက်ရှိလမ်းကြောင်းများအရနှင့် လုံလောက်သော ကွန်ပျူတာစွမ်းအား ရရှိပါက AI စနစ်တစ်ခုသည် "recursive self-improvement" (မိမိကိုယ်ကို ထပ်ဆင့်တိုးတက်စေခြင်း) ဟုခေါ်သည့် လုပ်ငန်းစဉ်မှတစ်ဆင့် မိမိကိုယ်ကို ဆက်ခံမည့် နောက်မျိုးဆက်သစ်ကို ဒီဇိုင်းထုတ်ပြီး တီထွင်နိုင်စွမ်း ရှိလာနိုင်ကြောင်း သိရသည်။

မိမိကိုယ်ကို တည်ဆောက်နိုင်သော AI သည် သိပ္ပံ၊ ကျန်းမာရေးစောင့်ရှောက်မှုနှင့် အခြားနယ်ပယ်များတွင် အကျိုးကျေးဇူးများ ရရှိစေမည့် အဓိကနည်းပညာဆိုင်ရာ မှတ်တိုင်တစ်ခု ဖြစ်လာနိုင်သော်လည်း "လူသားများအနေဖြင့် AI စနစ်များအပေါ် ထိန်းချုပ်နိုင်စွမ်း ဆုံးရှုံးသွားနိုင်သည့် အန္တရာယ်ကိုလည်း တိုးပွားစေနိုင်သည်" ဟု Anthropic က ဆိုသည်။

နည်းပညာလုပ်ငန်းနယ်ပယ်မှ ပုဂ္ဂိုလ်အချို့ကလည်း ထိုကဲ့သို့သော အခြေအနေမျိုးနှင့် ပတ်သက်၍ ကြာမြင့်စွာကတည်းက သတိပေးခဲ့ကြသည်။

Anthropic ၏ ပို့စ်သည် တိုရွန်တိုတက္ကသိုလ်မှ သုတေသီအဖွဲ့တစ်ဖွဲ့၏ သတိပေးချက် ထွက်ပေါ်လာပြီးနောက်ပိုင်းတွင် ထွက်ပေါ်လာခြင်းဖြစ်သည်။ ၎င်းတို့သည် AI ကိရိယာများကို အသုံးပြု၍ စက်ပစ္စည်းတစ်ခုမှ တစ်ခုသို့ ကူးစက်ပျံ့နှံ့သွားစဉ်တွင် ဟက်ကင်းလုပ်ဆောင်သည့် နည်းဗျူဟာကို ပြောင်းလဲအသုံးပြုပြီး ကြီးမားသော ကွန်ပျူတာကွန်ရက်တစ်ခုကို သိမ်းပိုက်နိုင်သည့် AI "worm" (ပိုးကောင်) အမျိုးအစားသစ်ကို မည်သို့ဖန်တီးနိုင်ကြောင်း ပြသခဲ့သည်။

"အကြီးမားဆုံးနှင့် အစွမ်းထက်ဆုံး ဘာသာစကားမော်ဒယ်များသာမက အခြားသော မော်ဒယ်များကလည်း လုံခြုံရေးဆိုင်ရာ စိုးရိမ်မှုများကို ဖြစ်ပေါ်စေနိုင်ကြောင်း လူတို့ နားလည်သဘောပေါက်ရန် အလွန်အရေးကြီးသည်ဟု ကျွန်တော်ထင်သည်" ဟု ဦးဆောင်သုတေသီ Nicolas Papernot က အင်တာဗျူးတစ်ခုတွင် ပြောကြားခဲ့သည်။

Anthropic ၏ ပို့စ်ကို ရေးသားသူများဖြစ်သည့် ကုမ္ပဏီတွဲဖက်တည်ထောင်သူ Jack Clark နှင့် သုတေသနဌာနအကြီးအကဲ Marina Favaro တို့က အဆိုပါ ရပ်ဆိုင်းမှုသည် AI တိုးတက်မှုများနှင့်အတူ "လူမှုရေးဖွဲ့စည်းပုံများနှင့် တန်ဖိုးထားမှုဆိုင်ရာ သုတေသနများ" ကို လိုက်မီနိုင်စေရန်အတွက် ဖြစ်ကြောင်း ပြောကြားခဲ့သည်။ Alignment (တန်ဖိုးထားမှုဆိုင်ရာ ညှိနှိုင်းခြင်း) ဆိုသည်မှာ နည်းပညာသည် လူသားတို့၏ တန်ဖိုးများနှင့် ရည်ရွယ်ချက်များနှင့် ကိုက်ညီမှုရှိစေရန် လုပ်ဆောင်ခြင်းကို ဆိုလိုသည့် လုပ်ငန်းသုံး အသုံးအနှုန်းဖြစ်သည်။

အဆိုပြုထားသည့် ညှိနှိုင်းဆောင်ရွက်မှုအရ အဆင့်မြင့် AI ဓာတ်ခွဲခန်းများသည် ကမ္ဘာ့ပြိုင်ဘက်များက ၎င်းတို့၏ လုပ်ငန်းများကို အမှန်တကယ် ရပ်ဆိုင်းထားခြင်း သို့မဟုတ် နှေးကွေးစေခြင်း ရှိ၊ မရှိ စစ်ဆေးနိုင်မည်ဖြစ်ပြီး "မကောင်းသော ရည်ရွယ်ချက်ရှိသူများက ညှိနှိုင်းထားသည့် နှေးကွေးမှုမျိုးကို အခွင့်ကောင်းယူ၍ လျှို့ဝှက်စွာဖြင့် ရှေ့သို့ ကျော်တက်သွားခြင်းမျိုး မဖြစ်စေရန်" ရည်ရွယ်သည်။

ကမ္ဘာလုံးဆိုင်ရာ ညှိနှိုင်းဆောင်ရွက်သည့် ယန္တရားတစ်ခု လိုအပ်ကြောင်း ကုမ္ပဏီက ဆိုသည်။ အဘယ်ကြောင့်ဆိုသော် ယင်းသို့မရှိပါက AI တီထွင်မှု နှေးကွေးသွားခြင်းသည် "သတိအနည်းဆုံး" ရှိသော ကစားသမားများကို အခွင့်အရေးပေးသလို ဖြစ်သွားနိုင်ပြီး AI ဘေးကင်းလုံခြုံရေးနှင့် ပတ်သက်၍ ခက်ခဲသော ဆုံးဖြတ်ချက်များ ချမှတ်ရသည့် ကုမ္ပဏီများနှင့် အစိုးရများအပေါ် ဖိအားများ တိုးလာစေနိုင်သောကြောင့် ဖြစ်သည်။

အဆင့်မြင့် AI စနစ်များသည် လူသားတို့၏ ထိန်းချုပ်မှုအောက်မှ လွတ်မြောက်သွားပြီး လူမှုရေးဆိုင်ရာ ထိခိုက်မှုများ ဖြစ်ပေါ်လာမည်ကို စိုးရိမ်မှုများမှာ နည်းပညာစွမ်းဆောင်ရည် မြင့်မားလာသည်နှင့်အမျှ တိုးပွားလာသည်။ Anthropic ၏ ကိုယ်ပိုင် Mythos မော်ဒယ်သည် လက်ရှိကုဒ်များတွင် အားနည်းချက်များကို ရှာဖွေနိုင်သည့် စွမ်းရည်ကြောင့် ယခုနှစ်အစောပိုင်းတွင် ဘဏ်လုပ်ငန်းနှင့် ဆော့ဖ်ဝဲလ်လုပ်ငန်းများအပါအဝင် လုပ်ငန်းနယ်ပယ်အသီးသီးတွင် တုန်လှုပ်ခြောက်ခြားမှုများ ဖြစ်ပေါ်စေခဲ့သည်။

သို့သော်လည်း အထူးသဖြင့် ထိပ်တန်း AI ဓာတ်ခွဲခန်းအများစု တည်ရှိရာ အမေရိကန်ပြည်ထောင်စုတွင် စည်းမျဉ်းသတ်မှတ်မှုများမှာ နှေးကွေးနေသည်။ Trump အစိုးရ၏ အမှုဆောင်အမိန့်တစ်ခုအရ ဓာတ်ခွဲခန်းများအနေဖြင့် ၎င်းတို့၏ အစွမ်းထက်ဆုံး မော်ဒယ်များကို အများပြည်သူသို့ မထုတ်ပြန်မီ အစိုးရ၏ ဆိုက်ဘာလုံခြုံရေး စစ်ဆေးမှုများအတွက် မိမိသဘောဆန္ဒအလျောက် တင်ပြရန် တာဝန်ပေးထားသည်။

AI သုတေသီများကလည်း ယခင်က ရပ်ဆိုင်းရန် တိုက်တွန်းခဲ့ဖူးသော်လည်း အောင်မြင်မှု အနည်းငယ်သာ ရရှိခဲ့သည်။ AI ဓာတ်ခွဲခန်း xAI ကို ပိုင်ဆိုင်သည့် Elon Musk သည် ဘေးကင်းလုံခြုံရေးအတွက် အချိန်ရစေရန် AI တီထွင်မှုကို ခြောက်လကြာ ရပ်ဆိုင်းထားရန် Future of Life Institute အဖွဲ့အစည်း၏ ၂၀၂၃ ခုနှစ်က ကြိုးပမ်းမှုကို ထောက်ခံသူများထဲတွင် ပါဝင်ခဲ့သည်။

Anthropic သည် ဘေးကင်းလုံခြုံရေးကို အဓိကထားသည့် AI ဓာတ်ခွဲခန်းအဖြစ် ရပ်တည်လာခဲ့သည်မှာ ကြာမြင့်ပြီဖြစ်သည်။ ယခုနှစ်အစောပိုင်းတွင် ၎င်းတို့၏ မော်ဒယ်များကို ပြည်တွင်းစောင့်ကြည့်ရေးနှင့် အလိုအလျောက် လက်နက်များအတွက် အသုံးပြုခွင့်ပေးရန် အမေရိကန်စစ်တပ်၏ တောင်းဆိုမှုကို ငြင်းပယ်ခဲ့ရာ အစိုးရ၏ တုံ့ပြန်မှုကို ခံခဲ့ရပြီး ၂၀၂၆ ခုနှစ်နှောင်းပိုင်းတွင် အသက်ဝင်မည့် အမျိုးသားလုံခြုံရေးဆိုင်ရာ အမည်ပျက်စာရင်းတွင် ထည့်သွင်းခြင်း ခံခဲ့ရသည်။

Anthropic ၏ ပို့စ်သည် ကုမ္ပဏီနှင့် ChatGPT ကို ဖန်တီးသူ OpenAI တို့က စတော့ဈေးကွက်တွင် ရှယ်ယာများ ရောင်းချရန် ပြိုင်ဆိုင်နေချိန်တွင် ထွက်ပေါ်လာခြင်းဖြစ်သည်။ အဆိုပါ IPO (ကနဦး အများပြည်သူသို့ ရှယ်ယာရောင်းချခြင်း) သည် Anthropic ၏ တန်ဖိုးကို ဒေါ်လာတစ်ထရီလျံနီးပါးအထိ ရောက်ရှိစေနိုင်သည်။

Papernot သည် ၎င်း၏ အစီရင်ခံစာကို မထုတ်ပြန်မီ ကနေဒါနိုင်ငံ၏ ဆိုက်ဘာလုံခြုံရေး အာဏာပိုင်များထံ အကြောင်းကြားခဲ့သည်။ အဆိုပါ အစီရင်ခံစာတွင် သုတေသီများသည် ဆော့ဖ်ဝဲလ်ရေးသားသူများ အလွယ်တကူနှင့် စျေးသက်သာစွာ ရယူနိုင်ပြီး ပြင်ဆင်နိုင်သည့် "open-source" AI ကိရိယာကို အသုံးပြု၍ ဓာတ်ခွဲခန်းအတွင်း၌ အဆိုပါ ပိုးကောင် (worm) ကို မည်သို့ဖန်တီးခဲ့ကြောင်း ပြသထားသည်။

"အရင်တုန်းကဆိုရင် ဆိုက်ဘာတိုက်ခိုက်သူတွေက တန်ဖိုးအလွန်မြင့်မားတဲ့ ပစ်မှတ်တွေကိုပဲ အာရုံစိုက်ကြတယ်" ဟု သူက ဆိုသည်။ "ဘဏ်စနစ်တွေ၊ ဆေးရုံတွေ၊ လျှပ်စစ်ဓာတ်အားပေးစနစ်တွေ၊ ရေသန့်စင်ရေးစနစ်တွေနဲ့ ကျောင်းတွေပေါ့။"

AI စွမ်းအားသုံး ဟက်ကင်းကိရိယာများသည် ကွန်ပျူတာ အားနည်းချက်များကို ရှာဖွေရာတွင် အရှိန်အဟုန်မြှင့်တင်ပေးနေသဖြင့် ကုမ္ပဏီများ၊ အစိုးရအေဂျင်စီများနှင့် ပညာရှင်သုတေသီများအကြား တန်ပြန်ဆောင်ရွက်မှုများ ပြုလုပ်ရန် ပိုမိုပူးပေါင်းဆောင်ရွက်သင့်ကြောင်း Papernot က သဘောတူသည်။

"သင်တို့ရဲ့ မြေအောက်ခန်းထဲမှာ ရှိနေပြီး ပုံမှန်မစစ်ဆေးဖြစ်တဲ့ အဲဒီ Laptop အဟောင်းလေးက တန်ဖိုးမြင့် ပစ်မှတ်တစ်ခုလို့ မထင်ရပေမယ့်၊ ဒီလိုတန်ဖိုးမြင့် ပစ်မှတ်တွေကို တိုက်ခိုက်ဖို့အတွက် လွှတ်တင်ရာ စခန်းတစ်ခုအနေနဲ့ အသုံးပြုနိုင်ပါတယ်" ဟု သူက ပြောသည်။ "ဒီလို ဆိုက်ဘာတိုက်ခိုက်မှုတွေ လုပ်ဆောင်ဖို့ ကုန်ကျစရိတ်က အလွန်နည်းပါးသွားပြီဖြစ်တဲ့အတွက် အင်တာနက်နဲ့ ချိတ်ဆက်ထားသမျှ အရာအားလုံးဟာ အခုဆိုရင် အန္တရာယ်ရှိနေပါပြီ။"