xAI သည် Grok ၏ ဘေးကင်းလုံခြုံရေးနှင့် ပတ်သက်၍ စိုးရိမ်ကြောင်း ထုတ်ဖော်ပြောကြားခဲ့သည့် အင်ဂျင်နီယာတစ်ဦးကို ထုတ်ပယ်ခဲ့ကြောင်း တရားစွဲဆိုမှုအသစ်က ဖော်ပြသည်။
AI Summary
Elon Musk ၏ xAI ကုမ္ပဏီမှ အင်ဂျင်နီယာဟောင်း Devin Kim သည် AI ဘေးကင်းရေးဆိုင်ရာ စိုးရိမ်ပူပန်မှုများ ထုတ်ဖော်ပြောဆိုခဲ့ခြင်းကြောင့် အလုပ်မှထုတ်ပယ်ခံရသည်ဟု စွပ်စွဲကာ xAI နှင့် ၎င်း၏မိခင်ကုမ္ပဏီ SpaceX တို့ကို တရားစွဲဆိုခဲ့သည်။ Kim က xAI ၏ Grok chatbot ဖွံ့ဖြိုးတိုးတက်ရေးတွင် ဘေးကင်းရေးကို ဦးစားမပေးသည့်အပေါ် အကြိမ်ကြိမ် တိုင်ကြားခဲ့ပြီး Grok သည် ခွဲခြားဆက်ဆံမှုကို လှုံ့ဆော်နိုင်ခြင်းနှင့် အစုလိုက်အပြုံလိုက် ဖျက်ဆီးရေးလက်နက်များအကြောင်း သတင်းအချက်အလက်များ ဖြန့်ဝေနိုင်ခြင်းတို့အပေါ် စိုးရိမ်ခဲ့သည်။ ၎င်း၏ကြီးကြပ်ရေးမှူးဖြစ်သူ xAI ပူးတွဲတည်ထောင်သူ Jimmy Ba က ဘေးကင်းရေးအတွက် တွန်းအားပေးခဲ့သော Kim ကို လက်တုံ့ပြန်ခဲ့သည်ဟု တရားစွဲဆိုမှုတွင် စွပ်စွဲထားသည်။ ဤတရားစွဲဆိုမှုသည် SpaceX ၏ အများပိုင်ဈေးကွက်သို့ ဝင်ရောက်ရန် ရက်အနည်းငယ်အလိုတွင် ပေါ်ပေါက်လာခြင်းဖြစ်ပြီး xAI ၏ AI ဘေးကင်းရေးဆိုင်ရာ ဂုဏ်သတင်းကို ထိခိုက်စေနိုင်သည်။ Kim သည် နစ်နာကြေးများနှင့် ပြစ်ဒဏ်ပေးသည့် နစ်နာကြေးများကို တောင်းဆိုနေပြီး xAI နှင့် SpaceX တို့ကမူ မှတ်ချက်ပေးရန် တောင်းဆိုမှုများကို ချက်ချင်းတုံ့ပြန်ခြင်း မရှိသေးပေ။ Kim သည် ယခုအခါ AI အန္တရာယ်များကို အာရုံစိုက်သည့် Center for AI Safety ၏ ဥက္ကဋ္ဌအဖြစ် တာဝန်ယူနေသည်။
Elon Musk ၏ xAI မှ အင်ဂျင်နီယာဟောင်းတစ်ဦးသည် AI ဘေးကင်းရေးနှင့်ပတ်သက်၍ စိုးရိမ်ပူပန်မှုများ ထုတ်ဖော်ပြောဆိုခဲ့ခြင်းကြောင့် အလုပ်မှထုတ်ပယ်ခံရသည်ဟု စွပ်စွဲကာ ကုမ္ပဏီနှင့် ၎င်း၏မိခင်ကုမ္ပဏီ SpaceX တို့ကို တရားစွဲဆိုခဲ့သည်။
၂၀၂၅ ခုနှစ် စက်တင်ဘာလတွင် xAI မှ ထွက်ခွာခဲ့သော Devin Kim က အင်္ဂါနေ့တွင် ကယ်လီဖိုးနီးယားပြည်နယ်တရားရုံး၌ တရားစွဲဆိုခဲ့သည်။ အဆိုပါတိုင်ကြားချက်သည် SpaceX သည် သမိုင်းတစ်လျှောက် အကြီးဆုံး IPO ဖြစ်လာမည့် အများပိုင်ဈေးကွက်သို့ ဝင်ရောက်ရန် ရက်အနည်းငယ်အလိုတွင် ပေါ်ပေါက်လာခြင်းဖြစ်သည်။
TechCrunch မှ ကြည့်ရှုခဲ့သော တရားစွဲဆိုမှုအရ Kim သည် xAI ၏ AI chatbot ဖြစ်သော Grok ကို လုပ်ဆောင်နေစဉ် AI ဘေးကင်းရေးအတွက် ထင်ရှားသော အသံတစ်သံ ဖြစ်လာခဲ့သည်။ ၎င်းက Grok ဖွံ့ဖြိုးတိုးတက်ရေးတွင် ဘေးကင်းရေးကို ဦးစားမပေးသည့် xAI ၏ ပျက်ကွက်မှုနှင့်ပတ်သက်၍ အကြိမ်ကြိမ် တိုင်ကြားခဲ့သည်ဟု စွပ်စွဲထားသည်။ ထိုထုတ်ကုန်သည် နောက်ပိုင်းတွင် ဘေးကင်းရေးနှင့် အပြုအမူဆိုင်ရာ ပြဿနာအမျိုးမျိုးကြောင့် ဝေဖန်ခံခဲ့ရသည်။ အထူးသဖြင့် Grok သည် ခွဲခြားဆက်ဆံမှုကို လှုံ့ဆော်နိုင်ပြီး အစုလိုက်အပြုံလိုက် ဖျက်ဆီးရေးလက်နက်များအကြောင်း သတင်းအချက်အလက်များ ဖြန့်ဝေရာတွင် အထောက်အကူပြုနိုင်ခြေကို Kim က စိုးရိမ်ခဲ့သည်။
"Grok သည် အွန်လိုင်းပေါ်တွင် အမုန်းတရားနှင့် ပြင်းထန်သော ဝေဖန်မှုများကို ထင်ရှားစွာ ပြသခြင်းဖြင့် ၎င်းကိုယ်တိုင် ဟစ်တလာ ('MechaHitler') နှင့် နှိုင်းယှဉ်ခဲ့ရာ Mr. Kim ပြောခဲ့သည်မှာ မှန်ကန်ကြောင်း သက်သေပြခဲ့သည်" ဟု တရားစွဲဆိုမှုတွင် ဖော်ပြထားသည်။ "ဟစ်တလာ အရှုပ်တော်ပုံ ဖြစ်ပြီးနောက် Mr. Kim သည် Grok ၏ နိုင်ငံရေးဘက်လိုက်မှုနှင့် ခွဲခြားဆက်ဆံတတ်သည့် သဘောထားများကို ပြန်လည်သုံးသပ်ရန် လုပ်ဆောင်ခဲ့သည်" ဟုလည်း ပါရှိသည်။
စက်တင်ဘာလသည် xAI တွင် ကျွန်ုပ်၏ နောက်ဆုံးလဖြစ်သည်။ ကျွန်ုပ်သည် ၂၀၂၄ ခုနှစ်တွင် လေ့ကျင့်မှုလွန်အဖွဲ့၏ ပထမဆုံးအဖွဲ့ဝင်များထဲမှ တစ်ဦးအဖြစ် ပါဝင်ခဲ့ပြီး နောက်ဆုံးတွင် သုတေသနကိရိယာများကို ဦးဆောင်ခဲ့ကာ Grok ၏ ဖွံ့ဖြိုးတိုးတက်မှုကို အရှိန်မြှင့်တင်ရန် ကမ္ဘာ့အကောင်းဆုံးစနစ်အချို့ကို တည်ဆောက်ခဲ့သည်။ ကျွန်ုပ်၏ ပထမဆုံးနေ့တွင် @ibab နှင့်အတူ whiteboard တွင် ရှိနေခဲ့သည်။ … — Devin Kim (@devindkim) ၂၀၂၅ ခုနှစ် အောက်တိုဘာလ ၃ ရက်
Kim xAI မှ ထွက်ခွာပြီး လအနည်းငယ်အကြာတွင် Grok သည် X (Musk ၏ လူမှုမီဒီယာပလက်ဖောင်းဖြစ်ပြီး xAI လက်အောက်ခံလည်းဖြစ်သည်) ကို သဘောမတူဘဲ လိင်ပိုင်းဆိုင်ရာပုံရိပ်များဖြင့် ပြည့်လျှံစေရန် အသုံးပြုခဲ့သောအခါတွင် ထပ်မံ၍ သတင်းကြီးခဲ့သည်။
အဆိုပါတရားစွဲဆိုမှုတွင် Kim ကို သတင်းပေးသူအဖြစ်လည်း ဖော်ပြထားသည်။ ၎င်းသည် xAI ၏ AI ဘေးကင်းရေးကို လျစ်လျူရှုသည်ဟု စွပ်စွဲချက်ကို အင်တာနက်စည်းမျဉ်း၊ စားသုံးသူကာကွယ်ရေးနှင့် မမျှတသော စီးပွားရေးလုပ်ငန်းများ၊ လက်နက်နှင့် ပေါက်ကွဲစေတတ်သော ပစ္စည်းများဆိုင်ရာ စည်းမျဉ်းများ အပါအဝင် နယ်ပယ်များတွင် "တရားမဝင်" ဟု စိုးရိမ်ခဲ့သည်။
xAI နှင့် SpaceX တို့သည် မှတ်ချက်ပေးရန် တောင်းဆိုမှုများကို ချက်ချင်းတုံ့ပြန်ခြင်း မရှိသေးပေ။
Kim ၏ AI ဘေးကင်းရေးအပေါ် အာရုံစိုက်မှုသည် xAI တွင် မလုပ်ကိုင်မီကတည်းက ရှိခဲ့သည်။ Scale AI တွင် လုပ်ကိုင်နေစဉ် Kim သည် အစောပိုင်း ဘေးကင်းရေး AI အစီအစဉ်များတွင် ပါဝင်ခဲ့သည်။ ဥပမာအားဖြင့် အန္တရာယ်ရှိသော အကြောင်းအရာများကို ရှာဖွေတွေ့ရှိရန်နှင့် အုပ်ချုပ်မှုဆိုင်ရာ မူဝါဒများကို လိုက်နာရန် စနစ်များကို လေ့ကျင့်ပေးရန်အတွက် AI အတွက် လေ့ကျင့်ရေးဒေတာများ ထုတ်လုပ်သည့် ပရောဂျက်တစ်ခုကို ဦးဆောင်ခဲ့သည်။ ပြီးခဲ့သည့်အပတ်က AI အန္တရာယ်များကို အာရုံစိုက်သည့် အကျိုးအမြတ်မယူသော အဖွဲ့အစည်းဖြစ်သည့် Center for AI Safety က Kim ကို ၎င်း၏ ဥက္ကဋ္ဌအဖြစ် ခန့်အပ်ခဲ့သည်။
စိတ်ဝင်စားစရာကောင်းသည်မှာ တရားစွဲဆိုမှုတွင် ဘေးကင်းရေး ချို့တဲ့မှုအတွက် Musk ကိုယ်တိုင်ကို အကြောင်းရင်းအဖြစ် ထည့်သွင်းထားခြင်း မရှိပေ။ ယင်းအစား Kim ၏ ရှေ့နေများက Musk သည် xAI အား ဥပဒေကို လိုက်နာရန်နှင့် သင့်လျော်သော ဘေးကင်းရေးနှင့် စမ်းသပ်မှု လုပ်ငန်းစဉ်များကို အကောင်အထည်ဖော်ရန် ညွှန်ကြားခဲ့သည်ဟု ဖော်ပြထားသည်။ ယင်းအစား တိုင်ကြားချက်သည် Kim ၏ကြီးကြပ်ရေးမှူး၊ xAI ပူးတွဲတည်ထောင်သူ Jimmy Ba (ယခုနှစ်အစောပိုင်းက ကုမ္ပဏီမှ ထွက်ခွာခဲ့သူ) ကို ပစ်မှတ်ထားပြီး Ba သည် Musk ၏ ညွှန်ကြားချက်များကို လျစ်လျူရှုကာ ဘေးကင်းရေးအတွက် တွန်းအားပေးခဲ့သော Kim ကို လက်တုံ့ပြန်ခဲ့သည်ဟု ဆိုသည်။ ၎င်းသည် "AI ဘေးကင်းရေးနှင့် ဘက်လိုက်မှုများအပေါ် ၎င်း၏ ထပ်တလဲလဲ တိုင်ကြားမှုများကို တိတ်ဆိတ်စေရန်" ကြိုးပမ်းခြင်းဖြစ်သည်ဟု ဆိုသည်။
တရားစွဲဆိုမှုတွင် Ba သည် AI ဘေးကင်းရေး အစီအမံများကို ပြင်းပြင်းထန်ထန် ဆန့်ကျင်သူအဖြစ် ပုံဖော်ထားသည်။ တစ်ချိန်က Kim အား "AI က ငါတို့အားလုံးကို သတ်မှာပဲ" ဟု ပြောခဲ့သည်ဟု စွပ်စွဲထားပြီး xAI ကို ပထမဆုံး စူပါဉာဏ်ရည် (superintelligence) သို့ ရောက်ရှိအောင် လုပ်ဆောင်ရန် ရည်မှန်းချက်ဖြင့် မောင်းနှင်ခဲ့သူဖြစ်သည်။
"၂၀၂၅ ခုနှစ် ဩဂုတ်လဝန်းကျင်တွင် တစ်ကြိမ်၌ Mr. Ba သည် Grok Code 1 ကို ထုတ်ပြန်စဉ် EU ဘေးကင်းရေး စည်းမျဉ်းများကို ဟန့်တားရန် ကြိုးပမ်းခဲ့ပြီး ဥပဒေအရ လိုအပ်သော စမ်းသပ်မှုများကို ရှောင်ရှားရန်အတွက် မော်ဒယ်၏ ကဏ္ဍအချို့ကို မှားယွင်းစွာ ဖော်ပြခဲ့သည်" ဟု တိုင်ကြားချက်တွင် ဖော်ပြထားသည်။ "Mr. Ba က စွမ်းဆောင်ရည်ညံ့ဖျင်းသော မော်ဒယ်တစ်ခုထက် ဘေးကင်းမှုမရှိသော မော်ဒယ်တစ်ခုကို ထုတ်ပြန်လိုကြောင်း ဖော်ပြခဲ့သည်။ နောက်ဆုံးတွင် Mr. Musk ဝင်ရောက်ဖြေရှင်းခဲ့ရသည်" ဟုလည်း ပါရှိသည်။
တရားစွဲဆိုမှုအရ Kim သည် ၂၀၂၅ ခုနှစ် စက်တင်ဘာလ ၁၅ ရက်နေ့ သီတင်းပတ်အတွင်း ၎င်း၏တွေ့ရှိချက်များကို တင်ပြရန် ရည်ရွယ်ခဲ့သည်။ သို့သော် Ba က ၎င်းကို အစည်းအဝေးသို့ ခေါ်ယူပြီး ကျေနပ်ဖွယ်အကြောင်းပြချက် မပေးဘဲ "လမ်းခွဲသင့်သည်" ဟု ပြောခဲ့သည်။
TechCrunch က Ba ထံ မှတ်ချက်ပေးရန် ဆက်သွယ်ခဲ့သည်။
Kim သည် နစ်နာကြေးနှင့် ပြစ်ဒဏ်ပေးသည့် နစ်နာကြေးများကို တောင်းဆိုနေပြီး xAI နှင့် SpaceX တို့၏ လုပ်ဆောင်မှုသည် တရားမဝင်ကြောင်း ကြေညာချက်အမိန့်ကိုလည်း တောင်းဆိုနေသည်။