ဗြိတိန်ရဲတပ်ဖွဲ့သည် ကြီးမားကျယ်ပြန့်သော ရာဇဝတ်မှုကြိုတင်ခန့်မှန်းသည့် စက်ယန္တရားတစ်ခုကို တည်ဆောက်ခဲ့သည်။ အချို့သော ရလဒ်များကိုမူ ယုံကြည်၍မရခဲ့ပေ။

“AI မော်ဒယ်တစ်ခုအနေနဲ့ လူတွေရဲ့ ဘဝအပေါ်မှာ အဲဒီလောက်အထိ အာဏာသက်ရောက်မှုမျိုး ရှိသင့်တယ်လို့ ကျွန်တော် မထင်ပါဘူး” ဟု Pegram က ပြောကြားသည်။

ဓာတ်ပုံ - Alice Zoo

WIRED ၏ ပြည်သူ့မှတ်တမ်းတောင်းဆိုမှုများကို တုံ့ပြန်သည့်အနေဖြင့် Avon နှင့် Somerset ရဲတပ်ဖွဲ့သည် ၂၀၁၇ ခုနှစ်မှ ၂၀၂၄ ခုနှစ်အတွင်း အသုံးပြုခဲ့သော အန္တရာယ်ခန့်မှန်းသည့် မော်ဒယ် ၁၃ ခုအတွက် စွမ်းဆောင်ရည်ဆိုင်ရာ အချက်အလက်အမြောက်အမြားကို ပေးအပ်ခဲ့သည်။ ယင်းတို့တွင် ပျောက်ဆုံးသူများကို ခန့်မှန်းခြင်း၊ လူမှုရေးဆန့်ကျင်သည့် အပြုအမူများ၊ နှင့် မည်သူက ရာဇဝတ်မှုကျူးလွန်ရန် သို့မဟုတ် ရာဇဝတ်မှု၏ သားကောင်ဖြစ်ရန် အလားအလာအရှိဆုံးဖြစ်သည်ကို ခန့်မှန်းသည့် မော်ဒယ်များ ပါဝင်သည်။ WIRED သည် ဤအချက်အလက်များကို Avon နှင့် Somerset ရဲတပ်ဖွဲ့၏ ဒေတာသိပ္ပံအစီအစဉ်နှင့် ပတ်သက်သည့် အခြားအခြေအနေဆိုင်ရာ အချက်အလက်များနှင့်အတူ လွတ်လပ်သော AI စာရင်းစစ်ကုမ္ပဏီ Eticas ထံသို့ ပြန်လည်သုံးသပ်ရန် ပေးပို့ခဲ့သည်။ ထွက်ပေါ်လာသည့် အဖြေမှာ အလွန်ပင် စိတ်ပျက်ဖွယ်ကောင်းလှသည်။

“ဒီမော်ဒယ်တွေထဲက အများစုဟာ တိကျမှုရမှတ် နည်းပါးပါတယ်။ ဆိုလိုတာက သူတို့က အန္တရာယ်ရှိတယ်လို့ သတ်မှတ်လိုက်တဲ့ လူတွေထဲက အများစုဟာ မှားယွင်းစွာ သတ်မှတ်ခံထားရတာပါ” ဟု ဒေတာပြန်လည်သုံးသပ်ချက်တွင် တွေ့ရှိရသည်။ ရဲတပ်ဖွဲ့၏ အချက်အလက်များအရ ဖောက်ထွင်းခိုးယူသူများကို ခန့်မှန်းရန် အသုံးပြုသည့် မော်ဒယ်တစ်ခုသည် သုံးနှစ်ကျော်ကြာသည်အထိ ၁၀ ရာခိုင်နှုန်းအောက်သာ တိကျမှုရှိကြောင်း တွေ့ရှိရသည်။ Eticas ၏ အဆိုအရ ၎င်းမှာ အန္တရာယ်မြင့်မားသည်ဟု သတ်မှတ်ခံရသူ ၁၀ ဦးတွင် တစ်ဦးထက်နည်းသောသူသာ အမှန်တကယ် ပြစ်မှုကျူးလွန်ကြောင်း ဆိုလိုသည်။ အခြားစိုးရိမ်စရာများမှာ မော်ဒယ်အမျိုးမျိုး၏ စွမ်းဆောင်ရည် တိုင်းတာမှုများမှာ သိသိသာသာ ပြောင်းလဲနေခြင်းဖြစ်သည်။ “ဒါဟာ လုပ်ငန်းခွင်မှာ အသုံးပြုနေတဲ့ စနစ်တကျစီမံထားတဲ့ မော်ဒယ်တွေမှာ ဖြစ်လေ့ဖြစ်ထမရှိတဲ့ အရာပါ” ဟု စာရင်းစစ်အစီရင်ခံစာတွင် မှတ်ချက်ပြုထားသည်။

Avon နှင့် Somerset ရဲတပ်ဖွဲ့၏ ပြောရေးဆိုခွင့်ရှိသူတစ်ဦးက WIRED သို့ ပြောကြားရာတွင် ရဲတပ်ဖွဲ့အနေဖြင့် ဖောက်ထွင်းမှုများနှင့် ပတ်သက်သည့် မော်ဒယ်အပါအဝင် ၎င်းတို့တီထွင်ထားသော မော်ဒယ်အချို့ကို အသုံးမပြုရန် ဆုံးဖြတ်ခဲ့ကြောင်း ပြောကြားသည်။ အသုံးမပြုသည့် မော်ဒယ်များအတွက် နှစ်ပေါင်းများစွာကြာ စာရင်းစစ်နှင့် စွမ်းဆောင်ရည်ဆိုင်ရာ အချက်အလက်များ ရှိနေရခြင်းအကြောင်းရင်းကို မေးမြန်းရာတွင် ပြောရေးဆိုခွင့်ရှိသူက စာရင်းစစ်လုပ်ငန်းစဉ်မှာ “အလိုအလျောက်” ဖြစ်ပြီး “မော်ဒယ်ကို အသုံးမပြုရန် ဆုံးဖြတ်ချက်ချသည့်အချိန်တွင် မဖျက်ပစ်ခဲ့သည့် တည်ငြိမ်သောဖိုင် (static file)” မှ အချက်အလက်များကို အသုံးပြုထားခြင်းကြောင့်ဖြစ်ကြောင်း ဖြေကြားခဲ့သည်။

ရဲတပ်ဖွဲ့သည် ၎င်းတို့၏ ဒေတာသိပ္ပံလုပ်ငန်းများနှင့် ပတ်သက်၍ အင်တာဗျူးရန် တောင်းဆိုချက်များကို ငြင်းပယ်ခဲ့ပြီး အသေးစိတ်မေးခွန်းများစာရင်းကိုလည်း အပြည့်အစုံ ပြန်လည်ဖြေကြားခြင်း မရှိခဲ့ပေ။ “မော်ဒယ်တစ်ခုစီကို သူ့ရဲ့စွမ်းဆောင်ရည်အပေါ် မူတည်ပြီး အမှတ်ပေးထားပါတယ်။ ပြဿနာတွေကို တွေ့ရှိတဲ့အခါမှာတော့ အဲဒီမော်ဒယ်တွေကို အဆင့်မြှင့်တင်တာ ဒါမှမဟုတ် ပိတ်ပစ်တာမျိုး လုပ်ဆောင်ပါတယ်” ဟု Avon နှင့် Somerset ရဲတပ်ဖွဲ့ ပြောရေးဆိုခွင့်ရှိသူက ထုတ်ပြန်ချက်တွင် ဖော်ပြထားပြီး မော်ဒယ်များကို အသုံးမပြုမီ ရဲတပ်ဖွဲ့၏ ဘာသာရပ်ဆိုင်ရာ ကျွမ်းကျင်သူတစ်ဦးက ပြန်လည်သုံးသပ်ကြောင်း ထပ်လောင်းပြောကြားခဲ့သည်။

Avon နှင့် Somerset ရဲတပ်ဖွဲ့သည် ၎င်းတို့၏ ဒေတာသိပ္ပံလုပ်ငန်းများ၏ အစောပိုင်းကာလတွင် ကျင့်ဝတ်ဆိုင်ရာကော်မတီက ထောက်ပြခဲ့သည့် အန္တရာယ်များကို ဖြေရှင်းရန် မည်သို့သော အဆင့်များ လုပ်ဆောင်ခဲ့သည်မှာ ရှင်းလင်းမှုမရှိပေ။ မှတ်တမ်းတောင်းဆိုမှုများအရ ကော်မတီသည် ၂၀၁၇ ခုနှစ်နောက်ပိုင်းတွင် ခန့်မှန်းချက်ဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာမှုများ (predictive analytics) နှင့် ပတ်သက်၍ ထပ်မံဆွေးနွေးခြင်း မရှိခဲ့ပေ။ Avon နှင့် Somerset ရဲတပ်ဖွဲ့က ၎င်းတို့၏ ဝဘ်ဆိုက်တွင် ဒေတာသိပ္ပံလုပ်ငန်း၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် လုပ်ဆောင်သည့် “ထုတ်ကုန်နှင့် စီမံကိန်းတိုင်း” ကို သီးသန့်ကျင့်ဝတ်အဖွဲ့တစ်ခုက ပြန်လည်သုံးသပ်သည်ဟု ဆိုထားသော်လည်း ပြောရေးဆိုခွင့်ရှိသူက WIRED သို့ ပြောကြားရာတွင် “အလားအလာရှိသော ကျင့်ဝတ်ဆိုင်ရာ ပြဿနာများရှိသည်ဟု သတ်မှတ်နိုင်သည့် မော်ဒယ်မျိုး ထုတ်လုပ်ထားခြင်းမရှိသေးသည့်အတွက်” ယခုအချိန်အထိ အစည်းအဝေး တစ်ကြိမ်မျှ မပြုလုပ်ရသေးကြောင်း ပြောကြားခဲ့သည်။

ပြည်သူ့မှတ်တမ်းတောင်းဆိုမှုတစ်ခုကို တုံ့ပြန်သည့်အနေဖြင့် Avon နှင့် Somerset ရဲတပ်ဖွဲ့သည် လူဖြူများနှင့် လူမျိုးခြားများအတွက် ပျမ်းမျှအန္တရာယ်ရမှတ်များကို စောင့်ကြည့်နှိုင်းယှဉ်သည့် “ဘက်လိုက်မှုစစ်ဆေးသည့် အက်ပ် (bias check app)” ၏ ဖန်သားပြင်ဓာတ်ပုံကို ပေးပို့ခဲ့ပြီး “နှစ်ခုကြားတွင် သိသာထင်ရှားသော ကွာခြားမှုမရှိပါ” ဟု ကောက်ချက်ချခဲ့သည်။ Eticas ၏ ပြန်လည်သုံးသပ်ချက်တွင် “လူမျိုးရေးကို စောင့်ကြည့်ရေး ကိန်းရှင်တစ်ခုအဖြစ် ထည့်သွင်းရုံမျှဖြင့် မော်ဒယ်က ခွဲခြားဆက်ဆံသည့် ရလဒ်များ ထွက်ပေါ်လာခြင်း ရှိ၊ မရှိ စမ်းသပ်ခြင်းနှင့် တူညီမှုမရှိပါ” ဟု ဖော်ပြထားပြီး လူမျိုး၊ ကျားမနှင့် လူမှုစီးပွားရေးအဆင့်အတန်းအလိုက် ပိုမိုအသေးစိတ်သော စမ်းသပ်မှုများ မရှိခြင်းကို “သိသာထင်ရှားသော လစ်ဟာမှုတစ်ခု” အဖြစ် ဖော်ပြခဲ့သည်။

ခန့်မှန်းချက်ဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာမှုများသည် ရဲလုပ်ငန်း သို့မဟုတ် လူမှုရေးလုပ်ငန်းများတွင် အခန်းကဏ္ဍတစ်ခု ရှိသင့်သည်ဟု ယုံကြည်သလားဟု မေးမြန်းရာတွင် Davies က နောက်ထပ်လုပ်ဆောင်ရန် လိုအပ်သေးကြောင်း ပြောကြားသည်။ “ကျွန်တော်တို့ ဒါကို လုပ်ဖို့ ကြိုးစားတုန်းက မှန်ကန်တဲ့ အကြောင်းပြချက်တွေနဲ့ မှန်ကန်တဲ့နည်းလမ်းအတိုင်း လုပ်ဖို့ ကြိုးစားခဲ့တာပါ။ ဒါပေမဲ့ လိုအပ်တဲ့ စွမ်းဆောင်ရည်မျိုးတော့ ကျွန်တော်တို့မှာ မရှိခဲ့ဘူး” ဟု သူက ဆိုသည်။ ထိုလုပ်ငန်းစဉ်၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့် အန္တရာယ်ခန့်မှန်းသည့် မော်ဒယ်များသည် ဝန်ထမ်းများကို ကြိုတင်ဆုံးဖြတ်ချက်များဆီသို့ တွန်းပို့ခြင်းမရှိဘဲ မည်သို့ အသိပေးနိုင်မည်ကို ကြည့်ရှုသင့်ကြောင်း သူက ပြောသည်။ “ဝန်ထမ်းတွေက ကွန်ပျူတာပြောတာကိုပဲ ကြည့်ပြီး သူတို့ကိုယ်ပိုင် ဆုံးဖြတ်ချက်ကို မသုံးတော့မှာကို စိုးရိမ်ရပါတယ်။”

ခန့်မှန်းချက်ဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာမှုများသည် ထိုဒေသရှိ ရဲလုပ်ငန်းနှင့် ပြည်သူ့ဝန်ဆောင်မှုများတွင် အရေးပါသော အခန်းကဏ္ဍမှ ဆက်လက်ပါဝင်နေဆဲဖြစ်သည်။ Bristol မြို့တော်ကောင်စီသည် ကလေးတစ်ဦး ပညာရေး၊ အလုပ်အကိုင် သို့မဟုတ် သင်တန်းများမှ ထွက်ခွာသွားနိုင်ခြေကို အကဲဖြတ်ရန် အန္တရာယ်ရမှတ်ပေးသည့် မော်ဒယ်ကို ဆက်လက်အသုံးပြုနေသည်။ ပြီးခဲ့သည့်နှစ် ဇူလိုင်လက ပေးအပ်ခဲ့သော Avon နှင့် Somerset ရဲတပ်ဖွဲ့၏ နောက်ဆုံးစာရင်းစစ်အချက်အလက်များအရ Offender Management App (ပြစ်မှုကျူးလွန်သူများ စီမံခန့်ခွဲမှုအက်ပ်) တွင် အသုံးပြုသည့် မော်ဒယ်သည် အမှန်တကယ် ပြစ်မှုကျူးလွန်သူ သုံးဦးတွင် တစ်ဦးကိုသာ မှန်ကန်စွာ ခန့်မှန်းနိုင်ပြီး၊ ပြစ်မှုကျူးလွန်နိုင်သည်ဟု သတ်မှတ်ခံရသူ လေးဦးတွင် တစ်ဦးမှာမူ ပြစ်မှုကျူးလွန်ခြင်း မရှိကြောင်း သိရသည်။