ဝါရှင်တန်တွင် စိုးရိမ်မှုဖြစ်စေခဲ့သည့် AI လုံခြုံရေး သရုပ်ပြမှု

(SeaPRwire) –   In the Loop သတင်းလွှာအသစ်ထံ ပြန်လည်ကြိုဆိုပါတယ်။ ၎င်းသည် AI နှင့်ပတ်သက်သည့် TIME ၏ အပတ်စဉ် နှစ်ကြိမ်ထုတ် သတင်းလွှာဖြစ်ပါသည်။ သင်သည် ဤစာသားကို ဝဘ်ဘရောက်ဇာတွင် ဖတ်နေပါက နောက်တစ်ကြိမ်ထုတ်ကို သင့်အတွက် အတည်ပြုထားသော အီးမေးလ်သို့ တိုက်ရိုက်ပို့ပေးရန် မည်ကဲ့သို့ လုပ်ဆောင်ရမည်ကို သိရှိလိုပါသလား။

သိထားသင့်သည်များ – အန္တရာယ်ရှိသော သရုပ်ပြမှု

လွန်ခဲ့သော နှစ်ကုန်ပိုင်းတွင် AI သုတေသီတစ်ဦးသည် သူ၏ လက်တော့ပ်ဖွင့်ပြီး ကျွန်တော့်ကို အံ့အားသင့်စရာ တစ်ခုခုကို ပြသခဲ့သည်။

လူကပ်စ် ဟန်ဆန်သည် အကျိုးအမြတ်မယူသော CivAI ၏ ပူးတွဲတည်ထောင်သူဖြစ်ပြီး လူကြိုက်များသော AI မော်ဒယ်များကို ပိုလီယိုဗိုင်းရပ်စ်နှင့် သံဓာတ်ဆိပ်သင့်ခြင်း (anthrax) ဖန်တီးရန် အဆင့်ဆင့် လုပ်ဆောင်ချက်များကို အသေးစိတ် ညွှန်ကြားချက်များ ပေးစေရန် ဆွဲဆောင်သည့် သူတည်ဆောက်ထားသော အက်ပလီကေးရှင်းတစ်ခုကို ကျွန်တော့်အား ပြသခဲ့သည်။ ထို မော်ဒယ်များတွင် ရှိခဲ့သော မည်သည့် လုံခြုံရေး ခံနိုင်ရည်များမဆို ဖယ်ရှားခံထားရသည်။ ထို အက်ပ်တွင် အသုံးပြုရလွယ်ကူသော အင်တာဖေ့စ်ရှိပြီး ခလုတ်တစ်ချက်နှိပ်လိုက်ရုံဖြင့် မော်ဒယ်သည် ပေးထားသော မည်သည့်အဆင့်ကိုမဆို ရှင်းလင်းစွာ ဖော်ပြပေးနိုင်သည်။

ထိပ်တန်း AI ကုမ္ပဏီများသည် သူတို့၏ မော်ဒယ်များသည် မကြာမီကာလအတွင်း စတင်လုပ်ကိုင်သူများအား အန္တရာယ်ရှိသော ရောဂါပိုးမွှားများ ဖန်တီးရန် ကူညီနိုင်မည်ဖြစ်ကြောင်း နှစ်ပေါင်းများစွာ သတိပေးနေခဲ့ကြသည်—၎င်းသည် သေလောက်အောင် ကပ်ဘေးဆိုက်ရောက်စေနိုင်သည် သို့မဟုတ် ဇီဝအကြမ်းဖက်မှုတစ်ခုကို ဖြစ်ပေါ်စေနိုင်သည်။ ဤအန္တရာယ်များကို ရင်ဆိုင်ရာတွင် OpenAI၊ Google နှင့် Anthropic ကဲ့သို့သော ကုမ္ပဏီများသည် ၎င်းတို့၏ နောက်ဆုံးထွက် ပိုမိုစွမ်းအားပြင်းသော မော်ဒယ်များအတွက် လုံခြုံရေးယန္တရားများကို တင်းကျပ်စွာ ချမှတ်ထားကြပြီး ယင်းမော်ဒယ်များသည် “ ဂျေလ်ဘရိတ်ချ” ကြိုးပမ်းမှုများကို ခုခံနိုင်စွမ်း ပိုမိုကောင်းမွန်ကြသည်။

သို့သော် ဟန်ဆန်၏ လက်တော့ပ်ပေါ်တွင် ကျွန်တော်သည် မော်ဒယ်များ၏ မျိုးဆက်ဟောင်းတစ်ခုဖြစ်သော Gemini 2.0 Flash နှင့် Claude 3.5 Sonnet တို့သည် ဇီဝလက်နက်ဆိုင်ရာ တောင်းဆိုချက်များကို လိုက်လျောပေးနေသည့်ပုံကို ကြည့်ရှုနေရသည်။ Gemini သည် ဗုံးတစ်လုံးနှင့် 3D နည်းဖြင့် ပုံနှိပ်ထားသော မမြင်ရသောသေနတ် (ghost gun) တစ်လက်တည်ဆောက်ရန် အဆင့်ဆင့် ညွှန်ကြားချက်များကိုလည်း ပေးခဲ့သည်။

စောင့်ပါ — ကျွန်တော်သည် ဇီဝဗေဒပညာရှင်မဟုတ်ပါ၊ ထို့ကြောင့် ဟန်ဆန်၏ မျက်နှာပြင်ပေါ်ရှိ ညွှန်ကြားချက်များသည် တကယ်အလုပ်ဖြစ်ခဲ့မည်ကို အတည်ပြုရန် ကျွန်တော့်တွင် နည်းလမ်းမရှိပါ။ ပထမဦးစွာ ကြည့်ရှုရာတွင် ယုံကြည်စရာကောင်းသည်ဟု ထင်ရသော မော်ဒယ်များ၏ ရလဒ်များသည်လည်း လက်တွေ့တွင် အလုပ်မဖြစ်နိုင်ပါ။ ဥပမာအားဖြင့် Anthropic သည် “ uplift trials” ဟုခေါ်သော လေ့လာမှုများကို ပြုလုပ်ခဲ့ပြီး ယင်းတွင် လွတ်လပ်သော ကျွမ်းကျင်သူများက စတင်လုပ်ကိုင်သူတစ်ဦးအား အန္တရာယ်ရှိသော ရောဂါပိုးမွှားများ ဖန်တီးရန် AI မော်ဒယ်များက မည်မျှအထိ ကူညီနိုင်သည်ကို အကဲဖြတ်ခဲ့ကြသည်။ သူတို့၏ တိုင်းတာမှုအရ Claude 3.5 Sonnet သည် အန္တရာယ်အတွက် သတ်မှတ်ချက်ကို မပြည့်မီခဲ့ပါ။ ထုတ်ပြန်ချက်တစ်ခုတွင် Google ၏ ပြောရေးဆိုခွင့်ရှိသူက “ လုံခြုံရေးသည် ဦးစားပေးအရေးကိစ္စဖြစ်ပြီး ကျွန်ုပ်တို့သည် ထိုကဲ့သို့သော ကိစ္စရပ်များကို အလွန်အရေးယူဆောင်ရွက်ပါသည်။ ကျွန်ုပ်တို့၏ မော်ဒယ်များကို ဤကဲ့သို့သော အပြုအမူမျိုးတွင် ပါဝင်ခွင့်မပြုပါ။ သို့သော် ကျွန်ုပ်တို့သည် သုတေသနကို ပြန်လည်သုံးသပ်နိုင်ခြင်းမရှိသောကြောင့် ၎င်း၏ တိကျမှုကို အတည်ပြုနိုင်ခြင်းမရှိပါ။ CBRN [ဓာတုဗေဒ၊ ဇီဝဗေဒ၊ ရေဒီယိုသတ္တိကြွ၊ နျူကလီးယား] နောက်ခံရှိသော ကျွမ်းကျင်သူတစ်ဦးက တိုက်တွန်းချက်များနှင့် တုံ့ပြန်ချက်များ၏ တိကျမှုနှင့် ပြန်လည်ထုတ်လုပ်နိုင်စွမ်းကို နားလည်ရန် အကဲဖြတ်ရန် အရေးကြီးပါသည်” ဟု ပြောကြားခဲ့သည်။

အကြံပြုချက်များနှင့် နည်းလမ်းများ — သို့သော် CivAI ၏ အခြားပူးတွဲတည်ထောင်သူ ဆိဒ်ဒါ့ထ် ဟီရီဂိုဒါရာက သူ၏ အဖွဲ့သည် မော်ဒယ်များ၏ ရလဒ်များကို လွတ်လပ်သော ဇီဝဗေဒနှင့် ဗိုင်းရပ်စ်ဗေဒ ကျွမ်းကျင်သူများထံတင်ပြခဲ့ကြောင်း၊ ထိုကျွမ်းကျင်သူများက အဆင့်များသည် “ အများအားဖြင့် မှန်ကန်ကြောင်း” အတည်ပြုခဲ့ကြောင်း ပြောကြားခဲ့သည်။ မော်ဒယ်မျိုးဆက်ဟောင်းများသည် အသုံးပြုသူတစ်ဦးအနေဖြင့် အွန်လိုင်းလက်ကားရောင်းချသူတစ်ဦးထံမှ မှာယူနိုင်သော သီးသန့် DNA အစီအစဉ်များအထိ မှန်ကန်သော အသေးစိတ်အချက်အလက်များကို ပေးနိုင်ဆဲဖြစ်ပြီး အွန်လိုင်းမှ မှာယူရန် အခြားဓာတ်ခွဲခန်းသုံး ကိရိယာများအတွက် သီးသန့် ကတ်တလောက်နံပါတ်များကိုလည်း ပေးနိုင်ဆဲဖြစ်ကြောင်း သူကဆိုသည်။ “ ပြီးတော့ ဒါက သင့်ကို အကြံပြုချက်တွေ၊ နည်းလမ်းတွေ ပေးတယ်” ဟု ၎င်းက ဆိုသည်။ “ လူတွေမှာ ရှိကြတဲ့ မှားယွင်းတဲ့ ထင်မြင်ယူဆချက်တစ်ခုက AI ဟာ ဓာတ်ခွဲခန်းထဲက လက်တွေ့ကမ္ဘာရဲ့ သိသိသာသာ မပြောပြသော အသိပညာ (tacit knowledge) ကို ချို့တဲ့မယ်လို့ ယူဆကြတာပဲ။ ဒါပေမယ့် တကယ်တော့ AI က ဒီအတွက် အရမ်းကို အထောက်အကူပြုတယ်” ။

လွှတ်တော် ဆက်သွယ်ရေး ကိရိယာအသစ် — ဤအက်ပလီကေးရှင်းသည် လူထုအတွက် ရရှိနိုင်ခြင်းမရှိကြောင်းကို ပြောစရာမလိုပါ။ သို့သော် ၎င်း၏ ဖန်တီးသူများသည် ၎င်းကို ဝါရှင်တန် ဒီစီသို့ ခေါ်ဆောင်သွားပြီးဖြစ်ကာ ဥပဒေပြုသူများ၏ ရုံးများ၊ အမျိုးသားလုံခြုံရေးအရာရှိများနှင့် ကွန်ဂရက်ကော်မတီများသို့ နှစ်ဆယ့်လေးခုခန့် သီးသန့် သရုပ်ပြမှုများ ပေးခဲ့ကြသည်။ ယနေ့ AI လုပ်နိုင်သည့် အစွမ်းသတ္တိကို မူဝါဒချမှတ်သူများအား ထိတွေ့ခံစားနိုင်အောင် သရုပ်ပြရန်