DeepSeek AI Development: $ 1.6 ဘီလီယံသုံးစွဲခဲ့ပြီးစျေးနှုန်းချိုသာသောဒဏ် my ာရီ

Apr 15,25

Bodseek ၏ chatbot "မင်္ဂလာပါ, မင်းကိုဖန်တီးနိုင်မှာပါ။ မင်းကိုအံ့အားသင့်စေပြီးမင်းကိုအံ့အားသင့်စရာကောင်းလောက်အောင်အဖြေရနိုင်တယ်" လို့ချက်ချင်းပေါ်ပေါက်လာတယ်။ ၎င်း၏သက်ရောက်မှုသည်အလွန်အရေးကြီးသောကြောင့် Nvidia ၏အကြီးဆုံးစတော့ရှယ်ယာဈေးနှုန်းကျဆင်းမှုတစ်ခုသို့ ဦး ဆောင်ခဲ့သည်။ ဤအောင်မြင်မှုသည် Bodseek ၏တီထွင်ဖန်တီးမှုနှင့်လေ့ကျင့်ရေးနည်းလမ်းများအတွက်ဆန်းသစ်တီထွင်မှုနည်းလမ်းများတွင်အမြစ်တွယ်နေသည်။

DeepSeek ၏မော်ဒယ်သည်အဆင့်မြင့်နည်းပညာများအသုံးပြုခြင်းကြောင့်ထင်ရှားသည်။ ပထမ ဦး ဆုံးမှာ Multi-token passistiction (MTP) သည် ဝါကျ၏ကွဲပြားခြားနားသောအစိတ်အပိုင်းများကိုခွဲခြမ်းစိတ်ဖြာခြင်းအားဖြင့်တစ်ချိန်တည်းတွင်စကားလုံးများစွာကိုကြိုတင်ခန့်မှန်းထားသည်။ ၎င်းသည်တိကျမှန်ကန်မှုကိုတိုးတက်စေသည်သာမကထိရောက်မှုကိုမြှင့်တင်ပေးသည်။ နောက်ထပ်အဓိကအကြောင်းရင်းတစ်ခုမှာ The Teal Nernure ကွန်ယက် 256 ခုကိုအလုပ်ခန့်ထားသည့် ကျွမ်းကျင်သူများ (MoE) ဗိသုကာအရောအနှောများရောနှောခြင်း , ၎င်းသည်လေ့ကျင့်မှုနှင့်စွမ်းဆောင်ရည်မြှင့်တင်ပေးသည်။ နောက်ဆုံးအနေဖြင့် Multi-Head llent အာရုံစူးစိုက်မှု (MLA) သည် ဝါကျ၏အရေးပါသောအစိတ်အပိုင်းများကိုအာရုံစိုက်သည်။

Deepseek စစ်ဆေးမှု image: ensigame.com

နက်ရှိုင်းသောတရုတ် startup တစ်ခုဖြစ်သော Of-STORTION AI မော်ဒယ်ကိုအနည်းဆုံးကုန်ကျစရိတ်ဖြင့်တီထွင်ခဲ့ရသည်ဟုဆိုထားသည်။ 2048 ဂရပ်ဖစ်ပရိုဆက်ဆာများသာအသုံးပြုသော Bodseek v3 ကိုလေ့ကျင့်ရေးအတွက်ဒေါ်လာ 6 သန်းသာသုံးစွဲခဲ့သည်ဟုသူတို့ကဖော်ပြသည်။ သို့ရာတွင် Semianalisys မှလေ့လာသုံးသပ်သူများက Bodseek သည် H800 H800 H800 H800, H800 H100s နှင့်နောက်ထပ် H20 GPU များအပါအ 0 င် Nvidia Hopper GPU များပါ 0 င်သည်။ ဤအရင်းအမြစ်များကိုဒေတာစင်တာများစွာဖြင့်ပျံ့နှံ့သွားပြီး AI သင်တန်း, သုတေသနနှင့်ဘဏ် modelioding ာရေးဆိုင်ရာပုံစံများအတွက်အသုံးပြုသည်။

DeepSeek v3 image: ensigame.com

ကုမ္ပဏီ၏ဆာဗာများတွင်စုစုပေါင်းရင်းနှီးမြှုပ်နှံမှုသည်ဒေါ်လာ 1.6 ဘီလီယံဖြစ်ပြီး, DeepSeek သည်တရုတ်ခြံစည်းရိုးအဆင့်မြင့်လက်ကမ်းကြော်ငြာ၏လက်အောက်ခံဖြစ်သည်။ Startup အများစုနှင့်မတူဘဲ Bodseeek သည်၎င်း၏အချက်အလက်စင်တာများကိုပိုင်ဆိုင်သည်။ AI Model Optimization နှင့်ပိုမိုမြန်ဆန်သောဆန်းသစ်တီထွင်မှုအကောင်အထည်ဖော်မှုကိုအပြည့်အဝထိန်းချုပ်ရန်ခွင့်ပြုသည်။ ကုမ္ပဏီအနေဖြင့်မိမိကိုယ်ကိုရန်ပုံငွေရှင်းရှင်းလင်းလင်းထားရှိပြီး၎င်း၏ပြောင်းလွယ်ပြင်လွယ်မှုနှင့်ဆုံးဖြတ်ချက်ချခြင်းမြန်နှုန်းကိုတိုးမြှင့်ပေးနေဆဲဖြစ်သည်။

နက်ရှိုင်းသော image: ensigame.com

ထို့အပြင်နက်ရှိုင်းသည်နက်ရှိုင်းစွာကတရုတ်တက္ကသိုလ်များမှထိပ်တန်းအရည်အချင်းများကိုဆွဲဆောင်ကာနှစ်စဉ်ဒေါ်လာ 1.3 သန်းကျော်ကိုရရှိသည်။ ကုမ္ပဏီ၏ဒေါ်လာ 6 သန်းမျှသာသာအသုံးစရိတ်များရှိနေသော်လည်းဤကိန်းဂဏန်းသည် GPU အသုံးပြုမှုအတွက်သာမန်အားဖြင့်လေ့ကျင့်ခန်းမပြုလုပ်စဉ်နှင့်သုတေသနကုန်ကျစရိတ်များ, Bodseek သည် AI Development တွင်ဒေါ်လာသန်း 500 ကျော်ရင်းနှီးမြှုပ်နှံခဲ့သည်။ ၎င်း၏ကျစ်လစ်သိပ်သည်းသောဖွဲ့စည်းပုံက၎င်းကို AI ဆန်းသစ်တီထွင်မှုများကိုတက်ကြွစွာနှင့်ထိရောက်စွာထိထိရောက်ရောက်ထိရောက်စွာအကောင်အထည်ဖော်ရန်အထောက်အကူပြုသည်။

နက်ရှိုင်းသော image: ensigame.com

နက်ရှိုင်းသောပုံသက်သေကငွေကြေးထောက်ပံ့သောလွတ်လပ်သော AI ကုမ္ပဏီများသည်စက်မှုလုပ်ငန်းခေါင်းဆောင်များနှင့်ယှဉ်ပြိုင်နိုင်ကြောင်းနက်ရှိုင်းသောပုံသက်သေကဖော်ပြသည်။ သို့သော်ကျွမ်းကျင်သူများကကုမ္ပဏီ၏အောင်မြင်မှုသည် AI မော်ဒယ်များကိုတီထွင်ရန်အတွက် "တော်လှန်ရေးဘတ်ဂျက်ရေးဆွဲခြင်းထက်သိသာထင်ရှားသည့်ရင်းနှီးမြှုပ်နှံမှုများ, နည်းပညာဆိုင်ရာအောင်မြင်မှုများ, ဤသို့ဖြစ်လင့်ကစားသည်အဆင်သင့်ဖြစ်နေသော်လည်းအထူးသီးသန့်ကုန်ကျစရိတ်များသည်ပြိုင်ဘက်များထက်နိမ့်ကျနေဆဲ, ဥပမာအားဖြင့် Beysseek သည် R1 တွင်ဒေါ်လာ 5 သန်းသုံးစွဲခဲ့သော်လည်း ChatGpt4o သည်ဒေါ်လာသန်း 100 ကုန်ကျသည်။

ထိပ်တန်းသတင်းများ
နောက်ထပ်
Copyright © 2024 godbu.com All rights reserved.