Granite-TimeSeries-FlowState-R1-NPU推理腳本逐行解讀從模型加載到FORECAST輸出的完整流程【免費(fèi)下載鏈接】granite-timeseries-flowstate-r1-npu項(xiàng)目地址: https://ai.gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npuGranite-TimeSeries-FlowState-R1-NPU 推理腳本是 IBM Research 開源的 FlowState 時(shí)序基礎(chǔ)模型在昇騰 NPU 上的核心交付物整個(gè)倉(cāng)庫(kù)都圍繞它構(gòu)建。本文帶你逐行解讀這份不到 150 行的 inference.py完整梳理從模型加載、輸入構(gòu)造、NPU 前向計(jì)算到 FORECAST 語(yǔ)義輸出的全流程零基礎(chǔ)也能看懂時(shí)間序列預(yù)測(cè)推理是如何一步步跑起來(lái)的。先認(rèn)識(shí) FlowState零樣本時(shí)序預(yù)測(cè)新標(biāo)桿在動(dòng)手讀代碼之前先花 1 分鐘了解模型本身。FlowState 是 IBM Research 發(fā)布的首個(gè)時(shí)間尺度可調(diào)time-scale adjustable時(shí)序基礎(chǔ)模型憑借不到 1000 萬(wàn)的參數(shù)量就在 GIFT-Eval 榜單上超越了眾多數(shù)十億參數(shù)的零樣本時(shí)序預(yù)測(cè)模型堪稱以小博大的典范。它的架構(gòu)由兩大部分組成S5 狀態(tài)空間模型SSM編碼器6 層、state dim 512、8 個(gè) HiPPO block負(fù)責(zé)把觀測(cè)序列編碼到尺度不變的系數(shù)空間Legendre 函數(shù)基解碼器Functional Basis Decoder用連續(xù)基函數(shù)做連續(xù)預(yù)測(cè)從而在不重新訓(xùn)練的情況下適配不同采樣率。本次交付固定的是 r1.0 版本權(quán)重輸入形狀(batch, 2048, 1)輸出(batch, 96, 1)的點(diǎn)預(yù)測(cè)另有(batch, 9, 96, 1)的分位數(shù)預(yù)測(cè)。換句話說(shuō)給模型 2048 個(gè)歷史觀測(cè)點(diǎn)它能預(yù)測(cè)未來(lái) 96 個(gè)時(shí)間步。推理腳本的項(xiàng)目結(jié)構(gòu)一目了然整個(gè)倉(cāng)庫(kù)采用自包含交付設(shè)計(jì)推理所需的一切都收攏在倉(cāng)庫(kù)根目錄運(yùn)行時(shí)不聯(lián)網(wǎng)、不依賴外部文件文件/目錄作用inference.py推理入口腳本控制主流程并輸出 FORECAST 語(yǔ)義標(biāo)記_delivery_common.py共享工具模塊模型加載、輸入構(gòu)造、前向計(jì)算model/固定版本模型快照config.jsonmodel.safetensors約 36 MBassets/運(yùn)行產(chǎn)物輸入數(shù)組、預(yù)測(cè)數(shù)組與驗(yàn)證截圖requirements.txt精確版本鎖定的依賴清單inference.py只從_delivery_common導(dǎo)入輔助函數(shù)所有路徑都從腳本自身位置推導(dǎo)因此無(wú)論在哪里執(zhí)行都能找到模型與依賴——這是它的第一個(gè)設(shè)計(jì)亮點(diǎn)完全自包含。上圖記錄了整個(gè)模型適配與驗(yàn)收的 Agent 工作流從環(huán)境審計(jì)、模型導(dǎo)入、推理執(zhí)行到證據(jù)歸檔每一步都被記錄在案最終形成一份可追溯的交付報(bào)告。逐行解讀推理腳本六大關(guān)鍵環(huán)節(jié)環(huán)節(jié)一導(dǎo)入與常量——三行代碼點(diǎn)亮 NPU腳本開頭inference.py第 17–33 行只做了三件事導(dǎo)入標(biāo)準(zhǔn)庫(kù)、導(dǎo)入深度學(xué)習(xí)庫(kù)、定義常量。其中最值得新手留意的是這一行import torch_npu。它的作用是在 PyTorch 中注冊(cè)昇騰 NPU 設(shè)備讓torch.npu相關(guān)的 API 可用。沒有它后續(xù)的DEVICE npu:0就無(wú)從談起。緊接著定義了三個(gè)核心常量DEVICE npu:0所有計(jì)算都綁定在邏輯 NPU 設(shè)備 0 上WARMUP_ITERATIONS 1正式計(jì)時(shí)前先熱身一次SEMANTIC_PREFIX FORECAST語(yǔ)義輸出標(biāo)記的前綴供下游流水線解析。環(huán)節(jié)二模型加載與輸入構(gòu)造——確定性是關(guān)鍵進(jìn)入main()函數(shù)后第一件事就是加載模型inference.py第 44–50 行實(shí)際邏輯在_delivery_common.py的load_model()第 43–52 行用FlowStateForPrediction.from_pretrained(model, local_files_onlyTrue)從本地快照加載權(quán)重local_files_onlyTrue明確禁止聯(lián)網(wǎng)下載調(diào)用model.eval()切換到推理模式通過(guò).to(npu:0)把模型整體搬到昇騰 NPU。接著用build_input()構(gòu)造輸入張量_delivery_common.py第 55–59 行使用固定隨機(jī)種子42生成形狀為(2, 2048, 1)的標(biāo)準(zhǔn)正態(tài)分布輸入。為什么要固定種子因?yàn)橹挥休斎胪耆_定才能保證每次運(yùn)行結(jié)果可復(fù)現(xiàn)、可審計(jì)——這是流水線驗(yàn)收的基石。環(huán)節(jié)三熱身與計(jì)時(shí)——同步計(jì)時(shí)才可信加載完成后inference.py第 53–62 行腳本先執(zhí)行一次不計(jì)時(shí)的 warmup 前向讓算子在 NPU 上完成預(yù)熱避免首次調(diào)用帶來(lái)的額外開銷污染性能數(shù)據(jù)。隨后進(jìn)入正式計(jì)時(shí)先用torch.npu.synchronize()同步設(shè)備再記錄起始時(shí)間、執(zhí)行前向、再次同步、記錄結(jié)束時(shí)間最后換算成毫秒。兩次同步之間夾著計(jì)時(shí)得到的就是真實(shí)的端到端前向耗時(shí)。本次實(shí)測(cè)NPU_FORWARD_MS約為 1629 毫秒。上圖是推理腳本運(yùn)行期間npu-smi的設(shè)備監(jiān)控快照可以看到 910B4 卡的健康狀態(tài)、功耗、HBM 占用以及 python3.11 推理進(jìn)程占用的顯存——這就是推理腳本扎根在 NPU 上的直觀證據(jù)。環(huán)節(jié)四設(shè)備校驗(yàn)與輸出標(biāo)記——絕不偷偷回退 CPU推理完成后inference.py第 65–77 行腳本做了三處斷言輸入張量、模型參數(shù)、輸出張量必須全部位于npu:0。任何一環(huán)在 CPU 上都會(huì)直接報(bào)錯(cuò)而不是靜默回退。確認(rèn)無(wú)誤后腳本打印四個(gè)設(shè)備標(biāo)記INPUT_DEVICE、MODEL_DEVICE、OUTPUT_DEVICE均為npu:0以及CPU_FALLBACKfalse。這一行專門用來(lái)向流水線證明這次推理 100% 發(fā)生在昇騰 NPU 上。環(huán)節(jié)五結(jié)果轉(zhuǎn)出與質(zhì)量檢查——NaN/Inf 一個(gè)都不放過(guò)接下來(lái)inference.py第 80–91 行腳本把預(yù)測(cè)結(jié)果從 NPU 張量轉(zhuǎn)成 NumPy 數(shù)組先.detach().cpu()再.numpy()并對(duì)真實(shí)輸出做體檢檢查輸出 shape 是否為(2, 96, 1)統(tǒng)計(jì) NaN 數(shù)量與 Inf 數(shù)量理想情況下均為 0把輸入和預(yù)測(cè)數(shù)組分別保存為assets/input.npy與assets/forecasts.npy作為可復(fù)現(xiàn)的原始證據(jù)。環(huán)節(jié)六FORECAST 語(yǔ)義輸出與統(tǒng)計(jì)——流水線的交接棒最后inference.py第 94–120 行腳本以KEYvalue的格式輸出一系列機(jī)器可讀標(biāo)記其中最核心的是FORECAST-0.204462,-0.173393,-0.081242,... FORECAST_SHAPE2,96,1 FORECAST_HORIZON96 FORECAST_NAN_COUNT0 FORECAST_INF_COUNT0 NPU_FORWARD_MS1629.774 EXIT_CODE0FORECAST這一行就是流水線最關(guān)心的語(yǔ)義輸出真實(shí)運(yùn)行產(chǎn)生的未來(lái) 96 步點(diǎn)預(yù)測(cè)打印前 8 個(gè)。配合FORECAST_SHAPE、FORECAST_HORIZON、FORECAST_BATCH、FORECAST_MIN/MAX/MEAN等統(tǒng)計(jì)下游可以快速判斷本次推理是否健康。此外腳本還會(huì)讀取可選的quantile_outputs分位數(shù)預(yù)測(cè)shape 為(2, 9, 96, 1)記錄其形狀作為概率預(yù)測(cè)的證據(jù)。一次真實(shí)運(yùn)行的輸出逐項(xiàng)怎么看上圖為模型最終適配驗(yàn)收結(jié)果截圖。這里挑幾個(gè)關(guān)鍵字段說(shuō)明含義輸出字段含義本次實(shí)測(cè)INPUT_SEQUENCE輸入序列前 8 個(gè)值1.926915, 1.487284, ...FORECAST點(diǎn)預(yù)測(cè)前 8 個(gè)值-0.204462, -0.173393, ...FORECAST_SHAPE預(yù)測(cè)張量形狀2,96,1batch×horizon×通道FORECAST_NAN_COUNTNaN 數(shù)量0FORECAST_INF_COUNTInf 數(shù)量0FORECAST_MEAN預(yù)測(cè)均值-0.104348NPU_FORWARD_MS單次前向耗時(shí)1629.774msEXIT_CODE進(jìn)程退出碼0成功如何運(yùn)行這份推理腳本想親手復(fù)現(xiàn)這份推理腳本在已配置好昇騰 NPU 與 torch_npu 的環(huán)境中只需兩條命令git clone https://gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npu cd granite-timeseries-flowstate-r1-npu python3 inference.py運(yùn)行結(jié)束后終端會(huì)打印出上文介紹的全部KEYvalue標(biāo)記同時(shí)assets/目錄下會(huì)多出input.npy與forecasts.npy兩份原始證據(jù)文件。常見問(wèn)題速答Q1為什么輸入必須固定種子 42為了保證每次運(yùn)行生成完全相同的輸入讓結(jié)果可復(fù)現(xiàn)、可對(duì)比。流水線驗(yàn)收要求同一輸入、同一模型、同一設(shè)備固定種子是前提。Q2local_files_onlyTrue有什么作用它禁止 Hugging Face 從網(wǎng)絡(luò)下載權(quán)重。推理環(huán)境往往無(wú)法聯(lián)網(wǎng)且權(quán)重已隨倉(cāng)庫(kù)發(fā)布本地加載既快又安全。Q3CPU_FALLBACKfalse意味著什么意味著腳本檢測(cè)到任何 CPU 回退都會(huì)失敗退出而不是偷偷用 CPU 算。這對(duì)昇騰 NPU 交付的驗(yàn)收至關(guān)重要。Q4分位數(shù)預(yù)測(cè)和點(diǎn)預(yù)測(cè)有什么區(qū)別點(diǎn)預(yù)測(cè)給出未來(lái) 96 步的單一估計(jì)值prediction_outputs分位數(shù)預(yù)測(cè)則給出 9 個(gè)分位點(diǎn)0.1~0.9的區(qū)間分布quantile_outputs能反映預(yù)測(cè)的不確定性。結(jié)語(yǔ)從模型加載、確定性輸入構(gòu)造、NPU 同步計(jì)時(shí)前向到設(shè)備校驗(yàn)、質(zhì)量檢查與 FORECAST 語(yǔ)義輸出Granite-TimeSeries-FlowState-R1-NPU 的推理腳本用不到 150 行代碼把一條可復(fù)現(xiàn)、可審計(jì)、可交接的昇騰 NPU 時(shí)序預(yù)測(cè)流水線完整呈現(xiàn)出來(lái)。希望這篇逐行解讀能幫你快速上手這份推理腳本也讓你對(duì) NPU 上的時(shí)序預(yù)測(cè)推理流程有一個(gè)清晰的全貌?！久赓M(fèi)下載鏈接】granite-timeseries-flowstate-r1-npu項(xiàng)目地址: https://ai.gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npu創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 Granite-TimeSeries-FlowState-R1-NPU推理腳本逐行解讀：從模型加載到FORECAST輸出的完整流程
Granite-TimeSeries-FlowState-R1-NPU推理腳本逐行解讀從模型加載到FORECAST輸出的完整流程【免費(fèi)下載鏈接】granite-timeseries-flowstate-r1-npu項(xiàng)目地址: https://ai.gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npuGranite-TimeSeries-FlowState-R1-NPU 推理腳本是 IBM Research 開源的 FlowState 時(shí)序基礎(chǔ)模型在昇騰 NPU 上的核心交付物整個(gè)倉(cāng)庫(kù)都圍繞它構(gòu)建。本文帶你逐行解讀這份不到 150 行的 inference.py完整梳理從模型加載、輸入構(gòu)造、NPU 前向計(jì)算到 FORECAST 語(yǔ)義輸出的全流程零基礎(chǔ)也能看懂時(shí)間序列預(yù)測(cè)推理是如何一步步跑起來(lái)的。先認(rèn)識(shí) FlowState零樣本時(shí)序預(yù)測(cè)新標(biāo)桿在動(dòng)手讀代碼之前先花 1 分鐘了解模型本身。FlowState 是 IBM Research 發(fā)布的首個(gè)時(shí)間尺度可調(diào)time-scale adjustable時(shí)序基礎(chǔ)模型憑借不到 1000 萬(wàn)的參數(shù)量就在 GIFT-Eval 榜單上超越了眾多數(shù)十億參數(shù)的零樣本時(shí)序預(yù)測(cè)模型堪稱以小博大的典范。它的架構(gòu)由兩大部分組成S5 狀態(tài)空間模型SSM編碼器6 層、state dim 512、8 個(gè) HiPPO block負(fù)責(zé)把觀測(cè)序列編碼到尺度不變的系數(shù)空間Legendre 函數(shù)基解碼器Functional Basis Decoder用連續(xù)基函數(shù)做連續(xù)預(yù)測(cè)從而在不重新訓(xùn)練的情況下適配不同采樣率。本次交付固定的是 r1.0 版本權(quán)重輸入形狀(batch, 2048, 1)輸出(batch, 96, 1)的點(diǎn)預(yù)測(cè)另有(batch, 9, 96, 1)的分位數(shù)預(yù)測(cè)。換句話說(shuō)給模型 2048 個(gè)歷史觀測(cè)點(diǎn)它能預(yù)測(cè)未來(lái) 96 個(gè)時(shí)間步。推理腳本的項(xiàng)目結(jié)構(gòu)一目了然整個(gè)倉(cāng)庫(kù)采用自包含交付設(shè)計(jì)推理所需的一切都收攏在倉(cāng)庫(kù)根目錄運(yùn)行時(shí)不聯(lián)網(wǎng)、不依賴外部文件文件/目錄作用inference.py推理入口腳本控制主流程并輸出 FORECAST 語(yǔ)義標(biāo)記_delivery_common.py共享工具模塊模型加載、輸入構(gòu)造、前向計(jì)算model/固定版本模型快照config.jsonmodel.safetensors約 36 MBassets/運(yùn)行產(chǎn)物輸入數(shù)組、預(yù)測(cè)數(shù)組與驗(yàn)證截圖requirements.txt精確版本鎖定的依賴清單inference.py只從_delivery_common導(dǎo)入輔助函數(shù)所有路徑都從腳本自身位置推導(dǎo)因此無(wú)論在哪里執(zhí)行都能找到模型與依賴——這是它的第一個(gè)設(shè)計(jì)亮點(diǎn)完全自包含。上圖記錄了整個(gè)模型適配與驗(yàn)收的 Agent 工作流從環(huán)境審計(jì)、模型導(dǎo)入、推理執(zhí)行到證據(jù)歸檔每一步都被記錄在案最終形成一份可追溯的交付報(bào)告。逐行解讀推理腳本六大關(guān)鍵環(huán)節(jié)環(huán)節(jié)一導(dǎo)入與常量——三行代碼點(diǎn)亮 NPU腳本開頭inference.py第 17–33 行只做了三件事導(dǎo)入標(biāo)準(zhǔn)庫(kù)、導(dǎo)入深度學(xué)習(xí)庫(kù)、定義常量。其中最值得新手留意的是這一行import torch_npu。它的作用是在 PyTorch 中注冊(cè)昇騰 NPU 設(shè)備讓torch.npu相關(guān)的 API 可用。沒有它后續(xù)的DEVICE npu:0就無(wú)從談起。緊接著定義了三個(gè)核心常量DEVICE npu:0所有計(jì)算都綁定在邏輯 NPU 設(shè)備 0 上WARMUP_ITERATIONS 1正式計(jì)時(shí)前先熱身一次SEMANTIC_PREFIX FORECAST語(yǔ)義輸出標(biāo)記的前綴供下游流水線解析。環(huán)節(jié)二模型加載與輸入構(gòu)造——確定性是關(guān)鍵進(jìn)入main()函數(shù)后第一件事就是加載模型inference.py第 44–50 行實(shí)際邏輯在_delivery_common.py的load_model()第 43–52 行用FlowStateForPrediction.from_pretrained(model, local_files_onlyTrue)從本地快照加載權(quán)重local_files_onlyTrue明確禁止聯(lián)網(wǎng)下載調(diào)用model.eval()切換到推理模式通過(guò).to(npu:0)把模型整體搬到昇騰 NPU。接著用build_input()構(gòu)造輸入張量_delivery_common.py第 55–59 行使用固定隨機(jī)種子42生成形狀為(2, 2048, 1)的標(biāo)準(zhǔn)正態(tài)分布輸入。為什么要固定種子因?yàn)橹挥休斎胪耆_定才能保證每次運(yùn)行結(jié)果可復(fù)現(xiàn)、可審計(jì)——這是流水線驗(yàn)收的基石。環(huán)節(jié)三熱身與計(jì)時(shí)——同步計(jì)時(shí)才可信加載完成后inference.py第 53–62 行腳本先執(zhí)行一次不計(jì)時(shí)的 warmup 前向讓算子在 NPU 上完成預(yù)熱避免首次調(diào)用帶來(lái)的額外開銷污染性能數(shù)據(jù)。隨后進(jìn)入正式計(jì)時(shí)先用torch.npu.synchronize()同步設(shè)備再記錄起始時(shí)間、執(zhí)行前向、再次同步、記錄結(jié)束時(shí)間最后換算成毫秒。兩次同步之間夾著計(jì)時(shí)得到的就是真實(shí)的端到端前向耗時(shí)。本次實(shí)測(cè)NPU_FORWARD_MS約為 1629 毫秒。上圖是推理腳本運(yùn)行期間npu-smi的設(shè)備監(jiān)控快照可以看到 910B4 卡的健康狀態(tài)、功耗、HBM 占用以及 python3.11 推理進(jìn)程占用的顯存——這就是推理腳本扎根在 NPU 上的直觀證據(jù)。環(huán)節(jié)四設(shè)備校驗(yàn)與輸出標(biāo)記——絕不偷偷回退 CPU推理完成后inference.py第 65–77 行腳本做了三處斷言輸入張量、模型參數(shù)、輸出張量必須全部位于npu:0。任何一環(huán)在 CPU 上都會(huì)直接報(bào)錯(cuò)而不是靜默回退。確認(rèn)無(wú)誤后腳本打印四個(gè)設(shè)備標(biāo)記INPUT_DEVICE、MODEL_DEVICE、OUTPUT_DEVICE均為npu:0以及CPU_FALLBACKfalse。這一行專門用來(lái)向流水線證明這次推理 100% 發(fā)生在昇騰 NPU 上。環(huán)節(jié)五結(jié)果轉(zhuǎn)出與質(zhì)量檢查——NaN/Inf 一個(gè)都不放過(guò)接下來(lái)inference.py第 80–91 行腳本把預(yù)測(cè)結(jié)果從 NPU 張量轉(zhuǎn)成 NumPy 數(shù)組先.detach().cpu()再.numpy()并對(duì)真實(shí)輸出做體檢檢查輸出 shape 是否為(2, 96, 1)統(tǒng)計(jì) NaN 數(shù)量與 Inf 數(shù)量理想情況下均為 0把輸入和預(yù)測(cè)數(shù)組分別保存為assets/input.npy與assets/forecasts.npy作為可復(fù)現(xiàn)的原始證據(jù)。環(huán)節(jié)六FORECAST 語(yǔ)義輸出與統(tǒng)計(jì)——流水線的交接棒最后inference.py第 94–120 行腳本以KEYvalue的格式輸出一系列機(jī)器可讀標(biāo)記其中最核心的是FORECAST-0.204462,-0.173393,-0.081242,... FORECAST_SHAPE2,96,1 FORECAST_HORIZON96 FORECAST_NAN_COUNT0 FORECAST_INF_COUNT0 NPU_FORWARD_MS1629.774 EXIT_CODE0FORECAST這一行就是流水線最關(guān)心的語(yǔ)義輸出真實(shí)運(yùn)行產(chǎn)生的未來(lái) 96 步點(diǎn)預(yù)測(cè)打印前 8 個(gè)。配合FORECAST_SHAPE、FORECAST_HORIZON、FORECAST_BATCH、FORECAST_MIN/MAX/MEAN等統(tǒng)計(jì)下游可以快速判斷本次推理是否健康。此外腳本還會(huì)讀取可選的quantile_outputs分位數(shù)預(yù)測(cè)shape 為(2, 9, 96, 1)記錄其形狀作為概率預(yù)測(cè)的證據(jù)。一次真實(shí)運(yùn)行的輸出逐項(xiàng)怎么看上圖為模型最終適配驗(yàn)收結(jié)果截圖。這里挑幾個(gè)關(guān)鍵字段說(shuō)明含義輸出字段含義本次實(shí)測(cè)INPUT_SEQUENCE輸入序列前 8 個(gè)值1.926915, 1.487284, ...FORECAST點(diǎn)預(yù)測(cè)前 8 個(gè)值-0.204462, -0.173393, ...FORECAST_SHAPE預(yù)測(cè)張量形狀2,96,1batch×horizon×通道FORECAST_NAN_COUNTNaN 數(shù)量0FORECAST_INF_COUNTInf 數(shù)量0FORECAST_MEAN預(yù)測(cè)均值-0.104348NPU_FORWARD_MS單次前向耗時(shí)1629.774msEXIT_CODE進(jìn)程退出碼0成功如何運(yùn)行這份推理腳本想親手復(fù)現(xiàn)這份推理腳本在已配置好昇騰 NPU 與 torch_npu 的環(huán)境中只需兩條命令git clone https://gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npu cd granite-timeseries-flowstate-r1-npu python3 inference.py運(yùn)行結(jié)束后終端會(huì)打印出上文介紹的全部KEYvalue標(biāo)記同時(shí)assets/目錄下會(huì)多出input.npy與forecasts.npy兩份原始證據(jù)文件。常見問(wèn)題速答Q1為什么輸入必須固定種子 42為了保證每次運(yùn)行生成完全相同的輸入讓結(jié)果可復(fù)現(xiàn)、可對(duì)比。流水線驗(yàn)收要求同一輸入、同一模型、同一設(shè)備固定種子是前提。Q2local_files_onlyTrue有什么作用它禁止 Hugging Face 從網(wǎng)絡(luò)下載權(quán)重。推理環(huán)境往往無(wú)法聯(lián)網(wǎng)且權(quán)重已隨倉(cāng)庫(kù)發(fā)布本地加載既快又安全。Q3CPU_FALLBACKfalse意味著什么意味著腳本檢測(cè)到任何 CPU 回退都會(huì)失敗退出而不是偷偷用 CPU 算。這對(duì)昇騰 NPU 交付的驗(yàn)收至關(guān)重要。Q4分位數(shù)預(yù)測(cè)和點(diǎn)預(yù)測(cè)有什么區(qū)別點(diǎn)預(yù)測(cè)給出未來(lái) 96 步的單一估計(jì)值prediction_outputs分位數(shù)預(yù)測(cè)則給出 9 個(gè)分位點(diǎn)0.1~0.9的區(qū)間分布quantile_outputs能反映預(yù)測(cè)的不確定性。結(jié)語(yǔ)從模型加載、確定性輸入構(gòu)造、NPU 同步計(jì)時(shí)前向到設(shè)備校驗(yàn)、質(zhì)量檢查與 FORECAST 語(yǔ)義輸出Granite-TimeSeries-FlowState-R1-NPU 的推理腳本用不到 150 行代碼把一條可復(fù)現(xiàn)、可審計(jì)、可交接的昇騰 NPU 時(shí)序預(yù)測(cè)流水線完整呈現(xiàn)出來(lái)。希望這篇逐行解讀能幫你快速上手這份推理腳本也讓你對(duì) NPU 上的時(shí)序預(yù)測(cè)推理流程有一個(gè)清晰的全貌?！久赓M(fèi)下載鏈接】granite-timeseries-flowstate-r1-npu項(xiàng)目地址: https://ai.gitcode.com/atlasleong/granite-timeseries-flowstate-r1-npu創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考