,0.11 秒答完 70% 問(wèn)題實(shí)測(cè))
JEV-27B-VL把決策從聊天里拆出來(lái)0.11 秒答完 70% 問(wèn)題實(shí)測(cè)【免費(fèi)下載鏈接】JEV-27B-VL項(xiàng)目地址: https://ai.gitcode.com/hf_mirrors/autotrust/JEV-27B-VLJEV-27B-VL 是一款開(kāi)源的多模態(tài)決策模型。它解決的不是聊天而是做判斷。System 1 單次前向傳播、約 0.1 秒給出每個(gè)選項(xiàng)的校準(zhǔn)概率System 2 在置信度不夠時(shí)接管深度推理。底座 Qwen3.8-27BApache-2.0單張 80GB GPU 本地部署。它能做什么傳統(tǒng)大模型只有一種回答方式要么快而糙要么慢而細(xì)。JEV-27B-VL 在同一個(gè) 27B 模型里裝了兩套大腦System 1 負(fù)責(zé)秒級(jí)決策System 2 負(fù)責(zé)難題兩者共用底座。System 1 不是小模型而是掛在主模型上的輕量 LoRA 適配器加一個(gè)決策頭。能力維度JEV-27B-VL常見(jiàn)替代方案決策輸出單次前向傳播約 0.1 秒每個(gè)選項(xiàng)都有概率文本生成要幾秒還得解析和重估選項(xiàng)數(shù)量一次問(wèn) 2~256 個(gè)無(wú)需重訓(xùn)練每個(gè)選項(xiàng)各問(wèn)一次是/否多次調(diào)用概率可信度ECE 0.0009可直接設(shè)業(yè)務(wù)閾值生成式概率普遍校準(zhǔn)不準(zhǔn)圖片輸入同一個(gè)接口state 里直接混入圖片需要單獨(dú)的 VLM 或 OCR 轉(zhuǎn)文本同一個(gè)模型秒級(jí)決策和深度思考都做了。背后的原理說(shuō)人話版認(rèn)知科學(xué)里有雙系統(tǒng)理論人有秒答的直覺(jué)也有費(fèi)時(shí)的推理。JEV-27B-VL 把它搬進(jìn)模型System 1 在 Qwen3.8-27B 上掛一個(gè) LoRA 適配器和決策頭問(wèn)題進(jìn)來(lái)后讀選項(xiàng) token 的 logprob加上偏置、除以溫度直接輸出每個(gè)選項(xiàng)的概率——一次前向傳播不生成任何文字。關(guān)鍵是概率可信。calibration.json 里給每種題型配了校準(zhǔn)溫度實(shí)測(cè)期望校準(zhǔn)誤差 ECE 只有 0.0009。這意味著它說(shuō)83% 把握實(shí)際就約 83% 對(duì)可以按概率設(shè)業(yè)務(wù)閾值高就自動(dòng)執(zhí)行低就升級(jí)給 System 2 或人工System 1 置信度低于 0.70 時(shí)交給同一個(gè) 27B 逐步深度思考。兩個(gè)系統(tǒng)共用一個(gè)底座所以 System 1 的知識(shí)面和視覺(jué)理解與 System 2 完全一致。視覺(jué)塔是 Qwen3.8-27B 的原配決策頭只用文本訓(xùn)練過(guò)圖片上的判斷全部零樣本。關(guān)鍵數(shù)字級(jí)聯(lián)準(zhǔn)確率0.89270% 的問(wèn)題 0.11 秒內(nèi)被 System 1 直接采納GSM8k、AQUA-RAT 等四個(gè)數(shù)學(xué)/常識(shí)基準(zhǔn)—— 純 System 1 是 0.792每題都深度思考是 0.917。期望校準(zhǔn)誤差 ECE0.0009held-out test_set_30k—— 嘴上說(shuō)的把握和實(shí)際命中率基本相等閾值可以直接設(shè)。多模態(tài)評(píng)委準(zhǔn)確率78.3%VL-RewardBench1247 組人工校驗(yàn)對(duì)—— 超過(guò) 2025 年官方榜單全部 26 個(gè)模型GPT-4o 65.8%。Agent 評(píng)委宏平均準(zhǔn)確率73.2%Plan-RewardBench1171 對(duì)軌跡—— 榜單第一GPT-5 為 68.5%。機(jī)械臂抓取放置完成率75%MuJoCo 仿真 20 個(gè)隨機(jī)場(chǎng)景—— 單步約 240 毫秒JEV 家族最佳。典型場(chǎng)景AI 評(píng)委哪個(gè)更好變成一次判斷模型訓(xùn)練和 Agent 評(píng)測(cè)都需要裁判。JEV-27B-VL 把哪個(gè)答案更好當(dāng)成一次 System 1 判斷VL-RewardBench 78.3%2025 官方榜單第一GPT-4o 65.8%Plan-RewardBench 73.2%榜單第一GPT-5 68.5%。為什么行概率來(lái)自同一個(gè) 27B 底座每組只需一次判斷2494 次判斷單卡 163 秒不必單獨(dú)訓(xùn)一個(gè)評(píng)委模型。零樣本短視頻推薦一張封面解決冷啟動(dòng)信息流要判斷這個(gè)用戶會(huì)不會(huì)看這條新視頻而新視頻沒(méi)有任何行為數(shù)據(jù)。MicroLens 上 JEV-27B-VL 只看用戶最近看過(guò)的 5 張封面加 1 張候選封面一次前向傳播給出觀看概率AUC 0.727追平用 59,045 名用戶日志學(xué)出來(lái)的協(xié)同過(guò)濾0.728Top-5 命中率 59% 對(duì) 49%。為什么這事難協(xié)同過(guò)濾在新視頻上傳的第一秒排不了序而封面是它唯一的初始信息。實(shí)時(shí)控制循環(huán)每幀一次決策機(jī)械臂抓取放置、瀏覽器操作、游戲每一步本質(zhì)都是下一步選哪個(gè)動(dòng)作。MuJoCo 20 個(gè)隨機(jī)場(chǎng)景完成 75%真實(shí)瀏覽器 60 個(gè)多步任務(wù)完成 95%每次點(diǎn)擊約 0.26 秒單步約 240 毫秒。為什么行控制循環(huán)等不了文本生成的幾秒一次前向傳播輸出一整個(gè)動(dòng)作概率分布本身就是控制信號(hào)。跑起來(lái)硬件單張 80GB 以上顯存的 GPU官方在單張 B200 上測(cè)試vLLM 環(huán)境。hf download autotrust/JEV-27B-VL --local-dir JEV-27B-VL bash JEV-27B-VL/serve.sh啟動(dòng)后用 curl 打POST localhost:8000/v1/decide傳 kind、state、question、options返回里直接是每個(gè)選項(xiàng)的概率和最優(yōu)選擇System 2 則照常調(diào) /v1/chat/completions。?? serve.sh 里的--max-num-seqs 8不能刪單批并發(fā)超過(guò) 8 條時(shí)這個(gè)多模態(tài)模型的 LoRA 路徑會(huì)返回錯(cuò)誤的 System 1 概率。 ?? 默認(rèn)上下文 32K要滿 256K 需設(shè) MAX_MODEL_LEN262144但 256K 的 KV 緩存約 17GB80GB 卡建議先用 131072。倉(cāng)庫(kù)里值得看的文件路徑一句話說(shuō)明README.md全部基準(zhǔn)數(shù)字、/v1/decide 字段說(shuō)明、System 1 提示詞寫(xiě)法serve.sh 與 serve_decide.py一鍵啟動(dòng)腳本/v1/decide 路由的實(shí)現(xiàn)源碼adapter_vllm/System 1 的 LoRA 權(quán)重和 decision_head.json選項(xiàng) token、偏置calibration.json各題型校準(zhǔn)溫度概率可信的出處reports/demos/機(jī)械臂與電腦操作的逐回合實(shí)驗(yàn)數(shù)據(jù)最后JEV-27B-VL 最大的特點(diǎn)是兩個(gè)字決策。如果你的業(yè)務(wù)瓶頸是模型要做選擇而不是模型要寫(xiě)文章值得先把它跑一遍——兩條命令跑通了就能直接進(jìn)生產(chǎn)循環(huán)?!久赓M(fèi)下載鏈接】JEV-27B-VL項(xiàng)目地址: https://ai.gitcode.com/hf_mirrors/autotrust/JEV-27B-VL創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考