全家桶大棋)
語言模型剛刷屏文生圖也來了Bonsai Image 曝光PrismML 在下一盤端側(cè)全家桶大棋【免費下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit從 7 月 Bonsai 27B 被冠以手機 AI 的 DeepSeek 時刻刷屏到 9 月 Bonsai 2 27B 以不到 1/9 內(nèi)存占用保留基模 98.2% 性能再度占領(lǐng)科技頭條PrismML 的低比特路線已經(jīng)連續(xù)制造了兩輪熱點。而就在這波語言模型熱度尚未平息之際社區(qū)情報中又出現(xiàn)了文生圖模型 Bonsai Image的曝光信號。當能說會道的端側(cè)語言模型開始向看圖、作畫延展PrismML 所押注的顯然不止是一個 27B 的聊天模型——本文結(jié)合社區(qū)真實輿情與本倉庫Ternary-Bonsai-2-27B-mlx-2bit的源碼細節(jié)拆解這條端側(cè)全家桶的產(chǎn)品邏輯與技術(shù)支撐。Bonsai Image 是什么從 27B 語言模型到文生圖的延展先厘清時間線。2026 年 7 月PrismML 基于 Qwen 3.6 27B 微調(diào)的 Bonsai 27B 發(fā)布推出 1-bit3.9GB、約 1.125 bits/weight與 Ternary5.9GB、約 1.71 bits/weight兩個版本首次讓 27B 級模型在 12GB 內(nèi)存的 iPhone 17 Pro 上原生運行AnythingLLM 創(chuàng)始人因此給出了AI 的真正 DeepSeek 時刻的評價。9 月Bonsai 2 27B 接棒基模升級為 Qwen3.8 27B推理、編程、視覺、長程智能體能力全面刷新以約 5.9GB 的體積不足基模 54GB FP16 的 1/9取得基模 98.2% 的綜合基準分數(shù)。本倉庫正是該模型的 MLX 打包版本8.60GB 磁盤占用7.67GB 打包語言權(quán)重 0.92GB 視覺塔27.36B 總參數(shù)Apache 2.0 開放。緊接著社區(qū)出現(xiàn)了文生圖模型 Bonsai Image的曝光信息。雖然目前公開細節(jié)有限但從 PrismML 已有的技術(shù)資產(chǎn)看這一步并不突?！緜}庫的 config.json 中components.vision: true明確聲明這是一個攜帶視覺塔的多模態(tài)包0.46B 參數(shù)、27 層、patch size 16、輸出對齊 5120 維語言隱藏層的官方 Qwen 視覺塔以 FP16 原樣未量化隨包分發(fā)。配套的 runtime/vision_artifact.py 提供了完整的 VLM 加載鏈路構(gòu)建 Qwen3VL 處理器、將 402 個已打包模塊安裝進語言模型、處理|im_start|圖像 token 與多模態(tài) chat 模板。也就是說看圖理解圖像輸入在 Bonsai 2 27B 上已經(jīng)是開箱即用的能力——README 中 MMMU-Pro 75.49、OCR Bench v2 56.88 的視覺基準成績即是證據(jù)。從讀圖到生圖是一個自然的模態(tài)延展方向但技術(shù)上并非同一件事。語言模型的低比特方法論三值權(quán)重 FP16 分組縮放 Hadamard 旋轉(zhuǎn)基可以直接遷移到擴散或自回歸圖像生成模型的骨干上端側(cè)文生圖恰恰被公認卡在兩條約束上一是生成模型權(quán)重與 KV/中間激活的帶寬壓力遠高于純文本推理二是圖像生成對長程一致性、細節(jié)保真度的要求讓低比特壓縮的容錯空間更小。PrismML 在此前 1-bit/三值路線上的核心賣點——訓(xùn)練階段即約束低比特格式、無高精度逃生通道見 README.md 與 hadamard.json 的 manifest 聲明——如果能在圖像生成模型上復(fù)現(xiàn)Bonsai Image 就具備與語言模型同源的差異化故事。反之如果只是對開源文生圖模型做事后量化則難以與已有方案拉開代差。這是觀察其后續(xù)發(fā)布時最值得盯住的判斷點。PrismML 端側(cè)全家桶的產(chǎn)品布局猜想把社區(qū)情報與倉庫證據(jù)放在一起PrismML 的產(chǎn)品版圖已經(jīng)相當清晰且每一塊都能在本倉庫找到落點第一層語言智能底座。從 Bonsai-8B-GGUF1.15GB、Q1_0 格式、93% 存儲壓縮到 Bonsai 27B 的 1-bit/三值雙版本再到 Bonsai 2 27B產(chǎn)品線覆蓋了從 8B 到 27B、從手機到筆記本到單 GPU 服務(wù)器的完整檔位。本倉庫的 README.md 給出了這一層的核心指標語言模型 1.72 bits/weight 的真實表示成本理想化約 9.3 倍 vs FP16、262K 上下文、混合注意力骨干約 75% 線性注意力 25% 全注意力見 config.json 的layer_types與full_attention_interval: 4以及跨平臺吞吐——RTX 5090 上 PQ2_0 解碼 129.9 tok/s72W 的 L4 上約 30 tok/sApple M5 Pro 上約 28 tok/s 且 GPU 軌功耗僅 27.5W。第二層多模態(tài)感知。視覺塔隨語言模型同包分發(fā)是倉庫里最明確的信號——config.json 的components: {text: true, vision: true, mtp: false}與 runtime/vision_artifact.py 的完整 VLM 運行時共同構(gòu)成語言 視覺雙能力包。而高通攜手 PrismML 發(fā)布 1-bit Bonsai AI、主打 AI 眼鏡離線識圖問答的報道說明這層能力已被芯片廠商當作端側(cè)落地場景來合作。MIT 科技評論把 8B 模型塞進 iPhone、功耗省掉 80%、蘋果被曝接洽 PrismML 評估在 iPhone 上直接運行更大規(guī)模模型等消息則從產(chǎn)業(yè)鏈側(cè)印證了該技術(shù)路線的吸引力。第三層內(nèi)容生成Bonsai Image 的信號。從語言到視覺理解再到圖像生成正是端側(cè) AI 全家桶的最后一環(huán)本地既懂文本、能讀圖還能按需作畫。Bonsai Image 的曝光與 PrismML 已披露的視覺資產(chǎn)0.92GB FP16 視覺塔、mlx-vlm 運行時、多模態(tài) chat 模板形成了技術(shù)拼圖的互補關(guān)系——先解決理解再攻生成符合端側(cè)芯片功耗、內(nèi)存預(yù)算的漸進釋放節(jié)奏。支撐這套布局的還有工程生態(tài)層本倉庫同時提供 MLXApple Silicon、含 iOS/macOS 的 Swift 分支與 CUDA 后端GGUF 伴生包提供 PTQ1_05.95GB、密集三值編碼與 PQ2_07.21GB、2-bit 槽位兩種打包runtime/codec.py 實現(xiàn)了兩種 GGUF 格式到 MLX affine 2-bit 的無損轉(zhuǎn)碼reload-validation.json 記錄 402 個打包模塊的逐位驗證quickstart.py 一行命令即可跑通文本與視覺推理。社區(qū)側(cè)Bonsai-demo 的增量下載、Docker GPU 部署、Brave Search MCP 集成等教程密集涌現(xiàn)說明圍繞該模型已形成實際可用的部署生態(tài)而不僅是發(fā)布會上的 PPT 指標。端側(cè)多模態(tài)會成為下一輪競爭焦點嗎把視角拉遠端側(cè) AI 的敘事正在經(jīng)歷一次范式的顯式化。36Kr 在報道中使用的措辭頗具代表性——AI 進化從規(guī)模轉(zhuǎn)向智能密度。本倉庫 README.md 恰好定義并量化了這個指標D -log2(1 - score/100) / size_GBBonsai 2 27B 達到 0.469 1/GB是傳統(tǒng) 2-bit 構(gòu)建IQ2_XXS0.199的 2.3 倍以上是 FP16 基模0.053的近 9 倍。當每 GB 能換來多少可用智能成為度量衡多模態(tài)恰恰是拉大密度差距的杠桿同一份內(nèi)存預(yù)算里能看能畫的模型比純文本模型邊際價值更高這正是 Bonsai Image 出現(xiàn)的邏輯土壤。但端側(cè)多模態(tài)要真正成為下一輪競爭焦點仍需跨過幾道現(xiàn)實門檻。其一低比特在生成任務(wù)上的質(zhì)量拐點語言模型上 98.2% 的保留率不等于圖像生成上同樣樂觀——圖像對高頻細節(jié)、全局一致性的敏感度更高README.md 中視覺類別MMMU-Pro 66.19 vs FP16 71.36已是全類別中差距最大的一項生成任務(wù)只會更苛刻。其二端側(cè)帶寬與功耗的現(xiàn)實約束文生圖的前向計算量遠超文本推理即便權(quán)重被壓到 1.72 bits/weight自回歸擴散的步數(shù)疊加仍會考驗 NPU/GPU 的峰值吞吐社區(qū)對 Bonsai 1-bit 版的實測也提示了 tool calling 等 Agent 能力在極端量化下的下降數(shù)個百分點生成類能力大概率面臨同樣的選擇性退化。其三生態(tài)縱深llama.cpp、MLX 的定制內(nèi)核目前圍繞語言推理優(yōu)化圖像生成需要新的算子與內(nèi)存規(guī)劃這是從能跑到好用的工程鴻溝。結(jié)論上端側(cè)多模態(tài)幾乎是確定的方向——隱私、離線、低延遲的訴求在手機、眼鏡、車載等場景同樣指向看與畫而 PrismML 的差異化不在模態(tài)本身而在低比特方法論能否泛化到生成模型這個關(guān)鍵假設(shè)上。Bonsai Image 若真能兌現(xiàn)訓(xùn)練期約束 無逃生通道的三值/1-bit 圖像生成端側(cè)全家桶將從產(chǎn)品敘事變成技術(shù)事實若只是跟隨式量化則大概率停留在又一個端側(cè)生圖 demo的層級。無論結(jié)果如何從 Bonsai 27B 到 Bonsai 2 27B 再到 Bonsai ImagePrismML 已經(jīng)用連續(xù)三輪的節(jié)奏證明了一件事這場競爭的主戰(zhàn)場正從云端參數(shù)量競賽轉(zhuǎn)向端側(cè)每 GB 智能密度的貼身肉搏。【免費下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 語言模型剛刷屏，文生圖也來了：Bonsai Image 曝光，PrismML 在下一盤端側(cè)全家桶大棋
語言模型剛刷屏文生圖也來了Bonsai Image 曝光PrismML 在下一盤端側(cè)全家桶大棋【免費下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit從 7 月 Bonsai 27B 被冠以手機 AI 的 DeepSeek 時刻刷屏到 9 月 Bonsai 2 27B 以不到 1/9 內(nèi)存占用保留基模 98.2% 性能再度占領(lǐng)科技頭條PrismML 的低比特路線已經(jīng)連續(xù)制造了兩輪熱點。而就在這波語言模型熱度尚未平息之際社區(qū)情報中又出現(xiàn)了文生圖模型 Bonsai Image的曝光信號。當能說會道的端側(cè)語言模型開始向看圖、作畫延展PrismML 所押注的顯然不止是一個 27B 的聊天模型——本文結(jié)合社區(qū)真實輿情與本倉庫Ternary-Bonsai-2-27B-mlx-2bit的源碼細節(jié)拆解這條端側(cè)全家桶的產(chǎn)品邏輯與技術(shù)支撐。Bonsai Image 是什么從 27B 語言模型到文生圖的延展先厘清時間線。2026 年 7 月PrismML 基于 Qwen 3.6 27B 微調(diào)的 Bonsai 27B 發(fā)布推出 1-bit3.9GB、約 1.125 bits/weight與 Ternary5.9GB、約 1.71 bits/weight兩個版本首次讓 27B 級模型在 12GB 內(nèi)存的 iPhone 17 Pro 上原生運行AnythingLLM 創(chuàng)始人因此給出了AI 的真正 DeepSeek 時刻的評價。9 月Bonsai 2 27B 接棒基模升級為 Qwen3.8 27B推理、編程、視覺、長程智能體能力全面刷新以約 5.9GB 的體積不足基模 54GB FP16 的 1/9取得基模 98.2% 的綜合基準分數(shù)。本倉庫正是該模型的 MLX 打包版本8.60GB 磁盤占用7.67GB 打包語言權(quán)重 0.92GB 視覺塔27.36B 總參數(shù)Apache 2.0 開放。緊接著社區(qū)出現(xiàn)了文生圖模型 Bonsai Image的曝光信息。雖然目前公開細節(jié)有限但從 PrismML 已有的技術(shù)資產(chǎn)看這一步并不突?！緜}庫的 config.json 中components.vision: true明確聲明這是一個攜帶視覺塔的多模態(tài)包0.46B 參數(shù)、27 層、patch size 16、輸出對齊 5120 維語言隱藏層的官方 Qwen 視覺塔以 FP16 原樣未量化隨包分發(fā)。配套的 runtime/vision_artifact.py 提供了完整的 VLM 加載鏈路構(gòu)建 Qwen3VL 處理器、將 402 個已打包模塊安裝進語言模型、處理|im_start|圖像 token 與多模態(tài) chat 模板。也就是說看圖理解圖像輸入在 Bonsai 2 27B 上已經(jīng)是開箱即用的能力——README 中 MMMU-Pro 75.49、OCR Bench v2 56.88 的視覺基準成績即是證據(jù)。從讀圖到生圖是一個自然的模態(tài)延展方向但技術(shù)上并非同一件事。語言模型的低比特方法論三值權(quán)重 FP16 分組縮放 Hadamard 旋轉(zhuǎn)基可以直接遷移到擴散或自回歸圖像生成模型的骨干上端側(cè)文生圖恰恰被公認卡在兩條約束上一是生成模型權(quán)重與 KV/中間激活的帶寬壓力遠高于純文本推理二是圖像生成對長程一致性、細節(jié)保真度的要求讓低比特壓縮的容錯空間更小。PrismML 在此前 1-bit/三值路線上的核心賣點——訓(xùn)練階段即約束低比特格式、無高精度逃生通道見 README.md 與 hadamard.json 的 manifest 聲明——如果能在圖像生成模型上復(fù)現(xiàn)Bonsai Image 就具備與語言模型同源的差異化故事。反之如果只是對開源文生圖模型做事后量化則難以與已有方案拉開代差。這是觀察其后續(xù)發(fā)布時最值得盯住的判斷點。PrismML 端側(cè)全家桶的產(chǎn)品布局猜想把社區(qū)情報與倉庫證據(jù)放在一起PrismML 的產(chǎn)品版圖已經(jīng)相當清晰且每一塊都能在本倉庫找到落點第一層語言智能底座。從 Bonsai-8B-GGUF1.15GB、Q1_0 格式、93% 存儲壓縮到 Bonsai 27B 的 1-bit/三值雙版本再到 Bonsai 2 27B產(chǎn)品線覆蓋了從 8B 到 27B、從手機到筆記本到單 GPU 服務(wù)器的完整檔位。本倉庫的 README.md 給出了這一層的核心指標語言模型 1.72 bits/weight 的真實表示成本理想化約 9.3 倍 vs FP16、262K 上下文、混合注意力骨干約 75% 線性注意力 25% 全注意力見 config.json 的layer_types與full_attention_interval: 4以及跨平臺吞吐——RTX 5090 上 PQ2_0 解碼 129.9 tok/s72W 的 L4 上約 30 tok/sApple M5 Pro 上約 28 tok/s 且 GPU 軌功耗僅 27.5W。第二層多模態(tài)感知。視覺塔隨語言模型同包分發(fā)是倉庫里最明確的信號——config.json 的components: {text: true, vision: true, mtp: false}與 runtime/vision_artifact.py 的完整 VLM 運行時共同構(gòu)成語言 視覺雙能力包。而高通攜手 PrismML 發(fā)布 1-bit Bonsai AI、主打 AI 眼鏡離線識圖問答的報道說明這層能力已被芯片廠商當作端側(cè)落地場景來合作。MIT 科技評論把 8B 模型塞進 iPhone、功耗省掉 80%、蘋果被曝接洽 PrismML 評估在 iPhone 上直接運行更大規(guī)模模型等消息則從產(chǎn)業(yè)鏈側(cè)印證了該技術(shù)路線的吸引力。第三層內(nèi)容生成Bonsai Image 的信號。從語言到視覺理解再到圖像生成正是端側(cè) AI 全家桶的最后一環(huán)本地既懂文本、能讀圖還能按需作畫。Bonsai Image 的曝光與 PrismML 已披露的視覺資產(chǎn)0.92GB FP16 視覺塔、mlx-vlm 運行時、多模態(tài) chat 模板形成了技術(shù)拼圖的互補關(guān)系——先解決理解再攻生成符合端側(cè)芯片功耗、內(nèi)存預(yù)算的漸進釋放節(jié)奏。支撐這套布局的還有工程生態(tài)層本倉庫同時提供 MLXApple Silicon、含 iOS/macOS 的 Swift 分支與 CUDA 后端GGUF 伴生包提供 PTQ1_05.95GB、密集三值編碼與 PQ2_07.21GB、2-bit 槽位兩種打包runtime/codec.py 實現(xiàn)了兩種 GGUF 格式到 MLX affine 2-bit 的無損轉(zhuǎn)碼reload-validation.json 記錄 402 個打包模塊的逐位驗證quickstart.py 一行命令即可跑通文本與視覺推理。社區(qū)側(cè)Bonsai-demo 的增量下載、Docker GPU 部署、Brave Search MCP 集成等教程密集涌現(xiàn)說明圍繞該模型已形成實際可用的部署生態(tài)而不僅是發(fā)布會上的 PPT 指標。端側(cè)多模態(tài)會成為下一輪競爭焦點嗎把視角拉遠端側(cè) AI 的敘事正在經(jīng)歷一次范式的顯式化。36Kr 在報道中使用的措辭頗具代表性——AI 進化從規(guī)模轉(zhuǎn)向智能密度。本倉庫 README.md 恰好定義并量化了這個指標D -log2(1 - score/100) / size_GBBonsai 2 27B 達到 0.469 1/GB是傳統(tǒng) 2-bit 構(gòu)建IQ2_XXS0.199的 2.3 倍以上是 FP16 基模0.053的近 9 倍。當每 GB 能換來多少可用智能成為度量衡多模態(tài)恰恰是拉大密度差距的杠桿同一份內(nèi)存預(yù)算里能看能畫的模型比純文本模型邊際價值更高這正是 Bonsai Image 出現(xiàn)的邏輯土壤。但端側(cè)多模態(tài)要真正成為下一輪競爭焦點仍需跨過幾道現(xiàn)實門檻。其一低比特在生成任務(wù)上的質(zhì)量拐點語言模型上 98.2% 的保留率不等于圖像生成上同樣樂觀——圖像對高頻細節(jié)、全局一致性的敏感度更高README.md 中視覺類別MMMU-Pro 66.19 vs FP16 71.36已是全類別中差距最大的一項生成任務(wù)只會更苛刻。其二端側(cè)帶寬與功耗的現(xiàn)實約束文生圖的前向計算量遠超文本推理即便權(quán)重被壓到 1.72 bits/weight自回歸擴散的步數(shù)疊加仍會考驗 NPU/GPU 的峰值吞吐社區(qū)對 Bonsai 1-bit 版的實測也提示了 tool calling 等 Agent 能力在極端量化下的下降數(shù)個百分點生成類能力大概率面臨同樣的選擇性退化。其三生態(tài)縱深llama.cpp、MLX 的定制內(nèi)核目前圍繞語言推理優(yōu)化圖像生成需要新的算子與內(nèi)存規(guī)劃這是從能跑到好用的工程鴻溝。結(jié)論上端側(cè)多模態(tài)幾乎是確定的方向——隱私、離線、低延遲的訴求在手機、眼鏡、車載等場景同樣指向看與畫而 PrismML 的差異化不在模態(tài)本身而在低比特方法論能否泛化到生成模型這個關(guān)鍵假設(shè)上。Bonsai Image 若真能兌現(xiàn)訓(xùn)練期約束 無逃生通道的三值/1-bit 圖像生成端側(cè)全家桶將從產(chǎn)品敘事變成技術(shù)事實若只是跟隨式量化則大概率停留在又一個端側(cè)生圖 demo的層級。無論結(jié)果如何從 Bonsai 27B 到 Bonsai 2 27B 再到 Bonsai ImagePrismML 已經(jīng)用連續(xù)三輪的節(jié)奏證明了一件事這場競爭的主戰(zhàn)場正從云端參數(shù)量競賽轉(zhuǎn)向端側(cè)每 GB 智能密度的貼身肉搏。【免費下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考