1. 大模型入門到底在學(xué)什么從零基礎(chǔ)到能上手的關(guān)鍵路徑很多人第一次接觸“大模型技術(shù)與應(yīng)用”這個(gè)概念時(shí)腦子里冒出來的第一個(gè)問題往往是我到底該從哪里開始是不是得先把線性代數(shù)、概率論、微積分全部重新學(xué)一遍是不是得先啃完幾百頁的深度學(xué)習(xí)教材我剛開始接觸這塊的時(shí)候也有同樣的困惑后來踩了不少坑才慢慢理清楚——零基礎(chǔ)入門大模型核心不是把數(shù)學(xué)全部補(bǔ)完而是先建立一條“能理解、能動(dòng)手、能排錯(cuò)”的主線。這條主線大致可以拆成四層第一層是概念層搞清楚大模型是什么、能做什么、邊界在哪里第二層是原理層理解Transformer這個(gè)核心架構(gòu)的基本運(yùn)作方式不需要手推公式但要知道注意力機(jī)制在干什么第三層是工具層學(xué)會(huì)調(diào)用現(xiàn)成的模型API、搭建本地推理環(huán)境、用Dify這類平臺(tái)做應(yīng)用編排第四層是應(yīng)用層把OCR、知識(shí)庫、工作流這些具體能力串起來解決真實(shí)場景里的問題。這篇文章就是圍繞這條主線展開的。不管你是剛轉(zhuǎn)行想入局AI應(yīng)用開發(fā)的程序員還是產(chǎn)品經(jīng)理、運(yùn)營人員想搞清楚大模型到底怎么落地或者是學(xué)生想找一個(gè)系統(tǒng)性的入門路徑下面這些內(nèi)容都能給你一個(gè)可以直接參考的框架。我不會(huì)堆砌論文里的公式而是把每個(gè)關(guān)鍵概念用生活化的方式講清楚再配上可以直接上手操作的步驟和參數(shù)說明。先說一下我自己的背景方便你判斷這篇內(nèi)容的參考價(jià)值我是做后端開發(fā)出身的兩年前開始系統(tǒng)接觸大模型應(yīng)用開發(fā)做過企業(yè)私有化部署、Dify工作流編排、OCR識(shí)別流水線、知識(shí)庫問答系統(tǒng)這幾個(gè)方向。踩過的坑包括但不限于本地部署顯存不夠、Dify安裝時(shí)SSL報(bào)錯(cuò)、工作流上下文超長導(dǎo)致截?cái)?、OCR識(shí)別合同關(guān)鍵字段時(shí)準(zhǔn)確率上不去。這些具體問題后面都會(huì)逐一展開講。提示零基礎(chǔ)入門最忌諱的一件事是“什么都想學(xué)”。大模型這個(gè)領(lǐng)域太寬了從底層訓(xùn)練到上層應(yīng)用中間隔了十萬八千里。先鎖定一個(gè)方向——我建議是從應(yīng)用層切入也就是用現(xiàn)成的模型和工具解決具體問題等有了手感再往原理層深入。2. Transformer架構(gòu)到底怎么理解不用數(shù)學(xué)也能搞明白的核心邏輯2.1 為什么Transformer是大模型的基石要理解大模型繞不開Transformer。2017年那篇論文出來之后幾乎所有的主流大模型——GPT系列、DeepSeek、通義千問、文心一言——底層架構(gòu)都是基于Transformer的變體。你可以把Transformer理解成一個(gè)“超級(jí)文本處理器”它的核心能力是給定一段輸入文本預(yù)測下一個(gè)最可能出現(xiàn)的詞。這個(gè)“預(yù)測下一個(gè)詞”聽起來很簡單但當(dāng)你用海量數(shù)據(jù)訓(xùn)練一個(gè)足夠大的Transformer之后它就能寫文章、寫代碼、做翻譯、回答問題。這背后的邏輯是語言本身包含了大量的世界知識(shí)和推理模式一個(gè)模型如果能精準(zhǔn)預(yù)測下一個(gè)詞說明它在某種程度上“理解”了語言背后的規(guī)律。Transformer和之前的RNN、LSTM最大的區(qū)別在于并行處理能力。RNN必須一個(gè)詞一個(gè)詞按順序處理前面算完才能算后面速度很慢。Transformer可以一次性看到整個(gè)句子通過自注意力機(jī)制Self-Attention同時(shí)計(jì)算每個(gè)詞和其他所有詞之間的關(guān)系。這就像你讀一句話的時(shí)候眼睛可以同時(shí)掃到前后文而不是必須從左到右一個(gè)字一個(gè)字看。2.2 自注意力機(jī)制的生活化類比我用一個(gè)具體的例子來解釋自注意力。假設(shè)有這樣一句話“小明把書放在了桌子上因?yàn)樗亓恕！边@里的“它”指代的是什么是書還是桌子人類讀者很容易判斷是“書”因?yàn)闀拧爸亍?。自注意力機(jī)制做的事情就是當(dāng)模型處理“它”這個(gè)詞的時(shí)候會(huì)去計(jì)算“它”和句子中其他每個(gè)詞的關(guān)聯(lián)程度然后發(fā)現(xiàn)“它”和“書”的關(guān)聯(lián)度最高于是把“書”的語義信息更多地融入到“它”的表示中。具體計(jì)算過程涉及Query、Key、Value三個(gè)矩陣這是Transformer的核心。你可以這樣理解Query是“我在找什么”Key是“我有什么”Value是“我的實(shí)際內(nèi)容”。模型用Query和每個(gè)位置的Key做點(diǎn)積得到注意力分?jǐn)?shù)再用softmax歸一化最后用這些分?jǐn)?shù)對(duì)Value加權(quán)求和。整個(gè)過程不需要你手算但理解這個(gè)邏輯之后你就能明白為什么Transformer能捕捉長距離依賴關(guān)系。注意很多入門教程一上來就推公式把初學(xué)者直接勸退。我的建議是先理解“注意力就是在算關(guān)聯(lián)度”這個(gè)直覺公式可以后面慢慢補(bǔ)。實(shí)際做應(yīng)用開發(fā)的時(shí)候你幾乎不需要手寫注意力計(jì)算框架都封裝好了。2.3 Transformer的編碼器與解碼器結(jié)構(gòu)原始Transformer論文里包含了編碼器Encoder和解碼器Decoder兩部分。編碼器負(fù)責(zé)理解輸入文本解碼器負(fù)責(zé)生成輸出文本。但后來大家發(fā)現(xiàn)不同的任務(wù)其實(shí)只需要其中一部分Encoder-only代表模型是BERT擅長分類、情感分析、命名實(shí)體識(shí)別這類理解任務(wù)。Decoder-only代表模型是GPT系列、DeepSeek、LLaMA擅長文本生成、對(duì)話、代碼生成。Encoder-Decoder代表模型是T5、BART擅長翻譯、摘要這類序列到序列的任務(wù)。目前主流的大語言模型基本都是Decoder-only架構(gòu)。為什么因?yàn)椤邦A(yù)測下一個(gè)詞”這個(gè)訓(xùn)練目標(biāo)足夠通用只要模型足夠大、數(shù)據(jù)足夠多就能涌現(xiàn)出各種能力。這也是為什么你看到DeepSeek、GPT這些模型都是Decoder-only的原因。2.4 手寫一個(gè)極簡Transformer的實(shí)操建議如果你真想動(dòng)手寫一個(gè)Transformer來加深理解我建議從PyTorch入手不要一上來就追求完整實(shí)現(xiàn)?？梢苑秩阶叩谝徊街粚?shí)現(xiàn)自注意力模塊。定義一個(gè)SelfAttention類包含Q、K、V的線性變換和注意力計(jì)算。輸入一個(gè)隨機(jī)張量觀察輸出形狀是否正確。第二步加上多頭注意力。把Q、K、V拆成多個(gè)頭分別計(jì)算注意力再拼接。這一步的目的是理解“多頭”到底在做什么——其實(shí)就是讓模型從不同的表示子空間去關(guān)注不同的信息。第三步加上前饋網(wǎng)絡(luò)和殘差連接組成一個(gè)完整的Transformer Block。然后堆疊多個(gè)Block加上位置編碼就得到了一個(gè)可以訓(xùn)練的迷你Transformer。import torch import torch.nn as nn class SelfAttention(nn.Module): def __init__(self, embed_size, heads): super(SelfAttention, self).__init__() self.embed_size embed_size self.heads heads self.head_dim embed_size // heads assert self.head_dim * heads embed_size, embed_size必須能被heads整除 self.values nn.Linear(self.head_dim, self.head_dim, biasFalse) self.keys nn.Linear(self.head_dim, self.head_dim, biasFalse) self.queries nn.Linear(self.head_dim, self.head_dim, biasFalse) self.fc_out nn.Linear(heads * self.head_dim, embed_size) def forward(self, values, keys, query, mask): N query.shape[0] value_len, key_len, query_len values.shape[1], keys.shape[1], query.shape[1] values values.reshape(N, value_len, self.heads, self.head_dim) keys keys.reshape(N, key_len, self.heads, self.head_dim) queries query.reshape(N, query_len, self.heads, self.head_dim) values self.values(values) keys self.keys(keys) queries self.queries(queries) energy torch.einsum(nqhd,nkhd-nhqk, [queries, keys]) if mask is not None: energy energy.masked_fill(mask 0, float(-1e20)) attention torch.softmax(energy / (self.embed_size ** (1/2)), dim3) out torch.einsum(nhql,nlhd-nqhd, [attention, values]).reshape( N, query_len, self.heads * self.head_dim ) out self.fc_out(out) return out這段代碼可以直接跑輸入隨機(jī)張量就能看到輸出。跑通之后你對(duì)Transformer的理解會(huì)從“紙上談兵”變成“心里有數(shù)”。3. DeepSeek模型怎么用起來從API調(diào)用到本地部署的完整路徑3.1 DeepSeek API調(diào)用的最小可行方案DeepSeek是目前國內(nèi)非?；钴S的大模型之一它的API接口兼容OpenAI的格式這意味著你之前如果用過OpenAI的SDK幾乎不需要改代碼就能切換到DeepSeek。調(diào)用流程大致是注冊(cè)賬號(hào)、獲取API Key、安裝SDK、發(fā)起請(qǐng)求。from openai import OpenAI client OpenAI( api_key你的API Key, base_urlhttps://api.deepseek.com ) response client.chat.completions.create( modeldeepseek-chat, messages[ {role: system, content: 你是一個(gè)專業(yè)的技術(shù)助手}, {role: user, content: 解釋一下Transformer的自注意力機(jī)制} ], temperature0.7, max_tokens2000 ) print(response.choices[0].message.content)這段代碼里幾個(gè)關(guān)鍵參數(shù)需要說明temperature控制輸出的隨機(jī)性值越低輸出越確定值越高越有創(chuàng)造性max_tokens限制生成的最大長度根據(jù)你的需求調(diào)整model參數(shù)指定用哪個(gè)模型DeepSeek目前有deepseek-chat和deepseek-reasoner兩個(gè)主要選項(xiàng)。提示API調(diào)用按token計(jì)費(fèi)輸入和輸出都算。做開發(fā)調(diào)試的時(shí)候建議先用短文本測試確認(rèn)邏輯沒問題再跑大批量數(shù)據(jù)。另外注意保存好API Key不要硬編碼在代碼里提交到公開倉庫。3.2 本地部署大模型的硬件門檻與選型如果你想把模型部署在自己的機(jī)器上首先要搞清楚硬件門檻。模型參數(shù)量和顯存需求大致有這樣的對(duì)應(yīng)關(guān)系模型參數(shù)量FP16精度顯存需求INT8量化顯存需求INT4量化顯存需求7B約14GB約7GB約4GB13B約26GB約13GB約7GB32B約64GB約32GB約16GB70B約140GB約70GB約35GB這個(gè)表格是估算值實(shí)際會(huì)因模型結(jié)構(gòu)、推理框架、批處理大小有所不同。對(duì)于個(gè)人開發(fā)者來說7B到13B的模型用一張消費(fèi)級(jí)顯卡比如RTX 4090 24GB就能跑起來。如果顯存不夠可以用量化版本代價(jià)是精度會(huì)有一定損失。本地部署常用的工具包括Ollama、llama.cpp、vLLM。Ollama最適合新手安裝完一條命令就能拉取和運(yùn)行模型ollama pull deepseek-r1:7b ollama run deepseek-r1:7bOllama會(huì)自動(dòng)處理模型下載、量化和推理服務(wù)你只需要關(guān)注輸入輸出就行。但它對(duì)并發(fā)請(qǐng)求的支持不如vLLM如果是生產(chǎn)環(huán)境需要高吞吐建議用vLLM部署。3.3 企業(yè)私有化部署的考量因素企業(yè)做私有化部署和個(gè)人的需求完全不同。個(gè)人只要模型能跑起來就行企業(yè)要考慮的是數(shù)據(jù)安全、并發(fā)性能、成本控制、運(yùn)維監(jiān)控。我參與過幾個(gè)企業(yè)私有化部署的項(xiàng)目總結(jié)下來有幾個(gè)關(guān)鍵決策點(diǎn)第一模型選型。不是越大越好要根據(jù)實(shí)際任務(wù)復(fù)雜度來選。如果只是做文本分類、信息抽取這類任務(wù)7B模型微調(diào)后完全夠用。如果是做復(fù)雜推理、代碼生成可能需要32B以上的模型。第二推理框架。vLLM是目前生產(chǎn)環(huán)境用得比較多的選擇它支持PagedAttention能顯著提升吞吐量。TensorRT-LLM性能更好但配置復(fù)雜適合有專門推理優(yōu)化團(tuán)隊(duì)的公司。第三硬件規(guī)劃。要算清楚峰值并發(fā)量對(duì)應(yīng)的顯存需求留出足夠的余量。另外要考慮是否需要多卡推理以及卡間通信的帶寬是否足夠。第四監(jiān)控和降級(jí)。生產(chǎn)環(huán)境必須有監(jiān)控關(guān)注推理延遲、顯存占用、請(qǐng)求隊(duì)列長度。當(dāng)負(fù)載過高時(shí)要有降級(jí)策略比如切換到更小的模型或者限制請(qǐng)求頻率。4. Dify平臺(tái)從安裝到工作流編排踩坑與實(shí)操記錄4.1 Dify本地部署的完整步驟Dify是一個(gè)開源的大模型應(yīng)用開發(fā)平臺(tái)它把很多常見的功能——知識(shí)庫、工作流、Agent、API發(fā)布——都做成了可視化界面大大降低了應(yīng)用開發(fā)的門檻。本地部署Dify最省事的方式是用Docker Compose。git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d等容器全部啟動(dòng)后訪問http://localhost:3000就能看到Dify的界面。第一次訪問需要設(shè)置管理員賬號(hào)。但實(shí)際操作中很多人會(huì)卡在SSL錯(cuò)誤上。典型報(bào)錯(cuò)是“an error occurred during credentials validation”。這個(gè)問題通常是因?yàn)镈ocker容器內(nèi)部訪問外部服務(wù)時(shí)證書驗(yàn)證失敗。解決方法是在.env文件里把CONSOLE_API_URL和CONSOLE_WEB_URL配置正確如果是在本地測試可以用http而不是https。另外檢查Docker的網(wǎng)絡(luò)配置確保容器能正常訪問外網(wǎng)。注意Dify的版本更新比較快不同版本的環(huán)境變量名稱可能有變化。建議部署前先看一下對(duì)應(yīng)版本的官方文檔不要直接照搬舊教程的配置。4.2 知識(shí)庫流水線的搭建要點(diǎn)Dify的知識(shí)庫功能是我用得最多的模塊之一。它的核心邏輯是上傳文檔 → 分段 → 向量化 → 存儲(chǔ) → 檢索。每一步都有參數(shù)可以調(diào)調(diào)得好不好直接影響最終問答的質(zhì)量。分段策略是最關(guān)鍵的。Dify支持自動(dòng)分段和自定義分段。自動(dòng)分段按固定長度切分簡單但可能把完整的語義單元切碎。自定義分段可以按分隔符切比如按段落、按標(biāo)題。我的經(jīng)驗(yàn)是技術(shù)文檔按標(biāo)題層級(jí)切分效果最好合同類文檔按條款切分FAQ類文檔按問答對(duì)切分。向量化模型的選擇也很重要。Dify默認(rèn)用的是OpenAI的embedding模型但國內(nèi)訪問不方便?？梢該Q成開源的BGE模型或者調(diào)用國內(nèi)廠商的embedding API。不同embedding模型的向量維度不同換模型后需要重新索引所有文檔。檢索階段有幾個(gè)參數(shù)需要關(guān)注Top K控制返回多少個(gè)最相關(guān)的片段Score閾值過濾掉低相關(guān)度的結(jié)果Rerank模型可以對(duì)初步檢索結(jié)果做二次排序。實(shí)測下來加上Rerank之后問答準(zhǔn)確率能提升不少但會(huì)增加響應(yīng)時(shí)間。4.3 工作流編排中上下文超長的處理Dify的工作流功能可以讓你把多個(gè)節(jié)點(diǎn)串起來比如接收用戶輸入 → 檢索知識(shí)庫 → 調(diào)用大模型 → 格式化輸出。但這里有一個(gè)很常見的問題上下文超長。大模型有上下文窗口限制比如4K、8K、32K、128K token。當(dāng)你的工作流里把知識(shí)庫檢索結(jié)果、歷史對(duì)話、系統(tǒng)提示詞全部拼在一起的時(shí)候很容易超過限制。超長之后模型會(huì)截?cái)噍斎雽?dǎo)致回答質(zhì)量下降甚至答非所問。處理這個(gè)問題有幾個(gè)思路第一在檢索節(jié)點(diǎn)限制返回的片段數(shù)量和長度第二對(duì)歷史對(duì)話做摘要壓縮只保留關(guān)鍵信息第三用支持更長上下文的模型第四在工作流里加一個(gè)判斷節(jié)點(diǎn)如果拼接后的文本超過閾值就觸發(fā)壓縮邏輯。我自己的做法是在知識(shí)庫檢索節(jié)點(diǎn)設(shè)置Top K為3到5每個(gè)片段限制在500字以內(nèi)然后在LLM節(jié)點(diǎn)之前加一個(gè)文本合并節(jié)點(diǎn)控制總長度不超過模型上下文窗口的70%。留出30%的空間給模型生成輸出。5. OCR識(shí)別在大模型應(yīng)用中的落地從驗(yàn)證碼到合同字段提取5.1 OCR技術(shù)的基本原理與選型OCR光學(xué)字符識(shí)別做的事情是把圖片里的文字轉(zhuǎn)成可編輯的文本。傳統(tǒng)OCR基于圖像處理和模式識(shí)別對(duì)規(guī)整的印刷體效果不錯(cuò)但遇到手寫體、復(fù)雜排版、模糊圖片就力不從心?，F(xiàn)在主流的方案是基于深度學(xué)習(xí)的OCR用CNN做特征提取用RNN或Transformer做序列識(shí)別。選型的時(shí)候要考慮幾個(gè)維度識(shí)別語言中文、英文、多語言、場景印刷體、手寫體、表格、票據(jù)、部署方式云端API、本地部署、成本按量付費(fèi)、一次性買斷。國內(nèi)常用的有百度OCR、阿里OCR、騰訊OCR開源的有PaddleOCR、EasyOCR。5.2 用OCR識(shí)別驗(yàn)證碼的實(shí)操識(shí)別驗(yàn)證碼是一個(gè)很典型的OCR應(yīng)用場景。驗(yàn)證碼通常有干擾線、噪點(diǎn)、字符扭曲識(shí)別難度比普通文本高。用百度OCR的通用文字識(shí)別接口配合圖像預(yù)處理可以做到不錯(cuò)的準(zhǔn)確率。from aip import AipOcr from PIL import Image import io APP_ID 你的AppID API_KEY 你的API Key SECRET_KEY 你的Secret Key client AipOcr(APP_ID, API_KEY, SECRET_KEY) def recognize_captcha(image_path): with open(image_path, rb) as f: image f.read() result client.basicGeneral(image) if words_result in result: return .join([item[words] for item in result[words_result]]) return None實(shí)際使用中直接調(diào)API的準(zhǔn)確率可能只有六七成。提升準(zhǔn)確率的技巧包括灰度化、二值化、去噪、字符分割。如果驗(yàn)證碼比較復(fù)雜可以考慮用專門的驗(yàn)證碼識(shí)別模型或者用大模型的多模態(tài)能力來識(shí)別。5.3 合同關(guān)鍵字段提取的完整方案用OCR識(shí)別合同并提取收入、單位、時(shí)間等關(guān)鍵字段這個(gè)需求在企業(yè)里非常常見。完整的方案是OCR識(shí)別 → 文本清洗 → 字段抽取 → 結(jié)構(gòu)化輸出。OCR這一步用百度OCR或者PaddleOCR都可以。文本清洗主要是去掉OCR引入的噪聲字符、合并斷行。字段抽取可以用規(guī)則匹配正則表達(dá)式也可以用大模型。規(guī)則匹配適合格式固定的合同大模型適合格式多變的情況。import re def extract_contract_fields(text): fields {} # 提取金額 amount_pattern r(?:金額|價(jià)款|總價(jià)|收入)[:]*\s*([\d,.])\s*(?:元|萬元) amount_match re.search(amount_pattern, text) if amount_match: fields[amount] amount_match.group(1) # 提取單位名稱 unit_pattern r(?:甲方|乙方|單位|公司)[:]*\s*([^\n,。]) unit_match re.search(unit_pattern, text) if unit_match: fields[unit] unit_match.group(1).strip() # 提取日期 date_pattern r(\d{4})\s*[年\-/]\s*(\d{1,2})\s*[月\-/]\s*(\d{1,2}) date_match re.search(date_pattern, text) if date_match: fields[date] f{date_match.group(1)}-{date_match.group(2)}-{date_match.group(3)} return fields如果合同格式不固定建議用大模型來做字段抽取。把OCR識(shí)別出來的文本和抽取要求一起發(fā)給大模型讓它輸出JSON格式的結(jié)果。這種方式靈活度高但要注意控制成本因?yàn)楹贤谋就ǔ１容^長。提示OCR識(shí)別合同的時(shí)候掃描件的質(zhì)量直接影響識(shí)別效果。建議要求上傳方提供300dpi以上的掃描件如果是拍照要保證光線均勻、沒有陰影、文字清晰。另外多頁合同要按頁識(shí)別再合并不要一次性把幾十頁的PDF全部轉(zhuǎn)成圖片再識(shí)別容易內(nèi)存溢出。6. 常見問題與排查技巧實(shí)錄6.1 模型調(diào)用類問題速查問題現(xiàn)象可能原因排查方法解決方案API返回401API Key無效或過期檢查Key是否正確、是否欠費(fèi)重新生成Key或充值A(chǔ)PI返回429請(qǐng)求頻率超限查看調(diào)用量是否超過配額降低頻率或升級(jí)套餐響應(yīng)時(shí)間過長模型負(fù)載高或輸入過長檢查輸入token數(shù)和當(dāng)前并發(fā)縮短輸入或錯(cuò)峰調(diào)用輸出被截?cái)鄊ax_tokens設(shè)置過小檢查輸出長度是否達(dá)到上限增大max_tokens輸出亂碼編碼問題檢查請(qǐng)求和響應(yīng)的編碼格式統(tǒng)一用UTF-86.2 Dify部署類問題速查Dify安裝過程中最常見的問題集中在Docker環(huán)境和網(wǎng)絡(luò)配置上。SSL錯(cuò)誤通常是因?yàn)槿萜鲀?nèi)部無法驗(yàn)證外部證書可以在.env里把相關(guān)URL改成http或者在Docker配置里加上證書信任。數(shù)據(jù)庫連接失敗要檢查PostgreSQL容器是否正常啟動(dòng)以及.env里的數(shù)據(jù)庫配置是否和docker-compose.yml一致。端口沖突的話檢查3000、5001、5432這些默認(rèn)端口是否被其他程序占用。還有一個(gè)容易忽略的問題是磁盤空間。Dify的Docker鏡像加上數(shù)據(jù)卷至少需要20GB以上的空閑空間。如果磁盤滿了容器會(huì)莫名其妙地掛掉日志里可能只顯示“no space left on device”。6.3 OCR識(shí)別準(zhǔn)確率優(yōu)化技巧OCR識(shí)別準(zhǔn)確率上不去通常不是單一原因造成的。我總結(jié)了一個(gè)排查順序先看圖片質(zhì)量再看預(yù)處理再看識(shí)別引擎最后看后處理。圖片質(zhì)量方面分辨率太低、光照不均、有陰影、傾斜角度過大都會(huì)影響識(shí)別。預(yù)處理包括灰度化、二值化、去噪、糾偏、裁剪。識(shí)別引擎方面不同引擎對(duì)不同字體和排版的敏感度不同可以多試幾個(gè)對(duì)比效果。后處理主要是用詞典或語言模型糾正識(shí)別錯(cuò)誤比如把“0”和“O”區(qū)分開。對(duì)于表格類文檔建議先用表格檢測模型定位表格區(qū)域再對(duì)每個(gè)單元格單獨(dú)識(shí)別最后按行列結(jié)構(gòu)重組。直接對(duì)整頁做OCR再解析表格結(jié)構(gòu)準(zhǔn)確率會(huì)差很多。6.4 工作流上下文超長的排查思路上下文超長的排查可以從三個(gè)方向入手輸入側(cè)、處理側(cè)、輸出側(cè)。輸入側(cè)檢查知識(shí)庫檢索返回了多少片段、每個(gè)片段多長、歷史對(duì)話保留了多少輪。處理側(cè)檢查有沒有做文本壓縮或摘要。輸出側(cè)檢查max_tokens設(shè)置是否合理。我常用的一個(gè)技巧是在工作流里加一個(gè)“文本長度檢查”節(jié)點(diǎn)把拼接后的文本長度打印出來。如果發(fā)現(xiàn)某次請(qǐng)求的輸入特別長就去定位是哪個(gè)環(huán)節(jié)貢獻(xiàn)了最多的文本。多數(shù)情況下問題出在知識(shí)庫檢索返回了太多不相關(guān)的片段調(diào)整Top K和Score閾值就能解決。7. 零基礎(chǔ)學(xué)習(xí)路線的個(gè)人建議如果你是完全零基礎(chǔ)我建議的學(xué)習(xí)順序是這樣的先用一周時(shí)間搞清楚大模型的基本概念和能做什么不用深入原理然后用兩周時(shí)間動(dòng)手調(diào)用API做一些小demo比如問答機(jī)器人、文本摘要工具接下來花一個(gè)月時(shí)間學(xué)習(xí)Dify或類似平臺(tái)搭建一個(gè)完整的知識(shí)庫問答應(yīng)用最后根據(jù)興趣選擇深入方向——想做應(yīng)用就繼續(xù)研究工作流編排和Agent想做底層就補(bǔ)Transformer原理和微調(diào)技術(shù)。這個(gè)過程中最重要的是動(dòng)手。看十篇教程不如自己跑通一個(gè)demo。遇到報(bào)錯(cuò)不要怕報(bào)錯(cuò)信息就是最好的老師。我剛開始的時(shí)候一個(gè)環(huán)境配置問題卡了三天但解決之后對(duì)Docker網(wǎng)絡(luò)的理解比看任何教程都深刻。另外不要追求把每個(gè)概念都搞明白再動(dòng)手。大模型這個(gè)領(lǐng)域變化太快很多概念本身也在演進(jìn)。先跑起來再逐步深入這是我認(rèn)為最有效的學(xué)習(xí)路徑。