免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

在線拍賣系統(tǒng)架構(gòu)設(shè)計(jì):Node.js+Socket.IO+Redis高并發(fā)實(shí)踐

在線拍賣系統(tǒng)架構(gòu)設(shè)計(jì):Node.js+Socket.IO+Redis高并發(fā)實(shí)踐 1. 這個(gè)項(xiàng)目到底要解決什么問(wèn)題拍賣業(yè)務(wù)和普通電商的差距在哪先說(shuō)個(gè)實(shí)際場(chǎng)景。我見(jiàn)過(guò)不少同學(xué)拿到“在線拍賣系統(tǒng)”這個(gè)題目后第一反應(yīng)是照抄電商系統(tǒng)的商品模塊商品列表、購(gòu)物車、訂單、支付然后換了個(gè)殼子叫“拍賣”。答辯時(shí)被問(wèn)了一句“拍賣截止時(shí)間到了但有人正在輸入出價(jià)你怎么處理”就卡住了。說(shuō)實(shí)話這是做拍賣系統(tǒng)最典型的誤區(qū)——拍賣的核心從來(lái)不是“賣東西的流程”而是競(jìng)價(jià)規(guī)則本身。普通電商的訂單狀態(tài)是線性流轉(zhuǎn)下單、支付、發(fā)貨、收貨。買個(gè)東西你付了錢東西就是你的邏輯很直接。拍賣則完全不同它有幾個(gè)電商沒(méi)有的特殊問(wèn)題時(shí)間敏感每個(gè)拍賣品有明確的起止時(shí)間“最后幾秒”往往決定成敗系統(tǒng)必須在毫秒級(jí)處理出價(jià)請(qǐng)求。狀態(tài)競(jìng)爭(zhēng)同一個(gè)拍賣品同一時(shí)刻可能有幾十個(gè)用戶同時(shí)在出價(jià)但只有價(jià)格最高的那個(gè)人能勝出其他人的出價(jià)要被拒絕或立刻被超出的新價(jià)格作廢。結(jié)果裁定拍賣結(jié)束后系統(tǒng)要自動(dòng)判定贏家如果有人在最后幾秒出價(jià)是否順延拍賣時(shí)間這個(gè)規(guī)則必須在后端嚴(yán)格控制不能靠前端倒計(jì)時(shí)來(lái)約定。可見(jiàn)性競(jìng)拍過(guò)程本身就是一個(gè)“實(shí)時(shí)直播”所有參與者的客戶端必須看到最新的出價(jià)記錄、倒計(jì)時(shí)和領(lǐng)先者變化這顆不是“刷新一下頁(yè)面”那種體驗(yàn)而是服務(wù)端推動(dòng)的實(shí)時(shí)更新。我當(dāng)時(shí)拿到需求文檔之后第一件事不是選技術(shù)棧而是先把拍賣的規(guī)則細(xì)化成一張可執(zhí)行的邏輯表。比如“加價(jià)幅度不低于多少”“同一用戶不能連續(xù)自加價(jià)”“大促場(chǎng)景下五萬(wàn)人圍觀一個(gè)拍賣品的實(shí)時(shí)瀏覽怎么支撐”——這些才是決定架構(gòu)的核心約束。順便也明確一下這個(gè)系統(tǒng)的目標(biāo)用戶和形態(tài)這是一個(gè)面向Web端的在線拍賣平臺(tái)管理員可以發(fā)布拍賣品、設(shè)置起拍價(jià)和保證金規(guī)則用戶通過(guò)瀏覽器參與競(jìng)拍系統(tǒng)自動(dòng)記錄出價(jià)歷史、判定成交并處理保證金退還。它適合做課程設(shè)計(jì)、畢業(yè)設(shè)計(jì)也能作為企業(yè)內(nèi)部“內(nèi)部資產(chǎn)拍賣”或“二手設(shè)備競(jìng)價(jià)”的原型系統(tǒng)。2. 技術(shù)選型的真實(shí)理由為什么是Node.js不只是因?yàn)樗鼘懼?jiǎn)單確定了業(yè)務(wù)邊界后第二步是選技術(shù)棧。當(dāng)時(shí)我選的是Node.js Express Socket.IO Redis MongoDB這個(gè)組合放到今天依然很能打。下面按“為什么選它”而不是“它多流行”的方式拆一下。2.1 Node.js的擅長(zhǎng)區(qū)間正好卡在拍賣系統(tǒng)的點(diǎn)上拍賣系統(tǒng)是一個(gè)典型的I/O密集、短連接高頻請(qǐng)求、高并發(fā)讀寫場(chǎng)景。每個(gè)用戶的出價(jià)動(dòng)作本質(zhì)上是一次快速的事件提交而系統(tǒng)需要把這個(gè)事件廣播給所有正在圍觀這個(gè)拍品的人。Node.js的異步事件驅(qū)動(dòng)模型天生適合這種“小而快”的任務(wù)。有人可能擔(dān)心Node.js是單線程的會(huì)不會(huì)在高并發(fā)下?lián)尾蛔?。?shí)際上普通拍賣系統(tǒng)的真實(shí)瓶頸很少在CPU計(jì)算而在數(shù)據(jù)庫(kù)連接數(shù)、Redis讀寫能力和網(wǎng)絡(luò)帶寬。Node.js單線程負(fù)責(zé)調(diào)度阻塞操作都丟給底層線程池配合Cluster模塊起多個(gè)進(jìn)程單機(jī)扛住一兩千并發(fā)連接問(wèn)題不大。我做壓測(cè)時(shí)8核機(jī)器上跑4個(gè)Node進(jìn)程每個(gè)進(jìn)程保持1萬(wàn)個(gè)Socket連接整體狀態(tài)很穩(wěn)定。再說(shuō)維護(hù)成本。整個(gè)系統(tǒng)前后端都用JavaScript部署時(shí)不需要多個(gè)運(yùn)行時(shí)環(huán)境寫業(yè)務(wù)邏輯的思路也連貫。對(duì)我這種做全棧的人來(lái)說(shuō)一套語(yǔ)言打通確實(shí)省了不少事。2.2 Socket.IO做實(shí)時(shí)推送選擇它的關(guān)鍵原因是容錯(cuò)而不是炫技拍賣頁(yè)面的核心體驗(yàn)是當(dāng)前價(jià)變了、領(lǐng)先者變了、倒計(jì)時(shí)變了所有在線用戶都能立刻看到。用傳統(tǒng)的HTTP輪詢也行但一是浪費(fèi)請(qǐng)求二是延遲不穩(wěn)定。WebSocket是正確答案但直接裸用WebSocket要處理斷線重連、心跳、連接狀態(tài)同步這些臟活。Socket.IO在這方面幫了大忙。它底層自動(dòng)選擇WebSocket、輪詢或其他可用方式實(shí)測(cè)中某個(gè)用戶網(wǎng)絡(luò)差時(shí)自動(dòng)降級(jí)成HTTP長(zhǎng)輪詢體驗(yàn)不至于崩掉連接斷開(kāi)后會(huì)自動(dòng)重連配合房間里的事件廣播斷線幾秒再回來(lái)狀態(tài)還能對(duì)得上。異步任務(wù)的部分我用了Redis輔助這一點(diǎn)后面單獨(dú)講。這里先記住一個(gè)結(jié)論Socket.IO不是可有可無(wú)的“聊天室工具”它承擔(dān)了競(jìng)拍系統(tǒng)“現(xiàn)場(chǎng)直播感”的全部責(zé)任。2.3 Redis在系統(tǒng)里的三副面孔R(shí)edis在這個(gè)項(xiàng)目里不是可有可無(wú)的緩存層它承擔(dān)了三個(gè)職責(zé)實(shí)時(shí)數(shù)據(jù)的存儲(chǔ)當(dāng)前價(jià)格、當(dāng)前領(lǐng)先者、倒計(jì)時(shí)截止時(shí)間戳這些更新頻率高、數(shù)據(jù)量小的狀態(tài)放在Redis里避免每次都查MongoDB。分布式鎖解決“同一時(shí)間多個(gè)進(jìn)程處理同一個(gè)拍品的出價(jià)”時(shí)的并發(fā)沖突。Socket.IO的適配器后端讓多進(jìn)程之間能互相廣播事件確??蛻舳诉B在不同Node進(jìn)程上也能收到同一件拍品的出價(jià)提醒。只要系統(tǒng)會(huì)面臨拍賣高峰期Redis幾乎就是標(biāo)配不是可選項(xiàng)。2.4 數(shù)據(jù)庫(kù)選型MongoDB適合這種“敏捷演變”的數(shù)據(jù)結(jié)構(gòu)拍賣品、出價(jià)記錄、用戶信息這幾類數(shù)據(jù)天然是文檔結(jié)構(gòu)。每件拍品的參數(shù)字段可能不一樣字畫有作者、古董有年代、電子產(chǎn)品有型號(hào)關(guān)系型數(shù)據(jù)庫(kù)里要搞一堆“規(guī)格擴(kuò)展表”而MongoDB允許直接嵌入一個(gè)動(dòng)態(tài)的屬性對(duì)象開(kāi)發(fā)效率高很多。另外出價(jià)記錄是典型的追加型數(shù)據(jù)MongoDB的寫入性能也優(yōu)于傳統(tǒng)關(guān)系庫(kù)的常規(guī)配置。為了讓出價(jià)記錄查詢快我給collection加了聯(lián)合索引{auctionId: 1, price: -1}。為了讓拍賣中的拍品能快速篩選加了{(lán)status: 1, endTime: 1}的索引。這是設(shè)計(jì)初就規(guī)劃好的不是等數(shù)據(jù)量大了才想起來(lái)補(bǔ)。3. 第一個(gè)核心難點(diǎn)拍賣狀態(tài)機(jī)與延遲機(jī)制的完整實(shí)現(xiàn)進(jìn)到具體實(shí)現(xiàn)階段后最復(fù)雜的其實(shí)是“規(guī)則邏輯”而不是“增刪改查”。建議先畫一張狀態(tài)圖把拍品的生命周期理清楚再寫代碼不然很容易在幾個(gè)狀態(tài)的邊界上兜圈子。3.1 狀態(tài)機(jī)pending到running到ending的三態(tài)流轉(zhuǎn)我把拍品的狀態(tài)定義得非常明確pending未開(kāi)始管理員創(chuàng)建拍品后等待到達(dá)開(kāi)始時(shí)間。running進(jìn)行中開(kāi)始時(shí)間到達(dá)或管理員手動(dòng)上架用戶可出價(jià)。ended已結(jié)束到達(dá)結(jié)束時(shí)間且無(wú)延時(shí)時(shí)系統(tǒng)自動(dòng)裁定結(jié)果。settled已成交在ended基礎(chǔ)上完成支付/保證金退還等后續(xù)動(dòng)作。這個(gè)狀態(tài)流轉(zhuǎn)我完整寫在服務(wù)端禁止前端直接改狀態(tài)字段只允許通過(guò)服務(wù)端接口觸發(fā)。這里有一個(gè)關(guān)鍵設(shè)計(jì)容易被忽略狀態(tài)的變更必須帶時(shí)間戳和操作人。比如用戶出價(jià)時(shí)發(fā)現(xiàn)拍品已經(jīng)ended就要明確記下“誰(shuí)在什么時(shí)候試圖出價(jià)被拒”這在糾紛處理時(shí)要查得清楚。3.2 截止時(shí)間到底怎么定不可逆的時(shí)間戳原則前端展示的倒計(jì)時(shí)是從服務(wù)端取到的endTime字段計(jì)算出來(lái)的。任何客戶端本地時(shí)間都不參與“是否截止”的判定攻擊者改系統(tǒng)時(shí)鐘對(duì)服務(wù)端毫無(wú)影響。這里有個(gè)細(xì)節(jié)數(shù)據(jù)庫(kù)里存的是絕對(duì)時(shí)間戳epoch毫秒而不是“剩余秒數(shù)”。因?yàn)椤笆S嗝霐?shù)”是一種相對(duì)狀態(tài)會(huì)隨著計(jì)算時(shí)刻不同產(chǎn)生漂移絕對(duì)時(shí)間戳則無(wú)歧義。前端拿到endTime后通過(guò)const remain Math.max(0, Math.floor((endTime - Date.now()) / 1000))計(jì)算顯示。3.3 最后幾秒的規(guī)則延長(zhǎng)拍賣時(shí)間而非簡(jiǎn)單拒絕這是拍賣系統(tǒng)最出彩、也最容易出錯(cuò)的地方。規(guī)則是在剩余時(shí)間不足X秒如3秒時(shí)如有人出價(jià)則拍賣結(jié)束時(shí)間自動(dòng)延長(zhǎng)Y秒如5秒。這個(gè)機(jī)制通常稱為“自動(dòng)延長(zhǎng)時(shí)間”作用是防止最后時(shí)刻的網(wǎng)絡(luò)延遲導(dǎo)致真實(shí)買家無(wú)法完成出價(jià)。實(shí)現(xiàn)時(shí)不能用“前端倒計(jì)時(shí)到了就鎖死”的方案必須由后端原子操作判斷。我用Redis的WATCH/MULTI事務(wù)來(lái)處理// 判斷并延長(zhǎng)截止時(shí)間 const redisClient require(./redis).getClient(); async function tryExtendAuction(auctionId, latestBidTime) { const key auction:endTime:${auctionId}; const result await redisClient.watch(key); if (!result) return; const currentEnd await redisClient.get(key); const remain currentEnd - Date.now(); const multi redisClient.multi(); if (remain EXTEND_THRESHOLD_MS remain 0) { const newEnd Date.now() EXTEND_DURATION_MS; multi.set(key, newEnd); multi.set(auction:status:${auctionId}, running); } const execRes await multi.exec(); if (!execRes) { // 有其他請(qǐng)求并發(fā)修改重試 return tryExtendAuction(auctionId, latestBidTime); } }這樣寫的核心是REdis的watch機(jī)制監(jiān)聽(tīng)endTime如果在我讀取之后、事務(wù)執(zhí)行之前這個(gè)key被別的進(jìn)程改了整個(gè)事務(wù)就取消重試。這保證了多人同時(shí)出價(jià)時(shí)只會(huì)有一個(gè)人成功延長(zhǎng)而不會(huì)被覆蓋成亂七八糟的時(shí)間。3.4 定時(shí)任務(wù)的坑setTimeout不是用來(lái)做拍賣結(jié)算的一開(kāi)始很多人會(huì)用setTimeout來(lái)做“到點(diǎn)自動(dòng)結(jié)算”??雌饋?lái)簡(jiǎn)單但服務(wù)器重啟后內(nèi)存中的timer會(huì)全部丟失。更穩(wěn)妥的做法是每個(gè)拍品結(jié)束時(shí)先把狀態(tài)標(biāo)記為“待結(jié)算”并寫入結(jié)算時(shí)間。然后用一個(gè)獨(dú)立的輪詢?nèi)蝿?wù)去掃描所有“running且endTime已過(guò)”的拍品執(zhí)行結(jié)算。這個(gè)輪詢?nèi)蝿?wù)可以用node-cron實(shí)現(xiàn)每秒鐘掃一次const cron require(node-cron); cron.schedule(* * * * * *, async () { const expiredAuctions await Auction.find({ status: running, endTime: { $lte: new Date() } }); for (const auc of expiredAuctions) { await settleAuction(auc._id); } });掃描頻率是1秒一次粒度足夠了。即便定時(shí)任務(wù)有1秒延遲用戶也感知不到。不過(guò)千萬(wàn)注意掃描任務(wù)必須設(shè)計(jì)成可重入的。也就是說(shuō)同一件拍品不能在兩次掃描中被同時(shí)結(jié)算。我給處理過(guò)程加了一個(gè)狀態(tài)位開(kāi)始結(jié)算前用Redis setnx寫入一個(gè)lock key成功才繼續(xù)否則跳過(guò)本次。4. 第二個(gè)核心難點(diǎn)競(jìng)價(jià)高并發(fā)下的數(shù)據(jù)一致性出價(jià)是拍賣系統(tǒng)的核心操作比普通的“寫入一條記錄”復(fù)雜得多。每次出價(jià)必須同時(shí)滿足出價(jià)價(jià)格大于當(dāng)前最高價(jià)并且加價(jià)幅度合法。拍品狀態(tài)為running。當(dāng)前時(shí)間還沒(méi)到endTime。不能是領(lǐng)先者自己再次出價(jià)防止自己頂自己刷價(jià)。這幾個(gè)條件任何一個(gè)不滿足都要拒絕這次出價(jià)。但如果判斷完再寫入期間又有別的請(qǐng)求插進(jìn)來(lái)就可能出現(xiàn)“兩個(gè)人同時(shí)認(rèn)為自己出價(jià)成功”的競(jìng)態(tài)條件。解決這個(gè)問(wèn)題的典型方法有樂(lè)觀鎖和Redis原子操作我兩個(gè)都用過(guò)說(shuō)說(shuō)實(shí)際的取舍。4.1 方案對(duì)比樂(lè)觀鎖 vs Redis原子操作給MongoDB的拍賣品文檔加一個(gè)version字段遞交出價(jià)時(shí)帶上讀出時(shí)的版本號(hào)更新時(shí)用findOneAndUpdate帶條件version 讀取的版本號(hào)如果更新結(jié)果為空說(shuō)明版本沖突重新讀取再試。這種樂(lè)觀鎖簡(jiǎn)單可靠但問(wèn)題是在高并發(fā)情況下重試次數(shù)會(huì)很多不僅浪費(fèi)體驗(yàn)也不好。改進(jìn)后我采用的方式是把“當(dāng)前最高價(jià)”放在Redis里用Redis的原子自增/范圍操作來(lái)裁決出價(jià)。const Script if redis.call(exists, KEYS[1]) 0 then return -1 end local currentPrice tonumber(redis.call(get, KEYS[2])) local requiredStep tonumber(ARGV[2]) if tonumber(ARGV[1]) currentPrice requiredStep then return 0 end redis.call(set, KEYS[2], ARGV[1]) redis.call(set, KEYS[3], ARGV[3]) return 1 ; const result await redisClient.eval(Script, 3, auction:status:${auctionId}, auction:currentPrice:${auctionId}, auction:leader:${auctionId}, newPrice, minStep, userId );Lua腳本在Redis里是原子執(zhí)行的這行命令在整個(gè)執(zhí)行期間不會(huì)被其他命令插入所以并發(fā)判斷和寫入是安全無(wú)競(jìng)態(tài)的。出價(jià)成功后再把出價(jià)記錄異步寫入MongoDB。這里Redis不是緩存而是數(shù)據(jù)的“合法裁決點(diǎn)”。4.2 MongoDB里的出價(jià)記錄異步落庫(kù)與補(bǔ)償Redis負(fù)責(zé)裁決MongoDB負(fù)責(zé)持久化。把出價(jià)記錄異步落庫(kù)時(shí)有兩種方案監(jiān)聽(tīng)Redis的鍵變化事件觸發(fā)寫入。每個(gè)Node進(jìn)程在收到業(yè)務(wù)層“出價(jià)成功”信號(hào)后自行寫庫(kù)。方案2更直觀但需要小心如果某一臺(tái)Node進(jìn)程在寫入期間崩潰出價(jià)記錄就丟了。解決方法是引入一個(gè)簡(jiǎn)單的補(bǔ)償任務(wù)定每隔一段時(shí)間比如每分鐘比對(duì)Redis中的當(dāng)前狀態(tài)和MongoDB中記錄的最高價(jià)是否一致如果Redis中的價(jià)格高于數(shù)據(jù)庫(kù)記錄就補(bǔ)插一條記錄。看起來(lái)有點(diǎn)笨但拍賣場(chǎng)景下極少出現(xiàn)這個(gè)不一致而且補(bǔ)償對(duì)賬能保證賬目可靠。4.3 加價(jià)幅度的校驗(yàn)放在哪一層出價(jià)不是隨意數(shù)字系統(tǒng)規(guī)定加價(jià)幅度必須高于當(dāng)前價(jià)的某個(gè)比例例如5%或固定階梯值。這個(gè)校驗(yàn)務(wù)必放在服務(wù)端不能依賴前端禁用按鈕。理由是顯而易見(jiàn)的任何人都能直接偽造請(qǐng)求。前端可以輔助展示“最低可出價(jià)”后端則必須嚴(yán)格判斷if (bidPrice currentPrice minStep) { throw new BizError(BID_PRICE_TOO_LOW); }這個(gè)currentPrice從Redis里讀而不是從數(shù)據(jù)庫(kù)讀因?yàn)镽edis值實(shí)時(shí)滾動(dòng)的頻率遠(yuǎn)高于數(shù)據(jù)庫(kù)持久化頻率。前端顯示出現(xiàn)微小延遲沒(méi)關(guān)系但后端裁決必須使用最準(zhǔn)的數(shù)據(jù)。5. 前端實(shí)時(shí)交互那些容易被忽略的體驗(yàn)細(xì)節(jié)頁(yè)面實(shí)現(xiàn)上我用服務(wù)端渲染出基礎(chǔ)結(jié)構(gòu)再用Socket.IO負(fù)責(zé)動(dòng)態(tài)區(qū)域的實(shí)時(shí)更新。不是所有地方都要實(shí)時(shí)只有這幾個(gè)關(guān)鍵區(qū)域需要當(dāng)前最高價(jià)與領(lǐng)先者昵稱。最新出價(jià)記錄列表。距離截止的時(shí)間倒計(jì)時(shí)。狀態(tài)橫幅“已結(jié)束”“已成交”。5.1 房間設(shè)計(jì)io.to(auctionId)只推相關(guān)用戶Socket.IO提供了房間room)能力。用戶進(jìn)入拍賣詳情頁(yè)時(shí)前端發(fā)一個(gè)joinAuctionRoom事件后端把socket加入到auction_${auctionId}房間內(nèi)。這樣出價(jià)成功時(shí)只需io.to(auctionRoomId).emit(bid:update, data)所有在線用戶都能收到不在這個(gè)頁(yè)面的人則不會(huì)被廣播干擾。有幾百萬(wàn)人在線時(shí)全局廣播會(huì)造成巨大壓力。按房間推送能把消息量限制在真正關(guān)注當(dāng)前拍品的用戶范圍內(nèi)。5.2 斷線重連與狀態(tài)同步保住用戶的“現(xiàn)場(chǎng)感”網(wǎng)絡(luò)抖動(dòng)是常態(tài)用戶刷新頁(yè)面也會(huì)觸發(fā)socket重新連接。Socket.IO默認(rèn)會(huì)自動(dòng)重連但重連后前端頁(yè)面上的價(jià)格和倒計(jì)時(shí)可能已經(jīng)過(guò)期。我寫了一個(gè)reqState事件socket連接建立后前端主動(dòng)請(qǐng)求當(dāng)前拍品的完整快照當(dāng)前價(jià)、截止時(shí)間、領(lǐng)先者、最近的出價(jià)記錄服務(wù)端從Redis Mongo組裝返回。這樣用戶不管什么時(shí)候進(jìn)來(lái)看到的都是準(zhǔn)實(shí)時(shí)狀態(tài)不會(huì)顯示一個(gè)過(guò)期的死頁(yè)面。5.3 倒計(jì)時(shí)的前端算法不要依賴服務(wù)端的“剩余秒數(shù)”前面說(shuō)了服務(wù)端返回絕對(duì)時(shí)間戳。前端用一個(gè)統(tǒng)一的時(shí)間源來(lái)做倒計(jì)時(shí)更新function formatRemain(endTime) { const remain Math.max(0, Math.floor((endTime - Date.now()) / 1000)); const h Math.floor(remain / 3600); const m Math.floor((remain % 3600) / 60); const s remain % 60; return ${h}:${String(m).padStart(2, 0)}:${String(s).padStart(2, 0)}; }這里有一個(gè)細(xì)節(jié)如果用戶本地時(shí)鐘和服務(wù)端差了幾秒倒計(jì)時(shí)顯示會(huì)不準(zhǔn)確。雖然不是嚴(yán)重的問(wèn)題但競(jìng)拍最后幾秒用戶會(huì)很敏感。嚴(yán)謹(jǐn)?shù)淖龇ㄊ沁B接建立時(shí)服務(wù)端下發(fā)一個(gè)serverTime前端計(jì)算本地時(shí)鐘偏移量之后用Date.now() offset作為時(shí)間基準(zhǔn)。5.4 出價(jià)按鈕的防誤觸設(shè)計(jì)出價(jià)操作是不可撤銷的誤觸一次就可能花冤枉錢。前端在按鈕點(diǎn)擊后要加一個(gè)確認(rèn)彈窗顯示本次出價(jià)后的新價(jià)格。同時(shí)按鈕在收到“出價(jià)成功”或“出價(jià)過(guò)低”的socket響應(yīng)前應(yīng)處于loading狀態(tài)防止快速連點(diǎn)造成沖突。后端也不怕連點(diǎn)因?yàn)閮r(jià)格裁決在Redis的Lua里是原子操作。即便前端快速發(fā)了兩次相同價(jià)格的出價(jià)第二次會(huì)因?yàn)椤皟r(jià)格未高于當(dāng)前價(jià)”被自然拒絕。6. 數(shù)據(jù)庫(kù)模型設(shè)計(jì)寧可多寫一點(diǎn)也不要留模糊地帶6.1 拍賣品集合的核心字段{ _id: ObjectId, title: String, // 標(biāo)題 description: String, // 描述 coverImage: String, // 封面圖URL startPrice: Number, // 起拍價(jià)單位分 currentPrice: Number, // 當(dāng)前價(jià)實(shí)時(shí)取Redis冗余存儲(chǔ) minStep: Number, // 最小加價(jià)幅度 deposit: Number, // 保證金分 startTime: Date, // 開(kāi)始時(shí)間 endTime: Date, // 截止時(shí)間 status: String, // pending / running / ended / settled leaderId: ObjectId, // 當(dāng)前領(lǐng)先者 bidCount: Number, // 出價(jià)次數(shù)統(tǒng)計(jì)用 actualEndTime: Date, // 實(shí)際結(jié)束時(shí)間可能因延時(shí)而變化 createdAt: Date, updatedAt: Date }注意我用了“分”作為貨幣單位。浮點(diǎn)數(shù)算錢在JavaScript里是災(zāi)難雖然MongoDB支持Decimal128但單位換算成整數(shù)更省心顯示時(shí)再除以100。加價(jià)幅度、當(dāng)前價(jià)、起拍價(jià)全部存整數(shù)分。6.2 出價(jià)記錄集合{ _id: ObjectId, auctionId: ObjectId, userId: ObjectId, price: Number, // 本次出價(jià)分 createdAt: Date, isAuto: Boolean, // 是否系統(tǒng)自動(dòng)出價(jià)預(yù)留 ip: String, // 操作來(lái)源審計(jì)用 source: String, // web / admin }這個(gè)集合只做追加不修改不刪除。用戶可以在詳情頁(yè)看到所有歷史出價(jià)也是后期審計(jì)的憑證。索引{auctionId: 1, price: -1}可以讓“最近出價(jià)列表”查詢走索引。6.3 用戶與保證金保證金設(shè)計(jì)上為了簡(jiǎn)化流程我初期用一個(gè)userDeposits集合記錄用戶為某個(gè)拍品繳納的保證金狀態(tài){ _id: ObjectId, userId: ObjectId, auctionId: ObjectId, amount: Number, status: String, // paid / frozen / returned / deducted paidAt: Date, returnedAt: Date }拍賣結(jié)束時(shí)贏家需要完成付款保證金可抵扣貨款輸家的保證金自動(dòng)原路退回。這是業(yè)務(wù)上比較合理的閉環(huán)。如果沒(méi)有支付渠道可以做成“模擬支付”但數(shù)據(jù)結(jié)構(gòu)上必須有這條鏈路。7. 部署架構(gòu)與橫向擴(kuò)展從單機(jī)到多進(jìn)程的平滑演進(jìn)前面的內(nèi)容主要集中在代碼層面。這部分把真實(shí)部署時(shí)的架構(gòu)設(shè)計(jì)講清楚因?yàn)楹芏嗤瑢W(xué)做完功能后就停了忽略了“系統(tǒng)能面對(duì)多少真實(shí)用戶”這個(gè)問(wèn)題。7.1 單機(jī)起步的最小架構(gòu)初期單機(jī)方案如下一臺(tái)云主機(jī)4核8G以上。Nginx做反向代理靜態(tài)資源走緩存。Node.js起4個(gè)進(jìn)程Cluster模式監(jiān)聽(tīng)同一個(gè)端口。Redis和MongoDB部署在同一臺(tái)機(jī)器上或者單獨(dú)實(shí)例。這個(gè)配置大概能支撐幾百到上千的并發(fā)在線用戶對(duì)課程設(shè)計(jì)和中小型內(nèi)部系統(tǒng)完全夠用。7.2 Socket.IO的跨進(jìn)程通信Redis Adapter是關(guān)鍵單機(jī)起4個(gè)進(jìn)程之后馬上會(huì)遇到一個(gè)麻煩用戶A連的是進(jìn)程1用戶B連的是進(jìn)程2A出價(jià)后進(jìn)程1只能給本進(jìn)程內(nèi)的socket廣播進(jìn)程2里的用戶收不到更新。解決方法是給Socket.IO配上Redis Adapterconst { createAdapter } require(socket.io/redis-adapter); const { createClient } require(redis); const pubClient createClient({ url: redis://localhost:6379 }); const subClient pubClient.duplicate(); io.adapter(createAdapter(pubClient, subClient));配好之后每個(gè)進(jìn)程的Socket.IO實(shí)例通過(guò)Redis互相傳遞廣播消息room的概念也自動(dòng)變成全局的。這樣“房間內(nèi)廣播所有在線用戶”是基于全集群的而不只限于單個(gè)進(jìn)程。7.3 Nginx的升級(jí)策略與負(fù)載均衡當(dāng)在線用戶數(shù)增長(zhǎng)到幾千、上萬(wàn)時(shí)單機(jī)肯定不夠了。擴(kuò)展思路是Nginx轉(zhuǎn)發(fā)請(qǐng)求到多臺(tái)Node服務(wù)器。Socket.IO長(zhǎng)連接必須開(kāi)啟ip_hash負(fù)載均衡或者使用sticky sessions否則同一個(gè)用戶的多次長(zhǎng)連接可能被分配到不同服務(wù)器重連后房間信息可能丟失。雖然Redis Adapter能解決跨進(jìn)程廣播但從用戶角度一個(gè)固定的連接能被路由到同一個(gè)后端進(jìn)程重連開(kāi)銷最小。Nginx配置里upstream node_app { ip_hash; server 10.0.0.1:3000; server 10.0.0.2:3000; }一個(gè)完整的生產(chǎn)級(jí)部署會(huì)涉及CDN、靜態(tài)資源分離、MongoDB副本集、Redis哨兵等但核心架構(gòu)和單機(jī)版本一脈相承。真正的門檻在“編排和監(jiān)控”不在“功能開(kāi)發(fā)”。7.4 性能瓶頸與優(yōu)化連接數(shù)比CPU更先到達(dá)上限壓測(cè)時(shí)最容易遇到的坑是EADDRNOTAVAIL或者too many open files。Linux默認(rèn)單進(jìn)程文件描述符上限是1024對(duì)一個(gè)支持幾千長(zhǎng)連接的Node進(jìn)程來(lái)說(shuō)根本不夠。必須調(diào)大ulimit -n 65535另外Socket.IO的心跳配置也需要按實(shí)際網(wǎng)絡(luò)情況去調(diào)。默認(rèn)心跳間隔和超時(shí)時(shí)間對(duì)弱網(wǎng)用戶不太友好我調(diào)整成const io new Server(httpServer, { pingInterval: 25000, pingTimeout: 20000, cors: { origin: [https://yourdomain.com] } });這兩個(gè)參數(shù)的含義是每25秒服務(wù)端發(fā)一次心跳若20秒內(nèi)客戶端沒(méi)有響應(yīng)則判定斷開(kāi)。太頻繁會(huì)增加無(wú)謂流量太慢會(huì)導(dǎo)致“用戶已經(jīng)斷網(wǎng)但服務(wù)端還掛著一堆僵尸連接”。8. 踩坑實(shí)錄那些文檔里不會(huì)寫的教訓(xùn)這個(gè)系統(tǒng)前前后后寫了兩三個(gè)版本踩過(guò)不少坑。挑幾個(gè)有代表性的分享出來(lái)。8.1 并發(fā)用戶出價(jià)后數(shù)據(jù)庫(kù)里的currentPrice和Redis不一致一開(kāi)始我把currentPrice放在Redis里做實(shí)時(shí)裁決但落庫(kù)時(shí)用的是Auction.updateOne({ _id }, { $set: { currentPrice: newPrice } })沒(méi)加版本控制。壓測(cè)時(shí)發(fā)現(xiàn)某個(gè)時(shí)刻數(shù)據(jù)庫(kù)里的價(jià)格低于Redis里的價(jià)格。原因很簡(jiǎn)單兩次并發(fā)更新在不同的進(jìn)程里執(zhí)行后到的寫庫(kù)請(qǐng)求可能讀到一個(gè)舊的Redis值把數(shù)據(jù)庫(kù)覆蓋成更低的價(jià)。我的修復(fù)方案是把MongoDB更新也改成條件更新只有當(dāng)傳入的新價(jià)格大于當(dāng)前數(shù)據(jù)庫(kù)價(jià)格時(shí)才更新const updateRes await Auction.updateOne( { _id: auctionId, currentPrice: { $lt: newPrice } }, { $set: { currentPrice: newPrice, leaderId: userId, updatedAt: new Date() } } );數(shù)據(jù)庫(kù)里的值就永遠(yuǎn)不會(huì)被低價(jià)格覆蓋。即便Redis和數(shù)據(jù)庫(kù)偶爾不一致數(shù)據(jù)庫(kù)對(duì)賬任務(wù)也能最終修正。8.2 服務(wù)器時(shí)鐘漂移導(dǎo)致倒計(jì)時(shí)提前清零我一開(kāi)始認(rèn)為服務(wù)器時(shí)間絕對(duì)準(zhǔn)確后來(lái)發(fā)現(xiàn)云服務(wù)器啟用NTP對(duì)時(shí)后極小概率會(huì)出現(xiàn)幾秒的時(shí)鐘跳動(dòng)。當(dāng)時(shí)有一場(chǎng)拍賣明明還有10秒前端倒計(jì)時(shí)直接歸零了。排查半天發(fā)現(xiàn)問(wèn)題出在“本地服務(wù)器時(shí)間和NTP校時(shí)瞬間跳變”上。這種偶發(fā)問(wèn)題很難復(fù)現(xiàn)但拍賣系統(tǒng)對(duì)時(shí)間極度敏感。我的做法是服務(wù)端多維護(hù)一個(gè)serverTimeOffset字段校時(shí)跳變時(shí)做平滑校正不讓倒計(jì)時(shí)顯示瞬間突變。8.3 Socket.IO的內(nèi)存泄漏分清日志級(jí)別的作用有段時(shí)間線上運(yùn)行幾天后內(nèi)存占用持續(xù)上升堆快照后發(fā)現(xiàn)是console.log在打印大對(duì)象??雌饋?lái)是個(gè)小事但生產(chǎn)環(huán)境每秒鐘幾百次出價(jià)廣播每次都打一大坨JSON日志系統(tǒng)自身就會(huì)成為性能瓶頸。優(yōu)化方案是log級(jí)別區(qū)分debug級(jí)別開(kāi)發(fā)環(huán)境打印完整對(duì)象。info級(jí)別生產(chǎn)環(huán)境只打印簡(jiǎn)要信息auctionId、price、userId、耗時(shí)。warn/error級(jí)別打印完整錯(cuò)誤堆棧。做技術(shù)的人容易忽視日志但日志其實(shí)是排障時(shí)的第一救命稻草。8.4 出價(jià)記錄查詢慢看懂explain()比瞎加索引管用有一個(gè)列表頁(yè)要顯示某件拍品的出價(jià)記錄數(shù)據(jù)量到了十萬(wàn)條后查詢?cè)絹?lái)越慢??磮?zhí)行計(jì)劃發(fā)現(xiàn)查詢走了全表掃描。加了聯(lián)合索引{auctionId:1, createdAt:-1}后速度從幾百毫秒降到個(gè)位數(shù)毫秒。這種問(wèn)題其實(shí)很基礎(chǔ)但真遇到了才知道索引設(shè)計(jì)不能靠直覺(jué)。9. 最后還想再聊幾句這個(gè)項(xiàng)目我從頭到尾做下來(lái)最大的感受是拍賣系統(tǒng)表面上是“一個(gè)帶倒計(jì)時(shí)的商品頁(yè)面”實(shí)際上是一套包含并發(fā)控制、實(shí)時(shí)通信、狀態(tài)機(jī)、資金流轉(zhuǎn)的完整業(yè)務(wù)系統(tǒng)。每個(gè)細(xì)節(jié)背后都有真實(shí)場(chǎng)景在推動(dòng)不是硬湊出來(lái)的功能。如果你想在這個(gè)項(xiàng)目基礎(chǔ)上繼續(xù)擴(kuò)展可以考慮這幾個(gè)方向增加代理出價(jià)功能——用戶設(shè)定最高預(yù)算系統(tǒng)代替自動(dòng)加價(jià)增加拍賣直播——把出價(jià)事件流和視頻流組合起來(lái)增加多幣種支持——后臺(tái)統(tǒng)一按分存儲(chǔ)前端按區(qū)域顯示。這些都是很自然的業(yè)務(wù)延伸。最后分享一個(gè)我做壓測(cè)時(shí)用的腳本思路不要只測(cè)“每秒能處理多少出價(jià)”更要測(cè)“最后10秒高并發(fā)下系統(tǒng)的數(shù)據(jù)一致性是否依然正確”。因?yàn)檎G闆r下可能只有幾十個(gè)請(qǐng)求但壓測(cè)如果只有高峰值的1/10很多并發(fā)問(wèn)題根本暴露不出來(lái)。每輪測(cè)試結(jié)束后跑一次對(duì)賬腳本對(duì)比Redis和MongoDB里的最終數(shù)據(jù)這樣測(cè)試的意義才完整。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色色色色色爱| 日日干四虎| 99爱最新免费视频在线观看| 婷婷网影院| 99久久婷婷国产综合精品草原| 亚洲黄色操逼| 婷婷在线视频| 丁香久久五月婷综合| 久久人视频| 五月天婷婷激情小说电影| 国产一区男女| 色9色| 色欲色欲久久宗合网| 五月天成人综合| 丁香五月天激情小说| 操人视频91| 性一交一乱一交A片久久四色| www.五月婷婷久久.com| 99五月婷| 色五月自偷自拍婷婷婷婷| 天天色视频| 深爱五月网| .操區COm| 97人妻碰碰中文无码久热丝袜| 极品少妇高潮啪啪AV无码| 激情五月天电影| 狠狠色狠狠干| 五月欧美色播| 777色婷婷爱五月| 欧美啪啪网| 91干婷婷| 99热伊人综合| 五月婷婷综合天天操| 天天爽天天| 99男人的天堂| 天天爱天天操| 婷婷的色色五月天| 99色综合| 色你久久| 日韩淑女人妻luan伦激情精品一区二| 99在线精品视频| 久久9视频| 婷婷 月 丁香| 五月丁香无码| 久久免费婷婷视频| 99热亚洲精品66| 五月激情精品视频| 久色五月婷婷综合| 性生活久久人妻| 激情五月丁香色婷婷| 久九色| 日韩欧美婷婷丁| 国产肥白大熟妇BBBB视频| www.激情五月| 一本大道熟女人妻中文字幕在线| 夜夜资源站| 噜噜视频| 9热视频在线观看| 五月激情婷婷在线| 五月丁香色婷婷久久| 亚洲激情婷婷| 九色自拍| 久久婷婷视频| 色五月情| 激情五月瑟瑟| 国产五月天婷婷| 九久久精品视频99| 伊人网欧美在线男人天堂五月丁香| 天天激情站| 男男野外做爰全过程69| 丁香影院五月综合| 综合99久久天天综合| 91九色视频在线观看| 日本3级片一区2区| 天天人人综合| 深爱五月最新网址| 五月婷婷激情| 婷婷五月天久久| 碰97久久| 亚洲亚洲人成综合网络| 激情五月天情色| 成人一区在线观看| 亚洲精品网站色视频| 激情综合婷婷五月| 拳交大逼| 老司机日日夜夜青草| 色婷婷六月| 亚洲综合另类| AV在线不卡网站| 牛牛色av| 九九热这里只有精品556| 丁香五月香蕉| 五月丁香婷婷伊人| 91se在线视频| 国产欧美精品AAAAAA片| 九色无码| 狠狠色无码| 激情五月婷婷开心网| 五月丁香啪啪综合| 超碰免费人| 亚洲第二AV| 婷婷丁香五月天影院 | 成人视频九九| 五月情色天| 五月婷婷丁香| 蜜臀久久99精品久久久久久酒店| 天堂美国久久| 丁香久久| 九九热视频这里只有精品| 亚洲成人在线免费| 操b视频在线观看一区二区| 久久激情天堂| 性天天中文网| 国产亚洲99久久精品| 激情五月婷婷综合网| 婷婷五月六月| 99re熱| 婷婷伊人久久综合| 无码99| 九九在线91| 九月av| 久久丁香五月婷婷激情综合网| 玖玖视频福利| 激情五月综合| 天天碰夜夜操| 五月激情丁香五月| 日本熟女一区二区| 操一区| 99热这里有精品| 久久九九囯产| 婷婷五月婷婷五月| 精品一二三区久久AAA片| 久久大香免费| 天天色综网| 五月丁香777| 色五月天 丁香| 六月婷婷久久| 婷婷丁香五月天激情| 久久99久久99久久99人受| 丁香五月停停av| 丁香五月婷婷六月婷婷| 人人干99| 91porn一起草| 日日干天天爽| 精品人妻午夜一区二区三区四区 | 97色色-99久久| 激情小说之五月| 色99在线视频| 超碰在线免费| 99热www| 丁香婷婷六月婷婷六月婷婷六月婷婷| 深爱激情久久| 最近中文字幕2019视频1| 成人在线综合| 热99在线精品| 激情人妻综合| 丁香色成人| 国产精品91抖高| 99re热精品在线视频| 五月婷婷六月丁香| 91久久综合亚洲噜噜成人在线| 97成人丁香婷婷| 99久久99久久| 色色色婷| 99久久这里只有精品| 成人婷婷色综合| 99热在线99| 五月天精品视频| 99久久国产宗和精品1上映| 激情婷婷| 天天插天天射| 色插综合网| 婷婷五月天网| 久久精品小视频| 国产成人网址| 亚洲 激情 中文| 丁香五月成人| 丁香六月天色婷婷| 亚洲99一级无嗎特制在线| 美女主播野战视步页| 久久黄A片| 久久婷婷艹| 综合狠狠五月婷婷| 五月激情综合网婷婷| 99国产精品久久久久久久久久久 | 99在线视频操999| 99在线观看这里都是精品 | 久久综合九九| 思思热国产视频| 国产精品久久..4399| 97色五月丁香婷婷| 99性爱| 嫩草视频| 久9无码视频| 久久婷婷人人| 综合色五月天| 五月天另类综合网| 婷婷91视频| 免费试看小视频 99| 9久久狠狠的| 狠狠操狠狠狠| 夜夜爱影院| 色碰碰视频| 婷婷激情丁香五月婷婷激情丁香五月婷婷| 久久久精品色| 97色97干| 国产婷婷色综合AV蜜臀AV| 婷婷激情五月综合基地| 免费人人操| 97人人超| 99re思思精品在线观看| 国产综合81p| 久久综合激情| 91久久电影| 99九九久久| 久久婷婷六月天| 亚洲日韩一页精品发布| 天天日天天插| 日日夜夜青青草| 91大操| 丁香五月天激情综合| 百度4399有码精品V在线观看| 五月色天五月色| 91无码一起草| 丁香六月 婷婷六月| 九九激情| 婷婷丁香成人五月天| 91色九| www.婷婷五月| 99看片| 亚洲色情久久| 九九精品婷| 97碰碰在线观看视频| 五月天婷婷基地| 久久中文网| 婷婷丁香五月天激情| 大香蕉啪啪啪| WWW.久久久久久久久久久久久| 五月激情婷婷女| 九色PORNY自拍成人精彩视频| 天天干天天干天天干| 婷婷五月综合婷婷| 色婷婷文字幕| 亚洲va综合va国产va中文| 夜夜做夜夜愛| 婷婷六月爽| 97超级碰碰碰| 五月激情综合婷婷| 99在线观看| 伊人在线视频| 五月色丁香激情| 久久伊人9| 韩日另类| 九九成人视频| 久久综合激情| 五月丁香综合| 在线1青婷| 99热国品| 久久五月天婷婷| 欧美人人草| 婷婷五月丁香五月丁香| 色色色色五月天| 国产毛片精品一区二区色欲黄A片| 狠狠操.COM| 99热第一页| 久久精品99国产精品日本| 婷婷五月影院| 狠狠干在线| 激情影院免费视频婷婷五月天| 人碰人人人玩91| 人人爱国产| 婷婷爱五月天| 26uuu成人网| 91viP在线看| 婷婷综合天堂| 91碰免费视频| 国产欧美日韩综合精品一区二区| 99热99极品观看| 99视频热| 婷婷六月色播| www.五月瑟| WWW久久久| 操逼电影免费看| 色欲天天综合网| 噜噜在线| 4438激情网| 婷婷精品性视频| 99精品爱| 婷婷五月深爱五月| 丁香六月激情国产| 五月丁香在线观看| 五月天激情国产综合婷婷婷| 婷丁香五月天| 高清不卡一区| 欧美精品999| 五月色综合| 99性色| 丁香五月亚综合图片| 69午夜成人影片| oumeisesewang| 97碰免费视频在线| 深爱激情中文五月天av| 亚洲色色色色色| 激情综合在线播放| 五月丁香激情四射| 国产婷婷色五月| 一级片sese片.COM| 色婷婷精品小视频| 亚洲婷婷基地| 99综合自拍| 丁香花婷婷五月天| 9l视频自拍九色9l视频自拍九色9l社区| 九九在线热九九在线热99热| 中文字幕人妻一区二区| 9久久网| 四色五月视频| 激情综合久久| 丁香五月婷婷基地| 五月天综合在线| 九九热精品视频在线观看| 婷婷五月色| 激情久久久| 成人无码髙潮喷水A片| 久9视频免费播放| 超碰二区| 日韩AAAAA| 色噜噜狠狠色综合日日| 婷婷婷狠狠| 97超碰,人人舔,人人操,人人摸| 亚洲精品大片| 婷婷激情久久| 中文字幕在线视频播放| 99综合自拍| 亚洲成人AV在线播放| 性日本激情| 天天日日天天| 天天日天天草| 日韩婷婷| 日韩ww| 一级七香蕉| 97香蕉久久超级碰碰高清版| 激情五月六月婷婷综合啪啪| 天天操天天干天天日| 欧美激情xxxXX| 人人干AV| 激情綜合W W W,激情五月天| 99亚州综合精品成人网| 日操熟女| 婷婷五月天成人| 亚洲无码成人网| 天天爽综合| 天天干天天拍| 国产婷婷色综合AV蜜臀AV | 任我肏视频精品| 操逼毛片国语对白| 丁香美女主播视频在线观看 | 日本精品99网站| 六月丁香婷| 九九色插| 久久9视频欧美| 很操日本7| 五月婷婷在线观看黄| 超碰99在线| 97操碰在线视频| 五月婷婷丁香| 久色激情| 啄木鸟丝袜美女福利视频| 99热国产精品| 国产AV一区二区三区日韩| 99久操| 男人天堂亚洲综合| 日韩操逼大片| 夫妇交换刺激做爰| 五月婷婷六月丁香| 九九热婷婷| 天天干天天操天天爽| 婷婷综合天堂| 这里只有精品99www| 婷婷久久丁香五月| 色五月中文字幕| 婷婷五月天亚洲色| 五月丁香婷婷综合| 日本啪啪天堂| av性爱网站| 国产精品国产成人国产三级| 99在线精品视频| 色噜综| 天天色亚洲| 五月丁香综合网| 热99国产精品| 97色片| 日本一区二区三区精品视频| 五月丁香色婷婷基地| 五月天激情四射| CAOBIBI| 丁香婷婷五月六月天| 五月天婷婷在线观看| 婷婷五月天久久综合88| 激情五月色播五月| 日本nghangse中文字幕| www夜夜操wwwcon| 99色综合| 日本人妻丁香婷婷久久寝取熟女五月| 天天干com| 另类五月婷婷| 久久婷婷网| 久久日曰| 日韩1区2区| 天天肏视奸| 99热99这里有免费的精品| 久久婷综合| 草草视频91| 久久色婷婷| 色婷婷69| 亚洲精品亚洲人成人网| 婷婷永久在线| 婷婷婷久久久| 婷婷五月综合社区| 国产成人网站在线观看| 丁香婷婷性爱| 伊人www22综合色| 久久婷婷免费| 婷婷激情五月天在线| 四季8848精品成人免费网站| 另类激情五月| 婷婷天堂综合网| 夜丁香五月婷婷| 91高潮喷水久久久久久久久| 九九久久综合网站| 久久日本wwww色| 最新精品视频99| 亚洲中文字幕在线观看| 丁香五月,激情五月,深爱五月| 国产婷婷综合| 久久久香| 丁香婷婷啪啪| 人人干AV| 欧美毛卡| 婷婷五月天伊人网| 啪啪婷婷五月天激情| 国产午夜精品一区二区三区四区| 91狠狠色丁香婷婷综合久久精品| 日本色爽| 婷婷伊人久久| 九九aV| 亚洲综合干| 26uuu国产| 国产26uuu视频| 嫩模草| 五月丁香天天| 国产AV成人精品| 六月色国内综合| 大香蕉伊然在亚洲90| 国产密乳av一区二区三区四区| 无码成人AAAAA毛片AI换脸| 五月丁香在线国产 | 丁香五月婷婷操逼| 99热这里只有精品最新网址| 被强行糟蹋的女人A片| 无码婷婷五月天| 亚洲欧洲一二| 99爱精品| 岛国AV网| 超碰激情五月| 六月丁香五月天| 色婷丨日丨天丨综合久久| 九九伦子片| 日韩99视频| 亚洲激情校园| 色婷婷啪啪| av九九| 日日噜狠狠色综合久久| 丁香六月综合| 97超碰在线免费观看| 99re热精品在线视频| 欧美电影在线观看| 久机视频这只有精品| 亚洲天堂热| 丁香婷婷狠狠97| 激情五月天电影| 99热这里是精品| 色婷婷六月| 色婷另类| www.六月丁香看AV| se99热久久一本| 日日爽夜夜爽| 婷婷涩五月| 深爱女色婷婷丁香五月亚洲图区| 午夜天堂一区人妻| 综激情网| 色天天久婷婷| 激情五月天啪啪| 亚洲天堂婷婷丁香| 九九热精品| 五月婷婷基地| 婷婷亚洲激情在线观看视频| 色碰干| 操97在线观看| 欧美大肥婆大肥BBBBB| 99成人无码| 天天综合情| 激情久久婷婷| 九九热免费| 久久这里有| 色久在| 超碰无码318604| 婷婷五月五月丁香| 五月丁香久久| AV性爱在线| 激情五月com| 成人短视频在线免费观看| 精品欧美性爱超级爽| 夜夜撸天天操| 婷婷五月丁香综合| 亚洲综合草草| 婷婷五月天六月丁香| 色婷婷a三区麻| 五月丁香婷婷爱激情综合网| 色玖玖综合网| AV成人在线播放| 日韩久久日| 五月丁香成人网| 大地资源色婷婷视频在线| 超碰激情网| 操日本三片99| 美女爆乳18禁www久久久久久| 色99自拍| 五月丁香六月天| 五月激情婷婷丁香| 深情五月天| 都市激情五月婷婷亚洲| 色情激情五月| 天天色天天爱天天爽| 色小说婷婷五月天天天| 久久这里只有精品07| 99色激| 亲子乱AV一区二区三区下载| 伊人色综合影院视频| 五月天婷婷激情在线色图| 七七久久婷婷| CAOBIBI| 婷婷丁香五月天之开心少妇| www.色五月| 99视频只有精品| 五月天精品| 97热这里只有精品| 五月丁香| 伊人激情影院| 免费无码毛片一区二区A片| 亚洲操人| 荫道BBWBBB高潮潮喷| 国产婷婷色综合AV蜜臀AV| 婷婷五月婷婷| 亭亭五月丁香五月天激情| 综合五月婷婷| 免费看欧美成人A片无码 | 欧美三级A做爰在线观看| 婷婷五月天久久| 婷婷五月色激情欧美激情| 99久久6| 天天色天天日| 天天操夜夜操| 色播五月天激情| 综合网色| 五月婷婷 婷婷五月 一区二区 久久久| 五月婷婷激情| 九九热AV| 超碰熟女农村在线69| 欧美成人精品三区综合A片| 最近中文字幕大全免费版在线| 五月丁香啪啪综合| 欧美日韩aaa| 久久人妻熟女一区二区| 1024在线观看免费视频| 天天久综合网永久入口17v| 2015好吊操| 6月丁香婷婷| 五月丁香六月婷婷综合网| 久色五月| 激情六月丁香| 国产午夜精品AV一区二区麻豆| 欧洲色色| 老司机视频lsj爱就色| 色九月国产| 五月丁香六月激情综合网 | 秋霞午夜理论| 国语对白性爱视频播放| 亚洲成人va| 国产综合色婷婷精品久久| 久久思思热| 狠狠狠狠狠狠草| 伊人五月综合网| 丁香婷最新动态| 26UUU在线观看| 66成人网| 国产做爰视频免费播放| 99热高清在线| 日日婷婷不卡| 色狠狠999综合| 欧美成人AAA片一区国产精品| 婷婷在线播放| 五月色亚洲| 深爱丁香网| 婷婷性色| 99精品国产在热久久| 激情五月婷婷她| 91人人操.COM| 婷婷色色狠狠| 白天AV月月| 99啪啪网| 久久婷婷六月综合国际| 亚洲中文字幕网| 婷婷丁香在线播放| 久久婷婷五月天| 1024成人在线观看| 台湾佬天天日丁香婷婷五月天| 2w在线视频| 伊人婷婷五月天| 婷婷五月综合基地| 99热这里只有精品在线免费| 色婷婷亚洲婷婷| 99爱在线视频| 五月丁香啪综合| 丁香五月天色| 激情综合在线观看| 九九操屄| 久久性爱视频| 久久思思热| tingtingcaobi| 色热久资源| 天天色综网| 免费看欧美成人A片无码| 日韩影院三级| 婷婷五月图片小说视频| 农村熟妇高潮精品A片| 伊人大综合| 亚洲性爱99| 91丨九色丨43老版熟女| 婷婷天堂视频| 五月丁香六月婷婷国产视频| 91热久88| 九色视频这里只有精品| 99热啪啪| 涩综合网| 1010日日无码| 欧美成人一区二区三区在线视频 | 婷婷五月综合欧美在线播放| www.久久爱.com| 日日操夜夜操中国无码| 色丁香婷婷美女视频网站| 五月色网| 91打屁股视频网站| 伊人狠狠干| 夜夜爽77777妓女免费下载| 免费九九热| 婷婷狠狠18禁久久| 热久久色| 精品色色| 五月丁香婷婷综合久久| 九九热re99re6在线精品| 丁香五月大香蕉在线99| 五月丁激情| 性av| 亚洲XX日本| 国产成人+综合亚洲+天堂| 99成人网一区| 日夜操B| 色婷亚洲| 99丁香五月婷| 91热99| 婷婷在线中文字幕| 色五月av| 五月天激情综合首页| 婷婷六月色| 26uuu青青| 69色色视频| 天天久久婷婷| 五月丁香欧美在线| 99综合成人视频在线观看| 色五月天成人| AV六月丁香| 五月激情婷婷在线| 五月婷婷久久网| 舔色婷婷| 天天久综合网永久入口17v| 久久性爱视频| 亚洲丁香五月综合| 婷婷五月天在线观看| 激情深爱五月婷婷| 婷婷D区| 五月天激情开心网| 婷婷五月中文字幕| 97人人操人人爽| 男人天堂伊人五月丁香| 婷婷激情久久| 干一干xxxx| 深爱丁香网| 丁香,开心成人,久久| 欧美成人网99网| 亚洲操精品| 婷婷中文字幕| 午夜电影网VA内射| 香焦网五月天| 91九九| 五月丁香六月激情狠狠| 婷婷色五月天色色| 丁香午夜天| 亚洲另类婷婷五月综合| 天天做天天爱综合| 1024手机在线观看看片_日韩精品| 天天舔天天摸天天透| 五月丁香A片| 午夜亚洲国产精品av一区二区| 婷婷丁香五月天影院| 91人妻PORNY九色大屁股| 蜘蛛女免费观看完整版高清电影| 精品乱码久久久久| 五月天黄色激情小说| 久久久久久久久久91| 香蕉狠狠爱视频| 五月天色综合服务平台| 九九亚洲无码| 99热在线观看| 五月丁香婷婷激情澎湃四射| 在线播放中文字幕| 99色综合久久| 日本美女五月天| 热99精品视频观看| 色婷婷国产精品综合在线观看| 日本丁香五月| 亚洲激情五月婷婷日日| 99日精品视频| 99在线精品免费视频| 丁香五月婷婷亚洲色图| w婷婷五月婷婷w| 色婷婷狠| av人人操| 亚洲乱码日产精品BD| 婷婷五月天网址| 五月天激情小说婷婷| 啪色综合| 久久婷婷五月综合色丁香花| 色婷婷免费视频| 五月天色裸体视频| 99无码免费视频| 九九热re99re6在线精品| aV直接看| 俺去也婷婷| 日日操日日射| 激情综合4月| 99riAv1国产在线观看| 久综合4| 五月丁香婷婷色色| 色屌丝中文字幕| 婷婷五月天激情亚洲小说| 99久久9| 黄色一极大片| 五月丁香狠狠爱婷婷综合| 91丨九色丨国产打屁股| 久热成人| 国产精品电影网| 五月婷婷五月天激情网| 亚洲、热| 五月丁香网站在线播放| 热久国产| 五月丁香激情综合六月涩涩爱| 五月丁香六月婷婷网| 五月婷婷日| 开心激情网五月| 五月天色网站| 午夜爱爱爱成人| 五月激情丁香久久综合网| 在线中文亚洲| 97成人在线视频精品| 任我干视频在线观看| 久久精品99国产精品日本| 日本婷婷在线| 五月天伊人久久久久| 激情小说之五月| 五月婷婷欲色| 日日天天操| 激情五月婷婷网在线观看| 激情五月,色五月| 99久久这里只有精品| 久久久大香蕉| 久久精品4| 久热黄色| 国产99久久久| 91操人视频| 99精品久久| 久久久久激情| 色狠狠综合网| 91狠狠色丁香婷婷综合久久精品| 婷婷丁香视频| 婷婷日日天天| site:publishdd.com| 色婷婷婷综合五月天| 激情5月婷婷狠狠干| 激情五月天开心网丁香无码| 狠狠干总合| 97色伦另类图片小说视频 | 99性视频| 日韩操| 天天夜天天色天天| 五月婷婷福利| 99精色| 丁香五月偷拍| 婷婷五月天久久| 色婷婷导航| 色婷婷综合亚洲| 色五月婷婷影院| www.久久| 又大又粗九一在线| 丁香五月婷婷老师网站| 91视频久久久| 人人操91| 丁香五月日啪| 激情婷婷五月基地| 亚洲色A| 天天摸天天透天天舔| 91碰在线| 丁香五月影院| 亚洲国产精品VA在线看黑人| 久久5 9视频免费观看| 99色在线免费观看视频| 久久久91| 天天干夜夜b| 五月激情小说网| 伊人超碰| 超碰v| 99视频综合网| 人妻激情综合| 色五月婷婷91| 五月丁香婷婷无码A∨| 深爱激情网五月天| 久久婷婷五月丁香网| 久久婷综合| 99久久婷婷精品视频| 丁香婷婷综合激情五月色| 色频玖玖五月天| 色爱终和网| 亚洲综合视频网| h在线看免费版在线看| 90色免费视频| 91黄址| 五月天激情国产综合AV| 天天综合网站| 性爱视频99| 99久99久| 91一起操| 99热这里只有精品无码| 91久久综合亚洲鲁鲁五月天| 4438亚洲欧美| 久久综合综合久久| 久久人妻系列| 9久久精品| 碰超亚洲| 久久久久8888| 人人操A| 婷婷色在线观看| 伊人爱爱日本| 操操碰| 这里只有精品网| 天天插天天插| 色五月大| 九热视频这里只有精品| 五月综合色| 精品人妻一区二区三区在| 国产熟女一区二区三区五月婷| 久久东京热婷婷五月| 国产精品色一哟哟| 直接看的av| 免费成人中文字幕| 色五月婷婷、老熟女| 996热re视频精品视频| 九九九九九九九九九九九九九九九九九九九在线视频 | 99久热视频在线| 99碰碰| 五月丁香婷婷综合网| 男女啪啪做爰高潮无遮挡| 97五月婷婷| 这里只有精品视频在线看| www激情| 91视频人人做97| 日日操,天天操| 欧美激情五月天| 99啪99| 天干干夜夜操| 中文AV网站| 婷婷九月狠狠色| 激情五月丁香综合网站| 99综合| 婷婷色九月| 亚洲色五月天| 五月天婷婷色综合| 婷婷五月丁香基| 亚洲天堂色色| 超碰色综合| 99热这里只有精品首页| 搡BBBB搡BBB搡18| 久久婷婷五月综合97色一本| 99精品久久久久| 97婷婷五月激情六月丁香伊人| 啪啪 综合网| 国产婷婷五月色情综合| 久久婷婷免费| 激情99热| 一本色道久久综合狠狠躁小说| 婷婷在线五月综合| 久久996re热这里只有精品无码| 五月丁香六月婷婷欧美综合| 丰滿爆乳一区二区三区| 久久婷婷五月丁香| 日本精品人妻无码77777| 99热婷婷| 亚洲综合色色色| 99日本黄站| 丁香激情五月| www.99日本| 狠狠搞狠狠操| 亚洲AV无码成人精品区电影网| 色婷婷成人丁香| 99热这里只有精品1| 亚洲午夜av| 久久久中文| 人人操91色| 九九無妻| 超碰97免费在线| 人妻久热| 99精品久久久久久久婷婷| 色婷婷丁香| 99,色| 色色国产| 九九热视频网站| 99ER热精品视频| anquye五月| ai97re99一本| 亚洲欧洲中文日韩久久AV乱码| 欧美成人猛片AAAAAAA| 6080av| 极骚大香蕉伊人| 精品久久久久久久人妻| 婷婷五月综合免费在线| 日本欧美国产| 久草九九| 综合网色| 99热精在线九九久久保| 在线播放成人网站| 婷婷久久六月天| 日韩五月婷婷久久| 这里只有精品视频在线| 99热人人操人人操| 另类小说色婷婷| 九九九色综合| 亚洲综合激情五月久久| 国产一级婬片毛片| 九九伦子片| 国产97色在线 | 日韩| 久操大| 丁香五月天堂网| 我要射综合| 黄色五月婷| 99精品自拍| 婷婷五月免费观看| 激婷网| 9久热这里只有精品| 久久中国毛毛片爱久久| 亚洲综合五月天| 91九色在线| 午夜不卡久久精品无码免费| 五月丁香婷婷激情视频| 色五月婷婷av| 亚洲熟妇AV乱码在线观看| 一区二区中文字幕| 91精品国产色猫| 婷婷六月丁| 丁香五月综合亚洲| 玖玖色综合网| 天天日天天久久青青| 人妻在线中文字幕久久| 久久一品区| 综合久久婷婷| 婷婷色五月色妇| 亚洲精品视频电影| 开心激情综合| 丁香五月婷婷性爱| 99热一本| www.激情| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 六月丁香大香蕉| 99热这里有精品| 婷婷五月天网| 亚洲日本激情| 国产成人AV| 99视频在线播放大全| 丁香五月综合在线| 99在线观看精品| 亚洲精品一二三| 九九久久精品| 色情五月停停丁香| 97婷婷丁香五月天激情图片| 99re6在线视频精品免费| 色五月婷婷在线| 五月丁香激情婷婷综合字幕| 久久人人九| 任我肏视频精品| 99热这里只有精品手机在线观看| 99亚洲视频| 五月婷婷久久大片| 五月天婷婷基地综合网| 99色区| 久久久九九视频精品18| 日本天天操| 色播五月综合网| 九九热这里只有精品一| 日韩ac不卡无码| 天天透天天干| 高潮毛片又色又爽免费| 亚洲欧洲午夜成人精品av| 9久热| 五月叮香啪| 色青青电影色五月| 久久婷婷五月天| 久热99热| 精品成人a v无码内射| 丁香五月婷婷动漫| 久热九九| 伊人喵咪a V| 久久丁香| 99热精品在线观看| 99在线亚洲| 激情婷婷五月色| 99热在线爱| 欧美影院婷婷| 久久九九99桃花视频| 久久人妻熟女一区二区| 色噜噜婷婷| se99视频| 99热爱爱干干日| 五月天伊人| 婷婷五月天六点丁香五月| 热99久久这里只有精品| 久久99网址| 色色九区| 99热99思午夜精品| AV色色天堂中文| 日产精品久久久久久久蜜臀| 九月婷婷久久| 久久婷婷五月| 亚洲婷婷欧美婷婷| 色色日本| 99re思思久久| 激情小说五月欧美亚洲丁香| 99精品无码网站| 丁香婷婷六月激情| 色五月开心五月激情五月| 欧美综合五月丁香六月婷| 成人婷99最新| 激情网五月天| 夜夜操天天爽| 99免费视频精品| WWW激情五月天| 五月婷婷综合色拍| 天天天天天天天干| 天天色天天爱天天舔| 五月婷婷深深爱爱| 97久久人人| 日韩操人| 五月丁香综合啪啪| 五月婷婷丁香啪啪| 亚洲、欧美、国产另类笫二区| 操操操B| 丁香五月婷中字在线| 五月天婷婷色播综合在线| 综合久久五| 丁香婷婷综合影院| 国产人人操| 亚洲视频久久| 第四色在线观看| 精品亚洲国产成AV人片传媒| 日逼影音先锋男人AV资源站| 91无码一起草| 激情婷婷22月间| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 婷婷基地成人五月天| 狠狠干狠狠操狠狠爱| 9久9久| 五月深情久久| 97五月久久丁香婷婷| 久久久激情视频| 久热这里只有精品性色AV| 高清视频一区| 婷婷六月丁香色| 天天操天天草天天草天天| 99精品久久久久久久婷婷久久| 丁香久久| 欧美丁香六月在线观看视频| 米奇影视五月天| 这里只有精品免费视频| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 久热这里只精品| 亚洲avjiujiur91| 五月丁香久久久| 色婷狠狠| 日本一级一级一级一级| 99爱在线视频| 色色色激情网| 看全色黄大色大片| 色噜噜狠狠色综| 亚洲夜五月| 99日韩网站| 亚洲激情综| 九九人人操| 日本操天堂| 91好好热日本在线| 婷婷丁香激情综合色情| 91艹人| 五月花成人网| 色色色com| 深爱婷婷网| 国产精品99久久久久久久女警| 久久性刺激| 色激情五月天| 五月天丁香看婷婷| 五月大香蕉| 成年AAAA色情| 丁香桃色网| 999婷婷综合| 五月丁香综合精品欧美| 亚洲激情综| 婷婷色色播五月天| 99精品一二三四视频| 男女啪啪做爰高潮无遮挡| 国内自拍1区| 色私五月婷婷| 亚洲99视频| 九九99九九99九九99视频网| 黄桃AV无码免费一区二区三区| 免费无码毛片一区二区A片| 激情骚五月| 91色色色| 国产VA亚洲VA96| 色色色网站| 婷婷激情五月视频| 深爱激情四射| 色五月婷婷DVD| 久99久视频| 婷婷五月天天激情| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 9久热免费视频99| 婷婷五月天人妻| 熟女激情网| 这里有精品| av五月丁香| 五月丁香六月婷婷在线小说视频| 丁香五月 六月婷婷首页| 激情综合无码| 99人人看| 婷婷播播五月天| 综合久久99| 97热久久五月婷婷| 久久这里只有精品16| 日韩AAAAA| 色色色区| 毛片色五月| 五月婷婷片| 色综合久久88| 99热在线观看亚洲区| 深爱五月婷婷| 噜噜操操| 狠狠草狠狠草| 婷婷综合亚洲| 色吊操色妞| 午夜丁香丁香婷婷| 九月综合| 丁香五月天婷婷大香蕉| oVV4WIB3vFi8D| 激情五月六月婷婷| 狼人婷婷久久| 天天艹夜夜艹| 激情精品久久| 婷婷五月天性| 99精品在线| 五月婷婷另类| 久久五月网| 久久婷视频| 99视频精品在线| 色天使色综合| 色 五月婷婷基地| 国产精品18久久久| 五月色婷婷亚洲 | 激情五月天开心网丁香无码| 欧美影院婷婷| 在线资源av-超碰中文在线-成人AV| 五月婷婷综合网在线播放| 亚洲性视频| 色色综合院| 丁香五月天在线| 在线超碰免费| 五月天激情子轮| 狠狠精品干练久久久无码中文字幕| 天天网曰日曰夜夜综合永久免费| 国产成人av在线| 在线超碰免费| 少妇AB又爽又紧无码网站| 六月婷欧美| 综合网啪| 亚洲av另类在线观看| 79成人网| 丁香五月色| 99视频这里只有免费精品| 婷婷六月激情在线视频| 黄色录像网点| 婷婷久久免费看| 人人爱人人草| se色99| 天天操夜夜操| 性韩日色婷婷五月天激情啪啪XXX| 色色色色色色色色综合网| 欧美日韩国产成人在线| 六月丁香社区| 日本三级色| 激情久久肏屄视频| 97se视频在线| 99热亚洲| 婷婷网影院| 97色婷婷成人综合在线观看| 亚洲在线免费成人| 五月丁香六月婷婷网站| 超碰免费人| 都市激情小说婷婷| 成人五月天。COM| 亚洲色网址| 99热99草97| 国产成人高清| 精品乱码视频| 开心五月天激情网| 99色看| 激情文学 综合 九月| 色五月大| 99啪啪| 白人荫道BBWBBB大荫道| 激情综合色五月丁香六月亚洲| 精品国产一区二区三区四区阿崩| 欧洲不卡视频| 五月婷丁香| 色色综合视频| 黑人熟妇一区二区三区| 永久免费一区二区三区| 这里有精品99| 色婷婷五月综合| 26uuu国产精品| 少妇真实被内射视频三四区| 快色t v在线入口| 五月丁香色色色| 亚洲天堂大香蕉| 热久久77777| 91热在线观看视频| 婷婷五月激情的图片| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 色欲色香综合网| 色五月婷婷自拍| 久久久久人妻精品| 激情九九综合网| 91丨九色丨丰满人妖| 色丁香五月|