国产精品992tv在线观看,日韩欧美xxx,久久国产精品成人免费

主頁 > 知識庫 > 驚現支撐1億pv/天的超級數據庫解決方案

驚現支撐1億pv/天的超級數據庫解決方案

舍得網支撐1億pv/天構架，開源了
說是支持1億pv/天，也許有點夸張，也是為了吸引您能點進來，如果您能認真看完相信也不會讓您失望，當然，肯定有很多“高手”會對此會嗤之以鼻，沒關系，有很多眼高手低的人總喜歡評論別人卻從不會看清自己。

如果大家真想支持我、支持中國人開源項目，請把該文貼到自己的博客中或者收藏本文，記得包含文檔的下載地址！！！！！！！謝謝。

我說的系統主要是構建在hibernate之上的高效數據庫緩存系統，其中包含了分布式解決方案，該系統已經應用在舍得網上了，沒有發現大問題，本人也相信該系統已經足夠強大，應付數百萬IP/天的應用都不是問題，我這么說肯定有人會對此表示懷疑，其實系統到底能撐多少IP/天不在于系統本身而是在于使用該系統的人。

代碼看上去很簡單，其實卻是兩年經驗的總結，整過過程也遇到了很多難點，最后一一解決了，所以也請各位珍惜他人的勞動成果。本系統非常簡潔易用，主程序BaseManager.java不到1000行代碼，用“精悍”來形容絕對不為過，1000行代碼卻包含了數據庫對象的緩存、列表和長度的緩存、按字段散列緩存、update延時更新、自動清除列表緩存等功能，用它來實現像論壇、博客、校友錄、交友社區等絕大部分應用網站都足夠了。

我在理想狀態下做了壓力測試，在沒有數據庫操作的jsp頁面(舍得網新首頁)里可以完成2000多requests每秒（正常情況可能有1/1000的request有數據庫查詢，其余999/1000都是直接從緩存里讀取），物品詳情頁每秒可完成3000多 requests，純靜態html頁面也只能完成7000多requests/秒，我對首頁進行了三個小時的壓力測試，完成了24850800個 requests，java一點事都沒有，內存沒有上漲。按照2000個requests/秒算，一天按15小時計算，那么每天能完成 3600*15*2000=1億零8百萬requests，當然這是理想狀態，實際狀態就算打一折，還能完成1000萬pv/天，要知道，這只是一個普通 1萬3千塊錢買的服務器，內存4G，CPU2個，LinuxAS4系統，apache2.0.63/resin2.1.17/jdk6.0的環境。

。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。現在進入正題。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。

為什么要用緩存？如果問這個問題說明你還是新手，數據庫吞吐量畢竟有限，每秒讀寫5000次了不起了，如果不用緩存，假設一個頁面有100個數據庫操作，50個用戶并發數據庫就歇菜，這樣最多能支撐的pv也就50*3600*15=270萬，而且數據庫服務器累得半死，搞不好什么時候就累死了。我的這套緩存系統比單獨用memcached做緩存還要強大，相當于在memcached上再做了兩級緩存，大家都知道memcached很強了，但是吞吐量還是有限，每秒20000次get和put當遇到超大規模的應用時還是會歇菜，本地HashMap每秒可執行上百萬次put和get，在這上面損耗的性能幾乎可以忽略不記了。溫馨提示：能不用分布式的時候就不要用分布式，非用分布式的時候再考慮用memcached，我的緩存系統在這方面都已經實現了，改個配置就可以了，有興趣的可以仔細測試測試！

一般數據庫緩存在我看來包含四種。第一種：單個對象的緩存（一個對象就是數據庫一行記錄），對于單個對象的緩存，用HashMap就可以了，稍微復雜一點用LRU算法包裝一個HashMap，再復雜一點的分布式用memcached即可，沒什么太難的；第二種：列表緩存，就像論壇里帖子的列表；第三種：長度的緩存，比如一個論壇板塊里有多少個帖子，這樣才方便實現分頁。第四種：復雜一點的 group，sum，count查詢，比如一個論壇里按點擊數排名的最HOT的帖子列表。第一種比較好實現，后面三種比較困難，似乎沒有通用的解決辦法，我暫時以列表緩存（第二種）為例分析。

mysql和hibernate的底層在做通用的列表緩存時都是根據查詢條件把列表結果緩存起來，但是只要該表的記錄有任何變化（增加/刪除/修改），列表緩存要全部清除，這樣只要一個表的記錄經常變化（通常情況都會這樣），列表緩存幾乎失效，命中率太低了。

本人想了一個辦法改善了列表緩存，當表的記錄有改變時，遍歷所有列表緩存，只有那些被影響到的列表緩存才會被刪除，而不是直接清除所有列表緩存，比如在一個論壇版（id=1）里增加了一個帖子，那么只要清除id=1這個版對應的列表緩存就可以了，版id=2就不用清除了。這樣處理有個好處，可以緩存各種查詢條件（如等于、大于、不等于、小于）的列表緩存，但也有個潛在的性能問題，由于需要遍歷，CPU符合比較大，如果列表緩存最大長度設置成10000，兩個 4核的CPU每秒也只能遍歷完300多次，這樣如果每秒有超過300個insert/update/delete，系統就吃不消了。

在前面兩種解決辦法都不完美的情況下，本人和同事經過幾個星期的思索，總算得出了根據表的某幾個字段做散列的緩存辦法，這種辦法無需大規模遍歷，所以CPU 符合非常小，由于這種列表緩存按照字段做了散列，所以命中率極高。思路如下：每個表有3個緩存Map（key=value鍵值對），第一個Map是對象緩存A，在A中，key是數據庫的id，Value是數據庫對象（也就是一行數據）；第二個Map是通用列表緩存B，B的最大長度一般1000左右，在B 中，key是查詢條件拼出來的String（如start=0,length=15#active=0#state=0），Value是該條件查詢下的所有id組成的List；第三個Map是散列緩存C，在C中，key是散列的字段（如根據userId散列的話，其中某個key就是userId=109這樣的String）組成的String，value是一個和B類似的HashMap。其中只有B這個Map是需要遍歷的，不知道說明白了沒有，看完小面這個例子應該就明白了，就用論壇的回復表作說明，假設回復表T中假設有字段id，topicId，postUserId等字段（topicId就是帖子的 id，postUserId是發布者id）。

第一種情況，也是最常用的情況，就是獲取一個帖子對應的回復，sql語句應該是象
select id from T where topicId=2008 order by createTime desc limit 0,5
select id from T where topicId=2008 order by createTime desc limit 5,5
select id from T where topicId=2008 order by createTime desc limit 10,5
的樣子，那么這種列表很顯然用topicId做散列是最好的，把上面三個列表緩存（可以是N個）都散列到key是topicId=2008這一個Map中，當id是2008的帖子有新的回復時，系統自動把key是topicId=2008的散列Map清除即可。由于這種散列不需要遍歷，因此可以設置成很大，例如100000，這樣10萬個帖子對應的所有回復列表都可以緩存起來，當有一個帖子有新的回復時，其余99999個帖子對應的回復列表都不會動，緩存的命中率極高。

第二種情況，就是后臺需要顯示最新的回復，sql語句應該是象
select id from T order by createTime desc limit 0,50
的樣子，這種情況不需要散列，因為后臺不可能有太多人訪問，常用列表也不會太多，所以直接放到通用列表緩存B中即可。

第三種情況，獲取一個用戶的回復，sql語句象
select id from T where userId=2046 order by createTime desc limit 0,15
select id from T where userId=2046 order by createTime desc limit 15,15
select id from T where userId=2046 order by createTime desc limit 30,15
的樣子，那么這種列表和第一種情況類似，用userId做散列即可。

第四種情況，獲取一個用戶對某個帖子的回復，sql語句象
select id from T where topicId=2008 and userId=2046 order by createTime desc limit 0,15
select id from T where topicId=2008 and userId=2046 order by createTime desc limit 15,15
的樣子，這種情況比較少見，一般以topicId=2008為準，也放到key是topicId=2008這個散列Map里即可。

那么最后的緩存結構應該是下面這個樣子：

緩存A是：
Key鍵（long型） Value值（類型T）
11 Id=11的T對象
22 Id=22的T對象
133 Id=133的T對象
……

列表緩存B是：
Key鍵（String型） Value值（ArrayList型）
from T order by createTime desc limit 0,50 ArrayList，對應取出來的所有id
from T order by createTime desc limit 50,50 ArrayList，對應取出來的所有id
from T order by createTime desc limit 100,50 ArrayList，對應取出來的所有id
……

散列緩存C是：
Key鍵（String型） Value值（HashMap）
userId=2046 Key鍵（String型） Value值（ArrayList）
userId=2046#0,5 id組成的List
userId=2046#5,5 id組成的List
userId=2046#15,5 id組成的List
……

userId=2047 Key鍵（String型） Value值（ArrayList）
userId=2047#0,5 id組成的List
userId=2047#5,5 id組成的List
userId=2047#15,5 id組成的List
……

userId=2048 Key鍵（String型） Value值（ArrayList）
userId=2048#topicId=2008#0,5 id組成的List
userId=2048#5,5 id組成的List
userId=2048#15,5 id組成的List
……

……

總結：這種緩存思路可以存儲大規模的列表，緩存命中率極高，因此可以承受超大規模的應用，但是需要技術人員根據自身業務邏輯來配置需要做散列的字段，一般用一個表的索引鍵做散列（注意順序，最散的字段放前面），假設以userId為例，可以存儲N個用戶的M種列表，如果某個用戶的相關數據發生變化，其余N- 1個用戶的列表緩存紋絲不動。以上說明的都是如何緩存列表，緩存長度和緩存列表思路完全一樣，如緩存象select count(*) from T where topicId=2008這樣的長度，也是放到topicId=2008這個散列Map中。如果再配合好使用mysql的內存表和memcached，加上F5設備做分布式負載均衡，該系統對付像1000萬IP/天這種規模級的應用都足夠了，除搜索引擎外一般的應用網站到不了這種規模。

再次申明：系統到底是不是強大不在系統本身而在于使用該系統的人！！！

這個緩存系統是我和同事幾年經驗的總結，看似簡單，其實也沒那么簡單，把它作為開源有下面幾個目的：第一，真的希望有很多人能用它；第二：希望更多的人能夠完善和改進它；第三：希望大家能聚到一起為通用高效數據庫緩存構架作出貢獻，畢竟，數據庫操作是各種應用最常用的操作，也是最容易產生性能瓶頸的地方。

Zip包中包含了配置方法和測試用的jsp，只要把它配置成一個web應用就可以快速調試并看到緩存的力量了，文檔和下載地址是http://shedewang.com/akaladocs/api/com/akala/dbcache/core/BaseManager.html。

配置說明文件在docs/開始配置.txt里有說明。

最后啰嗦一句，如果大家真想支持我、支持中國人開源項目，請把該文貼到自己的博客中或者收藏本文，記得包含文檔的下載地址！！！！！！！謝謝。thank you and Good luck。

QQ群：24561583

復制過來格式有點亂了，還是自己下載一個下來看看吧，里面有個word文檔，寫得比較清晰。

標簽：紅河武威岳陽鄭州馬鞍山大興安嶺拉薩亳州

巨人網絡通訊聲明：本文標題《驚現支撐1億pv/天的超級數據庫解決方案》，本文關鍵詞驚現,支撐,1億,天,的,超級,；如發現本文內容存在版權問題，煩請提供相關信息告之我們，我們將及時溝通與處理。本站內容系統采集于網絡，涉及言論、版權與本站無關。