一種基于雙層緩存的負載均衡方法及系統的制作方法
【專利摘要】本發明提供一種基于雙層緩存的負載均衡方法及系統，上述方法包括以下步驟：預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端。本發明增大了從網絡層響應終端用戶請求的概率，減少了將請求調度到后臺應用服務器集群，減輕了后臺服務器的請求壓力，同時減少了后臺應用服務器的數量，達到減少投入成本的目的。
【專利說明】一種基于雙層緩存的負載均衡方法及系統
【技術領域】
[0001]本發明屬于負載均衡領域，尤其涉及一種基于雙層緩存的負載均衡方法及系統。
【背景技術】
[0002]隨著企業對網頁服務器即冊13服務器性能需求的不斷擴大和可靠性的日益重視，越來越多的企業使用負載均衡器增強冊13服務的并發能力，通過構建并行集群實現增加系統可靠性的目標，增加了企業的冊13服務的計算資源，若通過一味的增加后臺應用服務器的數量，對企業來說既增加了成本，同時又造成了資源的浪費。
[0003]大多數的緩存介質都是內存緩存，眾所周知，16(?內存條的價格已經非常昂貴，并且隨著內存容量的增加，內存價格成指數級增加并且服務器主板限制了內存容量的上限，因此，單純依靠提高冊13服務器內存容量來增強冊13服務器并發能力的方法，也是比較困難的并且往往高昂的價格難以承受。
【發明內容】
[0004]本發明提供一種基于雙層緩存的負載均衡方法及系統，以解決上述問題。
[0005]本發明提供一種基于雙層緩存的負載均衡方法。上述方法包括以下步驟:
[0006]預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；
[0007]所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端。
[0008]本發明還提供一種基于雙層緩存的負載均衡系統，包括終端、網頁服務器；其中，所述終端與所述網頁服務器相連；
[0009]預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；
[0010]所述網頁服務器，用于接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端。
[0011]相較于先前技術，根據本發明提供的一種基于雙層緩存的負載均衡方法及系統，通過以下方案:預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端；一方面，增大了從網絡層響應終端用戶請求的概率；另一方面，減少了將請求調度到后臺應用服務器集群，減輕了后臺服務器的請求壓力，同時減少了后臺應用服務器的數量，達到減少投入成本的目的。
【專利附圖】
【附圖說明】
[0012]此處所說明的附圖用來提供對本發明的進一步理解，構成本申請的一部分，本發明的示意性實施例及其說明用于解釋本發明，并不構成對本發明的不當限定。在附圖中:
[0013]圖1所示為本發明實施例1的基于雙層緩存的負載均衡方法流程圖；
[0014]圖2所示為本發明實施例2的基于雙層緩存的負載均衡系統結構圖；
[0015]圖3所示為本發明實施例3的基于雙層緩存的負載均衡系統結構圖。
【具體實施方式】
[0016]下文中將參考附圖并結合實施例來詳細說明本發明。需要說明的是，在不沖突的情況下，本申請中的實施例及實施例中的特征可以相互組合。
[0017]圖1所示為本發明實施例1的基于雙層緩存的負載均衡方法流程圖，包括以下步驟:
[0018]步驟101:預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；
[0019]對內存管理模塊進行以下參數設置:
[0020]1、設置連接超時時長、發送超時時長、讀取超時時長、緩存失效時間；
[0021〕 2、設置訪問請求方式即只直接接受內部訪問，不直接接收外部請求。
[0022]例如:
[0023]11161110^001111601:^1: 111160111: 1001118 ；#11161110 連接超時時長；
[0024]11161110^8611(1^1: 111160111: 1001118 ；#11161110 發送超時時長；
[0025]11161110^1-68(1^1: 111160111: 1001118 ；#11161110 讀取超時時長；
[0026]861:^11161110^6X1)1: 11116 1000 ；# 緩存失效時間；
[0027]1111:61-118 1 ；#只直接接受內部訪問，不直接接收外部仏如請求
[0028]對磁盤管理模塊進行以下參數設置:
[0029]1、為磁盤管理模塊命名并分配內存大小及磁盤容量；
[0030]例如:磁盤管理模塊命名為分配的內存大小為10018，分配的磁盤容量為10⑶。
[0031]2、為磁盤管理模塊分配文件存放目錄及各級目錄的字符數；
[0032]例如:為磁盤管理模塊分配文件存放目錄為4/(1511:51/118X^^(3116/(^(31161 (表不0&01161這個文件要存放的目錄)。
[0033]#16^61 8 = 1:2表示緩存目錄的第一級目錄是1個字符，第二級目錄是2個字符，即這種形式。
[0034]步驟102:所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端。
[0035]網頁服務器繼續查詢磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端的同時，向內存管理模塊發送所述終端請求的數據信息并由所述內存管理模塊存儲。
[0036]內存管理模塊周期性地或者實時地向磁盤管理模塊發送信息獲取請求；
[0037]磁盤管理模塊接收到所述信息獲取請求后，向內存管理模塊反饋信息響應消息；其中，所述信息響應消息中攜帶了終端請求的數據信息。
[0038]具體周期值根據實際情況進行靈活設置，在此不限定本發明的保護范圍。
[0039]磁盤管理模塊刪除第一預設時段內沒有被訪問的數據信息。
[0040]所述磁盤管理模塊刪除第一預設時段內(例如:24小時)沒有被訪問的數據信息之前，還包括:所述磁盤管理模塊將第一預設時段內沒有被訪問的數據信息發送至內存管理模塊；所述內存管理模塊接收到所述第一預設時段內沒有被訪問的數據信息后，若空閑內存大小大于第一預設時段內沒有被訪問的數據大小，則存儲所述第一預設時段內沒有被訪問的數據信息。
[0041]所述內存管理模塊刪除第二預設時段內(例如:12小時)沒有被訪問的數據信肩、0
[0042]其中，第一預設時段與第二預設時段可以相同，也可以不同，具體值的設置根據實際情況進行靈活設置，在此不限定本發明的保護范圍。
[0043]步驟103:若網頁服務器在磁盤管理模塊中查詢失敗，則通過向應用服務器發送查詢請求，獲取終端用戶請求的數據信息并反饋給終端用戶。
[0044]圖2所示為本發明實施例2的基于雙層緩存的負載均衡系統結構圖，包括終端、網頁服務器；其中，所述終端與所述網頁服務器相連；
[0045]預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；
[0046]所述網頁服務器，用于接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端。
[0047]圖3所示為本發明實施例3的基于雙層緩存的負載均衡系統結構圖，包括:終端、網頁服務器、應用服務器1、應用服務器2、應用服務器3；其中，所述終端與所述網頁服務器相連；所述網頁服務器分別與應用服務器1、應用服務器2、應用服務器3直接相連；
[0048]預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；
[0049]所述網頁服務器，用于接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端；
[0050]若網頁服務器在磁盤管理模塊中查詢失敗，則通過向所述應用服務器發送查詢請求，獲取終端請求的數據信息并反饋給終端。
[0051]通過以下方案:預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置；所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端；一方面，增大了從網絡層響應終端用戶請求的概率；另一方面，減少了將請求調度到后臺應用服務器集群，減輕了后臺服務器的請求壓力，同時減少了后臺應用服務器的數量，達到減少投入成本的目的。
[0052]以上所述僅為本發明的優選實施例而已，并不用于限制本發明，對于本領域的技術人員來說，本發明可以有各種更改和變化。凡在本發明的精神和原則之內，所作的任何修改、等同替換、改進等，均應包含在本發明的保護范圍之內。
【權利要求】
1.一種基于雙層緩存的負載均衡方法，其特征在于，包括以下步驟: 預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置； 所述網頁服務器接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端。
2.根據權利要求1所述的方法，其特征在于:對所述內存管理模塊設置的參數包括:連接超時時長參數、發送超時時長參數、讀取超時時長參數、緩存失效時間參數、訪問請求方式參數。
3.根據權利要求1所述的方法，其特征在于:對所述磁盤管理模塊設置的參數包括:分配內存大小參數、磁盤容量參數、文件存放目錄參數、各級目錄字符數參數。
4.根據權利要求1所述的方法，其特征在于:所述網頁服務器繼續查詢所述磁盤管理模塊，獲取到所述終端請求的數據信息并反饋給所述終端的同時，向所述內存管理模塊發送所述終端請求的數據信息并由所述內存管理模塊存儲。
5.根據權利要求1所述的方法，其特征在于:所述內存管理模塊周期性地或者實時地向所述磁盤管理模塊發送信息獲取請求； 所述磁盤管理模塊接收到所述信息獲取請求后，向所述內存管理模塊反饋信息響應消息；其中，所述信息響應消息中攜帶了終端請求的數據信息。
6.根據權利要求1所述的方法，其特征在于:所述磁盤管理模塊刪除第一預設時段內沒有被訪問的數據信息。
7.根據權利要求6所述的方法，其特征在于:所述磁盤管理模塊刪除第一預設時段內沒有被訪問的數據信息之前，還包括:所述磁盤管理模塊將第一預設時段內沒有被訪問的數據信息發送至內存管理模塊；所述內存管理模塊接收到所述第一預設時段內沒有被訪問的數據信息后，若空閑內存大小大于第一預設時段內沒有被訪問的數據大小，則存儲所述第一預設時段內沒有被訪問的數據信息； 所述內存管理模塊刪除第二預設時段內沒有被訪問的數據信息。
8.根據權利要求1所述的方法，其特征在于:若網頁服務器在磁盤管理模塊中查詢失敗，則通過向應用服務器發送查詢請求，獲取終端請求的數據信息并反饋給終端。
9.一種基于雙層緩存的負載均衡系統，其特征在于，包括終端、網頁服務器；其中，所述終端與所述網頁服務器相連； 預先在網頁服務器中設置內存管理模塊、磁盤管理模塊并對所述內存管理模塊、所述磁盤管理模塊進行參數設置； 所述網頁服務器，用于接收到終端請求后，通過查詢所述內存管理模塊，獲取到終端請求的數據信息并反饋給所述終端；若查詢失敗，則繼續查詢所述磁盤管理模塊，獲取到終端請求的數據信息并反饋給所述終端。
10.根據權利要求9所述的系統，其特征在于，還包括一個或多個應用服務器；所述網頁服務器分別與所述一個或多個應用服務器直接相連； 若網頁服務器在磁盤管理模塊中查詢失敗，則通過向所述應用服務器發送查詢請求，獲取終端請求的數據信息并反饋給終端。
【文檔編號】H04L12/803GK104363182SQ201410613099
【公開日】2015年2月18日 申請日期:2014年11月4日 優先權日:2014年11月4日
【發明者】李有超, 王渭巍 申請人:浪潮(北京)電子信息產業有限公司