網絡系統以及虛擬節點的遷移方法

            文檔序號:8002836閱讀:247來源:國知局
            網絡系統以及虛擬節點的遷移方法
            【專利摘要】本發明提供一種網絡系統以及虛擬節點的遷移方法,不中斷構成虛擬網絡的虛擬節點的服務,執行虛擬節點的遷移處理。該網絡系統由具有計算機資源的多個物理節點構成,在網絡系統中構成有虛擬網絡,該虛擬網絡由被分配了物理節點所具有的計算機資源且執行服務的多個虛擬節點構成,在將使用第一物理節點的計算機資源執行服務的第一虛擬節點移動至第二物理節點的情況下,在連接第二物理節點與相鄰物理節點的物理鏈路上,生成用于實現連接第一虛擬節點與相鄰虛擬節點的虛擬鏈路的通信路徑,使用由第二物理節點確保的計算機資源開始第一虛擬節點所執行的服務,將生成的通信路徑作為虛擬鏈路切換。
            【專利說明】網絡系統以及虛擬節點的遷移方法
            【技術領域】
            [0001]本發明涉及構成虛擬網絡的虛擬節點的遷移方式。
            【背景技術】
            [0002]近年,通過網絡提供了互聯網以及電話、移動、企業網等多種服務。為了實現對應于不同的服務的網絡并提供各服務中需要的功能,使用在物理的網絡上生成多個虛擬網絡(層)的虛擬化網絡技術。
            [0003]為了構筑虛擬網絡,構成作為基礎設施的物理網絡的節點需要具有實現虛擬網絡的特有的處理的功能。
            [0004]前述的功能按每層不同,因此前述的功能通過程序處理(通用服務器或網絡處理器上的程序)實現的方式多為采用。
            [0005]虛擬網絡技術分離虛擬網絡的構成與物理網絡的構成。因此,若構成虛擬網絡的節點(虛擬節點)能夠確保在該虛擬節點所需要的計算機資源(CPU、存儲器以及網絡帶域等)以及性能(網絡延遲時間等),則能夠配置在任何物理節點中。另外,關于虛擬網絡的鏈路也同樣,能夠自由地設定虛擬的鏈路經由哪個物理鏈路。
            [0006]另外,也可以基于虛擬網絡的管理者的要求,指定特定的物理節點以及物理鏈路配置虛擬節點。
            [0007]另外,虛擬網絡技術需要避免虛擬網絡上的地址以及包構成對物理網絡上的地址等造成影響。
            [0008]因此,需要使用VLAN分離虛擬網絡,使用GRE以及Mac-1n-Mac封裝虛擬網絡上的包,將虛擬網絡的包與物理網絡分離。
            [0009]使用封裝方式的情況下,在虛擬網絡上,不依賴于現有的IP通信,能夠進行自由的包形式的通信。
            [0010]在廣域的網絡上實現虛擬網絡的情況下,需要跨管理體系不同的網絡實現虛擬網絡。例如,可以想到跨不同的通信運營商的虛擬網絡、以及跨多個國家的虛擬網絡等。
            [0011]以下,將物理網絡中的網絡的管理單位稱為域,將實現跨域的虛擬網絡的處理稱為聯合(federat ion)。
            [0012]聯合是下述處理:多個域中的管理服務器協作,與單一的域的情況同樣,構成虛擬網絡的管理者所要求的虛擬網絡并提供服務。
            [0013]前述那樣的虛擬節點雖然能夠在物理節點中自由地配置,但根據某些情況需要變更虛擬節點的配置。即,發生執行虛擬節點的遷移處理。
            [0014]例如,在追加在虛擬節點中分配的計算機資源量的情況下,在物理節點的計算機資源沒有富余的情況下,需要使其向計算機資源量有富余的其他物理節點移動,另外,向網絡上相近的物理節點移動。
            [0015]在虛擬節點的遷移處理中,期望在虛擬網絡中是無縫的。即,需要不變更虛擬網絡的構成,變更配置虛擬節點的物理節點。[0016]進而,在執行遷移處理時,需要繼續虛擬網絡的服務。即,從虛擬網絡上的服務使用者來看,需要不停止服務而遷移節點。在服務器間使虛擬機(VM)實時遷移的技術有一些得到了制品化,但本技術中,在使VM移動時,有極短期間(0.5秒左右)VM的動作中斷的時間。在考慮了對虛擬網絡的節點的適用的情況下,不能允許中斷網絡通信。因此,需要不使用VM實時遷移而實現虛擬節點的遷移。
            [0017]非專利文獻1:Pisa, P.,另7名,“開流和基于Xen的虛擬網絡遷移(Openflowand Xen-based Virtual Network Migration),,,Wireless in Developing Countriesand Networks of the Future, volume 327 of IFIP Advances in Information andCommunication Technology, p.170-181, Springer Boston
            [0018]非專利文獻I的圖3中,記載了由開流(openflow)開關構成的虛擬網絡中的遷移方式。為了通信中也繼續虛擬網絡中的通信,對流(單方向)所經由的開流開關,在下述三個步驟中實施設定,并實施遷移處理。
            [0019](I)對追加的新節點、以及來自新節點的流與當前路徑合流的節點,追加針對經由新節點的流的定義。
            [0020](2)將從當前路徑向新節點分支的節點的流的定義變更為新的流。
            [0021 ] (3)刪除流所不再經由的舊節點的定義。
            [0022]通過前述的結構,在經由開流開關的流的通信中,通過步驟(2)的處理變更路徑信息,由此能夠不中斷通信,而使得流經由新的路徑。
            [0023]但是,前述的現有技術中,虛擬節點配置在開流開關上是前提。從而,在使用通用服務器以及網絡處理器上的程序實現虛擬節點的情況下,應用前述的現有技術是困難的。
            [0024]進而,現有技術中,各開流開關通過單一的控制器被控制,因此單一的域內的網絡成為前提。從而,在跨多個域的遷移處理中不能應用。

            【發明內容】

            [0025]本發明是鑒于前述課題而完成的發明。即,本發明在跨多個域的虛擬網絡中,能夠提供不中斷虛擬節點所執行的服務,而迅速實現變更該虛擬節點的配置目的地的遷移處理的網絡系統。
            [0026]以下表示本申請中公開的發明的代表的一例。即,一種網絡系統,由具有計算機資源的多個物理節點構成,其特征為,所述物理節點經由物理鏈路與其他所述物理節點連接,在所述網絡系統上構成有虛擬網絡,該虛擬網絡由被分配所述物理節點所具有的計算機資源且執行規定的服務的多個虛擬節點構成,所述網絡系統具有:網絡管理部,管理所述虛擬節點;節點管理部,管理所述物理節點;以及鏈路管理部,管理對所述物理節點間進行連接的所述物理鏈路以及對所述虛擬節點間進行連接的虛擬鏈路的連接;所述網絡管理部保持:映射信息,表示所述虛擬節點與對所述虛擬節點分配所述計算機資源的所述物理節點之間的對應;以及虛擬節點管理信息,用于管理所述虛擬鏈路;所述鏈路管理部保持用于管理所述虛擬鏈路的連接狀態的路徑設定信息,所述網絡系統為:在使利用第一物理節點的所述計算機資源執行服務的第一虛擬節點轉移至第二物理節點的情況下,所述網絡管理部向所述第二物理節點發送對所述第一虛擬節點分配的所述計算機資源的確保指示,所述網絡管理部確定相鄰物理節點,該相鄰物理節點對在所述虛擬網絡上經由所述虛擬鏈路與所述第一虛擬節點連接的相鄰虛擬節點分配所述計算機資源,所述網絡管理部對所述鏈路管理部發送通信路徑的生成指示,該通信路徑的生成指示用于在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上實現連接所述第一虛擬節點與所述相鄰虛擬節點的所述虛擬鏈路,所述鏈路管理部基于所述通信路徑的生成指示,在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上生成所述通信路徑,所述節點管理部利用由所述第二物理節點確保的所述計算機資源,開始所述第一虛擬節點所執行的服務,所述網絡管理部向所述鏈路管理部發送所述虛擬鏈路的切換指示,所述鏈路管理部將所述生成的通信路徑作為所述虛擬鏈路來切換。
            [0027]發明效果
            [0028]通過本發明的一個方面,通過預先在移動目的地的物理節點中啟動虛擬節點的服務,另外,預先生成用于在與執行相鄰虛擬節點的服務的物理節點之間實現虛擬鏈路的通信路徑,能夠不中斷虛擬節點所執行的服務,且將虛擬節點迅速地向其他物理節點轉移。
            【專利附圖】

            【附圖說明】
            [0029]圖1是表示本發明的實施例的網絡系統的結構例的說明圖。
            [0030]圖2是表示本發明的實施例1的虛擬網絡(層)的結構例的說明圖。
            [0031]圖3是表示本發明的實施例1的物理網絡的結構例的說明圖。
            [0032]圖4是表示本發明的實施例1的映射信息的一例的說明圖。
            [0033]圖5是表示本發明的實施例1的虛擬節點管理信息的一例的說明圖。
            [0034]圖6是表示本發明的實施例1的物理節點的結構例的說明圖。
            [0035]圖7A是表示本發明的實施例1的包的形式的一例的說明圖。
            [0036]圖7B是表示本發明的實施例1的包的形式的一例的說明圖。
            [0037]圖8是表示本發明的實施例1的路徑設定信息的一例的說明圖。
            [0038]圖9A是說明本發明的實施例1的遷移處理的流程的時序圖。
            [0039]圖9B是說明本發明的實施例1的遷移處理的流程的時序圖。
            [0040]圖1OA是表示本發明的實施例1的遷移處理的執行時的域15內的狀態的說明圖。
            [0041]圖1OB是表示本發明的實施例1的遷移處理的執行時的域15內的狀態的說明圖。
            [0042]圖1OC是表示本發明的實施例1的遷移處理的執行時的域15內的狀態的說明圖。
            [0043]圖1lA是表示本發明的實施例1的路徑設定信息的一例的說明圖。
            [0044]圖1lB是表示本發明的實施例1的路徑設定信息的一例的說明圖。
            [0045]圖12A是表示本發明的實施例1的GRE變換裝置內的通信路徑的連接狀態的說明圖。
            [0046]圖12B是表示本發明的實施例1的GRE變換裝置內的通信路徑的連接狀態的說明圖。
            [0047]圖13是表示本發明的實施例2的物理網絡的構成例的說明圖。
            [0048]圖14A是說明本發明的實施例2的遷移處理的流程的時序圖。
            [0049]圖14B是說明本發明的實施例2的遷移處理的流程的時序圖。
            [0050]圖15A是表示本發明的實施例2的遷移處理的執行時的域15內的狀態的說明圖。
            [0051]圖15B是表示本發明的實施例2的遷移處理的執行時的域15內的狀態的說明圖。[0052]圖15C是表示本發明的實施例2的遷移處理的執行時的域15內的狀態的說明圖。
            [0053]圖16A是說明本發明的實施例3的遷移處理的流程的時序圖。
            [0054]圖16B是說明本發明的實施例3的遷移處理的流程的時序圖。
            [0055]附圖標記說明
            [0056]
            10 物理網絡
            15 域
            20 虛擬網絡(層)
            100 物理節點
            HO 虛擬計算機(VM)
            160 鏈路管理部
            190 節點管理部
            200 虛擬節點
            250 虛擬鏈路
            300 域管理服務器
            321 域管理部
            900 服務器
            [0057]
            931節點管理部
            932虛擬化管理部
            940 存儲器
            1000節點內開關
            1100 GRE變換裝置
            【具體實施方式】
            [0058]首先,說明作為本發明的前提的網絡系統的構成例。
            [0059]圖1是表示本發明的實施例的網絡系統的構成例的說明圖。
            [0060]本發明中,在物理網絡10上,構筑多個不同的虛擬網絡20。
            [0061]物理網絡10由多個物理節點100構成,各物理節點100通過規定的網絡線路互相連接。
            [0062]其中,本發明不限定網絡線路的種類,也可以使用WAN、LAN以及SAN等中的任一種。另外,本發明不限定網絡線路的連接方式,也可以是有線或者無線中的任一個。
            [0063]虛擬網絡20由多個虛擬節點200構成,各虛擬節點200通過虛擬的網絡線路相互連接。另外,虛擬節點200在虛擬網絡20上執行規定的服務。[0064]此處,虛擬節點200使用物理節點100所具備的計算機資源而實現。從而,一個物理節點100也能夠提供構成不同的虛擬網絡20的虛擬節點200。
            [0065]另外,虛擬網絡20也可以是分別使用不同的通信協議的網絡。
            [0066]由此,物理網絡10上能夠自由地構筑獨立的網絡。另外,由于能夠有效地活用現有的計算機資源,所以能夠較低地抑制導入成本。
            [0067]其中,本說明書中也將虛擬網絡記載為層。
            [0068](實施例1)
            [0069]圖2是表示本發明的實施例1的虛擬網絡(層)20的構成例的說明圖。
            [0070]本實施例中,層20由虛擬節點A (200-1)、虛擬節點B (200-2)以及虛擬節點C(200-3)構成。虛擬節點A (200-1)與虛擬節點C (200-3)通過虛擬鏈路250-1連接,虛擬節點B (200-2)與虛擬節點C (200-3)通過虛擬鏈路250-2連接。
            [0071]以下的說明假設虛擬節點C (200-3)是遷移對象的虛擬節點。其中,在圖2中為了說明簡單而示出了單純的結構的虛擬網絡(層)20,但更復雜的結構的虛擬網絡(層)20也能夠實現以下說明的處理。
            [0072](系統結構)
            [0073]圖3是表示本發明的實施例1的物理網絡10的構成例的說明圖。
            [0074]實施例1以由一個域15構成的物理網絡10為例進行說明。
            [0075]在構成物理網絡10的域15中包含域管理服務器300以及多個物理節點100。本實施例中,設使用域15內的物理節點100提供如圖2所示那樣的層20。
            [0076]域管理服務器300是管理域15內的物理節點100的計算機。域管理服務器300具有CPU310、主存儲裝置320、存儲器330以及NIC340。
            [0077]CPU310執行在主存儲裝置320中存儲的程序。通過CPU310執行程序,能夠實現域管理服務器300所具有的功能。其中,域管理服務器300也可以具有多個CPU310。
            [0078]主存儲裝置320存儲由CPU310執行的程序以及該程序的執行所需要的信息。主存儲裝置320例如可以想到存儲器等。
            [0079]主存儲裝置320存儲實現域管理部321的程序(省略圖示)。另外,主存儲裝置320將映射信息322以及虛擬節點管理信息323作為由域管理部321使用的信息存儲。
            [0080]域管理部321管理物理節點100以及虛擬節點200。本實施例中,通過域管理部321實行虛擬節點200的遷移處理。
            [0081]映射信息322是管理域15內的物理節點100與虛擬節點200的對應關系的信息。關于映射信息322的細節,使用圖4后述。虛擬節點管理信息323是虛擬節點200的設定信息。關于虛擬節點管理信息323的細節,使用圖5后述。
            [0082]其中,虛擬節點管理信息323由各物理節點100保持,域管理服務器300能夠從域15內的各物理節點100取得虛擬節點管理信息323。
            [0083]存儲器330存儲各種數據。存儲器330例如可以想到HDD(硬盤驅動器,Hard DiskDrive)以及 SSD (固態驅動器,Solid State Drive)等。
            [0084]其中,實現域管理部321的程序、映射信息322以及虛擬節點管理信息323也可以存儲在存儲器330中。此時,CPU310從存儲器330讀出,將讀出的程序以及信息裝載至主存儲裝置320中。[0085]NIC340是用于通過網絡線路與其他裝置連接的接口。本實施例中,通過與NIC340連接的物理鏈路500-1、500-2、500-3、500-4,與各物理節點100連接。更具體地說,域管理服務器300通過物理鏈路500以與各物理節點100的節點管理部190能夠通信的方式連接。
            [0086]其中,域管理服務器300也可以具有用于與物理節點100所具有的節點管理部190
            連接的管理接口。
            [0087]物理節點100向構成層20的虛擬節點200提供計算機資源。另外,各物理節點100通過物理鏈路400相互連接。具體而言,物理節點A (100-1)與物理節點C (100-3)經由物理鏈路400-1連接,物理節點C (100-3)與物理節點B (100-2)經由物理鏈路400-2連接,物理節點A (100-1)與物理節點D (100-4)經由物理鏈路400-3連接,物理節點B (100-2)與物理節點D (100-4)經由物理鏈路400-4連接。
            [0088]虛擬節點200配置在任一個物理節點100中。本實施例中,假設虛擬節點A( 200-1)配置在物理節點A (100-1)上,虛擬節點B (200-2)配置在物理節點B (100-2)上,虛擬節點C (200-3)配置在物理節點C (100-3)上。
            [0089]物理節點100具有鏈路管理部160以及節點管理部190。鏈路管理部160管理連接物理節點100間的物理鏈路400以及虛擬鏈路250。節點管理部190管理物理節點100的整體。另外,物理節點100也具有實現虛擬計算機(VM) 110的虛擬管理部(參照圖6)。
            [0090]本實施例中,VMllO提供用于實現虛擬節點200的各種功能。具體而言,VMllO提供虛擬節點200的可編程的功能。例如,VMllO執行用于實現通信協議的變換功能的程序。[0091 ] 本實施例中,通過VM_A( 110-1)提供虛擬節點AC 200-1)的功能,通過VM_B( 110-2)提供虛擬節點B (200-2)的功能,通過VM_C (110-3)提供虛擬節點C (200-3)的功能。
            [0092]其中,本實施例中,VMllO提供虛擬節點200的功能,但本發明不限于此。例如,也可以使用網絡處理器、CPU或FPGA等提供虛擬節點200的功能。
            [0093]在連接配置有虛擬節點200的物理節點100間的物理鏈路400中,為了實現虛擬鏈路250而生成GRE通道600。其中,本發明不限于使用GRE通道600實現虛擬鏈路250的方法。例如,也可以使用Mac-1n-Mac或VLAN等實現虛擬鏈路250。
            [0094]具體而言,在物理鏈路400-1中,生成構成虛擬鏈路250-1的GRE通道600_1、600-2,在物理鏈路400-2中,生成構成虛擬鏈路250-2的GRE通道600-3、600-4。
            [0095]其中,一個GRE通道600支持單方向通信。因此,本實施例中,為了支持虛擬節點200間的雙方通信,生成兩個GRE通道600。
            [0096]圖4是表示本發明的實施例1的映射信息322的一例的說明圖。
            [0097]映射信息322存儲用于表示虛擬節點200與提供該虛擬節點200的功能的VMllO所工作的物理節點的對應關系的信息。具體而言,映射信息322包含虛擬節點ID710、物理節點ID720以及VM_ID730。其中,在映射信息322中也可以包含其他信息。
            [0098]虛擬節點ID710存儲用于唯一識別虛擬節點200的識別符。物理節點ID720存儲用于唯一識別物理節點100的識別符。VM_ID730存儲用于唯一識別VMllO的識別符。
            [0099]圖5是表示本發明的實施例1的虛擬節點管理信息323的一例的說明圖。
            [0100]虛擬節點管理信息323存儲用于管理在各物理節點100中配置的虛擬節點200的各種信息。本實施例中,假設虛擬節點管理信息323是XML形式的信息。另外,假設在一個虛擬節點200中存在一個虛擬節點管理信息323,一般,物理節點100持有多個虛擬節點管理信息323。
            [0101]虛擬節點管理信息323包含屬性810以及虛擬鏈路信息820。其中,在虛擬節點管理信息323中,也可以包含其他信息。
            [0102]屬性810存儲用于表示虛擬節點200的屬性的信息。例如,存儲在虛擬節點200上執行的程序的識別信息。
            [0103]虛擬鏈路信息820存儲對在物理節點100上配置的虛擬節點200進行連接的虛擬鏈路250的信息。在虛擬鏈路信息820中,例如存儲虛擬鏈路250的識別信息、以及經由虛擬鏈路250連接的其他的虛擬節點200的識別信息。
            [0104]圖5所示的例表示虛擬節點C (200-3)的虛擬節點管理信息323。在該虛擬節點管理信息323中,包含連接物理節點C (100-3)中配置的虛擬節點C (200-3)的虛擬鏈路250-1的虛擬鏈路信息820-1以及虛擬鏈路250-2的虛擬鏈路信息820-2。
            [0105]其中,本發明不限于虛擬節點管理信息323的數據形式,也可以是表格形式等不同的數據形式。
            [0106]圖6是表示本發明的實施例1的物理節點100的構成例的說明圖。圖6以物理節點C (100-3)為例進行說明,但物理節點A (100-1)、物理節點B (100-2)以及物理節點D(100-4)也是相同的結構。
            [0107]物理節點C (100-3)由多個服務器900、節點內開關1000以及GRE變換裝置1100構成,另外,在物理節點C (100-3)內構成VLAN。
            [0108]服務器900具有CPU910、主存儲裝置920、NIC930以及存儲器940。
            [0109]CPU910存儲在主存儲裝置920中存儲的程序。通過CPU910執行程序,能夠實現服務器900具有的功能。主存儲裝置920存儲通過CPU910執行的程序以及該程序的執行所
            需要的息。
            [0110]NIC930是用于通過網絡線路與其他裝置連接的接口。存儲器940存儲各種信息。
            [0111]本實施例中,在物理節點100中包含具有節點管理部931的服務器900、具有虛擬化管理部932的服務器900。其中,CPU910通過執行在主存儲裝置920中存儲的規定的程序,實現節點管理部931以及虛擬化管理部932。
            [0112]以下表示在以節點管理部931以及虛擬化管理部932為主語的情況下,通過CPU910執行實現節點管理部931以及虛擬化管理部932的程序。
            [0113]節點管理部931是與節點管理部190相同的部件。其中,節點管理部931為了管理在自身的物理節點100中配置的虛擬節點200,保持虛擬節點管理信息323。
            [0114]虛擬化管理部932使用計算機資源生成VM110,另外,管理生成的VM110。虛擬化管理部932例如可以想到超級管理器等。其中,VMllO的生成方法以及管理方法由于是公知的所以省略詳細說明。
            [0115]其中,節點管理部931所工作的服務器900,通過管理用網絡與節點內開關1000以及GRE變換裝置1100連接,另外,通過物理鏈路500-3與域管理服務器300連接。另外,虛擬化管理部932所工作的服務器900,通過內部的數據網絡與節點內開關1000連接。
            [0116]節點內開關1000連接物理節點C (100-3)內的各服務器900以及GRE變換裝置1100。另外,節點內開關1000具有管理VLAN的功能,執行VLAN內的包的轉送處理。其中,由于節點內的開關1000的結構是公知的所以省略詳細的說明,例如,節點內開關1000具有包含開關轉送部(省略圖示)以及一個以上的端口的I/o接口(省略圖示)。
            [0117]GRE變換裝置1100是與鏈路管理部160對應的裝置,管理物理節點100間的連接。GRE變換裝置1100生成GRE通道600,通過該GRE通道600與其他物理節點100通信。其中,GRE變換裝置1100具有CPU (省略圖示)、存儲器(省略圖示)以及網絡接口等計算機資源。
            [0118]其中,本實施例由于使用GRE通道600實現虛擬鏈路250,而使用GRE變換裝置1100,但本發明不限于此。也可以使用應用了用于實現虛擬鏈路250的協議的路由器以及
            存取網關裝置等。
            [0119]GRE變換裝置1100保持路徑設定信息1110。路徑設定信息1110是表示用于與虛擬節點200通信的GRE通道600的連接關系的信息。GRE變換裝置1100能夠使用路徑設定信息1110,切換向虛擬節點200的連接。其中,關于路徑設定信息1110的細節,使用圖8后述。
            [0120]GRE變換裝置1100,在將包發送至在其他物理節點100上工作的VM100的情況下,通過賦予GRE頭,封裝物理節點100內的包,發送封裝了的包。另外,GRE變換裝置1100從在其他物理節點100上工作的VM100接收包的情況下,刪除GRE頭,變換為VLAN上的Mac-1n-Mac包(解封裝),將變換了的包轉送至物理節點100內的VM110。
            [0121]此處說明在物理節點100間收發的包的形式。
            [0122]圖7A以及圖7B是表示本發明的實施例1的包的形式的一例的說明圖。圖7A表示數據包1200的包形式,圖7B表示控制包1210的包形式。
            [0123]數據包1200由GRE頭1201、包類別1202以及虛擬網絡包1203構成。
            [0124]GRE頭1203存儲GRE頭。包類別1202存儲用于表示包的類別的信息。在數據包1200的情況下,在包類別1202中存儲有“數據”。虛擬網絡包1203存儲在虛擬網絡、即層20中收發的包。
            [0125]控制包1210由GRE頭1211、包類別1212以及控制信息1213構成。
            [0126]GRE頭1211以及包類別1212與GRE頭1201以及包類別1202相同。其中,在包類別1212中存儲“控制”。控制信息1213存儲各種控制處理所需要的命令以及信息等。
            [0127]其中,數據包1200在提供虛擬節點200的功能的VMllO間收發,控制包1210在各物理節點Iio內的節點管理部931所工作的服務器900間收發。
            [0128]GRE變換裝置1100,在從在其他物理節點100上工作的VMllO接收包的情況下,參照包類別1202、1212,確定接收的包的類別。在接收的包是控制包1210的情況下,GRE變換裝置1100基于在控制信息1213中存儲的信息執行控制處理。另一方面,在接收的包是數據包1200的情況下,GRE變換裝置1100將解封裝的包轉送至確定的服務器900。
            [0129]另外,GRE變換裝置1100在對其他的物理節點100上工作的VMllO發送數據包1200的情況下,基于路徑設定信息,發送封裝的包。GRE變換裝置1100,在將控制包1210發送至域管理服務器300或其他的物理節點100的情況下,通過GRE通道600,發送封裝的包。
            [0130]圖8是表示本發明的實施例1的路徑設定信息1110的一例的說明圖。圖8以物理節點A (100-1)的GRE變換裝置1100所具備的路徑設定信息1110為例進行說明。
            [0131]路徑設定信息1110包含通信方向1310以及通信可否1320。
            [0132]通信方向1310存儲用于表不VMllO間的通信方向的信息。S卩,存儲用于表不GRE通道600的通信方向的信息。
            [0133]具體而言,在通信方向1310中,存儲發送源的VMllO以及發送目的地的VMllO的識別信息。其中,圖8所示的例使用箭頭表示通信方向,但本發明不限于此,若發送源的VMllO與發送目的地的VMllO能夠識別,也可以是任何一種數據形式。
            [0134]通信可否1320存儲用于表示是否對與通信方向1310對應的VMllO間的通信進行連接的信息。在本實施例中,在連接VMl 10間的通信的情況下,在通信可否1320中存儲“0K(可)”,在未連接VMllO間的通信的情況下,在通信可否1320中存儲“NO (否)”。
            [0135](遷移處理)
            [0136]以下,關于從物理節點C (100-3)向物理節點D (100-4)的虛擬節點C (200-3)的遷移處理,使用圖9A、圖9B、圖10A、圖10B、圖10C、圖11A、圖11B、圖12A、圖12B說明。
            [0137]圖9A以及圖9B是說明本發明的實施例1的遷移處理的流程的時序圖。圖10A、圖1OB以及圖1OC是表示在本發明的實施例1的遷移處理的執行時的域15內的狀態的說明圖。圖1lA以及圖1lB是表示本發明的實施例1的路徑設定信息1110的一例的說明圖。圖12A以及圖12B是表示本發明的實施例1中GRE變換裝置1100內的通信路徑的連接狀態的說明圖。
            [0138]本實施例假設通過操作域管理服務器300的管理者,輸入遷移對象的虛擬節點C(200-3)的識別符與處理開始的要求。其中,本發明不限于遷移處理開始的時間。例如,也可以在VMllO的負載在閾值以上的情況下等執行。
            [0139]域管理服務器300首先確保遷移處理所需要的計算機資源,另外,設定在遷移處理時使用的信息。具體而言,執行步驟SlOl至步驟S106的處理。
            [0140]這是用于避免在層20上執行的服務的停止、且瞬時切換VMllO的準備處理。
            [0141]域管理服務器300將VM生成指示發送至物理節點D (100-4)(步驟S101)。
            [0142]具體而言,域管理服務器300將VM_D (110-4)的生成指示發送至物理節點D(100-4)的節點管理部931。其中,在VM生成指示中包含VM_D (110-4)的各種設定信息。VMllO的設定信息例如包含對VM_D (110-4)分配的CPU以及存儲器的配額、啟動OS映像的通道名、以及提供虛擬節點C (200-3)所執行的服務的程序名等。
            [0143]其中域管理服務器300以變為與VM_C (110_3)相同的性能的方式生成生成指示。具體而言,域管理服務器300從VM_C (110-3)所工作的服務器900的虛擬化管理部932取得VM_C (110-3)的設定信息,基于取得的設定信息生成生成指示。
            [0144]域管理服務器300將虛擬鏈路生成指示發送至物理節點A (100-1)以及物理節點D (100-4)(步驟S102、步驟S103)。另外,域管理服務器300同樣將虛擬鏈路生成指示發送至物理節點B (100-2)以及物理節點D (100-4)(步驟S104、步驟S105)。具體而言,執行以下那樣的處理。
            [0145]域管理服務器300參照映射信息322,確定配置有虛擬節點C (200_3)的物理節點C (100-3)。
            [0146]接著,域管理服務器300參照物理節點C (100-3)的虛擬節點管理信息323,確定通過虛擬鏈路250-1、250-2連接的虛擬節點A (200-1)以及虛擬節點B (200-2)。
            [0147]進而,域管理服務器300參照映射信息322,確定配置有虛擬節點A (200-1)的物理節點A (100-1),并確定配置有虛擬節點B (200-2)的物理節點B (100-2)。[0148]接著,域管理服務器300確認虛擬節點200間的連接關系,確定對虛擬節點C(200-3)的相鄰虛擬節點200。本實施例中,在層20上的連接關系中,從虛擬節點C(200-3)通過I跳躍連接的虛擬節點200假設為相鄰虛擬節點200。從而,本實施例中,虛擬節點A(200-1)以及虛擬節點B (200-2)成為對虛擬節點C (200-3)的相鄰虛擬節點200。其中跳躍數能夠任意設定。
            [0149]進而,域管 理服務器300將配置有相鄰虛擬節點200的物理節點A (100-1)以及物理節點B (100-2)確定為相鄰物理節點100。
            [0150]域管理服務器300向物理節點A (100-1)以及物理節點D (100_4)之間發送虛擬鏈路250-1的生成指示。另外,域管理服務器300向物理節點B (100-2)以及物理節點D(100-4)之間發送虛擬鏈路250-2的生成指示。
            [0151]其中,在虛擬鏈路生成指示中包含虛擬鏈路250的設定信息。虛擬鏈路250的設定信息包含例如帶域、連接所需要的GRE鍵、以及IP地址等。
            [0152]以上是步驟S102、步驟S103、步驟S104以及步驟S105的處理。
            [0153]進而,域管理服務器300向物理節點C (100-3)通知VM停止條件(步驟S106)。
            [0154]此處,VM停止條件表示用于使在移動源的物理節點100上工作的VM100停止的條件。物理節點C (100-3)的節點管理部931若接收到VM停止條件,則開始用于判定該停止條件是否成立的判定處理。
            [0155]本實施例中,假設作為VM停止條件設定下述條件:從相鄰物理節點100、即物理節點A (100-1)以及物理節點B (100-2)接收到虛擬鏈路切換完成通知的情況下停止VM_C(110-3)。即,物理節點C (110-3)的節點管理部931直到從VM_A (110-1)所工作的物理節點A (110-1)以及VM_B (110-2)所工作的物理節點B (110-2)接收到虛擬鏈路切換完成通知為止,使VM_C (110-3)不停止。
            [0156]物理節點D (100-4)若接收VM生成指示,則基于該VM生成指示,在確定的服務器900上生成VM_D (110-4)(步驟S107)。具體而言,執行以下那樣的處理。
            [0157]節點管理部931決定生成¥11_0(110-4)的服務器900。節點管理部931向在決定的服務器900上工作的虛擬化管理部932轉送接收的VM生成指示。
            [0158]虛擬化管理部932基于VM生成指示生成VM_D( 110_4)。虛擬化管理部932在VM_D(110-4)生成后,通知¥11_0 (110-4)的生成完成。其中,此時,不啟動生成的VM_D (110-4)。
            [0159]以上是步驟S107的處理。
            [0160]物理節點A (100-1)以及物理節點D (100-4)若接收虛擬鏈路生成指示,則基于該虛擬鏈路生成指示,生成用于實現虛擬鏈路250-1的GRE通道600-5、600-6(參照圖10A)(步驟S108)。具體而言,執行以下那樣的處理。
            [0161]物理節點A (100-1)的節點管理部931若從域管理服務器300接收到虛擬鏈路生成指示,則向GRE變換裝置1100轉送該生成指示。另外,物理節點D (100-4)的節點管理部931若從域管理服務器300接收到虛擬鏈路生成指示,則向GRE變換裝置1100轉送該生成指示。
            [0162]物理節點A (100-1)的GRE變換裝置1100以及物理節點D (100-4)的GRE變換裝置1100生成GRE通道的600-5、600-6。其中,由于GRE通道600的生成方法使用公知的技術即可,所以省略說明。[0163]物理節點A (100-1)的GRE變換裝置1100,如圖1lA所示,向路徑設定信息1110追加對應于GRE通道600-5、600-6的項目。
            [0164]物理節點A (100-1)的GRE變換裝置1100,在對應于GRE通道600-5的項目的通信可否1320中設定“NO”,在對應于GRE通道600-6的項目的通信可否1320中設定“0K”(參照圖11A)。
            [0165]另一方面,物理節點D (100-4)的GRE變換裝置1100向對應于GRE通道600-5、600-6的項目追加路徑設定信息,在該項目的通信可否1320中設定“0K”。
            [0166]通過以上的處理,在物理節點A (100-1)與物理節點D (100_4)之間,生成僅能夠從VM_D (110-4)向VM_A (110-1)單方面通信的虛擬鏈路250。
            [0167]以上是步驟S108的處理。
            [0168]同樣,物理節點B (100-2)以及物理節點D (100_4)若接收虛擬鏈路生成指示,則基于該虛擬鏈路生成指示,生成用于實現虛擬鏈路250-2的GRE通道600-7、600-8(參照圖10A)(步驟 S109)。
            [0169]此時,物理節點B (100-2)的GRE變換裝置1100在對應于GRE通道600_7的項目的通信可否1320中設定“NO”,在對應于GRE通道600-8的項目的通信可否1320中設定“0K”。另外,物理節點D (100-4)的GRE變換裝置1100在對應于GRE通道600_7、600_8的項目的通信可否1320中設定“0K”。
            [0170]物理節點A (100-1)的節點管理部931以及物理節點B (100_2)的節點管理部931在生成虛擬鏈路250后,向域管理服務器300發送意在確保計算機資源的通知(步驟S110、SiiDo
            [0171]另外,物理節點D (100-5)的節點管理部931在生成VM_D (100_4)且生成虛擬鏈路250后,向域管理服務器300發送意在確保計算機資源的通知(步驟S112)。
            [0172]此時,域管理服務器300基于意在確保計算機資源的通知,生成映射信息422的更新信息以及虛擬節點管理信息323的更新信息并暫時保持。本實施例生成以下那樣的信
            肩、O
            [0173]域管理服務器300生成對應于虛擬節點C (200-3)的項目的物理節點ID720是物理節點D (100-4)、VM_ID730是VM_D (110-4)的更新信息。另外,域管理服務器300生成物理節點D (100-4)的虛擬節點管理信息323。其中,域管理服務器300也可以從物理節點D (100-4)取得虛擬節點管理信息323。
            [0174]圖1OA表示執行至步驟S112的處理后的域15內的狀態。
            [0175]如圖1OA所示,GRE通道600-5、600-7由虛線表示。這表示GRE通道600-5、600-7存在,但不能夠使用該GRE通道600發送包。因此,使用圖12A說明物理節點A (100-1)的GRE變換裝置1100的通信路徑的連接狀態。
            [0176]圖12A所示,GRE變換裝置1100以將從VM_C (110-3)以及VM_D (110-4)的兩方接收的包對VM_A (110-1)轉送的方式設定內部的通信路徑。另一方面,GRE變換裝置1100以將從VM_A (110-1)發送的包僅發送至VM_C (110-3)的方式設定內部的通信路徑。如前述那樣,GRE變換裝置1100以對GRE通道600-5不轉送包的方式進行控制。
            [0177]返回圖9A的說明。
            [0178]接著,域管理服務器300向物理節點D (100-4)發送VM_D (110_4)的啟動指示(步驟S113)。具體而言,向物理節點D (100-4)的節點管理部931發送VM_D (110-4)的啟動指示。
            [0179]由此,在虛擬鏈路250生成前,能夠防止VM_D (110_4)工作。
            [0180]物理節點D (100-4)的節點管理部931,向虛擬化管理部932指示VM_D (110-4)的啟動(步驟S114),并向域管理服務器300發送VM_D (110-4)的啟動完成通知(步驟S115 )。
            [0181]通過使VM_D (110-4)啟動,在開始虛擬節點C (200_3)所執行的服務的時刻,VM_C (110-3)以及VM_D (110-4)的雙方能夠提供虛擬節點C (200-3)的功能。但是,此時,在使用由VM_C (110-3)提供的功能的虛擬節點C (200-3)中,執行中的服務有可能繼續。從而,使用VM_C (110-3)所提供的功能的虛擬節點C (200-3)繼續執行服務。
            [0182]但是,如圖1OA所示,由于使用VM_D (110-4)所提供的功能的虛擬節點C (110-4)也開始服務,即使切換虛擬鏈路250服務也不停止。其中,若由使用層20的用戶來看,識別為通過一個虛擬節點C (110-4)執行服務。
            [0183]其中,本實施例中,假設虛擬節點C (200-3)所執行的服務是無狀態(stateless)的。S卩,即使在切換向執行服務的虛擬節點c( 110-4)提供功能的VMllO的情況下,各VMllO也能夠獨立執行處理。虛擬節點C (200-3)執行的服務不是無狀態的情況下,在移動源以及移動目的地的VMllO間設置共享的存儲器,通過使狀態信息共享,能夠繼續服務。
            [0184]域管理服務器300在接收VM_D (110-4)的啟動完成通知后,向相鄰物理節點100、即物理節點A (100-1)以及物理節點B (100-2)發送虛擬鏈路切換指示(步驟S116、步驟S117)。其中,在虛擬鏈路切換指示中包含切換對象的GRE通道600的識別信息。
            [0185]物理節點A (100-1)以及物理節點B (100-2)若接收虛擬鏈路切換指示,則切換虛擬鏈路250 (步驟S118、步驟S119)。具體而言,執行以下那樣的處理。
            [0186]節點管理部931若接收到虛擬鏈路切換指示,則向GRE變換裝置1100轉送接收的虛擬鏈路切換指示。
            [0187]GRE變換裝置1100,基于在接收的虛擬鏈路切換指示中包含的GRE通道600的識別信息,參照路徑設定信息1110,特定切換對象的GRE通道600的項目。此處,特定與移動源的VM_C (110-3)連接的GRE通道600的項目、與移動目的地的VM_D (110-4)連接的GRE通道600的項目。
            [0188]GRE變換裝置1100更換被確定的項目的通信可否1320的設定值。具體而言,將與移動源的VMllO連接的GRE通道600的項目的通信可否1320變更為“NO”,將與移動目的地的VMllO連接的GRE通道600的項目的通信可否1320變更為“0K”。
            [0189]通過該處理,路徑設定信息1110如圖1lB所示被更新。
            [0190]GRE變換裝置1100基于被更新的路徑設定信息,切換與GRE通道600連接的內部的通信路徑。GRE變換裝置1100向節點管理部931發送通信路徑的切換完成的通知。
            [0191]其中,GRE變換裝置1100即使在切換內部的通信路徑后,在接收的包是控制包1210,且配置有移動前的虛擬節點200的物理節點100是接收端的情況下,能夠通過在切換虛擬鏈路250前使用的內部的通信路徑發送控制包1210。
            [0192]g卩,GRE變換裝置1100控制為不對在移動前配置有虛擬節點200的物理節點100發送數據包1200。
            [0193]通過以上的處理,如圖12B所示那樣切換內部的通信路徑。由此,完成虛擬節點C(200-3)向VM_D (110-4)的移動。而且,在系統整體中,如圖1OB所示那樣切換虛擬鏈路250。
            [0194]這樣,為了取得通過使用由VM_C (110-3)提供的功能的虛擬節點C (200_3)執行的服務的執行結果,經過一定期間后切換虛擬鏈路250。由此,能夠保持層20中服務的整合性。
            [0195]以上是步驟S118、步驟S119的處理。
            [0196]通過切換虛擬鏈路250,使用由VM_D (110-4)提供的功能的虛擬節點C (200-3)執行服務。其中,由于物理節點C (100-3)的節點管理部931在此時不滿足VM_C (110-3)的停止條件,維持VM_C (110-3)的啟動狀態。
            [0197]物理節點A(100-1)以及物理節點B (100-2)在切換實現虛擬鏈路250的GRE通道600的連接后,向物理節點C (100-3)發送虛擬鏈路切換完成通知(步驟S120、步驟S121)。具體而言,執行以下那樣的處理。
            [0198]各物理節點100的節點管理部931,通過向GRE變換裝置1100詢問虛擬鏈路250的切換結果,確定連接被切換的GRE通道600。GRE變換裝置1100通過輸出向路徑設定信息1110新追加的項目的信息,能夠確定被切換的GRE通道600。
            [0199]各物理節點100的節點管理部931基于被確定的GRE通道600的連接目的地的VMllO的識別符,確定該VMllO所工作的物理節點100。例如,考慮各物理節點100的節點管理部931向域管理服務器300發送包含被確定的VM的識別符的詢問的方法。此時,域管理服務器300能夠確定通過參照映射信息322來確定的VMllO所工作的物理節點100。
            [0200]其中,發送虛擬鏈路切換完成通知的物理節點100的決定方法不限定于前述。例如,節點管理部931也可以與預先保持將GRE通道600與連接目的地的物理節點100建立對應而得到的信息。
            [0201 ] 節點管理部931生成包含連接目的地的物理節點100的識別符的虛擬鏈路切換完成通知,向GRE變換裝置1100發送該通知。其中,虛擬鏈路切換完成通知是控制包1210。
            [0202]GRE變換裝置1100通過GRE通道600向連接目的地的物理節點100發送虛擬鏈路切換完成通知。
            [0203]以上是步驟S120以及步驟S121的處理。
            [0204]接著,物理節點C (100-3)若從物理節點A (100-1)以及物理節點B (100-2)接收到虛擬鏈路切換完成通知,則停止VM_C (110-3),而且停止GRE通道600的連接(步驟S122)。
            [0205]這是由于物理節點C (100-3)的節點管理部931判定滿足VM_C (110-3)的停止條件。
            [0206]如前述那樣,虛擬鏈路切換完成通知通過發送數據包1200的GRE通道600_2、600-4被發送。從而,物理節點100的節點管理部931通過接受虛擬鏈路切換完成通知,能夠保證從VM_A (110-1)以及VM_B (110-2)不繼續對VM_C (110-3)發送數據包1200。
            [0207]另一方面,虛擬鏈路切換完成通知在從域管理服務器300被發送的情況下,與虛擬鏈路切換完成通知對應的控制包1210由于經由與發送數據包1200的通信路徑不同的通信路徑,有可能通過GRE通道600-2、600-4發送數據包120。
            [0208]從而,通過從與物理節點100上工作的VMllO通信的全部物理節點100接收控制包1210,得知在虛擬節點200移動前提供功能的VMllO成為無用。
            [0209]物理節點C (100-3)向物理節點A (100-1)以及物理節點C (100_3)發送對虛擬鏈路切換完成通知的響應(步驟S123、步驟S124)。
            [0210]其中,由于該響應是控制包1210,所以通過GRE通道600-1、600-3發送。從而,物理節點100能夠保證從在移動前提供功能的VMllO不發送包。
            [0211]物理節點A (100-1)以及物理節點B (100-2)若接收到對虛擬鏈路切換完成通知的響應,則停止用于與VM_C (110-3)通信的GRE通道600的連接(步驟S125、步驟S126)。
            [0212]具體而言,各物理節點100的節點管理部931向GRE變換裝置1100發送用于與VM_C (110-3)通信的GRE通道600的連接停止指示。GRE變換裝置1100若接收到該連續停止指示,則停止經由用于與VM_C (110-3)通信的GRE通道600的通信。
            [0213]物理節點A (100-1)以及物理節點B (100-2)向域管理服務器300發送虛擬鏈路停止通知(步驟S127、步驟S128)。另外,物理節點C (100-3)通知VM_C (110-3)的停止、以及停止對VM_C (110-3)的連接(步驟S129)。
            [0214]域管理服務器300向物理節點A (100-1)、物理節點B (100-2)以及物理節點C(100-3)發送與VM_C (110-3)關聯的計算機資源的釋放指示(步驟S130、步驟S131、步驟S132)。
            [0215]具體而言,域管理服務器300對物理節點A( 100-1)指示用于構成GRE通道600_1、600-2的計算機資源的釋放,對物理節點B (100-2)指示用于構成GRE通道600_3、600_4的計算機資源的釋放。另外,域管理服務器300對物理節點C (100-3)指示對VM_C (110-3)分配的計算機資源,以及構成GRE通道600-1、600-2、600-3、600-4的計算機資源的釋放。由此,能夠有效地活用計算機資源。
            [0216]其中,在圖9A以及圖9B中,在域管理服務器300以及各物理節點100間收發的指示以及響應,在保持處理的整合性的范圍內,可以以任意的順序變更,也可以同時發送。另外,也可以多次發送同樣的指示以及響應。另外,也可以將一個指示或響應分為多個指示或響應發送。
            [0217]圖1OC是表示執行至步驟S132的處理后的域內的狀態的圖。如圖1OC所示那樣,得知虛擬節點C (200-3)從物理節點C (100-3)向物理節點D (100-4)移動。其中,在層20上,不識別虛擬節點C (200-3)的移動。
            [0218]通過實施例1,能夠實現配置虛擬節點200的物理節點100的遷移處理,不停止在層20上的虛擬節點200執行的服務,且不變更層20的網絡結構。
            [0219]【實施例2】
            [0220]實施例2中,不同點在于,虛擬網絡20跨兩個以上的域15間而被構成。以下說明跨域間15的虛擬節點200的遷移處理。其中,以與實施例1的差異為中心說明。
            [0221](系統結構)
            [0222]圖13是表示本發明的實施例2的物理網絡10的構成例的說明圖。實施例2以由兩個域15構成的物理網絡10為例進行說明。
            [0223]在構成物理網絡10的域A (15-1)以及域B (15_3)中,各自包含域管理服務器300以及多個物理節點100。假設實施例2中使用各域15內的物理節點100提供如圖2所示那樣的層20。此時,通過使用聯合功能,能夠構成跨兩個域15的層20。[0224]另外,域管理服務器A (300-1)以及域管理服務器(300_2)通過物理鏈路1300連接。假設域管理服務器A (300-1)以及域管理服務器B (300-2)通過經由物理鏈路1300相互通信,共享各域15的管理信息(例如,映射信息322以及虛擬節點管理信息323)。
            [0225]其中,域管理服務器300的結構由于與實施例1相同所以省略說明。另外,物理節點100間的連接,由于與實施例1相同所以省略說明。
            [0226]實施例2中,與物理節點B (100-2)和物理節點C (100_3)連接的物理鏈路400_2,以及域物理節點A (100-1)和物理節點D (100-4)連接的物理鏈路400-3是連接域15間的網絡。
            [0227]從而,根據物理網絡10的安裝情況,有在域15的出項目設置網關裝置的情況。本實施例假設通過使用GRE通道600,能夠直接連接兩個域15間的物理節點100,但即使在設置網關裝置的情況下,也能夠使用同樣的處理。
            [0228]其中,物理節點100的結構由于與實施例1相同所以省略說明。
            [0229](遷移動作)
            [0230]以下,與實施例1相同,關于從物理節點C (100-3)向物理節點D (100-4)的虛擬節點C (200-3)的遷移處理,使用圖14A、圖14B、圖15A、圖15B以及圖15C說明。但是,不同點在于,在域15的不同的物理節點100間使虛擬節點200移動。
            [0231]圖14A以及圖14B是說明本發明的實施例2的遷移處理的流程的時序圖。圖15A、圖15B以及圖15C是表示本發明的實施例2的遷移處理執行時的域15內的狀態的說明圖。
            [0232]其中,路徑設定信息1110的更新方法、以及GRE變換裝置1100的內部的通信路徑的控制方法由于與實施例1相同所以省略說明。
            [0233]本實施例中,假設通過操作域管理服務器A (300-1)的管理者,輸入遷移對象的虛擬節點C (200-3)的識別符、以及處理開始的請求。其中,本發明不限于開始遷移處理的時亥IJ。例如,也可以在VMllO的負載在閾值以上等的情況下執行。
            [0234]本實施例中,域管理服務器A (300-1)以及域管理服務器B (300-2)協作而執行遷移處理,但此時,域管理服務器A (300-1)總控遷移處理。其中,在域管理服務器B (300-2)總控遷移處理的情況下,也能夠應用同樣的處理。
            [0235]其中,域管理服務器300以與VM_C (110_3)相同的性能的方式生成生成指示。具體而言,域管理服務器300從VM_C (110-3)所工作的服務器900的虛擬化管理部932取得VM_C (110-3)的設定信息,基于取得的設定信息生成生成指示。
            [0236]實施例2中對物理節點D (100-4)的VM生成指示的發送處理不同(步驟SlOl)。
            [0237]具體而言,域管理服務器A (300-1)向域管理服務器B (300-2)發送VM生成指示。其中,假設在VM生成指示中包含發送目的地的物理節點D (100-4)的識別符作為接收端。
            [0238]域管理服務器B (300-2)基于接收的VM生成指示的接收端信息向物理節點D(100-4)轉送VM生成指示。
            [0239]其中,本實施例中,假設在VM生成指示中預先包含發送目的地的物理節點D(100-4)的識別符,但本發明不限于此。例如,也可以是,域管理服務器A (300-1)發送與實施例I相同的VM生成指示,域管理服務器B (300-2)決定根據域15內的物理節點100的負載信息等發送VM生成指示的物理節點100。
            [0240]另外,實施例2中,對物理節點B (100-2)以及物理節點D (100_4)的虛擬節點生成指示的發送處理不同(步驟S103、步驟S104、步驟S105)。
            [0241]具體而言,域管理服務器A (300-1)向域管理服務器B (300-2)發送虛擬鏈路生成指示。其中,假設在虛擬鏈路生成指示中,包含發送目的地的物理節點B (100-2)以及物理節點D (100-4)的識別符作為接收端信息。其中,域管理服務器A (300-1)通過參照映射信息322,能夠掌握對物理節點D (100-4)的相鄰物理節點100是物理節點B (100-2)。
            [0242]域管理服務器B (300-2)基于接收的虛擬鏈路生成指示的接收端信息,向物理節點B (100-2)以及物理節點D (100-4)轉送鏈路生成指示。
            [0243]物理節點A (100-1)以及物理節點D (100-4)若接收到虛擬鏈路生成指示,則基于該虛擬鏈路生成指示,生成用于實現虛擬鏈路250-1的GRE通道600-5、600-6 (參照圖15A)(步驟 S108)。
            [0244]其中,GRE通道600-5、600-6的生成方法基本與實施例1中所示的生成方法相同。此時,通過聯合,生成跨域的層,因此,關于GRE通道也跨域而生成。進而,根據各域進而域間的物理網絡的安裝方式,有時在域的邊界也進行向不同的鏈路方式(例如VLAN等)的轉換。
            [0245]物理節點B (100-2)的節點管理部931在生成虛擬鏈路250后,向域管理服務器B (300-2)發送意在確保計算機資源的通知(步驟S111)。域管理服務器B (300-2)向域管理服務器A (300-1)轉送該通知(參照圖15A)。
            [0246]另外,物理節點D (100-5)的節點管理部931在生成VM_D (100_4)且生成虛擬鏈路250后,向域管理服務器B (300-2)發送意在確保計算機資源的通知(步驟S112)。域管理服務器B (300-2)向域管理服務器A (300-1)轉送該通知(參照圖15A)。
            [0247]其中,域管理服務器B (300-2)也可以合并來自物理節點B (100_2)以及物理節點D (100-4)的意在確保計算機資源的通知,向域管理服務器A (300-1)轉送合并后的通知。
            [0248]實施例2中,VM啟動指示以及VM啟動完成通知經由域管理服務器B (300-2)被發送(步驟S113、步驟S115)。另外,對物理節點B (100-2)的虛擬鏈路切換指示,如圖15B所示,經由域管理服務器B (300-2 )被發送(步驟S117 )。
            [0249]從物理節點B( 100-2)發送的鏈路切換完成通知,不經由域管理服務器B(300-2),通過在物理鏈路400-2上生成的GRE通道600被發送(步驟S121)。對物理節點B (100-2)發送的響應,不經由域管理服務器B( 300-2),通過在物理鏈路400-2上生成的GRE通道600被發送(步驟S124)。
            [0250]來自物理節點B被發送的虛擬鏈路停止通知經由域管理服務器B (300-2)向域管理服務器A (300-1)發送。另外,關于計算機資源的釋放指示,也經由域管理服務器器B(300-2)發送至物理節點B (100-2)。
            [0251]其他的處理由于與實施例1相同所示省略說明。
            [0252]通過實施例2,即使在由多個域15構成的層20中,也能夠不中斷虛擬節點200所執行的服務,實現跨域15的虛擬節點200的遷移處理。
            [0253]【實施例3】
            [0254] 實施例2中,如圖14A以及圖14B所示,多次發生域管理服務器300間的通信。該通信由于包含域15間的認證處理等,由于系統開銷變大進而收發控制命令數增大,遷移處理的系統開銷增大。
            [0255]因此,實施例3中,實現抑制了域管理服務器300間的通信的遷移處理。具體而言,通過經由物理節點100間的物理鏈路400收發控制包,抑制域管理服務器300間的通信。
            [0256]以下,以與實施例2為中心說明。其中物理網絡10的結構、域管理服務器300的結構以及物理節點100的結構由于與實施例1相同所以省略說明。
            [0257](遷移動作)
            [0258]以下,與實施例2相同,關于從域A (15-1)的物理節點C (100-3)向域B (15-2)的物理節點D (100-4)的虛擬節點C (200-3)的遷移處理,使用圖16A以及圖16B說明。
            [0259]圖16A以及圖16B是說明本發明的實施例3的遷移處理的流程的時序圖。
            [0260]域管理服務器A (300-1)向域管理服務器B (300-2)通知VM制作指示以及包VM啟動條件(步驟S201)。
            [0261]此時,由于在與物理節點100-4之間還未生成虛擬鏈路250,VM制作指示以及包VM啟動條件經由域管理服務器B (300-2)發送至物理節點D (100-4)。這是因為與追加節點之間的鏈路未構成。
            [0262]在此,VM啟動條件表示為了使在移動目的地的物理節點100上生成的VMllO啟動的條件。物理節點D (100-4)的節點管理部931若接收到VM啟動條件,則開始用于判定是否設立了該啟動條件的判定處理。
            [0263]本實施例中,作為VM啟動條件設定為下述條件,從相鄰物理節點100、即物理節點A (100-1)以及物理節點B(100-2)接收虛擬鏈路生成報告的情況下啟動VM_D (110-4)。
            [0264]實施例3中,物理節點A (100-1)、物理節點B (100-2)以及物理節點D (100-4)不向域管理服務器A (300-1)發送意在確保計算機資源的通知。實施例3中,不同點在于,物理節點A (100-1)以及物理節點B (100-2)通過GRE通道600,向物理節點D (100-4)發送虛擬鏈路生成報告(步驟S202、步驟S203)。
            [0265]由此,由于啟動VM_D( 110-4),能夠抑制域管理服務器300間的通信以及域管理服務器300和物理節點100之間的通信。從而,能夠削減遷移處理的系統開銷。
            [0266]實施例3中,物理節點D (100-4)的節點管理部931若從相鄰物理節點100接收到虛擬鏈路生成報告,則向虛擬化管理部932指示VM_D (110-4)的啟動(步驟S114)。
            [0267]物理節點D (100-4)的節點管理部931在VM_D (110-4)啟動后,向相鄰物理節點100發送服務開始通知(步驟S204、步驟S205)。在此,服務開始通知是表示使用VM_D(110-4)提供的功能而虛擬節點C (200-3)開始服務的通知。
            [0268]具體而言,服務開始通知通過GRE通道600,發送至物理節點A (100-1)以及物理節點 B (100-2)。
            [0269]物理節點A (100-1)以及物理節點B (100-2)若接收到服務開始通知,則切換虛擬鏈路250 (步驟S118、步驟S119)。
            [0270]實施例3中,不同點在于,物理節點A (100-1)以及物理節點B (100-2)以接收從物理節點D (100-4)發送的服務開始通知為契機,切換虛擬鏈路250的點不同。S卩,通過服務開始通知的發送,實現VM啟動完成通知以及虛擬鏈路切換指示的發送。
            [0271]實施例2中,為了切換虛擬鏈路250,需要在物理節點100與域管理服務器300之間進行通信,但實施例3中,由于在物理節點100間直接通信,能夠抑制經由域管理服務器300的通信。
            [0272]由于其他的處理與實施例2相同所以省略說明。
            [0273]通過實施例3,通過經由連接物理節點100間的鏈路(GRE通道600)進行通信,能夠抑制與域管理服務器300之間的通信。由此,能夠削減遷移處理的系統開銷。
            [0274]其中,本實施例中例示的各種軟件,在電磁的、電子的以及光學式等的各種記錄介質(例如非易失性的記錄介質)中能夠存儲,通過互聯網等的通信網能夠下載至計算機。
            [0275]進而,本實施例中,說明關于使用基于軟件的控制的例子,但也能夠通過硬件實現其一部分。
            [0276]以上參照本發明的附圖詳細說明,但本發明不限于這樣具體的結構,包含在附帶的權利要求書的主要內容中各種各樣的變更以及同等的結構。
            【權利要求】
            1.一種網絡系統,由具有計算機資源的多個物理節點構成,其特征為, 所述物理節點經由物理鏈路與其他所述物理節點連接, 在所述網絡系統上構成有虛擬網絡,該虛擬網絡由被分配所述物理節點所具有的計算機資源且執行規定的服務的多個虛擬節點構成, 所述網絡系統具有: 網絡管理部,管理所述虛擬節點; 節點管理部,管理所述物理節點;以及 鏈路管理部,管理對所述物理節點間進行連接的所述物理鏈路以及對所述虛擬節點間進行連接的虛擬鏈路的連接; 所述網絡管理部保持: 映射信息,表示所述虛擬節點與對所述虛擬節點分配所述計算機資源的所述物理節點之間的對應;以及 虛擬節點管理信息,用于管理所述虛擬鏈路; 所述鏈路管理部 保持用于管理所述虛擬鏈路的連接狀態的路徑設定信息, 所述網絡系統為: 在使利用第一物理節點的所述計算機資源執行服務的第一虛擬節點轉移至第二物理節點的情況下,所述網絡管理部向所述第二物理節點發送對所述第一虛擬節點分配的所述計算機資源的確保指示, 所述網絡管理部確定相鄰物理節點,該相鄰物理節點對在所述虛擬網絡上經由所述虛擬鏈路與所述第一虛擬節點連接的相鄰虛擬節點分配所述計算機資源, 所述網絡管理部對所述鏈路管理部發送通信路徑的生成指示,該通信路徑的生成指示用于在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上實現連接所述第一虛擬節點與所述相鄰虛擬節點的所述虛擬鏈路, 所述鏈路管理部基于所述通信路徑的生成指示,在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上生成所述通信路徑, 所述節點管理部利用由所述第二物理節點確保的所述計算機資源,開始所述第一虛擬節點所執行的服務, 所述網絡管理部向所述鏈路管理部發送所述虛擬鏈路的切換指示, 所述鏈路管理部將所述生成的通信路徑作為所述虛擬鏈路來切換。
            2.如權利要求1所述的網絡系統,其特征為, 所述節點管理部為: 基于所述路徑設定信息,控制所述虛擬節點間的數據的收發, 在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上生成所述通信路徑的情況下,生成如下設定的所述通信路徑,該通信路徑設定為許可從被分配了所述第二物理節點的計算機資源的所述第一虛擬節點向所述相鄰虛擬節點發送數據,且停止從所述相鄰虛擬節點向被分配了所述第二物理節點的計算機資源的所述第一虛擬節點發送數據,在所述路徑設定信息中追加將所述生成的通信路徑的識別信息與表示數據的發送許可的信息建立對應而成的設定信息, 在接收到所述虛擬鏈路的切換指示的情況下,更新在所述路徑設定信息中追加的設定信息,以許可從所述相鄰虛擬節點向被分配了所述第二物理節點的計算機資源的所述第一虛擬節點發送數據。
            3.如權利要求2所述的網絡系統,其特征為, 所述網絡管理部向所述節點管理部發送被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務的停止條件, 所述節點管理部執行用于判斷是否滿足所述接收的服務停止條件的判斷處理,在判斷為滿足所述接收的服務停止條件的情況下,停止被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務。
            4.如權利要求3所述的網絡系統,其特征為, 所述服務停止條件是來自所述相鄰物理節點的所述虛擬鏈路的切換完成通知的接收。
            5.如權利要求4所述的網絡系統,其特征為, 所述節點管理部在停止被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務后,釋放對所述第一虛擬節點分配的所述第一物理節點的計算機資源。
            6.如權利要求2所述的網絡系統,其特征為, 所述物理節點包括所述節點管理部以及所述鏈路管理部, 所述第二物理節點的所述鏈路管理部以及所述相鄰物理節點的所述鏈路管理部生成所述通信路徑, 所述第二物理節點的鏈路管理部向所述路徑設定信息追加第一設定信息,該第一設定信息用于許可經由所述通信路徑收發所述數據, 所述相鄰物理節點的鏈路管理部向所述路徑設定信息追加第二設定信息,該第二設定信息用于許可經由所述通信路徑接收所述數據且停止發送所述數據, 所述相鄰物理節點經由所述生成的通信路徑,向所述第二物理節點發送第一控制信息,該第一控制信息用于通知已生成所述通信路徑, 所述第二物理節點的所述節點管理部為: 在接收到所述第一控制信息后,對所述第一虛擬節點分配所述確保的計算機資源,并開始所述第一虛擬節點所執行的服務, 經由所述通信路徑,向所述相鄰物理節點發送第二控制信息,該第二控制信息用于通知所述第一虛擬節點所執行的服務已開始; 所述相鄰物理節點的鏈路管理部在接收到所述第二控制信息后,變更所述第二設定信息以許可經由所述通信路徑發送所述數據,從而切換所述虛擬鏈路。
            7.—種虛擬節點的遷移方法,該虛擬節點構成虛擬網絡,該虛擬網絡構成在由具有計算機資源的多個物理節點構成的網絡系統上,所述虛擬節點的遷移方法的特征為, 所述物理節點經由物理鏈路與其他所述物理節點連接, 所述虛擬網絡由被分配所述物理節點所具有的計算機資源且執行規定的服務的多個虛擬節點構成, 所述網絡系統具有: 網絡管理部,管理所述虛擬節點; 節點管理部,管理所述物理節點;以及 鏈路管理部,管理對所述物理節點間進行連接的所述物理鏈路和對所述虛擬節點間進行連接的虛擬鏈路的連接; 所述網絡管理部保持: 映射信息,表示所述虛擬節點與對所述虛擬節點分配所述計算機資源的所述物理節點之間的對應;以及 虛擬節點管理信息,用于管理所述虛擬鏈路; 所述鏈路管理部保持用于管理所述虛擬鏈路的連接狀態的路徑設定信息, 所述方法包括: 第一步驟,在使利用第一物理節點的所述計算機資源執行服務的第一虛擬節點轉移至第二物理節點的情況下,所述網絡管理部向所述第二物理節點發送對所述第一虛擬節點分配的所述計算機資源的確保指示; 第二步驟,所述網絡管理部確定相鄰物理節點,該相鄰物理節點對在所述虛擬網絡上經由所述虛擬鏈路與所述第一虛擬節點連接的相鄰虛擬節點分配所述計算機資源; 第三步驟,所述網絡管理部對所述鏈路管理部發送通信路徑的生成指示,該通信路徑的生成指示用于在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上實現連接所述第一虛擬節點與所述相鄰虛擬節點的所述虛擬鏈路; 第四步驟,所述鏈路管理部基于所述通信路徑的生成指示,在連接所述第二物理節點與所述相鄰物理節點的所述物理鏈路上生成所述通信路徑; 第五步驟,所述節點管理部利用由所述第二物理節點確保的所述計算機資源,開始所述第一虛擬節點所執行的服務; 第六步驟,所述網絡管理部向所述鏈路管理部發送所述虛擬鏈路的切換指示;以及 第七步驟,所述鏈路管理部將所述生成的通信路徑作為所述虛擬鏈路來切換。
            8.如權利要求7所述的虛擬節點的遷移方法,其特征為, 所述節點管理部基于所述路徑設定信息,控制所述虛擬節點間的數據的收發, 所述第四步驟包括下述步驟: 生成如下設定的所述通信路徑,該通信路徑設定為許可從被分配了所述第二物理節點的計算機資源的所述第一虛擬節點向所述相鄰虛擬節點發送數據,且停止從所述相鄰虛擬節點向被分配了所述第二物理節點的計算機資源的所述第一虛擬節點發送數據;以及向所述路徑設定信息追加將所述生成的通信路徑的識別信息與表示數據的發送許可的信息建立對應而成的設定信息; 所述第七步驟在接收到所述虛擬鏈路的切換指示的情況下,更新在所述路徑設定信息中追加的設定信息,以許可從所述相鄰虛擬節點向被分配了所述第二物理節點的計算機資源的所述第一虛擬節點發送數據。
            9.如權利要求8所述的虛擬節點的遷移方法,其特征為, 所述方法包括下述步驟: 所述網絡管理部向所述節點管理部發送被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務的停止條件; 所述節點管理部執行用于判斷是否滿足所述接收的服務停止條件的判斷處理;以及所述節點管理部在判斷為滿足所述接收的服務停止條件的情況下,停止被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務。
            10.如權利要求9所述的虛擬節點的遷移方法,其特征為, 所述服務停止條件是來自所述相鄰物理節點的所述虛擬鏈路的切換完成通知的接收。
            11.如權利要求10所述的虛擬節點的遷移方法,其特征為, 所述方法包括下述步驟: 所述節點管理部停止被分配了所述第一物理節點的計算機資源的所述第一虛擬節點所執行的服務后,釋放對所述第一虛擬節點分配的所述第一物理節點的計算機資源。
            12.如權利要求8所述的虛擬節點的遷移方法,其特征為, 所述物理節點包括所述節點管理部以及所述鏈路管理部, 所述第四步驟包括下述步驟: 所述第二物理節點的所述鏈路管理部以及所述相鄰物理節點的所述鏈路管理部生成所述通信路徑; 所述第二物理節點的鏈路管理部向所述路徑設定信息追加第一設定信息,該第一設定信息用于許可經由所述通信路徑收發所述數據; 所述相鄰物理節點的鏈路管理部向所述路徑設定信息追加第二設定信息,該第二設定信息用于許可經由所述通信路徑接收所述數據且停止發送所述數據;以及 所述相鄰物理節點經由所述生成的通信路徑,向所述第二物理節點發送第一控制信息,該第一控制信息用于通知已生成所述通信路徑; 所述第五步驟包括下述步驟: 所述第二物理節點的所述節點管理部在接收到所述第一控制信息后,對所述第一虛擬節點分配所述確保的計算機資源,并開始所述第一虛擬節點所執行的服務;以及 所述第二物理節點的節點管理部經由所述通信路徑向所述相鄰物理節點發送第二控制信息,該第二控制信息用于通知所述第一虛擬節點所執行的服務已開始; 所述第七步驟包括下述步驟: 所述相鄰物理節點的鏈路管理部在接收到所述第二控制信息后,變更所述第二設定信息以許可經由所述通信路徑發送所述數據,從而切換所述虛擬鏈路。
            【文檔編號】H04L12/46GK103684960SQ201310316471
            【公開日】2014年3月26日 申請日期:2013年7月25日 優先權日:2012年8月29日
            【發明者】垂井俊明, 金田泰, 春日井靖 申請人:株式會社日立制作所
            網友詢問留言 已有0條留言
            • 還沒有人留言評論。精彩留言會獲得點贊!
            1
            婷婷六月激情在线综合激情,亚洲国产大片,久久中文字幕综合婷婷,精品久久久久久中文字幕,亚洲一区二区三区高清不卡,99国产精品热久久久久久夜夜嗨 ,欧美日韩亚洲综合在线一区二区,99国产精品电影,伊人精品线视天天综合,精品伊人久久久大香线蕉欧美
            亚洲精品1区 国产成人一级 91精品国产欧美一区二区 亚洲精品乱码久久久久久下载 国产精品久久久久久久伊一 九色国产 国产精品九九视频 伊人久久成人爱综合网 欧美日韩亚洲区久久综合 欧美日本一道免费一区三区 夜夜爽一区二区三区精品 欧美日韩高清一区二区三区 国产成人av在线 国产精品对白交换绿帽视频 国产视频亚洲 国产在线欧美精品 国产精品综合网 国产日韩精品欧美一区色 国产日韩精品欧美一区喷 欧美日韩在线观看区一二 国产区精品 欧美视频日韩视频 中文字幕天天躁日日躁狠狠躁97 视频一二三区 欧美高清在线精品一区二区不卡 国产精品揄拍一区二区久久 99久久综合狠狠综合久久aⅴ 亚洲乱码视频在线观看 日韩在线第二页 亚洲精品无码专区在线播放 成人亚洲网站www在线观看 欧美三级一区二区 99久久精品免费看国产高清 91麻豆国产在线观看 最新日韩欧美不卡一二三区 成人在线观看不卡 日韩国产在线 在线亚洲精品 亚洲午夜久久久久中文字幕 国产精品成人久久久久久久 精品国产一区二区在线观看 欧美精品国产一区二区三区 中文在线播放 亚洲第一页在线视频 国产午夜精品福利久久 九色国产 精品国产九九 国产永久视频 久久精品人人做人人综合试看 国产一区二区三区免费观看 亚洲精品国产电影 9999热视频 国产精品资源在线 麻豆久久婷婷国产综合五月 国产精品免费一级在线观看 亚洲国产一区二区三区青草影视 中文在线播放 国产成人综合在线 国产在线观看色 国产亚洲三级 国产片一区二区三区 久久99精品久久久久久牛牛影视 亚洲欧美日韩国产 四虎永久免费网站 国产一毛片 国产精品视频在 九九热在线精品 99精品福利视频 色婷婷色99国产综合精品 97成人精品视频在线播放 精品久久久久久中文字幕 亚洲欧美一区二区三区孕妇 亚洲欧美成人网 日韩高清在线二区 国产尤物在线观看 在线不卡一区二区 91网站在线看 韩国精品福利一区二区 欧美日韩国产成人精品 99热精品久久 国产精品免费视频一区 高清视频一区 精品九九久久 欧美日韩在线观看免费 91欧美激情一区二区三区成人 99福利视频 亚洲国产精品91 久热国产在线 精品久久久久久中文字幕女 国产精品久久久久久久久99热 成人自拍视频网 国产精品视频久久久久久 久久影院国产 国产玖玖在线观看 99精品在线免费 亚洲欧美一区二区三区导航 久久久久久久综合 国产欧美日韩精品高清二区综合区 国产精品视频自拍 亚洲一级片免费 久久久久久九九 国产欧美自拍视频 视频一区二区在线观看 欧美日韩一区二区三区久久 中文在线亚洲 伊人热人久久中文字幕 日韩欧美亚洲国产一区二区三区 欧美亚洲国产成人高清在线 欧美日韩国产码高清综合人成 国产性大片免费播放网站 亚洲午夜综合网 91精品久久一区二区三区 国产无套在线播放 国产精品视频网站 国产成人亚洲精品老王 91在线网站 国产视频97 欧美黑人欧美精品刺激 国产一区二区三区免费在线视频 久久久国产精品免费看 99re6久精品国产首页 久久精品91 国产成人一级 国产成人精品曰本亚洲 日本福利在线观看 伊人成综合网 久久综合一本 国产综合久久久久久 久久精品成人免费看 久久福利 91精品国产91久久久久久麻豆 亚洲精品成人在线 亚洲伊人久久精品 欧美日本二区 国产永久视频 国产一区二 一区二区福利 国产一毛片 亚洲精品1区 毛片一区二区三区 伊人久久大香线蕉综合影 国产欧美在线观看一区 亚洲国产欧洲综合997久久 国产一区二区免费视频 国产91精品对白露脸全集观看 久久亚洲国产伦理 欧美成人伊人久久综合网 亚洲性久久久影院 久久99国产精一区二区三区! 91精品国产欧美一区二区 欧美日韩亚洲区久久综合 日韩精品一二三区 久久久夜色精品国产噜噜 国产在线精品福利91香蕉 久久久久久久亚洲精品 97se色综合一区二区二区 91国语精品自产拍在线观看性色 91久久国产综合精品女同我 日韩中文字幕a 国产成人亚洲日本精品 久久国产精品-国产精品 久久国产经典视频 久久国产精品伦理 亚洲第一页在线视频 国产精品久久久久三级 日韩毛片网 久久免费高清视频 麻豆国产在线观看一区二区 91麻豆国产福利在线观看 国产成人精品男人的天堂538 一区二区三区中文字幕 免费在线视频一区 欧美日韩国产成人精品 国产综合网站 国产资源免费观看 亚洲精品亚洲人成在线播放 精品久久久久久中文字幕专区 亚洲人成人毛片无遮挡 国产一起色一起爱 国产香蕉精品视频在 九九热免费观看 日韩亚洲欧美一区 九九热精品在线观看 精品久久久久久中文字幕专区 亚洲欧美自拍偷拍 国产精品每日更新 久久久久国产一级毛片高清板 久久天天躁狠狠躁夜夜中文字幕 久久精品片 日韩在线毛片 国产成人精品本亚洲 国产成人精品一区二区三区 九九热在线观看 国产r级在线观看 国产欧美日韩精品高清二区综合区 韩国电影一区二区 国产精品毛片va一区二区三区 五月婷婷伊人网 久久一区二区三区免费 一本色道久久综合狠狠躁篇 亚洲综合色站 国产尤物在线观看 亚洲一区亚洲二区 免费在线视频一区 欧洲精品视频在线观看 日韩中文字幕a 中文字幕日本在线mv视频精品 91精品在线免费视频 精品国产免费人成在线观看 精品a级片 中文字幕日本在线mv视频精品 日韩在线精品视频 婷婷丁香色 91精品国产高清久久久久 国产成人精品日本亚洲直接 五月综合视频 欧美日韩在线亚洲国产人 精液呈暗黄色 亚洲乱码一区 久久精品中文字幕不卡一二区 亚洲天堂精品在线 激情婷婷综合 国产免费久久精品久久久 国产精品亚洲二区在线 久久免费播放视频 五月婷婷丁香综合 在线亚洲欧美日韩 久久免费精品高清麻豆 精品久久久久久中文字幕 亚洲一区网站 国产精品福利社 日韩中文字幕免费 亚洲综合丝袜 91精品在线播放 国产精品18 亚洲日日夜夜 伊人久久大香线蕉综合影 亚洲精品中文字幕乱码影院 亚洲一区二区黄色 亚洲第一页在线视频 一区二区在线观看视频 国产成人福利精品视频 亚洲高清二区 国内成人免费视频 精品亚洲性xxx久久久 国产精品合集一区二区三区 97av免费视频 国产一起色一起爱 国产区久久 国产资源免费观看 99精品视频免费 国产成人一级 国产精品九九免费视频 欧美91精品久久久久网免费 99热国产免费 久久精品色 98精品国产综合久久 久久精品播放 中文字幕视频免费 国产欧美日韩一区二区三区在线 精品久久蜜桃 国产小视频精品 一本色道久久综合狠狠躁篇 91在线免费观看 亚洲精品区 伊人成综合网 伊人热人久久中文字幕 伊人黄色片 99国产精品热久久久久久夜夜嗨 久久免费精品视频 亚洲一区二区三区高清不卡 久久久久国产一级毛片高清板 国产片一区二区三区 久久狠狠干 99久久婷婷国产综合精品电影 国产99区 国产精品成人久久久久 久久狠狠干 青青国产在线观看 亚洲高清国产拍精品影院 国产精品一区二区av 九九热在线免费视频 伊人久久国产 国产精品久久久久久久久久一区 在线观看免费视频一区 国产精品自在在线午夜区app 国产精品综合色区在线观看 国产毛片久久久久久国产毛片 97国产免费全部免费观看 国产精品每日更新 国产尤物视频在线 九九视频这里只有精品99 一本一道久久a久久精品综合 久久综合给会久久狠狠狠 国产成人精品男人的天堂538 欧美一区二区高清 毛片一区二区三区 国产欧美日韩在线观看一区二区三区 在线国产二区 欧美不卡网 91在线精品中文字幕 在线国产福利 国内精品91久久久久 91亚洲福利 日韩欧美国产中文字幕 91久久精品国产性色也91久久 亚洲性久久久影院 欧美精品1区 国产热re99久久6国产精品 九九热免费观看 国产精品欧美日韩 久久久久国产一级毛片高清板 久久国产经典视频 日韩欧美亚洲国产一区二区三区 欧美亚洲综合另类在线观看 国产精品自在在线午夜区app 97中文字幕在线观看 视频一二三区 精品国产一区在线观看 国产欧美日韩在线一区二区不卡 欧美一区二三区 伊人成人在线观看 国内精品91久久久久 97在线亚洲 国产在线不卡一区 久久久全免费全集一级全黄片 国产精品v欧美精品∨日韩 亚洲毛片网站 在线不卡一区二区 99re热在线视频 久久激情网 国产毛片一区二区三区精品 久久亚洲综合色 中文字幕视频免费 国产视频亚洲 婷婷伊人久久 国产一区二区免费播放 久久99国产精品成人欧美 99国产在线视频 国产成人免费视频精品一区二区 国产不卡一区二区三区免费视 国产码欧美日韩高清综合一区 久久精品国产主播一区二区 国产一区电影 久久精品国产夜色 国产精品国产三级国产 日韩一区二区三区在线 久久97久久97精品免视看 久久国产免费一区二区三区 伊人久久大香线蕉综合电影网 99re6久精品国产首页 久久激情网 亚洲成人高清在线 国产精品网址 国产成人精品男人的天堂538 香蕉国产综合久久猫咪 国产专区中文字幕 91麻豆精品国产高清在线 久久国产经典视频 国产精品成人va在线观看 国产精品爱啪在线线免费观看 日本精品久久久久久久久免费 亚洲综合一区二区三区 久久五月网 精品国产网红福利在线观看 久久综合亚洲伊人色 亚洲国产精品久久久久久网站 在线日韩国产 99国产精品热久久久久久夜夜嗨 国产综合精品在线 国产区福利 精品亚洲综合久久中文字幕 国产制服丝袜在线 毛片在线播放网站 在线观看免费视频一区 国产精品久久久精品三级 亚洲国产电影在线观看 最新日韩欧美不卡一二三区 狠狠综合久久综合鬼色 日本精品1在线区 国产日韩一区二区三区在线播放 欧美日韩精品在线播放 亚洲欧美日韩国产一区二区三区精品 久久综合久久网 婷婷六月激情在线综合激情 亚洲乱码一区 国产专区91 97av视频在线观看 精品久久久久久中文字幕 久久五月视频 国产成人福利精品视频 国产精品网址 中文字幕视频在线 精品一区二区三区免费视频 伊人手机在线视频 亚洲精品中文字幕乱码 国产在线视频www色 色噜噜国产精品视频一区二区 精品亚洲成a人在线观看 国产香蕉尹人综合在线 成人免费一区二区三区在线观看 国产不卡一区二区三区免费视 欧美精品久久天天躁 国产专区中文字幕 久久精品国产免费中文 久久精品国产免费一区 久久无码精品一区二区三区 国产欧美另类久久久精品免费 欧美精品久久天天躁 亚洲精品在线视频 国产视频91在线 91精品福利一区二区三区野战 日韩中文字幕免费 国产精品99一区二区三区 欧美成人高清性色生活 国产精品系列在线观看 亚洲国产福利精品一区二区 国产成人在线小视频 国产精品久久久久免费 99re热在线视频 久久久久久久综合 一区二区国产在线播放 成人国产在线视频 亚洲精品乱码久久久久 欧美日韩一区二区综合 精品久久久久免费极品大片 中文字幕视频二区 激情粉嫩精品国产尤物 国产成人精品一区二区视频 久久精品中文字幕首页 亚洲高清在线 国产精品亚洲一区二区三区 伊人久久艹 中文在线亚洲 国产精品一区二区在线播放 国产精品九九免费视频 亚洲二区在线播放 亚洲狠狠婷婷综合久久久久网站 亚洲欧美日韩网站 日韩成人精品 亚洲国产一区二区三区青草影视 91精品国产福利在线观看 国产精品久久久久久久久99热 国产一区二区精品尤物 久碰香蕉精品视频在线观看 亚洲日日夜夜 在线不卡一区二区 国产午夜亚洲精品 九九热在线视频观看这里只有精品 伊人手机在线视频 91免费国产精品 日韩欧美中字 91精品国产91久久久久 国产全黄三级播放 视频一区二区三区免费观看 国产开裆丝袜高跟在线观看 国产成人欧美 激情综合丝袜美女一区二区 国产成人亚洲综合无 欧美精品一区二区三区免费观看 欧美亚洲国产日韩 日韩亚州 国产欧美日韩精品高清二区综合区 亚洲午夜国产片在线观看 精品久久久久久中文字幕 欧美精品1区 久久伊人久久亚洲综合 亚洲欧美日韩精品 国产成人精品久久亚洲高清不卡 久久福利影视 国产精品99精品久久免费 久久久久免费精品视频 国产日产亚洲精品 亚洲国产午夜电影在线入口 精品无码一区在线观看 午夜国产精品视频 亚洲一级片免费 伊人久久大香线蕉综合影 国产精品久久影院 久碰香蕉精品视频在线观看 www.欧美精品 在线小视频国产 亚洲国产天堂久久综合图区 欧美一区二区三区不卡 日韩美女福利视频 九九精品免视频国产成人 不卡国产00高中生在线视频 亚洲第一页在线视频 欧美日韩在线播放成人 99re视频这里只有精品 国产精品91在线 精品乱码一区二区三区在线 国产区久久 91麻豆精品国产自产在线观看一区 日韩精品成人在线 九九热在线观看 国产精品久久不卡日韩美女 欧美一区二区三区综合色视频 欧美精品免费一区欧美久久优播 国产精品网址 国产专区中文字幕 国产精品欧美亚洲韩国日本久久 日韩美香港a一级毛片 久久精品123 欧美一区二区三区免费看 99r在线视频 亚洲精品国产字幕久久vr 国产综合激情在线亚洲第一页 91免费国产精品 日韩免费小视频 亚洲国产精品综合一区在线 国产亚洲第一伦理第一区 在线亚洲精品 国产精品一区二区制服丝袜 国产在线成人精品 九九精品免视频国产成人 亚洲国产网 欧美日韩亚洲一区二区三区在线观看 在线亚洲精品 欧美一区二区三区高清视频 国产成人精品男人的天堂538 欧美日韩在线观看区一二 亚洲欧美一区二区久久 久久精品中文字幕首页 日本高清www午夜视频 久久精品国产免费 久久999精品 亚洲国产精品欧美综合 88国产精品视频一区二区三区 91久久偷偷做嫩草影院免费看 国产精品夜色视频一区二区 欧美日韩导航 国产成人啪精品午夜在线播放 一区二区视频在线免费观看 99久久精品国产自免费 精液呈暗黄色 久久99国产精品 日本精品久久久久久久久免费 精品国产97在线观看 99re视频这里只有精品 国产视频91在线 999av视频 亚洲美女视频一区二区三区 久久97久久97精品免视看 亚洲国产成人久久三区 99久久亚洲国产高清观看 日韩毛片在线视频 综合激情在线 91福利一区二区在线观看 一区二区视频在线免费观看 激情粉嫩精品国产尤物 国产成人精品曰本亚洲78 国产成人精品本亚洲 国产精品成人免费视频 国产成人啪精品视频免费软件 久久精品国产亚洲妲己影院 国产精品成人久久久久久久 久久大香线蕉综合爱 欧美一区二区三区高清视频 99热国产免费 在线观看欧美国产 91精品视频在线播放 国产精品福利社 欧美精品一区二区三区免费观看 国产一区二区免费视频 国产午夜精品一区二区 精品视频在线观看97 91精品福利久久久 国产一区福利 国产综合激情在线亚洲第一页 国产精品久久久久久久久久久不卡 九色国产 在线日韩国产 黄网在线观看 亚洲一区小说区中文字幕 中文字幕丝袜 日本二区在线观看 日本国产一区在线观看 欧美日韩一区二区三区久久 欧美精品亚洲精品日韩专 国产日产亚洲精品 久久综合九色综合欧美播 亚洲国产欧美无圣光一区 欧美视频区 亚洲乱码视频在线观看 久久无码精品一区二区三区 九九热精品免费视频 久久99精品久久久久久牛牛影视 国产精品成久久久久三级 国产一区福利 午夜国产精品视频 日本二区在线观看 99久久网站 国产亚洲天堂 精品国产一区二区三区不卡 亚洲国产日韩在线一区 国产成人综合在线观看网站 久久免费高清视频 欧美在线导航 午夜精品久久久久久99热7777 欧美久久综合网 国产小视频精品 国产尤物在线观看 亚洲国产精品综合一区在线 欧美一区二区三区不卡视频 欧美黑人欧美精品刺激 日本福利在线观看 久久国产偷 国产手机精品一区二区 国产热re99久久6国产精品 国产高清啪啪 欧美亚洲国产成人高清在线 国产在线第三页 亚洲综合一区二区三区 99r在线视频 99精品久久久久久久婷婷 国产精品乱码免费一区二区 国产在线精品福利91香蕉 国产尤物视频在线 五月婷婷亚洲 中文字幕久久综合伊人 亚洲精品一级毛片 99国产精品电影 在线视频第一页 久久99国产精品成人欧美 国产白白视频在线观看2 成人精品一区二区www 亚洲成人网在线观看 麻豆91在线视频 色综合合久久天天综合绕视看 久久精品国产免费高清 国产不卡一区二区三区免费视 欧美国产中文 99精品欧美 九九在线精品 国产中文字幕在线免费观看 国产一区中文字幕在线观看 国产成人一级 国产精品一区二区制服丝袜 国产一起色一起爱 亚洲精品成人在线 亚洲欧美精品在线 国产欧美自拍视频 99精品久久久久久久婷婷 久99视频 国产热re99久久6国产精品 视频一区亚洲 国产精品视频分类 国产精品成在线观看 99re6久精品国产首页 亚洲在成人网在线看 亚洲国产日韩在线一区 久久国产三级 日韩国产欧美 欧美在线一区二区三区 国产精品美女一级在线观看 成人午夜免费福利视频 亚洲天堂精品在线 91精品国产手机 欧美日韩视频在线播放 狠狠综合久久综合鬼色 九一色视频 青青视频国产 亚洲欧美自拍一区 中文字幕天天躁日日躁狠狠躁97 日韩免费大片 996热视频 伊人成综合网 亚洲天堂欧美 日韩精品亚洲人成在线观看 久久综合给会久久狠狠狠 日韩精品亚洲人成在线观看 日韩国产欧美 亚洲成aⅴ人片在线影院八 亚洲精品1区 99久久精品免费 国产精品高清在线观看 国产精品久久久免费视频 在线亚洲欧美日韩 91在线看视频 国产精品96久久久久久久 欧美日韩国产成人精品 91在线亚洲 热久久亚洲 国产精品美女免费视频观看 日韩在线毛片 亚洲永久免费视频 九九免费在线视频 亚洲一区网站 日本高清二区视频久二区 精品国产美女福利在线 伊人久久艹 国产精品久久久久三级 欧美成人精品第一区二区三区 99久久精品国产自免费 在线观看日韩一区 国产中文字幕一区 成人免费午夜视频 欧美日韩另类在线 久久99国产精品成人欧美 色婷婷中文网 久久天天躁夜夜躁狠狠躁2020 欧美成人伊人久久综合网 国产精品福利资源在线 国产伦精品一区二区三区高清 国产精品亚洲综合色区韩国 亚洲一区欧美日韩 色综合视频 国语自产精品视频在线区 国产高清a 成人国内精品久久久久影 国产在线精品香蕉综合网一区 国产不卡在线看 国产成人精品精品欧美 国产欧美日韩综合精品一区二区三区 韩国电影一区二区 国产在线视频www色 91中文字幕在线一区 国产人成午夜免视频网站 亚洲综合一区二区三区 色综合视频一区二区观看 久久五月网 九九热精品在线观看 国产一区二区三区国产精品 99久热re在线精品996热视频 亚洲国产网 在线视频亚洲一区 日韩字幕一中文在线综合 国产高清一级毛片在线不卡 精品国产色在线 国产高清视频一区二区 精品日本久久久久久久久久 亚洲国产午夜精品乱码 成人免费国产gav视频在线 日韩欧美一区二区在线观看 欧美曰批人成在线观看 韩国电影一区二区 99re这里只有精品6 日韩精品一区二区三区视频 99re6久精品国产首页 亚洲欧美一区二区三区导航 欧美色图一区二区三区 午夜精品视频在线观看 欧美激情在线观看一区二区三区 亚洲热在线 成人国产精品一区二区网站 亚洲一级毛片在线播放 亚洲一区小说区中文字幕 亚洲午夜久久久久影院 国产自产v一区二区三区c 国产精品视频免费 久久调教视频 国产成人91激情在线播放 国产精品欧美亚洲韩国日本久久 久久亚洲日本不卡一区二区 91中文字幕网 成人国产在线视频 国产视频91在线 欧美成人精品第一区二区三区 国产精品福利在线 久久综合九色综合精品 欧美一区二区三区精品 久久国产综合尤物免费观看 久久99青青久久99久久 日韩精品免费 久久国产精品999 91亚洲视频在线观看 国产精品igao视频 色综合区 在线亚洲欧国产精品专区 国产一区二区三区在线观看视频 亚洲精品成人在线 一区二区国产在线播放 中文在线亚洲 亚洲精品第一国产综合野 国产一区二区精品久久 一区二区三区四区精品视频 99热精品久久 中文字幕视频二区 国产成人精品男人的天堂538 99精品影视 美女福利视频一区二区 久久午夜夜伦伦鲁鲁片 综合久久久久久久综合网 国产精品国产欧美综合一区 国产99视频在线观看 国产亚洲女在线精品 婷婷影院在线综合免费视频 国产亚洲3p一区二区三区 91成人爽a毛片一区二区 亚洲一区二区高清 国产欧美亚洲精品第二区首页 欧美日韩导航 亚洲高清二区 欧美激情观看一区二区久久 日韩毛片在线播放 亚洲欧美日韩高清中文在线 亚洲日本在线播放 国产精品一区二区制服丝袜 精品国产一区二区三区不卡 国产不卡在线看 国产欧美网站 四虎永久在线观看视频精品 国产黄色片在线观看 夜夜综合 一本色道久久综合狠狠躁篇 欧美亚洲综合另类在线观看 国产91在线看 伊人久久国产 欧美一区二区在线观看免费网站 国产精品久久久久三级 久久福利 日韩中文字幕a 亚洲午夜久久久久影院 91在线高清视频 国产亚洲一区二区三区啪 久久人精品 国产精品亚洲午夜一区二区三区 综合久久久久久 久久伊人一区二区三区四区 国产综合久久久久久 日韩一区精品视频在线看 国产精品日韩欧美制服 日本精品1在线区 99re视频 无码av免费一区二区三区试看 国产视频1区 日韩欧美中文字幕一区 日本高清中文字幕一区二区三区a 亚洲国产欧美无圣光一区 国产在线视频一区二区三区 欧美国产第一页 在线亚洲欧美日韩 日韩中文字幕第一页 在线不卡一区二区 伊人久久青青 国产精品一区二区在线播放 www.五月婷婷 麻豆久久婷婷国产综合五月 亚洲精品区 久久国产欧美另类久久久 99在线视频免费 伊人久久中文字幕久久cm 久久精品成人免费看 久久这里只有精品首页 88国产精品视频一区二区三区 中文字幕日本在线mv视频精品 国产在线精品成人一区二区三区 伊人精品线视天天综合 亚洲一区二区黄色 国产尤物视频在线 亚洲精品99久久久久中文字幕 国产一区二区三区免费观看 伊人久久大香线蕉综合电影网 国产成人精品区在线观看 日本精品一区二区三区视频 日韩高清在线二区 久久免费播放视频 一区二区成人国产精品 国产精品免费精品自在线观看 亚洲精品视频二区 麻豆国产精品有码在线观看 精品日本一区二区 亚洲欧洲久久 久久中文字幕综合婷婷 中文字幕视频在线 国产成人精品综合在线观看 91精品国产91久久久久福利 精液呈暗黄色 香蕉国产综合久久猫咪 国产专区精品 亚洲精品无码不卡 国产永久视频 亚洲成a人片在线播放观看国产 一区二区国产在线播放 亚洲一区二区黄色 欧美日韩在线观看视频 亚洲精品另类 久久国产综合尤物免费观看 国产一区二区三区国产精品 高清视频一区 国产精品igao视频 国产精品资源在线 久久综合精品国产一区二区三区 www.五月婷婷 精品色综合 99热国产免费 麻豆福利影院 亚洲伊人久久大香线蕉苏妲己 久久电影院久久国产 久久精品伊人 在线日韩理论午夜中文电影 亚洲国产欧洲综合997久久 伊人国产精品 久草国产精品 欧美一区精品二区三区 亚洲成人高清在线 91免费国产精品 日韩精品福利在线 国产一线在线观看 国产不卡在线看 久久99青青久久99久久 亚洲精品亚洲人成在线播放 99久久免费看国产精品 国产日本在线观看 青草国产在线视频 麻豆久久婷婷国产综合五月 国产中文字幕一区 91久久精品国产性色也91久久 国产一区a 国产欧美日韩成人 国产亚洲女在线精品 一区二区美女 中文字幕在线2021一区 在线小视频国产 久久这里只有精品首页 国产在线第三页 欧美日韩中文字幕 在线亚洲+欧美+日本专区 精品国产一区二区三区不卡 久久这里精品 欧美在线va在线播放 精液呈暗黄色 91精品国产手机 91在线免费播放 欧美视频亚洲色图 欧美国产日韩精品 日韩高清不卡在线 精品视频免费观看 欧美日韩一区二区三区四区 国产欧美亚洲精品第二区首页 亚洲韩精品欧美一区二区三区 国产精品视频免费 在线精品小视频 久久午夜夜伦伦鲁鲁片 国产无套在线播放 久热这里只精品99re8久 欧美久久久久 久久香蕉国产线看观看精品蕉 国产成人精品男人的天堂538 亚洲人成网站色7799在线观看 日韩在线第二页 一本色道久久综合狠狠躁篇 国产一区二区三区不卡在线观看 亚洲乱码在线 在线观看欧美国产 久久福利青草精品资源站免费 国产玖玖在线观看 在线亚洲精品 亚洲成aⅴ人在线观看 精品91在线 欧美一区二三区 日韩中文字幕视频在线 日本成人一区二区 日韩免费专区 国内精品在线观看视频 久久国产综合尤物免费观看 国产精品系列在线观看 一本一道久久a久久精品综合 亚洲免费播放 久久精品国产免费 久久人精品 亚洲毛片网站 亚洲成a人一区二区三区 韩国福利一区二区三区高清视频 亚洲精品天堂在线 一区二区三区中文字幕 亚洲国产色婷婷精品综合在线观看 亚洲国产成人久久笫一页 999国产视频 国产精品香港三级在线电影 欧美日韩一区二区三区四区 日韩国产欧美 国产精品99一区二区三区 午夜国产精品理论片久久影院 亚洲精品中文字幕麻豆 亚洲国产高清视频 久久免费手机视频 日韩a在线观看 五月婷婷亚洲 亚洲精品中文字幕麻豆 中文字幕丝袜 www国产精品 亚洲天堂精品在线 亚洲乱码一区 国产日韩欧美三级 久久999精品 伊人热人久久中文字幕 久热国产在线视频 国产欧美日韩在线观看一区二区三区 国产一二三区在线 日韩国产欧美 91精品国产91久久久久 亚洲一区小说区中文字幕 精品一区二区免费视频 国产精品视频免费 国产精品亚洲综合色区韩国 亚洲国产精品成人午夜在线观看 欧美国产日韩精品 中文字幕精品一区二区精品