用于多根i/o虛擬化共享系統的i/o資源管理方法

            文檔序號:6370074閱讀:200來源:國知局
            專利名稱:用于多根i/o 虛擬化共享系統的i/o 資源管理方法
            技術領域
            本發明涉及i/o虛擬化技術,特別是涉及一種用于多根i/o虛擬化共享系統的I/
            O資源管理方法。
            背景技術
            在傳統數據中心或云計算中心中,每個刀片服務器都擁有獨立的I/O資源,如網卡、HBA適配器等。然而計算與I/O資源的緊密耦合,使得兩類資源的擴展同時受到服務器空間的限制。此外,高性能I/O設備(如IOGigE網卡)僅依附一臺服務器,無疑降低了其利用效率,提高了系統總成本。為解決上述問題,就要解除計算與I/O資源的緊密耦合,其關 鍵就是實現I/O設備在多個服務器之間的共享。近年來,I/O設備的共享技術得到了變革性的發展,行業標準組織PCI特別興趣小組 PCI-SIG 先后制定了 PCI-SIG Single Root I/O Virtualization (SR-IOV :單根 IO 虛擬化)和 PCI-SIG Multi-Root 1/0 Virtualization (MR-I0V :多根 10 虛擬化)規范。具備SR-IOV能力的PCI Express設備能夠被運行在同一宿主機上的不同虛擬機(VM/Guest)所共享,并為虛擬機提供接近本機的1/0性能。目前SR-IOV已得到1/0設備廠商的廣泛支持,如支持SR-IOV的千兆以太網卡、10G以太網卡、HBA適配器等。具備MR-IOV能力的PCI Express設備能夠被多個宿主機上運行的若干虛擬機(VM/Guest)所共享,MR-IOV技術可以完全解除計算與1/0間的緊密耦合。但由于PCI-SIG的MR-IOV協議對原有系統的較大改動(包括對PCIe基本協議、PCIe設備結構和PCIe交換機結構的修改),難以被工業界接受。然而,對于像SR-IOV和多功能設備等本身具備有同時供多個虛擬機直接共享的能力,如果對其提供一系列附加支持,實現1/0資源在多個根節點之間共享是可行的。當一個1/0設備通過PCIe交換機結構被多個根節點共享時,每個根節點在系統啟動后都將嘗試枚舉該設備。這將引起系統競爭,一個根節點對拓撲結構中I/o設備的修改,會影響其他根節點的運行,最終導致系統不能正常工作。

            發明內容
            為解決上述問題,本發明提供了一種多根1/0虛擬化共享系統中的1/0資源管理方法,用于解決多根10虛擬化共享系統的資源管理和分配的技術問題,避免多根1/0虛擬化共享系統中各根節點的沖突和競爭。本發明公開一種用于多根1/0虛擬化共享系統的1/0資源管理方法,包括步驟I,主控制根節點對系統中的1/0資源枚舉發現和初始化配置;步驟2,主控制根節點通過PCIe管理模塊,輔助管理用戶管理和控制系統中的1/0設備資源,執行管理用戶制定的I/o資源分配策略;步驟3,主控制根節點通過PCIe管理模塊和1/0資源分配表,建立設備功能與其所屬的根節點的映射關系,實現I/o資源動態分配。
            用于多根I/O虛擬化共享系統的I/O資源管理方法,所述步驟2包括步驟21,PCIe管理模塊收集系統中所有PCIe組件信息并呈現給管理用戶,輔助管理用戶初始化或者修改資源分配策略;步驟22,PCIe管理模塊根據用戶的I/O資源分配策略,發送設備分配指令,實現I/O資源的分配管理。用于多根I/O虛擬化共享系統的資源管理方法,所述PCIe組件信息包括根節點信息,所述根節點信息,包括根節點的數目、每個根節點擁有的I/O資源以及各根節點的負載狀態;I/O設備信息,所述I/O設備信息,包括設備功能ID號、設備功能描述信息以及設備功能占用情況。
            用于多根I/O虛擬化共享系統的I/O資源管理方法,所述I/O資源分配表包括所述資源分配表位于多根I/O虛擬化共享控制器的每個PCIe下游端口中,每個I/O設備對應一張I/O資源分配表;所述資源分配表記錄了設備功能與其所屬的根節點的映射關系;其中,表索引是設備功能在主控制根節點PCIe域中的ID號,表條目內容描述了設備功能所屬的根節點標識ID及其在所屬根節點PCIe域中的ID號。用于多根I/O虛擬化共享系統的I/O資源管理方法,所述步驟3中的I/O資源動態分配包括I/O資源初始化分配,所述I/O資源初始化分配指在系統初始化時,主控制根節點為各從屬根節點分配設備功能,建立初始的PCIe拓撲結構的過程; I/O資源回收,所述I/O資源回收指在不影響其他根節點工作的情況下,主控制根節點在從屬根節點刪除I/o設備功能的過程;I/O資源再分配,所述I/O資源再分配指在不影響其他根節點工作的情況下,主控制根節點向從屬根節點增加I/o設備功能的過程。用于多根I/O虛擬化共享系統的I/O資源管理方法,所述I/O資源初始化分配包括步驟61,管理用戶根據根節點的需求和系統的I/O資源制定初始的分配策略,并通過PCIe管理模塊發送設備分配指令;步驟62,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源分配策略;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事務包指示了要操作的設備功能ID號,即在主控制根節點PCIe域中的ID號、該設備功能所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;其中,所屬根節點ID號為從屬根節點ID號,指示一個設備分配指令;步驟63,PCIe下游端口接收到步驟62中所述設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;并將由設備功能所屬的根節點標識ID和其在所屬根節點PCIe域中的ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中,進而為各從屬根節點指定了分配的I/O設備功能;步驟64,主控制根節點完成對從屬根節點的I/O設備資源初始化分配后,從屬根節點被引導進行PCIe設備重掃描,發現和初始化配置分配得到的設備功能。
            用于多根I/O虛擬化共享系統的I/O資源管理方法,所述I/O資源回收包括步驟71,管理用戶根據需求決定從某個根從屬節點刪除某個設備功能,通過PCIe管理軟件發送設備回收指令;步驟72,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源回收指令;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事物包指示了要操作的I/O設備功能ID號、該設備功能所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號;其中,功能所屬的根節點標識ID為主控制根節點標識ID,指示一個設備回收指令;步驟73,PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;步驟74,所屬根節點標識ID判定;如果配置事務包中指示的所屬根節點標識ID為主控制根節點標識ID,指示一個設備回收指令;步驟75,讀取事務包要操作的設備功能ID號指示的I/O資源分配表對應的表項,·向表項指示的從屬根節點發送一個虛擬熱插拔事件,通知有I/o設備功能將被拔除;步驟76,復位操作的設備功能ID號指示的I/O資源分配表相應的表項;將由主控制根節點標識ID和值為全零的功能ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中;步驟77,目標從屬根節點接收到該熱插拔事件,將該設備從PCIe拓撲結構中移除,并卸載相應的驅動程序。用于多根I/O虛擬化共享系統的I/O資源管理方法,所述I/O資源再分配包括步驟81,管理用戶根據需求決定并指示向某個從屬根節點增加某個設備功備,通過PCIe管理軟件發送設備再分配指令;步驟82,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源再分配指令;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事務包指示了要操作的I/O設備功能ID號,即在主控制根節點PCIe域中的ID號、該設備功能所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;其中,功能所屬的根節點標識ID為從屬根節點標識ID,指示一個設備分配指令;步驟83,PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;步驟84,所屬根節點標識ID判定;如果配置事務包中指示的所屬根節點ID為非主控制根節點ID,指示一個設備分配指令;步驟85,向事務包指示的從屬根節點發送一個虛擬熱插拔事件,通知對應的從屬根節點有I/o設備插入其PCIe拓撲結構;同時,將由設備功能所屬的根節點標識ID和其在所屬根節點PCIe域中的ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中,進而為該從屬根節點增加分配一個I/O設備功能;步驟86,目標從屬根節點接收到熱插拔事件,對該設備進行掃描和初始化配置,并加載相應的驅動程序。本發明的有益效果為通過本發明的I/O資源管理方法解決了多根I/O虛擬化共享系統中因一個I/o設備被多個根節點共享而引起的系統競爭和沖突,并能根據系統的需求實現I/o資源在多個根節點之間進行動態分配,同時為管理用戶提供了一個可操作性的平臺。


            圖I是多根I/O虛擬化共享系統的結構示意圖;圖2是本發明多根共享一個SR-IOV設備示意圖;圖3是本發明I/O資源分配表示意圖;圖4是本發明I/O資源初始化配置表示意圖;圖5是本發明I/O資源動態回收流程圖;圖6是本發明I/O資源動態再分配流程圖;圖7是本發明I/O資源管理方法示意圖。
            具體實施例方式下面給出本發明的具體實施方式
            ,結合附圖對本發明做出了詳細描述。為避免多個根節點共享一個I/O設備時引起系統沖突和競爭,本發明提供了一種用于多根I/o虛擬化共享系統的I/O資源管理方法。如圖7所示,所述I/O資源管理方法,是指利用一個主控制根節點對多根IO虛擬化共享系統中的所有I/O設備進行集中式的初始化配置和分配管理。它包括以下特征a)只有主控制根節點能夠枚舉發現和初始化配置I/O設備資源。系統上電,啟動的根節點首先利用現成的標準的系統初始化軟件對系統中的所有PCIe設備進行搜索發現,只有主控制根節點能夠枚舉發現各I/O設備,并為各I/O設備初始化配置相應的I/O地址空間、內存地址空間和中斷等資源。b)主控制根節點通過PCIe管理模塊,輔助管理用戶管理和控制系統中的I/O設備資源,執行管理用戶制定的I/O資源分配策略。c)主控制根節點通過PCIe管理模塊和I/O資源分配表,建立設備功能與其所屬的根節點的映射關系,實現I/o資源動態分配。所述PCIe管理模塊,其特征在于它收集系統中所有PCIe組件信息并呈現給管理用戶,輔助管理用戶制定或者修改資源分配策略。同時,PCIe管理模塊根據用戶的資源分配策略,發送設備分配指令,改寫I/O資源分配表,實現I/O資源的分配管理。所述PCIe組件包括但不限于系統中所有的根節點和所有的I/O設備。所述根節點信息包括但不限于根節點的數目、每個根節點擁有的I/o資源以及各根節點的負載狀態。所述I/o設備信息包括但不限于設備功能ID標識符(如B/D/F)、設備功能描述信息(包括廠商ID,設備ID,版本ID等)以及設備功能占用情況等。所述I/O資源分配表,其特征在于所述資源分配表位于多根I/O虛擬化共享控制器的每個PCIe下游端口中,每個I/O設備對應一張I/O資源分配表;所述資源分配表記錄了設備功能與其所屬的根節點的映射關系。其中,表索引是設備功能在主控制根節點PCIe域中的ID號(如功能號),表條目內容描述了設備功能所屬的根節點標識ID及其在所屬根節點PCIe域中的ID號(如總線號Bus/設備號Device/功能號Function)。圖I描繪了多根I/O虛擬化共享系統的結構示意圖。多根I/O虛擬化共享系統主要包括三個部分根節點子系統、I/o設備子系統和多根I/O虛擬化共享控制器。多根IO虛擬化共享控制器通過PCIe接口協議將根節點子系統和I/O設備子系統耦合在一起,實現一個I/O設備資源被多個根節點直接共享。多根I/O虛擬化共享系統中的根節點子系統包含多個根節點,每個根節點由根聯合體(Root Complex, RC)及其連接的CPU組(CPU set)和內存(Mem)組成。其中,運行有PCIe管理相關軟件的根節點稱之為主控制根節點(Master Root Node, mRN),主控制根節點只有一個(下文使用mRNO標識),包含一組PCIe管理軟件;它對系統中的所有I/O設備資源具有絕對的管理控制權,并根據用戶制定的資源分配策略,將系統中I/O設備的硬件資源以設備功能為單位,動態地分配給其他根節點。其他根節點稱為從屬根節點(Slave RootNode, sRN),從屬根節點可以有多個(下文使用sRNl,sRN2,…,sRNn標識),并根據主控制根節點的分配,擁有一定I/O資源的獨立使用權,能且僅能使用主控根節點分配給它的I/O設備資源。根節點上可以運行多個同構或者異構虛擬機(Virtual Machine,VM),虛擬機管理程序(Virtual Machine Manager, VMM)負責調度主控制根節點分配的I/O資源為各VM所用。多根1/0虛擬化共享系統中的1/0設備子系統包含多個1/0設備,它們具備同時 為多個虛擬機提供服務的能力,可以是包含一個物理功能(Physical Function, PF)及其對應的多個虛擬功能(Virtual Function,VF)的SR-IOV設備或者包含多個PF及其對應的多個VF的SR-IOV設備,也可以是多功能1/0設備等。多根1/0虛擬化共享系統中的多根1/0虛擬化共享控制器包由若干個PCIe上游端口(PCIe Upstream Port)、PCIe 多根交換機和若干個 PCIe 下游端口(PCIe DownstreamPort)三個部分組成。其中,PCIe上游端口包含符合PCI-Express基本規范中的PCIe端口類型定義的PCIe控制器,它負責與根節點子系統的互連,以及事務包在PCIe單根環境和PCIe多根環境之間的轉換;PCIe多根交換機,實質是由多個PCI橋建立的N+M個端口的交換機,通過為每個根節點建立一個1+M端口的虛擬PCIe交換機,實現各根節點與M個1/0設備的邏輯連接;PCIe下游端口,包含符合PCI-Express基本規范中的PCIe端口類型定義的PCIe控制器和直接1/0虛擬化接口設備兩個功能部分,負責與1/0設備子系統的互連,以及事務包在PCIe單根環境和PCIe多根環境之間的轉換,實現各根節點直接訪問物理I/O設備功能。圖2描述了多個根節點共享一個SR-IOV設備的示意圖。多個根節點通過PCIe多根交換機共享連接在PCIe下游端口的SR-IOV設備資源。在系統啟動時,每個根節點都將嘗試枚舉PCIe多根交換機下連接的1/0設備,實質是枚舉PCIe下游端口下連接的同一 1/0設備。這將引起系統競爭,一個根節點對SR-IOV設備的修改,會影響其他根節點的運行,最終導致系統不能正常工作。因此,為了避免各系統的沖突和競爭,同時實現一個SR-IOV設備資源能被多個根節點所共享,本發明利用一個主控制根節點mRNO對SR-IOV設備進行控制和管理,并通過設備1/0資源分配表為從屬根節點分配設備。1/0資源分配表位于多根1/0虛擬化共享控制器的每個PCIe下游端口中,每個1/0設備對應一張1/0資源分配表。從屬根節點只能發現和使用設備10資源分配表中記錄的分配給它的設備功能。1/0資源分配表如圖3所示,表項記錄了設備功能與其所屬的根節點的映射關系。多根I/o虛擬化共享系統的每個設備對應一張1/0資源分配表,其中表索引是設備功能在主控制根節點PCIe域的標識符(如功能號),表條目內容描述了設備功能所屬的根節點標識ID及其在從屬根節點PCIe域中的標識。通過配置I/O資源分配表,將一個設備的I/O資源以設備功能為單位掛載到各根節點,進而為各根節點建立了相應的獨立的PCIe拓撲結構,實現了多個根節點對設備I/O資源的共享。如圖2所示,根節點子系統上電時,根節點啟動并利用現成的標準的系統初始化軟件對SR-IOV設備進行搜索發現和初始化配置。然而,由于此時設備IO資源分配表沒有記錄任何設備功能的分配信息,除了主控制根節點mRNO,所有從屬根節點(sRNl,sRN2,…,sRNn)都不能發現SR-IOV設備中功能。系統啟動完成之后,主控制根節點mRNO根據用戶資源分配策略,通過配置設備IO資源分配表記錄設備功能分配信息,將SR-IOV設備硬件資源以設備功能為單位(一個虛擬功能)分配給從屬根節點。在設備初始化分配完成后,從屬根節點被引導進行PCIe設備重掃描。通過設備I/O資源分配表,從屬根節點才能夠發現分配得到的SR-IOV設備中的虛擬功能。當從屬根節點完成PCIe設備重掃描,加載相應的虛擬功能VF驅動,即可以使用特定的虛擬功能,進而實現SR-IOV設備資源的多根共享。本發明提供的一種用于多根I/O虛擬化共享系統的I/O資源管理方法,能夠根據用戶制定的資源分配策略,實現I/o資源在多個根節點之間的動態分配。所述I/O資源動態分配包括I/o資源初始化分配,I/O資源回收和I/O資源再分配。圖4描述了利用主控制根節點對I/O資源初始化配置的流程圖。所述I/O資源初始化配置,指在系統啟動時,主控制根節點枚舉發現和初始化配置系統中所有I/o設備,并根據管理用戶制定的I/o資源分配策略,為各從屬根節點分配設備功能,建立初始的PCIe拓撲結構的過程,它包括以下步驟首先,根節點子系統上電,啟動的根節點首先利用現成的標準的系統初始化軟件對系統中的所有PCIe設備進行搜索發現和初始化配置。設備初始化期間,系統配置軟件訪問設備中每個功能的配置空間,分配功能在系統中的ID號,同時根據其資源需求為其分配相應的I/O地址空間、內存地址空間和中斷等資源。在系統上電啟動初期,只有主控制根節點能夠發現和初始化配置I/O子系統中各I/O設備,并為每個I/O設備對應的I/O資源分配表配置內存地址。主控制根節點初始化軟件完成設備發現和配置后,其上運行的PCIe管理軟件收集系統中所有PCIe組件信息并呈現給管理用戶,輔助管理用戶進行資源分配策略的制定。所述收集的PCIe組件包括但不限于系統中所有的根節點和所有的I/O設備。所述根節點信息包括但不限于根節點的數目、每個根節點擁有的I/O資源以及各根節點的負載狀態。所述I/O設備信息包括但不限于設備功能ID標識符(如B/D/F)、設備功能描述信息(包括廠商ID,設備ID,版本ID等)、設備的屬性(如多功能設備或者SR-IOV設備等)以及設 備功能占用情況等。然后,管理用戶根據各根節點的需求和現有的I/O資源制定初始的分配策略,并通過PCIe管理軟件發送設備分配指令。PCIe管理軟件接收到指令后,通過發送設備分配事務包執行管理用戶的資源分配策略。所述設備分配事務包,是PCIe內存寫事務包,它指示了要操作的設備功能ID號(在主控制根節點PCIe域中的ID號)、該設備功能所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號。其中,所屬根節點ID號為從屬根節點ID號,指示一個設備分配指令。PCIe下游端口接收到上述設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號;并將由設備功能所屬的根節點ID號和其在所屬根節點PCIe域中的ID號組成內容,寫入要分配的設備功能ID號指示的I/O資源分配表相應的表項中,進而為各從屬根節點指定了分配的I/O設備功能。主控制根節點完成對從屬根節點的I/O設備資源初始化分配后,各從屬根節點被引導進行PCIe設備重掃描。各從屬根節點根據I/O資源分配表,可以發現分配得到的設備功能,并根據其資源需求為其分配在本地PCIe域中的ID號、IO地址空間、內存地址空間和中斷等資源。多根I/O虛擬化共享系統在工作過程中,可以在不影響其他根節點工作的情況下,動態地進行系統設備更新升級,以及對現有的I/o資源進行重新分配。無論是設備更新升級還是現有設備資源的重新分配,實質都是從根節點刪除相應設備功能和向根節點增加相應設備功能的過程。本發明提供了一種I/o資源動態分配方法,能夠在不影響其他根節點工作的情況下,從從屬根節點刪除I/o設備功能或者向從屬根節點增加I/O設備功能。從 從屬根節點刪除I/o設備功能稱之為I/O資源回收,向從屬根節點增加I/O設備功能的過程稱之為I/o資源再分配。圖5描述了 I/O資源回收的流程圖,其過程如下所述首先,管理用戶根據需求決定從某個從屬根節點刪除某個設備功備,并通過PCIe管理軟件發送設備回收指令。然后PCIe管理軟件通過發送設備分配事務包,執行管理用戶的資源回收指令。所述設備分配事務包,是PCIe內存寫事務包,它指示了要操作的I/O設備功能ID號(在主控制根節點PCIe域中的ID號)、該設備功能所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號。其中,功能所屬的根節點ID號為主控制根節點ID號,指示一個設備回收指令。當PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號。并對所屬根節點ID進行判定,如果配置事務包中指示的所屬根節點ID為主控制根節點ID,指示一個設備回收指令。然后,讀取事務包要操作的設備功能ID號指示的I/O資源分配表對應的表項,并向表項指示的從屬根節點發送一個虛擬熱插拔事件,通知有I/O設備功能將被拔除。同時,將由主控制根節點ID號和值為全零的功能ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中。當目標從屬根節點接收到上述虛擬熱插拔事件后,根據系統運行狀態決定該請求的生效時間,然后將該設備功能從系統中移除,并卸載相關的驅動程序,終止所有未完成的事務及要生成的事務。圖6描述了 I/O資源再分配的流程圖,其過程如下所述首先管理用戶根據需求決定向某個從屬根節點增加某個設備功能,并通過PCIe管理軟件發送設備回收指令然后PCIe管理軟件通過發送設備分配事務包,執行管理用戶的資源再分配指令。所述設備分配事務包,是PCIe內存寫事務包,它指示了要操作的I/O設備功能ID號(在主控制根節點PCIe域中的ID號)、該設備功能所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號。其中,功能所屬的根節點ID號為從屬根節點ID號,指示一個設備分配指令。當PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號。并對所屬根節點ID進行判定,如果配置事務包中指示的所屬根節點ID不是主控制根節點ID,指示一個設備回收指令。然后,向事務包指示的從屬根節點發送一個虛擬熱插拔事件,通知對應的從屬根節點有I/O設備插入其PCIe拓撲結構。同時,將由設備功能所屬的根節點ID號和其在所屬根節點PCIe域中的ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中,進而為該從屬根節點增加分配一個I/O設備功能。當目標從屬根節點接收到上述虛擬熱插拔事件后,根據系統運行狀態決定該請求的生效時間,然后對該設備進行掃描和初始化配置,并加載相應的驅動程序。本領域的技術人員在不脫離權利要求書確定的本發明的精神和范圍的條件下,還 可以對以上內容進行各種各樣的修改。因此本發明的范圍并不僅限于以上的說明,而是由權利要求書的范圍來確定的。
            權利要求
            1.一種用于多根I/o虛擬化共享系統的I/O資源管理方法,其特征在于,包括 步驟I,主控制根節點對系統中的I/O資源枚舉發現和初始化配置; 步驟2,主控制根節點通過PCIe管理模塊,輔助管理用戶管理和控制系統中的I/O設備資源,執行管理用戶制定的I/O資源分配策略; 步驟3,主控制根節點通過PCIe管理模塊和I/O資源分配表,建立設備功能與其所屬的根節點的映射關系,實現I/O資源動態分配。
            2.如權利要求I所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述步驟2包括 步驟21,PCIe管理模塊收集系統中所有PCIe組件信息并呈現給管理用戶,輔助管理用戶初始化或者修改資源分配策略; 步驟22,PCIe管理模塊根據用戶的資源分配策略,發送設備分配指令,實現I/O資源的分配管理。
            3.如權利要求2所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述PCIe組件信息包括 根節點信息,所述根節點信息,包括根節點的數目、每個根節點擁有的I/O資源以及各根節點的負載狀態; I/O設備信息,所述I/O設備信息,包括設備功能ID號、設備功能描述信息以及設備功能占用情況。
            4.如權利要求I所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述I/O資源分配表包括 所述資源分配表位于多根I/O虛擬化共享控制器的每個PCIe下游端口中,每個I/O設備對應一張I/O資源分配表;所述資源分配表記錄了設備功能與其所屬的根節點的映射關系;其中,表索引是設備功能在主控制根節點PCIe域中的ID號,表條目內容描述了設備功能所屬的根節點標識ID及其在所屬根節點PCIe域中的ID號。
            5.如權利要求I所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述步驟3中的I/O資源動態分配包括 I/O資源初始化分配,所述I/O資源初始化分配指在系統初始化時,主控制根節點為各從屬根節點分配設備功能,建立初始的PCIe拓撲結構的過程; I/O資源回收,所述I/O資源回收指在不影響其他根節點工作的情況下,主控制根節點在從屬根節點刪除I/O設備功能的過程; I/O資源再分配,所述I/O資源再分配指在不影響其他根節點工作的情況下,主控制根節點向從屬根節點增加I/O設備功能的過程。
            6.如權利要求5所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述I/o資源初始化分配包括 步驟61,管理用戶根據根節點的需求和系統的I/O資源制定初始的分配策略,并通過PCIe管理模塊發送設備分配指令; 步驟62,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源分配策略;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事務包指示了要操作的設備功能ID號,即在主控制根節點PCIe域中的ID號、該設備功能所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;其中,所屬根節點ID號為從屬根節點ID號,指示一個設備分配指令; 步驟63,PCIe下游端口接收到步驟62中所述設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;并將由設備功能所屬的根節點標識ID和其在所屬根節點PCIe域中的ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中,進而為各從屬根節點指定了分配的I/O設備功能; 步驟64,主控制根節點完成對從屬根節點的I/O設備資源初始化分配后,從屬根節點被引導進行PCIe設備重掃描,發現和初始化配置分配得到的設備功能。
            7.如權利要求5所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述I/o資源回收包括 步驟71,管理用戶根據需求決定從某個根從屬節點刪除某個設備功能,通過PCIe管理軟件發送設備回收指令; 步驟72,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源回收指令;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事物包指示了要操作的I/O設備功能ID號、該設備功能所屬的根節點ID號以及其在所屬根節點PCIe域中的ID號;其中,功能所屬的根節點標識ID為主控制根節點標識ID,指示一個設備回收指令; 步驟73,PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號; 步驟74,所屬根節點標識ID判定;如果配置事務包中指示的所屬根節點標識ID為主控制根節點標識ID,指示一個設備回收指令; 步驟75,讀取事務包要操作的設備功能ID號指示的I/O資源分配表對應的表項,向表項指示的從屬根節點發送一個虛擬熱插拔事件,通知有I/O設備功能將被拔除; 步驟76,復位操作的設備功能ID號指示的I/O資源分配表相應的表項;將由主控制根節點標識ID和值為全零的功能ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中; 步驟77,目標從屬根節點接收到該熱插拔事件,將該設備從PCIe拓撲結構中移除,并卸載相應的驅動程序。
            8.如權利要求5所述的用于多根I/O虛擬化共享系統的I/O資源管理方法,其特征在于,所述I/O資源再分配包括 步驟81,管理用戶根據需求決定并指示向某個從屬根節點增加某個設備功備,通過PCIe管理軟件發送設備再分配指令; 步驟82,PCIe管理模塊通過發送設備分配事務包,執行管理用戶的資源再分配指令;所述設備分配事務包,是PCIe內存寫事務包,所述PCIe內存寫事務包指示了要操作的I/O設備功能ID號,即在主控制根節點PCI e域中的ID號、該設備功能所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;其中,功能所屬的根節點標識ID為從屬根節點標識ID,指示一個設備分配指令; 步驟83,PCIe下游端口接收設備分配事務包,解析事務包獲取要操作的設備功能ID號、其所屬的根節點標識ID以及其在所屬根節點PCIe域中的ID號;步驟84,所屬根節點標識ID判定;如果配置事務包中指示的所屬根節點ID為非主控制根節點ID,指示一個設備分配指令; 步驟85,向事務包指示的從屬根節點發送一個虛擬熱插拔事件,通知對應的從屬根節點有I/O設備插入其PCIe拓撲結構;同時,將由設備功能所屬的根節點標識ID和其在所屬根節點PCIe域中的ID號組成內容,寫入要操作的設備功能ID號指示的I/O資源分配表相應的表項中,進而為該從屬根節點增加分配一個I/O設備功能; 步驟86,目標從屬根節點接收到熱插拔事件,對該設備進行掃描和初始化配置,并加載相應的驅動程序。·
            全文摘要
            本發明公開一種用于多根I/O虛擬化共享系統的I/O資源管理方法,所述方法是指利用一個主控制根節點對多根I/O虛擬化共享系統中的所有I/O設備進行集中式的初始化配置和分配管理,包括步驟1,主控制根節點對系統中的I/O資源枚舉發現和初始化配置;步驟2,主控制根節點通過PCIe管理模塊,輔助管理用戶管理和控制系統中的I/O設備資源,執行管理用戶制定的I/O資源分配策略;步驟3,主控制根節點通過PCIe管理模塊和I/O資源分配表,建立設備功能與其所屬的根節點的映射關系,實現I/O資源動態分配。
            文檔編號G06F9/455GK102722414SQ20121016059
            公開日2012年10月10日 申請日期2012年5月22日 優先權日2012年5月22日
            發明者劉小麗, 孫凝暉, 安學軍, 張佩珩, 曹政, 王展, 蘇勇 申請人:中國科學院計算技術研究所
            網友詢問留言 已有0條留言
            • 還沒有人留言評論。精彩留言會獲得點贊!
            1
            婷婷六月激情在线综合激情,亚洲国产大片,久久中文字幕综合婷婷,精品久久久久久中文字幕,亚洲一区二区三区高清不卡,99国产精品热久久久久久夜夜嗨 ,欧美日韩亚洲综合在线一区二区,99国产精品电影,伊人精品线视天天综合,精品伊人久久久大香线蕉欧美
            亚洲精品1区 国产成人一级 91精品国产欧美一区二区 亚洲精品乱码久久久久久下载 国产精品久久久久久久伊一 九色国产 国产精品九九视频 伊人久久成人爱综合网 欧美日韩亚洲区久久综合 欧美日本一道免费一区三区 夜夜爽一区二区三区精品 欧美日韩高清一区二区三区 国产成人av在线 国产精品对白交换绿帽视频 国产视频亚洲 国产在线欧美精品 国产精品综合网 国产日韩精品欧美一区色 国产日韩精品欧美一区喷 欧美日韩在线观看区一二 国产区精品 欧美视频日韩视频 中文字幕天天躁日日躁狠狠躁97 视频一二三区 欧美高清在线精品一区二区不卡 国产精品揄拍一区二区久久 99久久综合狠狠综合久久aⅴ 亚洲乱码视频在线观看 日韩在线第二页 亚洲精品无码专区在线播放 成人亚洲网站www在线观看 欧美三级一区二区 99久久精品免费看国产高清 91麻豆国产在线观看 最新日韩欧美不卡一二三区 成人在线观看不卡 日韩国产在线 在线亚洲精品 亚洲午夜久久久久中文字幕 国产精品成人久久久久久久 精品国产一区二区在线观看 欧美精品国产一区二区三区 中文在线播放 亚洲第一页在线视频 国产午夜精品福利久久 九色国产 精品国产九九 国产永久视频 久久精品人人做人人综合试看 国产一区二区三区免费观看 亚洲精品国产电影 9999热视频 国产精品资源在线 麻豆久久婷婷国产综合五月 国产精品免费一级在线观看 亚洲国产一区二区三区青草影视 中文在线播放 国产成人综合在线 国产在线观看色 国产亚洲三级 国产片一区二区三区 久久99精品久久久久久牛牛影视 亚洲欧美日韩国产 四虎永久免费网站 国产一毛片 国产精品视频在 九九热在线精品 99精品福利视频 色婷婷色99国产综合精品 97成人精品视频在线播放 精品久久久久久中文字幕 亚洲欧美一区二区三区孕妇 亚洲欧美成人网 日韩高清在线二区 国产尤物在线观看 在线不卡一区二区 91网站在线看 韩国精品福利一区二区 欧美日韩国产成人精品 99热精品久久 国产精品免费视频一区 高清视频一区 精品九九久久 欧美日韩在线观看免费 91欧美激情一区二区三区成人 99福利视频 亚洲国产精品91 久热国产在线 精品久久久久久中文字幕女 国产精品久久久久久久久99热 成人自拍视频网 国产精品视频久久久久久 久久影院国产 国产玖玖在线观看 99精品在线免费 亚洲欧美一区二区三区导航 久久久久久久综合 国产欧美日韩精品高清二区综合区 国产精品视频自拍 亚洲一级片免费 久久久久久九九 国产欧美自拍视频 视频一区二区在线观看 欧美日韩一区二区三区久久 中文在线亚洲 伊人热人久久中文字幕 日韩欧美亚洲国产一区二区三区 欧美亚洲国产成人高清在线 欧美日韩国产码高清综合人成 国产性大片免费播放网站 亚洲午夜综合网 91精品久久一区二区三区 国产无套在线播放 国产精品视频网站 国产成人亚洲精品老王 91在线网站 国产视频97 欧美黑人欧美精品刺激 国产一区二区三区免费在线视频 久久久国产精品免费看 99re6久精品国产首页 久久精品91 国产成人一级 国产成人精品曰本亚洲 日本福利在线观看 伊人成综合网 久久综合一本 国产综合久久久久久 久久精品成人免费看 久久福利 91精品国产91久久久久久麻豆 亚洲精品成人在线 亚洲伊人久久精品 欧美日本二区 国产永久视频 国产一区二 一区二区福利 国产一毛片 亚洲精品1区 毛片一区二区三区 伊人久久大香线蕉综合影 国产欧美在线观看一区 亚洲国产欧洲综合997久久 国产一区二区免费视频 国产91精品对白露脸全集观看 久久亚洲国产伦理 欧美成人伊人久久综合网 亚洲性久久久影院 久久99国产精一区二区三区! 91精品国产欧美一区二区 欧美日韩亚洲区久久综合 日韩精品一二三区 久久久夜色精品国产噜噜 国产在线精品福利91香蕉 久久久久久久亚洲精品 97se色综合一区二区二区 91国语精品自产拍在线观看性色 91久久国产综合精品女同我 日韩中文字幕a 国产成人亚洲日本精品 久久国产精品-国产精品 久久国产经典视频 久久国产精品伦理 亚洲第一页在线视频 国产精品久久久久三级 日韩毛片网 久久免费高清视频 麻豆国产在线观看一区二区 91麻豆国产福利在线观看 国产成人精品男人的天堂538 一区二区三区中文字幕 免费在线视频一区 欧美日韩国产成人精品 国产综合网站 国产资源免费观看 亚洲精品亚洲人成在线播放 精品久久久久久中文字幕专区 亚洲人成人毛片无遮挡 国产一起色一起爱 国产香蕉精品视频在 九九热免费观看 日韩亚洲欧美一区 九九热精品在线观看 精品久久久久久中文字幕专区 亚洲欧美自拍偷拍 国产精品每日更新 久久久久国产一级毛片高清板 久久天天躁狠狠躁夜夜中文字幕 久久精品片 日韩在线毛片 国产成人精品本亚洲 国产成人精品一区二区三区 九九热在线观看 国产r级在线观看 国产欧美日韩精品高清二区综合区 韩国电影一区二区 国产精品毛片va一区二区三区 五月婷婷伊人网 久久一区二区三区免费 一本色道久久综合狠狠躁篇 亚洲综合色站 国产尤物在线观看 亚洲一区亚洲二区 免费在线视频一区 欧洲精品视频在线观看 日韩中文字幕a 中文字幕日本在线mv视频精品 91精品在线免费视频 精品国产免费人成在线观看 精品a级片 中文字幕日本在线mv视频精品 日韩在线精品视频 婷婷丁香色 91精品国产高清久久久久 国产成人精品日本亚洲直接 五月综合视频 欧美日韩在线亚洲国产人 精液呈暗黄色 亚洲乱码一区 久久精品中文字幕不卡一二区 亚洲天堂精品在线 激情婷婷综合 国产免费久久精品久久久 国产精品亚洲二区在线 久久免费播放视频 五月婷婷丁香综合 在线亚洲欧美日韩 久久免费精品高清麻豆 精品久久久久久中文字幕 亚洲一区网站 国产精品福利社 日韩中文字幕免费 亚洲综合丝袜 91精品在线播放 国产精品18 亚洲日日夜夜 伊人久久大香线蕉综合影 亚洲精品中文字幕乱码影院 亚洲一区二区黄色 亚洲第一页在线视频 一区二区在线观看视频 国产成人福利精品视频 亚洲高清二区 国内成人免费视频 精品亚洲性xxx久久久 国产精品合集一区二区三区 97av免费视频 国产一起色一起爱 国产区久久 国产资源免费观看 99精品视频免费 国产成人一级 国产精品九九免费视频 欧美91精品久久久久网免费 99热国产免费 久久精品色 98精品国产综合久久 久久精品播放 中文字幕视频免费 国产欧美日韩一区二区三区在线 精品久久蜜桃 国产小视频精品 一本色道久久综合狠狠躁篇 91在线免费观看 亚洲精品区 伊人成综合网 伊人热人久久中文字幕 伊人黄色片 99国产精品热久久久久久夜夜嗨 久久免费精品视频 亚洲一区二区三区高清不卡 久久久久国产一级毛片高清板 国产片一区二区三区 久久狠狠干 99久久婷婷国产综合精品电影 国产99区 国产精品成人久久久久 久久狠狠干 青青国产在线观看 亚洲高清国产拍精品影院 国产精品一区二区av 九九热在线免费视频 伊人久久国产 国产精品久久久久久久久久一区 在线观看免费视频一区 国产精品自在在线午夜区app 国产精品综合色区在线观看 国产毛片久久久久久国产毛片 97国产免费全部免费观看 国产精品每日更新 国产尤物视频在线 九九视频这里只有精品99 一本一道久久a久久精品综合 久久综合给会久久狠狠狠 国产成人精品男人的天堂538 欧美一区二区高清 毛片一区二区三区 国产欧美日韩在线观看一区二区三区 在线国产二区 欧美不卡网 91在线精品中文字幕 在线国产福利 国内精品91久久久久 91亚洲福利 日韩欧美国产中文字幕 91久久精品国产性色也91久久 亚洲性久久久影院 欧美精品1区 国产热re99久久6国产精品 九九热免费观看 国产精品欧美日韩 久久久久国产一级毛片高清板 久久国产经典视频 日韩欧美亚洲国产一区二区三区 欧美亚洲综合另类在线观看 国产精品自在在线午夜区app 97中文字幕在线观看 视频一二三区 精品国产一区在线观看 国产欧美日韩在线一区二区不卡 欧美一区二三区 伊人成人在线观看 国内精品91久久久久 97在线亚洲 国产在线不卡一区 久久久全免费全集一级全黄片 国产精品v欧美精品∨日韩 亚洲毛片网站 在线不卡一区二区 99re热在线视频 久久激情网 国产毛片一区二区三区精品 久久亚洲综合色 中文字幕视频免费 国产视频亚洲 婷婷伊人久久 国产一区二区免费播放 久久99国产精品成人欧美 99国产在线视频 国产成人免费视频精品一区二区 国产不卡一区二区三区免费视 国产码欧美日韩高清综合一区 久久精品国产主播一区二区 国产一区电影 久久精品国产夜色 国产精品国产三级国产 日韩一区二区三区在线 久久97久久97精品免视看 久久国产免费一区二区三区 伊人久久大香线蕉综合电影网 99re6久精品国产首页 久久激情网 亚洲成人高清在线 国产精品网址 国产成人精品男人的天堂538 香蕉国产综合久久猫咪 国产专区中文字幕 91麻豆精品国产高清在线 久久国产经典视频 国产精品成人va在线观看 国产精品爱啪在线线免费观看 日本精品久久久久久久久免费 亚洲综合一区二区三区 久久五月网 精品国产网红福利在线观看 久久综合亚洲伊人色 亚洲国产精品久久久久久网站 在线日韩国产 99国产精品热久久久久久夜夜嗨 国产综合精品在线 国产区福利 精品亚洲综合久久中文字幕 国产制服丝袜在线 毛片在线播放网站 在线观看免费视频一区 国产精品久久久精品三级 亚洲国产电影在线观看 最新日韩欧美不卡一二三区 狠狠综合久久综合鬼色 日本精品1在线区 国产日韩一区二区三区在线播放 欧美日韩精品在线播放 亚洲欧美日韩国产一区二区三区精品 久久综合久久网 婷婷六月激情在线综合激情 亚洲乱码一区 国产专区91 97av视频在线观看 精品久久久久久中文字幕 久久五月视频 国产成人福利精品视频 国产精品网址 中文字幕视频在线 精品一区二区三区免费视频 伊人手机在线视频 亚洲精品中文字幕乱码 国产在线视频www色 色噜噜国产精品视频一区二区 精品亚洲成a人在线观看 国产香蕉尹人综合在线 成人免费一区二区三区在线观看 国产不卡一区二区三区免费视 欧美精品久久天天躁 国产专区中文字幕 久久精品国产免费中文 久久精品国产免费一区 久久无码精品一区二区三区 国产欧美另类久久久精品免费 欧美精品久久天天躁 亚洲精品在线视频 国产视频91在线 91精品福利一区二区三区野战 日韩中文字幕免费 国产精品99一区二区三区 欧美成人高清性色生活 国产精品系列在线观看 亚洲国产福利精品一区二区 国产成人在线小视频 国产精品久久久久免费 99re热在线视频 久久久久久久综合 一区二区国产在线播放 成人国产在线视频 亚洲精品乱码久久久久 欧美日韩一区二区综合 精品久久久久免费极品大片 中文字幕视频二区 激情粉嫩精品国产尤物 国产成人精品一区二区视频 久久精品中文字幕首页 亚洲高清在线 国产精品亚洲一区二区三区 伊人久久艹 中文在线亚洲 国产精品一区二区在线播放 国产精品九九免费视频 亚洲二区在线播放 亚洲狠狠婷婷综合久久久久网站 亚洲欧美日韩网站 日韩成人精品 亚洲国产一区二区三区青草影视 91精品国产福利在线观看 国产精品久久久久久久久99热 国产一区二区精品尤物 久碰香蕉精品视频在线观看 亚洲日日夜夜 在线不卡一区二区 国产午夜亚洲精品 九九热在线视频观看这里只有精品 伊人手机在线视频 91免费国产精品 日韩欧美中字 91精品国产91久久久久 国产全黄三级播放 视频一区二区三区免费观看 国产开裆丝袜高跟在线观看 国产成人欧美 激情综合丝袜美女一区二区 国产成人亚洲综合无 欧美精品一区二区三区免费观看 欧美亚洲国产日韩 日韩亚州 国产欧美日韩精品高清二区综合区 亚洲午夜国产片在线观看 精品久久久久久中文字幕 欧美精品1区 久久伊人久久亚洲综合 亚洲欧美日韩精品 国产成人精品久久亚洲高清不卡 久久福利影视 国产精品99精品久久免费 久久久久免费精品视频 国产日产亚洲精品 亚洲国产午夜电影在线入口 精品无码一区在线观看 午夜国产精品视频 亚洲一级片免费 伊人久久大香线蕉综合影 国产精品久久影院 久碰香蕉精品视频在线观看 www.欧美精品 在线小视频国产 亚洲国产天堂久久综合图区 欧美一区二区三区不卡 日韩美女福利视频 九九精品免视频国产成人 不卡国产00高中生在线视频 亚洲第一页在线视频 欧美日韩在线播放成人 99re视频这里只有精品 国产精品91在线 精品乱码一区二区三区在线 国产区久久 91麻豆精品国产自产在线观看一区 日韩精品成人在线 九九热在线观看 国产精品久久不卡日韩美女 欧美一区二区三区综合色视频 欧美精品免费一区欧美久久优播 国产精品网址 国产专区中文字幕 国产精品欧美亚洲韩国日本久久 日韩美香港a一级毛片 久久精品123 欧美一区二区三区免费看 99r在线视频 亚洲精品国产字幕久久vr 国产综合激情在线亚洲第一页 91免费国产精品 日韩免费小视频 亚洲国产精品综合一区在线 国产亚洲第一伦理第一区 在线亚洲精品 国产精品一区二区制服丝袜 国产在线成人精品 九九精品免视频国产成人 亚洲国产网 欧美日韩亚洲一区二区三区在线观看 在线亚洲精品 欧美一区二区三区高清视频 国产成人精品男人的天堂538 欧美日韩在线观看区一二 亚洲欧美一区二区久久 久久精品中文字幕首页 日本高清www午夜视频 久久精品国产免费 久久999精品 亚洲国产精品欧美综合 88国产精品视频一区二区三区 91久久偷偷做嫩草影院免费看 国产精品夜色视频一区二区 欧美日韩导航 国产成人啪精品午夜在线播放 一区二区视频在线免费观看 99久久精品国产自免费 精液呈暗黄色 久久99国产精品 日本精品久久久久久久久免费 精品国产97在线观看 99re视频这里只有精品 国产视频91在线 999av视频 亚洲美女视频一区二区三区 久久97久久97精品免视看 亚洲国产成人久久三区 99久久亚洲国产高清观看 日韩毛片在线视频 综合激情在线 91福利一区二区在线观看 一区二区视频在线免费观看 激情粉嫩精品国产尤物 国产成人精品曰本亚洲78 国产成人精品本亚洲 国产精品成人免费视频 国产成人啪精品视频免费软件 久久精品国产亚洲妲己影院 国产精品成人久久久久久久 久久大香线蕉综合爱 欧美一区二区三区高清视频 99热国产免费 在线观看欧美国产 91精品视频在线播放 国产精品福利社 欧美精品一区二区三区免费观看 国产一区二区免费视频 国产午夜精品一区二区 精品视频在线观看97 91精品福利久久久 国产一区福利 国产综合激情在线亚洲第一页 国产精品久久久久久久久久久不卡 九色国产 在线日韩国产 黄网在线观看 亚洲一区小说区中文字幕 中文字幕丝袜 日本二区在线观看 日本国产一区在线观看 欧美日韩一区二区三区久久 欧美精品亚洲精品日韩专 国产日产亚洲精品 久久综合九色综合欧美播 亚洲国产欧美无圣光一区 欧美视频区 亚洲乱码视频在线观看 久久无码精品一区二区三区 九九热精品免费视频 久久99精品久久久久久牛牛影视 国产精品成久久久久三级 国产一区福利 午夜国产精品视频 日本二区在线观看 99久久网站 国产亚洲天堂 精品国产一区二区三区不卡 亚洲国产日韩在线一区 国产成人综合在线观看网站 久久免费高清视频 欧美在线导航 午夜精品久久久久久99热7777 欧美久久综合网 国产小视频精品 国产尤物在线观看 亚洲国产精品综合一区在线 欧美一区二区三区不卡视频 欧美黑人欧美精品刺激 日本福利在线观看 久久国产偷 国产手机精品一区二区 国产热re99久久6国产精品 国产高清啪啪 欧美亚洲国产成人高清在线 国产在线第三页 亚洲综合一区二区三区 99r在线视频 99精品久久久久久久婷婷 国产精品乱码免费一区二区 国产在线精品福利91香蕉 国产尤物视频在线 五月婷婷亚洲 中文字幕久久综合伊人 亚洲精品一级毛片 99国产精品电影 在线视频第一页 久久99国产精品成人欧美 国产白白视频在线观看2 成人精品一区二区www 亚洲成人网在线观看 麻豆91在线视频 色综合合久久天天综合绕视看 久久精品国产免费高清 国产不卡一区二区三区免费视 欧美国产中文 99精品欧美 九九在线精品 国产中文字幕在线免费观看 国产一区中文字幕在线观看 国产成人一级 国产精品一区二区制服丝袜 国产一起色一起爱 亚洲精品成人在线 亚洲欧美精品在线 国产欧美自拍视频 99精品久久久久久久婷婷 久99视频 国产热re99久久6国产精品 视频一区亚洲 国产精品视频分类 国产精品成在线观看 99re6久精品国产首页 亚洲在成人网在线看 亚洲国产日韩在线一区 久久国产三级 日韩国产欧美 欧美在线一区二区三区 国产精品美女一级在线观看 成人午夜免费福利视频 亚洲天堂精品在线 91精品国产手机 欧美日韩视频在线播放 狠狠综合久久综合鬼色 九一色视频 青青视频国产 亚洲欧美自拍一区 中文字幕天天躁日日躁狠狠躁97 日韩免费大片 996热视频 伊人成综合网 亚洲天堂欧美 日韩精品亚洲人成在线观看 久久综合给会久久狠狠狠 日韩精品亚洲人成在线观看 日韩国产欧美 亚洲成aⅴ人片在线影院八 亚洲精品1区 99久久精品免费 国产精品高清在线观看 国产精品久久久免费视频 在线亚洲欧美日韩 91在线看视频 国产精品96久久久久久久 欧美日韩国产成人精品 91在线亚洲 热久久亚洲 国产精品美女免费视频观看 日韩在线毛片 亚洲永久免费视频 九九免费在线视频 亚洲一区网站 日本高清二区视频久二区 精品国产美女福利在线 伊人久久艹 国产精品久久久久三级 欧美成人精品第一区二区三区 99久久精品国产自免费 在线观看日韩一区 国产中文字幕一区 成人免费午夜视频 欧美日韩另类在线 久久99国产精品成人欧美 色婷婷中文网 久久天天躁夜夜躁狠狠躁2020 欧美成人伊人久久综合网 国产精品福利资源在线 国产伦精品一区二区三区高清 国产精品亚洲综合色区韩国 亚洲一区欧美日韩 色综合视频 国语自产精品视频在线区 国产高清a 成人国内精品久久久久影 国产在线精品香蕉综合网一区 国产不卡在线看 国产成人精品精品欧美 国产欧美日韩综合精品一区二区三区 韩国电影一区二区 国产在线视频www色 91中文字幕在线一区 国产人成午夜免视频网站 亚洲综合一区二区三区 色综合视频一区二区观看 久久五月网 九九热精品在线观看 国产一区二区三区国产精品 99久热re在线精品996热视频 亚洲国产网 在线视频亚洲一区 日韩字幕一中文在线综合 国产高清一级毛片在线不卡 精品国产色在线 国产高清视频一区二区 精品日本久久久久久久久久 亚洲国产午夜精品乱码 成人免费国产gav视频在线 日韩欧美一区二区在线观看 欧美曰批人成在线观看 韩国电影一区二区 99re这里只有精品6 日韩精品一区二区三区视频 99re6久精品国产首页 亚洲欧美一区二区三区导航 欧美色图一区二区三区 午夜精品视频在线观看 欧美激情在线观看一区二区三区 亚洲热在线 成人国产精品一区二区网站 亚洲一级毛片在线播放 亚洲一区小说区中文字幕 亚洲午夜久久久久影院 国产自产v一区二区三区c 国产精品视频免费 久久调教视频 国产成人91激情在线播放 国产精品欧美亚洲韩国日本久久 久久亚洲日本不卡一区二区 91中文字幕网 成人国产在线视频 国产视频91在线 欧美成人精品第一区二区三区 国产精品福利在线 久久综合九色综合精品 欧美一区二区三区精品 久久国产综合尤物免费观看 久久99青青久久99久久 日韩精品免费 久久国产精品999 91亚洲视频在线观看 国产精品igao视频 色综合区 在线亚洲欧国产精品专区 国产一区二区三区在线观看视频 亚洲精品成人在线 一区二区国产在线播放 中文在线亚洲 亚洲精品第一国产综合野 国产一区二区精品久久 一区二区三区四区精品视频 99热精品久久 中文字幕视频二区 国产成人精品男人的天堂538 99精品影视 美女福利视频一区二区 久久午夜夜伦伦鲁鲁片 综合久久久久久久综合网 国产精品国产欧美综合一区 国产99视频在线观看 国产亚洲女在线精品 婷婷影院在线综合免费视频 国产亚洲3p一区二区三区 91成人爽a毛片一区二区 亚洲一区二区高清 国产欧美亚洲精品第二区首页 欧美日韩导航 亚洲高清二区 欧美激情观看一区二区久久 日韩毛片在线播放 亚洲欧美日韩高清中文在线 亚洲日本在线播放 国产精品一区二区制服丝袜 精品国产一区二区三区不卡 国产不卡在线看 国产欧美网站 四虎永久在线观看视频精品 国产黄色片在线观看 夜夜综合 一本色道久久综合狠狠躁篇 欧美亚洲综合另类在线观看 国产91在线看 伊人久久国产 欧美一区二区在线观看免费网站 国产精品久久久久三级 久久福利 日韩中文字幕a 亚洲午夜久久久久影院 91在线高清视频 国产亚洲一区二区三区啪 久久人精品 国产精品亚洲午夜一区二区三区 综合久久久久久 久久伊人一区二区三区四区 国产综合久久久久久 日韩一区精品视频在线看 国产精品日韩欧美制服 日本精品1在线区 99re视频 无码av免费一区二区三区试看 国产视频1区 日韩欧美中文字幕一区 日本高清中文字幕一区二区三区a 亚洲国产欧美无圣光一区 国产在线视频一区二区三区 欧美国产第一页 在线亚洲欧美日韩 日韩中文字幕第一页 在线不卡一区二区 伊人久久青青 国产精品一区二区在线播放 www.五月婷婷 麻豆久久婷婷国产综合五月 亚洲精品区 久久国产欧美另类久久久 99在线视频免费 伊人久久中文字幕久久cm 久久精品成人免费看 久久这里只有精品首页 88国产精品视频一区二区三区 中文字幕日本在线mv视频精品 国产在线精品成人一区二区三区 伊人精品线视天天综合 亚洲一区二区黄色 国产尤物视频在线 亚洲精品99久久久久中文字幕 国产一区二区三区免费观看 伊人久久大香线蕉综合电影网 国产成人精品区在线观看 日本精品一区二区三区视频 日韩高清在线二区 久久免费播放视频 一区二区成人国产精品 国产精品免费精品自在线观看 亚洲精品视频二区 麻豆国产精品有码在线观看 精品日本一区二区 亚洲欧洲久久 久久中文字幕综合婷婷 中文字幕视频在线 国产成人精品综合在线观看 91精品国产91久久久久福利 精液呈暗黄色 香蕉国产综合久久猫咪 国产专区精品 亚洲精品无码不卡 国产永久视频 亚洲成a人片在线播放观看国产 一区二区国产在线播放 亚洲一区二区黄色 欧美日韩在线观看视频 亚洲精品另类 久久国产综合尤物免费观看 国产一区二区三区国产精品 高清视频一区 国产精品igao视频 国产精品资源在线 久久综合精品国产一区二区三区 www.五月婷婷 精品色综合 99热国产免费 麻豆福利影院 亚洲伊人久久大香线蕉苏妲己 久久电影院久久国产 久久精品伊人 在线日韩理论午夜中文电影 亚洲国产欧洲综合997久久 伊人国产精品 久草国产精品 欧美一区精品二区三区 亚洲成人高清在线 91免费国产精品 日韩精品福利在线 国产一线在线观看 国产不卡在线看 久久99青青久久99久久 亚洲精品亚洲人成在线播放 99久久免费看国产精品 国产日本在线观看 青草国产在线视频 麻豆久久婷婷国产综合五月 国产中文字幕一区 91久久精品国产性色也91久久 国产一区a 国产欧美日韩成人 国产亚洲女在线精品 一区二区美女 中文字幕在线2021一区 在线小视频国产 久久这里只有精品首页 国产在线第三页 欧美日韩中文字幕 在线亚洲+欧美+日本专区 精品国产一区二区三区不卡 久久这里精品 欧美在线va在线播放 精液呈暗黄色 91精品国产手机 91在线免费播放 欧美视频亚洲色图 欧美国产日韩精品 日韩高清不卡在线 精品视频免费观看 欧美日韩一区二区三区四区 国产欧美亚洲精品第二区首页 亚洲韩精品欧美一区二区三区 国产精品视频免费 在线精品小视频 久久午夜夜伦伦鲁鲁片 国产无套在线播放 久热这里只精品99re8久 欧美久久久久 久久香蕉国产线看观看精品蕉 国产成人精品男人的天堂538 亚洲人成网站色7799在线观看 日韩在线第二页 一本色道久久综合狠狠躁篇 国产一区二区三区不卡在线观看 亚洲乱码在线 在线观看欧美国产 久久福利青草精品资源站免费 国产玖玖在线观看 在线亚洲精品 亚洲成aⅴ人在线观看 精品91在线 欧美一区二三区 日韩中文字幕视频在线 日本成人一区二区 日韩免费专区 国内精品在线观看视频 久久国产综合尤物免费观看 国产精品系列在线观看 一本一道久久a久久精品综合 亚洲免费播放 久久精品国产免费 久久人精品 亚洲毛片网站 亚洲成a人一区二区三区 韩国福利一区二区三区高清视频 亚洲精品天堂在线 一区二区三区中文字幕 亚洲国产色婷婷精品综合在线观看 亚洲国产成人久久笫一页 999国产视频 国产精品香港三级在线电影 欧美日韩一区二区三区四区 日韩国产欧美 国产精品99一区二区三区 午夜国产精品理论片久久影院 亚洲精品中文字幕麻豆 亚洲国产高清视频 久久免费手机视频 日韩a在线观看 五月婷婷亚洲 亚洲精品中文字幕麻豆 中文字幕丝袜 www国产精品 亚洲天堂精品在线 亚洲乱码一区 国产日韩欧美三级 久久999精品 伊人热人久久中文字幕 久热国产在线视频 国产欧美日韩在线观看一区二区三区 国产一二三区在线 日韩国产欧美 91精品国产91久久久久 亚洲一区小说区中文字幕 精品一区二区免费视频 国产精品视频免费 国产精品亚洲综合色区韩国 亚洲国产精品成人午夜在线观看 欧美国产日韩精品 中文字幕精品一区二区精品