用于高速緩存網絡文件系統的系統和方法

            文檔序號:6567941閱讀:461來源:國知局
            專利名稱:用于高速緩存網絡文件系統的系統和方法
            技術領域
            本發明涉及高速緩存系統,并且更特別地涉及高速緩存文件管理 器響應于計算機網絡上多協議客戶端發送的數據訪問請求而服務的 數據的存儲虛擬化。
            背景技術
            通常,帶有遠程位置的機構可能需要復制關鍵數據,諸如工程應 用和程序庫到不同的位置。為了使這些關鍵數據在那些遠程位置讓 用戶可得到,而不引起網絡延遲,所述機構可消耗大量資源(諸如 在文件服務器上執行的文件系統)來管理復雜的復制基礎結構和過 程。數據復制是已知的技術,其使得可以對通常只讀的數據集進行 分布式在線訪問。傳統的數據復制可嚴重依賴于文件系統鏡像法, 以創建在分布式服務器上數據集的整體只讀副本。由文件系統鏡像法生成的鏡像通常需要大量的管理開銷。例如, 管理員必須確定需要復制什么數據,以及為每個鏡像管理物理資源 (文件系統、文件服務器等)。隨著數據集的增長,這類數據復制 變得越來越不實用。此外,復制的基礎結構可能需要遠程位置處存 在服務器,以存儲復制的數據,因而阻止了機構將它們的服務器基 礎結構合并到中心位置。因此,存在這樣的需要,即消除該高代價 的復制基礎結構和過程,而不損失立刻訪問關鍵數據的好處。數據復制鏡像法的一個替換方式是代理高速緩存。通常,代理高 速緩存系統用于按照需要來透明地復制數據集。典型的代理高速緩 存系統包括耦合到后端存儲系統或具有遠程存儲器的"原始服務 器"的前端存儲系統或具有本地存儲器的"代理設備",即"高速緩 存,,。當高速緩存不能滿足客戶端請求時,將該請求傳遞給原始服 務器。服務器的響應轉而傳遞回做出請求的客戶端并且所有關聯的 數據高速緩存在本地存儲器中。這類事務稱為"高速緩存未中"。 通常,高速緩存未中導致數據,例如文件系統數據,"填充"到高 速緩存中。當需要滿足客戶請求的數據在高速緩存中可得到時,代理設備可構造且發送響應,而不用與其關聯的服務器通信。這種事 務稱為"高速緩存命中"。使用高速緩存未中事務,代理設備允許 客戶端修改設備上文件系統的狀態。與一般的復制相比,這使得可 以進行自動復制,而不約束客戶端進行只讀訪問。傳統代理高速緩存解決方案使得可以分布數據,例如文件,到遠 程位置,而不需要持續地讓內行進行管理。這種代理高速緩存解決方案的一個例子在美國專利申請序列號(P01-1509 )中描述,標題 為Apparatus and Method for a Proxy Cache, 申請人:為E. Ackaouy 且轉讓給Network Appliance, Inc., Sunnyvale, California, 具 有高速緩存的代理存儲系統或裝置連接到服務器存儲系統。文件系 統管理代理裝置提供的文件集合;客戶端使用文件系統協議訪問這 些文件,例如網絡文件系統(NFS )和/或公共因特網文件系統(CIFS ) 協議。在響應中,代理裝置使用基于文件句柄的文件索引散列方法 提供文件。概括地敘述,代理裝置"傾聽"客戶端發出的NFS/CIFS數據訪問代i裝置在轉到其文;系統以進行高速緩存確定之前將^戶端請求轉換為唯一的高速緩存名稱。在文件句柄上執行的散列函數產生高 速緩存名稱,文件系統使用該名稱以獲得高速緩存的文件或者尋找 存儲標識符以確定文件是否駐留在高速緩存中。如果文件駐留在高 速緩存中,則確定客戶端請求的所有數據是否都駐留在高速緩存 中。如果不是,裝置傳遞請求到服務器。當服務器用請求的數據或 應答響應時,裝置將服務器響應傳遞到客戶端。代理裝置還用服務 器的響應"填充"其高速緩存以確保可由裝置服務后續的客戶端請 求。本發明部分針對改進的高速緩沖系統,其使得能夠由客戶端多協 議訪問該系統提供的數據。此外,本發明部分針對改進的高速緩沖 系統,其使得能夠由客戶端有效地訪問該系統使用文件系統數據結 構和名稱提供的數據。而且,本發明部分針對改進的高速緩沖系統,據的虛擬存儲化。在上下文中,存儲虛擬化表示將存儲的透明視圖 呈現給這樣的客戶端,該客戶端涉及通常在網絡上協同來自多存儲系統的存儲資源。 發明內容本發明涉及一種具有否合到原始服務器的多協議高速緩沖存儲 系統(文件管理器)的網絡高速緩沖系統,以響應于計算機網絡上 多協議客戶端發出的數據訪問請求而提供由該文件管理器服務的數 據的存儲虛擬化。多協議高速緩存文件管理器包括文件系統,該文 件系統配置為管理稀疏的巻,以由此提供使得能夠由多協議客戶端 訪問數據的高速緩存功能。為此,高速緩存文件管理器還包括多協 議引擎,該引擎配置為將多協議客戶端數據訪問請求變換為由高速 緩存文件管理器和原始服務器都可執行的通用文件系統原始操作。在說明性實施例中,由高速緩存文件管理器的"本地高速緩存" 部分地提供了高速緩存功能,所述"本地高速緩存"包括高速緩存 巻,該高速緩存巻包括一個或多個耦合到所述高速緩存文件管理器 的磁盤。根據本發明的第一方面,高速緩存巻說明性地實現為適于 服務客戶端從一個或多個例如文件的存儲對象請求的數據的稀疏 巻,所述存儲對象具有從所述高速緩存巻遺失(即沒有本地存儲在 其磁盤上)的至少一個塊(即缺少塊)。缺少塊的遺失數據存儲在 原始服務器上且以對客戶端透明的方式使用遠程獲取操作被說明性 地獲取("填充")。有利地,本發明利用多協議高速緩存文件管理器的存儲空間,使 得能夠讓客戶端對網絡高速緩存系統服務的數據快且有效地訪問。 不像之前的高速緩存系統需要顯式的文件的句柄到對象的存儲轉 換,新的多協議高速緩存文件管理器使得客戶端能夠通過使用文件 系統且特別地使用由文件系統組織的存儲對象(文件)的實際名稱 來有效地訪問由網絡高速緩存系統提供的數據。而且,高速緩存文 件管理器的文件系統與稀疏的巻協同,以對多協議客戶端透明的方 式提供對所服務數據的存儲空間虛擬化。


            通過結合附圖參考下面的描述,可以更好地理解本發明的上述和 進一步的優點,附圖中相同的附圖標記表示同樣或功能類似的元件圖1是根據本發明的實施例的示例網絡環境的示意性框圖;圖2是根據本發明的實施例的示例存儲操作系統的示意性框圖;圖3是根據本發明的實施例的示例信息節點(inode )的示意性框圖;圖4是根據本發明的實施例的示例緩沖樹的示意性框圖; 圖5是可有利地用于本發明的文件緩沖樹的說明性實施例的示意 性框圖;圖6是根據本發明的實施例的示例聚集的示意性框圖; 圖7是根據本發明的實施例的示例磁盤上布局的示意性框圖; 圖8是根據本發明的實施例的示例fsinfo塊的示意性框圖; 圖9是根據本發明的實施例示出處理數據修改訪問請求的過程步 驟的流程圖;圖10是根據本發明的實施例示出處理非數據修改訪問請求的過 程步驟的流程圖;圖ll是根據本發明的實施例示出實現高速緩存相干性策略的過 程步驟的流程圖;和圖12是根據本發明的實施例示出實現高速緩存彈出策略的過程 步驟的流程圖。
            具體實施方式
            A.網絡環境圖1是網絡高速緩存系統環境100的示意性框圖,包括前端存儲系 統,該前端存儲系統配置為提供用于服務源自后端存儲系統的信息 (數據)的高速緩存功能。為此,前端存儲系統是說明性地實現為 高速緩存文件管理器120的計算機,高速緩存文件管理器120提供涉 及在存儲設備,例如磁盤陣列160的磁盤130上組織信息的存儲服 務。高速緩存文件管理器120包括處理器122、存儲器124、 一個或多 個網絡適配器126a、 b和通過系統總線125互連的存儲適配器128。高 速緩存文件管理器120還包括存儲操作系統200,該存儲操作系統200 優選地實現了高級模塊,例如文件系統,以便邏輯地將信息組織為 磁盤上命名的文件、目錄和虛擬磁盤(下文稱為特定文件或"塊")存儲對象。在說明性實施例中,存儲器124包括可由處理器和適配器尋址的 存儲單元以用于存儲軟件程序代碼。存儲器的一部分可進一步組織 為用于存儲與本發明關聯的數據結構的緩沖存儲器170。處理器和適 配器可轉而包括配置為執行軟件代碼和操縱數據結構的處理元件和 /或邏輯電路。通常部分駐留在存儲器中且由處理元件執行的存儲操 作系統200,尤其通過調用文件管理器120執行的存儲操作來在功能 上組織所述文件管理器。對本領域技術人員明顯的是,其它處理和 存儲器裝置,包括各種計算機可讀介質,可用于存儲和執行關于這 里描述的發明技術的程序指令。網絡適配器126a、 b(下文通常稱為"網絡適配器126")包括需 要在計算機網絡140上將高速緩存文件管理器連接到客戶端和后端 存儲系統的機械、電子和信令電路,所述計算機網絡140可包括點到 點連接或共享介質,例如局域網(LAN)或廣域網(WAN)。說明性 地,計算機網絡140可實現為以太網或光纖(FC)網絡。客戶端IIO 可通過根據預定義協議,例如傳輸控制協議/網際協議(TCP/IP)交 換離散幀或數據包來在網絡140上與文件管理器120通信。客戶端110可以是配置為執行應用112的通用計算機。而且,客戶 端110可根據信息遞送的客戶端/服務器模型與高速緩存文件管理器 120交互。即是,通過在網絡140上交換包,客戶端可請求高速緩存 文件管理器的服務,且文件管理器返回客戶端所請求服務的結果。 當以文件和目錄形式訪問信息時,客戶端可發送包,該包包括在 TCP/IP上的基于文件的訪問協議,例如公共因特網文件系統(CIFS) 協議或網絡文件系統(NFS)協議。可替換地,當以塊的形式訪問信 息時,客戶端可發送包,該包包括基于塊的訪問協議,例如在TCP上 封裝的小型計算機系統接口 ( SCSI )協議(iSCSI )和在光纖通道 (FCP)上封裝的SCSI。存儲適配器128與在文件管理器120上執行的存儲操作系統200協 同以訪問用戶(或客戶端)請求的信息。所述信息可存儲在任何類 型的可寫存儲設備媒體的被附著陣列上,所述可寫存儲設備媒體諸 如是錄像磁帶、光學介質、DVD、磁帶、磁泡存儲器、電子隨機存取 存儲器、微電子機構和任何其它適于存儲信息,包括數據和奇偶信息的類似媒體。然而,如這里所說明性地描述的,所述信息優選地存儲在陣列160的磁盤130上,例如HDD和/或DASD。存儲適配器包括 在I/0互連布置,例如傳統高性能FC串行鏈路拓樸上耦合到磁盤的輸 入/輸出(I/O)接口電路。在陣列160上的信息存儲優選地實現為一個或多個存儲"巻,,, 該巻包括物理存儲磁盤130的集合,所述物理存儲磁盤130協同以定 義一個或多個巻上的巻塊號(vbn)空間的整體邏輯布置。盡管不是 必須的,通常每個邏輯巻與其自己的文件系統相關聯。通常,邏輯 巻/文件系統中的磁盤組織為一個或多個組,其中每個組可作為獨立 磁盤冗余陣列(RAID)來操作。大多數RAID實現,例如RAID-4級實 現,通過在RAID組中跨越給定數目的物理磁盤冗余寫入數據帶區且 對于帶區的數據適當地存儲奇偶信息來增強數據存儲的可靠性/完 整性。RAID實現的一個說明性例子是RAID-4級實現,盡管應當理解, 可根據這里描述的發明原理使用RAID實現的其它類型和級別。在一個說明性實施例中,高速緩存文件管理器120的高速緩存功 能部分地由"本地高速緩存"提供。關于這點,本地高速緩存表示 高速緩沖存儲器的層次結構,包括(i )高級處理器高速緩存123, (ii)中級緩沖存儲器170,和(iii)包括耦合到文件管理器的一 個或多個磁盤130的低級"第三,,高速緩存巻150。根據這里進一步 描述的本發明的一個方面,高速緩存巻150說明性地實現為適于服務 客戶端110從一個或多個例如文件的存儲對象請求的數據的稀疏 巻,所述存儲對象具有從所述高速緩存巻150遺失(即沒有本地存儲 在其磁盤上)的至少一個塊(即缺少塊)。缺少塊的遺失數據存儲明:地取得r:'填充"、)'。、、、后端存儲系統是說明性地實現為原始服務器180的計算機,像高 速緩存文件管理器120—樣,其提供涉及在組織為原始巻185的磁盤 上組織信息的存儲服務。原始服務器180在網絡140上與高速緩存文 件管理器120操作地互連,且通常包括類似于文件管理器120的硬 件。然而,可替換地,原始服務器180可執行修改的存儲操作系統, 該存儲操作系統使存儲系統適用于原始服務器。在這里進一步描述 的可替換實施例中,在網絡高速緩存系統環境100中可有多個耦合到原始服務器180的高速緩存文件管理器120。 B.存儲操作系統為了便于訪問磁盤130,存儲操作系統200實現隨處可寫的文件系 統,該文件系統與虛擬化模塊協同以管理高速緩存(稀疏)巻150并 且"虛擬化"由磁盤130提供的存儲空間。文件系統邏輯地將信息組 織為磁盤上的命名的目錄和文件的層次結構。每個》茲盤上文件可實 現為磁盤塊的集合,所述磁盤塊配置為存儲信息,例如數據,而目 錄可實現為特定格式的文件,其中存儲了名稱和到其它文件和目錄 的鏈接。虛擬化模塊允許文件系統進一步邏輯地將信息組織為作為 命名邏輯單元號(lun)輸出的磁盤上塊的層次結構。在說明性實施例中,存儲操作系統優選地是可從Network Appliance, Inc., Sunnyvale, Cal if ornia得到的NetApp Data ONTAPTM操作系統,其實現了隨處可寫文件布局(WAFLTM)文件系統。 然而,明顯可預期的是,根據這里描述的發明原理,可增強任何適 當的存儲操作系統以便于使用。同樣地,這里使用的術語"WAFL" 應當被用來廣義地指任何另外適用于本發明的教導的文件系統。圖2是可有利地用于本發明的存儲操作系統200的示意性框圖。存 儲操作系統包括一 系列軟件層,該軟件層組織為形成完整的網絡協 議棧,或更一般地,形成使用塊和文件訪問協議為多協議客戶端提 供數據通路以訪問存儲在高速緩存文件管理器上的信息的多協議引 擎。協議棧包括網絡驅動器(例如千兆以太網驅動器)的媒體訪問 層210,該媒體訪問層210對接到網絡協議層,例如IP層212和它的支 持傳輸機制、TCP層214和用戶數據報協議(UDP)層216。文件系統 協議層提供多協議文件訪問,并且為此,包括對直接存儲文件系統 (DAFS)協議218、 NFS協議220、 CIFS協議222和超文本傳輸協議 (HTTP)協議224的支持。如DAFS協議218所需要的,VI層226實現了 VI體系結構以提供直接訪問傳輸(DAT)能力,例如RDMA。iSCSI驅動器層228提供了在TCP/IP網絡協議層上的塊協議訪 問,而FC驅動器層230從/向高速緩存文件管理器接收/發送塊訪問請 求/響應。當訪問文件管理器上的塊時,FC和iSCSI驅動器提供對塊 的FC專用和iSCSI專用的訪問控制,并且因此管理lun到iSCSI或FCP 的輸出,或可替換地到iSCSI和FCP兩者的輸出。此外,存儲操作系統包括實現為RAID系統240的存儲模塊和實現磁盤訪問協議,例如 SCSI協議的磁盤驅動器系統250,所述存儲模塊根據I/0操作來管理 向/從巻/磁盤存儲/獲取信息。存儲操作系統200還包括網絡應用遠程巻(NRV)協議層295,該 協議層295與文件系統280對接。通常,NRV協議用于遠程獲取沒有本 地存儲在磁盤上的數據塊。然而,如這里描述的,NRV協議可進一步 用于高速緩存文件管理器到原始服務器的通信,以根據本發明的原 理獲取稀疏高速緩存巻中的缺少塊。應當注意,在可替換實施例中, 傳統文件/塊級別協議,例如NFS協議或其它專有塊獲取協議可用于 代替本發明教導中的NRV協議。如這里進一步描述的,存儲操作系統200的需求生成器296用于系 統地獲取沒有本地存儲在磁盤,即高速緩存文件管理器120的高速緩 存巻150上的數據塊,而泵模塊298可用于調整從原始服務器180請求 的那些和其它數據塊的獲取。而且,根據本發明,截取器294實現了 高速緩存彈出策略以便在本地高速緩存(例如高速緩存巻150)變滿 時回收存儲空間,并且遠程更新引擎(RUE292 )用于將任何修改高 速緩存巻150的文件系統操作轉發到原始服務器180。盡管這里示出 和描述為單獨的軟件模塊,可替換地,需求生成器296、泵298、截 取器294和RUE292可集成在操作系統200的單一模塊內。而且,應當注意這些模塊可以實現為硬件、軟件、固件或其任意組合。橋接磁盤軟件層和多協議引擎層的是文件系統280實現的虛擬化 系統,該虛擬化系統與說明性地實現為例如vdisk模塊290和SCSI目 標模塊270的虛擬化模塊交互。vdisk模塊290在文件系統280上層, 能夠由例如用戶接口 (UI) 275的管理接口訪問,以響應用戶(例如 系統管理員)向文件管理器發送命令。UI275以使得管理員或用戶能 夠訪問不同層和系統的方式布置于存儲操作系統之上。SCSI目標模 塊270布置于FC和iSCSI驅動器228、 230和文件系統280之間,以提供 在塊(lun)空間和文件系統空間之間的虛擬化系統的變換層,其中 lun表示為塊。說明性地,文件系統是基于消息的系統,該系統提供邏輯巻管理 能力,用于訪問存儲在存儲設備,例如磁盤上的信息。即是,除了 提供文件系統語義,文件系統280還提供通常與巻管理器關聯的功能。這些功能包括(i )磁盤聚集,(ii )磁盤的存儲帶寬的聚集, 和(iii)可靠性保證,例如鏡像法和/或奇偶性(RAID)。說明性 地,文件系統280實現了具有磁盤上格式表示的WAFL文件系統(下文 一般稱為"隨處可寫文件系統"),所述格式表示是基于塊的,使 用例如4千字節(KB)塊且使用索引節點("信息節點,,)以標識文 件和文件屬性(諸如創建時間、訪問許可、大小和塊位置)。文件 系統使用文件存儲元數據,該元數據描述文件系統的布局;這些元 數據文件尤其包括信息節點文件。文件句柄,即包括信息節點號的 標識符,用于從磁盤獲取信息節點。概括地敘述,隨處可寫文件系統的所有信息節點組織為信息節點 文件。文件系統(fs)信息塊說明了文件系統中信息的布局且包括 文件的信息節點,所述文件包括文件系統的所有其它信息節點。每 個邏輯巻(文件系統)具有優選地存儲在例如RAID組內的固定位置 的fsinfo塊。根fsinfo塊的信息節點可直接引用(指向)信息節點 文件的塊,或可間接引用信息節點文件的塊,該信息節點文件的塊 轉而引用信息節點文件的直接塊。在信息節點文件的每個直接塊內 是嵌入的信息節點,每個嵌入的信息節點可引用間接塊,該間接塊 轉而引用文件的數據塊。可操作地,來自客戶端110的請求作為計算機網絡140上的包轉發 且到達高速緩存文件管理器120上,其中在網絡適配器126處接收 包。(層210或層230的)網絡驅動器處理所述包,并且如果適當, 將其傳遞到網絡協議和文件訪問層,以在轉發到隨處可寫文件系統 280之前做另外的處理。如這里進一步描述的,如果請求修改了存儲 在高速緩存巻150上的數據,高速緩存文件管理器120經由NRV寫入請 求將所述請求傳送到原始服務器180。然而,如果請求不修改巻150 上的數據,直接將請求傳遞到文件系統280中,該文件系統280嘗試 服務所述請求。如果數據未駐留在本地高速緩存上(導致"高速緩 存未中"),高速緩存文件管理器將NRV讀取請求發送到原始服務器 180,以獲取遺失數據。在從服務器180接收響應后,高速緩存文件 管理器將獲取的數據存儲在其本地高速緩存中,用所請求的數據構 造回復且將該回復返回到客戶端IIO。然而,如果所請求的數據駐留在本地高速緩存中,高速緩存文件管理器(文件系統280 )服務該請求。為此,如果所請求的數據未駐 留"在核心"即在緩沖存儲器170中,文件系統生成操作以從磁盤130 裝載(獲取)所請求的數據。說明性地,該操作可實現為文件系統 280的Load-Block()函數284。如果信息不在高速緩沖器170中,文件 系統280使用信息節點號在信息節點文件中檢索,以訪問適當的條目 且獲取邏輯vbn。文件系統接著將包括邏輯vbn的消息結構傳遞到 RAID系統240;邏輯vbn將映射到》茲盤標識符和磁盤塊號(磁盤,dbn ) 且發送到磁盤驅動器系統250的適當驅動器(例如SCSI)。磁盤驅動 器從特定磁盤130訪問dbn且將所請求的數據塊裝載到緩沖存儲器 170中以便由文件管理器處理。在完成了請求后,文件管理器(和操 作系統)在網絡140上將回復返回到客戶端110。通常,文件系統280提供Load-Block ()函數284以從磁盤獲取一個 或多個塊。可響應于讀取請求或指向例如文件的示例提前讀取算法 獲取這些塊。如這里進一步描述的,如果文件的緩沖樹內的任何所 請求的塊包含專用ABSENT值(由此表示缺少塊),則Load-Block() 函數284啟動獲取操作以使用說明性NRV協議295從適當的后備存儲 器(例如原始服務器180)獲取缺少塊。 一旦獲取了塊(包括任何數 據塊),Load-Block()函數284返回所請求的數據。在上面提到的美 國專利申請中進一步描述了 NRV協議,標題為Architecture for Supporting of Sparse Volumes, 申請人:為Jason Lango等。然而, 應當注意,任何其它適合的可從遠程后備存儲器獲取數據的基于文 件或塊的協議,例如包括NFS協議,可有利地用于本發明。說明性地, 文件系統還包括首次訪問文件時獲取信息節點和文件結構的 Load-Inode()函數288。應當進一步注意,可替換地,上述需要為在高速緩存文件管理器 接收的客戶端請求執行數據存儲訪問的通過存儲操作系統層的軟件路徑可用硬件實現。即在本發明的可替換實施例中,存儲訪問請求 數據路徑可實現為邏輯電路,該邏輯電路用現場可編程門陣列 (FPGA)或專用集成電路(ASIC)實現。這類硬件實現增加了文件 管理器120響應于客戶端110發送的請求而提供的存儲服務的性能。 而且,在本發明的另一可替換實施例中,適配器126、 128的處理元 件可配置為各自地卸載來自處理器122的一些或所有包處理和存儲訪問操作,以由此增加文件管理器提供的存儲服務的性能。明顯可 預期的是,這里描述的各種處理、體系結構和過程可用硬件、固件 或軟件實現。如這里使用的,術語"存儲操作系統" 一般指可操作執行存儲系 統中存儲功能的計算機可執行代碼,所述存儲功能例如管理數據訪 問和在高速緩存文件管理器的情況下,可實現文件系統語義。在這個意義上,ONTAP軟件是這種存儲操作系統的一個例子,該軟件實現 為微內核且包括WAFL層,以實現WAFL文件系統語義并管理數據訪 問。存儲操作系統還可實現為在通用操作系統,例如UNIX⑧或Windows NT⑧上運行的應用程序,或實現為具有可配置功能性的通用操作系 統,該通用操作系統被配置用于這里描述的存儲應用。此外,本領域技術人員將理解的是,這里描述的發明系統和方法 可應用于任何類型的專用(例如文件服務器、文件管理器或多協議 存儲裝置)或通用計算機,包括實現為或包括存儲系統的獨立計算 機或其一部分。可有利地用于本發明的多協議存儲裝置的一個例子 在美國專利申請序列號10/215, 917中描述,標題為Multi-protocol Storage Appliance that Provides Integrated Support for File and Block Access Protocols,于2002年8月8曰提出。而且,本發 明的教導可適用于多種存儲系統體系結構,包括但不限于附加到網 絡的存儲環境、存儲區域網絡和直接附加到客戶端或主機的磁盤部 件。因此,術語"存儲系統,,應當廣義地包括這種布置以及配置為 執行存儲功能且與其它設備或系統相關聯的任何子系統。C.文件系統組織在說明性的實施例中,文件在隨處可寫文件系統中表示為適于在 磁盤130上存儲的信息節點數據結構。圖3是信息節點300的示意性框 圖,其優選地包括元數據段310和數據段350。存儲在每個信息節點 300的元數據段310中的信息描述了文件,并且如所示的,包括文件 類型(例如普通、目錄、虛擬磁盤)312、文件大小314、文件的時 間戳(例如訪問和/或f資改時間)316和文件的所有權,即用戶標識 符(UID 318)和組ID (GID 320 )。然而,每個信息節點的數據段 350的內容可根據類型字段312內定義的文件(信息節點)類型而不 同地解釋。例如,目錄信息節點的數據段350包含文件系統控制的元數據,而普通信息節點的數據段包含文件系統數據。在后一種情況中,數據段350包括與文件相關聯的數據的表示。特定地,普通磁盤上信息節點的數據段350可包括文件系統數據 或指針,后者引用磁盤上用于存儲文件系統數據的4KB的數據塊。優 選地,每個指針是邏輯vbn,以在訪問磁盤上的數據時提高文件系統 和RAID系統240之間的效率。給定信息節點的有限大小(例如128字 節),大小小于或等于64字節的文件系統數據全部表示在該信息節 點的數據段內。然而,如果文件系統數據大于64字節,但小于或等 于64kB,則信息節點(例如第一級信息節點)的數據段包括達16個 指針,每個指針引用磁盤上的4kB的數據塊。而且,如果數據的大小大于64kB但小于或等于64兆字節(MB), 則信息節點(例如第二級信息節點)的數據段350中的每個指針引用 間接塊(例如第一級塊),該間接塊包含達1024個指針,每個指針 引用磁盤上4kB的數據塊。對于具有超過64MB大小的文件系統數據, 信息節點(例如第三級信息節點)的數據段350中的每個指針引用雙 重間接塊(例如第二級塊),該雙重間接塊包括達1024個指針,每 個指針引用一個間接(例如第一級)塊。轉而,間接塊包含1024個 指針,每個指針引用磁盤上的4kB的數據塊。當訪問文件時,文件的 每個塊可從磁盤130裝載到緩沖存儲器170中。當磁盤上信息節點(或塊)從磁盤130裝載到緩沖存儲器170中 時,該磁盤上信息節點(或塊)在核心中的對應結構嵌入了磁盤上 的結構。例如,環繞信息節點300 (圖3)的虛線指出磁盤上信息節 點結構在核心中的表示。核心中的數據結構是存儲器塊,該存儲器 塊存儲了磁盤上數據結構以及需要用來管理存儲器中的數據的附加 信息(但不在磁盤上)。附加信息可例如包括修改標志位360。在信 息節點(或塊)中的數據如所指示的例如由寫操作更新/修改后,使 用修改標志位460將修改的數據標記為臟,使得信息節點(塊)可隨 后"刷新"(存儲)到磁盤。WAFL文件系統的核心中和磁盤上格式 的結構,包括信息節點和信息節點文件,在之前合并的美國專利號 5, 819, 292中開和描述,標題為Method for Maintaining Consistent States of a File System and for Creating User— Accessible Read—Only Copies of a File System, 申請人:為DavidHitz等,于1998年10月6日提交。圖4是可有利地用于本發明的文件緩沖樹的實施例的示意性框 圖。緩沖樹是裝載到緩沖存儲器170中的文件(例如,文件400 )的 塊的內部表示并且由隨處可寫文件系統280維護。根(頂級)信息節 點402,例如嵌入的信息節點,引用間接(例如級別l)塊404。注意, 取決于文件大小,可存在附加級別的間接塊(例如級別2,級別3)。 間接塊(和信息節點)包含最終引用用于存儲文件的實際數據的數 據塊406的指針405。即是,文件400的數據包含在數據塊中,且這些 塊的位置存儲在文件的間接塊中。每個級別1間接塊404可包含指向 多達到1024個數據塊的指針。根據文件系統的"隨處可寫',特性, 這些塊可位于》茲盤130上的任何位置。提供了文件系統布局,該文件系統布局將下層物理巻分配到存儲 系統,例如高速緩存文件管理器120的一個或多個虛擬巻(vvol )中。 這種文件系統布局的一個例子在美國專利申請序列號10/836, 817中 描述,標題為Extension of Write Anywhere File System Layout, 申請人:為John K. Edwards等,且轉讓給Network. Appl iance, Inc。 下層物理巻是包括高速緩存文件管理器的一個或多個磁盤組,例如 RAID組的聚集。聚集具有其自己的物理巻塊號(pvbn)空間并且在 該pvbn空間內維持元數據,例如塊分配結構。每個vvol具有其自己 的虛擬巻塊號(vvbn)空間并且在該vvbn空間內維持元數據,例如 塊分配結構。每個vvol是與容器文件相關聯的文件系統;容器文件 是聚集中的文件,該聚集包含vvol使用的所有塊。而且,每個vvol 包括數據塊和間接塊,該間接塊包含指向其它間接塊或數據塊的塊 指針。在一個實施例中,pvbn用作為存儲在vvol中的文件(例如文件 400 )的緩沖樹內的塊指針。該"混合"vvol實施例涉及在雙親間接 塊(例如信息節點或間接塊)中只插入pvbn。在邏輯巻的讀取路徑 上,"邏輯"巻(vol)信息塊具有一個或多個指針,該指針引用一 個或多個fsinfo塊,每個fsinfo塊轉而指向信息節點文件及其對應 的信息節點緩沖樹。通常,vvol上的讀取路徑是一樣的,跟隨用于 找到塊的適當位置的pvbn (而不是vvbn);在該上下文中,vvol的 讀取路徑(及對應的讀取性能)基本上類似于物理巻。從pvbn到磁盤,dbn的轉換發生在存儲操作系統200的文件系統/RAID系統的邊 界。在一個說明性雙vbn混合("靈活")vvol實施例中,pvbn及其 對應的vvbn插入到文件的緩沖樹的雙親間接塊中。即是,pvbn和vvbn 作為每個塊的一對指針存儲在大多數緩沖樹結構中,該緩沖樹結構 具有指向其它塊,例如級別1(L1)間接塊、信息節點文件級別O(LO) 塊的指針。圖5是可有利地用于本發明的文件500的緩沖樹的說明性 實施例的示意性框圖。根(頂級)信息節點502,例如嵌入的信息節 點,引用間接(例如級別l)塊504。注意,取決于文件的大小可存 在附加級別的間接塊(例如級別2、級別3)。間接塊(和信息節點) 包含最終引用用于存儲文件的實際數據的數據塊506的pvbn/vvbn指 針對結構508。pvbn引用聚集的》茲盤上的位置,而vvbn引用vvol的文件內的位 置。使用pvbn作為間接塊504中的塊指針508,提供了在讀取路徑中 的效率,而使用vvbn塊指針提供了訪問所請求的元數據的效率。即 是,當釋放文件的塊時,文件中的雙親間接塊包含容易得到的vvbn 塊指4十,這避免了與訪問屬主映射(owner map)以執4亍pvbn到vvbn 轉換相關聯的延遲;而且,在讀取路徑上,pvbn是可得到的。如所提到的,每個信息節點在其數據段中具有64個字節,取決于 信息節點文件的大小(例如大于64字節的數據),該64個字節可用 作為指向其它塊的塊指針。對于傳統和混合巻,該64個字節實現為 16個塊指針,即16個(16) 4字節的塊指針。對于說明性的雙vbn靈 活巻,信息節點的64個字節實現為8 (8)對4字節的塊指針,其中每 一對是vvbn/pvbn對。此外,傳統或混合巻的每個間接塊可包含達 1024個(pvbn)指針;然而,雙vbn靈活巻的每個間接塊具有達510 對(pvbn/vvbn )指針。而且, 一個或多個指針508可包含特定ABSENT值以表示該一個或 多個指針引用的一個或多個對象(例如間接塊或數據塊)沒有本地 存儲(例如在高速緩存巻150上),并且因此該對象必須從原始服務 器180的原始巻185獲取(取回)。在說明性實施例中,文件系統280 的Load-Block()函數284解釋了每個指針的內容并且,如果所請求的 塊是ABSENT,則啟動使用例如NRV協議將對數據的適當請求(例如遠程獲取操作)傳輸到原始服務器180。應當注意,高速緩存巻150說明性地實現為靈活vvo1,而原始巻 185可以是靈活vvol或傳統巻,主要是因為使用邏輯文件協議 (NRV)。如所提到的,傳統巻和靈活vvol區別在于它們的間接塊格 式;然而,在網絡高速緩沖系統的情況中,間接塊格式的不同是不 相關的。換句話說,因為在高速緩存巻和原始巻之間沒有物理關系, 原始巻的類型是不相關的。圖6是可有利地用于本發明的聚集600的一個實施例的示意性框 圖。Lun(塊)602、目錄604、 qtree606和文件608可包含在vvo1610 內,例如雙vbn靈活vvol,該vvol轉而包含在聚集600內。說明性地, 聚集600在RAID系統的上層,RAID系統由至少一個RAID plex650表示 (取決于是否鏡像了存儲配置),其中每個plex650包括至少一個 RAID組660。每個RAID組進一步包括多個磁盤630,例如一個或多個 數據(D)磁盤和至少一個(P)奇偶磁盤。聚集600類似于常規存儲系統的物理巻,而vvol類似于該物理巻 內的文件。即是,聚集600可包括一個或多個文件,其中每個文件包 含vvol610且其中vvol所消耗的存儲空間的總和在物理上小于(或等 于)整個物理巻的大小。聚集使用定義了由物理巻的磁盤提供的塊 的存儲空間的物理pvbn空間,而(在文件內的)每個嵌入的vvol使 用邏輯vvbn空間以將那些塊例如組織為文件。每個vvbn空間是對應 于文件內位置的獨立的號的集合,所述位置接著變換成磁盤上的 dbn。因為vvol610也是邏輯巻,因此它在其vvbn空間中具有自己的 塊分配結構(例如活動、空間和摘要映射)。容器文件是聚集中包含vvol使用的所有塊的文件。容器文件是支 持vvol的(對于聚集的)內部特征;說明性地,每個vvol有一個容 器文件。類似于文件通道中的純邏輯巻,容器文件是聚集中的隱藏 文件(用戶不可訪問),該文件含有vvol使用的每個塊。聚集包括 說明性的隱藏元數據根目錄,該根目錄包含vvol的子目錄WAFL/fsid/文件系統文件,存儲標簽文件具體地,對于聚集中的每個vvol,物理文件系統(WAFL)目錄包 括子目錄,子目錄的名稱是vvol的文件系統標識符(fsid)。每個 fsid子目錄(vvol )包含至少兩個文件,文件系統文件和存儲標簽文件。說明性地,存儲標簽文件是包含類似于存儲在常規raid標簽 中的元數據的4kB文件。換句話說,存儲標簽文件是raid標簽的模 擬,并且如所述的,包含關于vvol的狀態的信息,諸如vvol的名稱、 通用唯一標識符(uuid)和vvol的fsid、其是否聯機、被創建或被二 破壞等。圖7是聚集700的磁盤上表示的示意性框圖。存儲操作系統200, 例如RAID系統240,用包括用于聚集的"物理"volinfo塊702的pvbnl 和2來裝配pvbn的物理巻以創建聚集700。 vol inf o塊702包含指向 fsinfo塊704的指針,每個fsinfo塊704可表示聚集的一個快照。每 個fsinfo塊704包括指向節點信息文件706的塊指針,所述節點信息 文件706包含多個文件的信息節點,包括屬主映射710、活動映射 712、摘要映射714和空間映射716,以及其它特定元數據文件。信息 節點文件706進一步包括根目錄720和"隱藏"元數據根目錄730,后 者包括具有相關于vvol的文件的命名空間,其中用戶不能"看見" 文件。隱藏元數據根目錄包括WAFL/fsid/目錄結構,該目錄結構包 含文件系統文件740和存儲標簽文件790。注意,聚集中的根目錄720 是空的;相關于聚集的所有文件組織在隱藏元數據根目錄730內。如果vvol是稀疏巻,對于每個vvol,隱藏元數據根目錄730還包 括稀疏配置元文件("稀疏配置文件"732 )。稀疏配置文件732因 此與稀疏巻關聯并且為此(尤其)標識原始服務器180的主機名和原 始巻185。在稀疏巻的安裝過程中,獲取稀疏配置文件732且將其轉 換為核心中的格式。要注意的是,稀疏配置文件還包括指明稀疏巻 是否是高速緩存巻150的標識符。這些標識符允許高速緩存文件管理新;如這里進^^"描述;:網絡高速緩i系統環境100的高速緩存文 件管理器說明性地執行遠程更新。除了實現為具有組織為容器映射的等級l的塊的容器文件,文件 系統文件740包括塊指針,該塊指針引用實現為vvol750的不同文件 系統。聚集700在專門保留的信息節點號處維護這些vvo1750。每個 vvol750還在其vvol空間內具有專門保留的信息節點號,該信息節點 號尤其用于塊分配位圖結構。如所記錄的,塊分配位圖結構,例如 活動映射762、摘要映射764和空間映射766,位于每個vvol中。具體地,每個vvol750具有和聚集一樣的信息節點文件結構/內 容,不同的只是沒有屬主映射且在隱藏元數據根目錄780中沒有 WAFL/fsid/文件系統文件,存儲標簽文件目錄結構。為此,每個 vvol750具有指向一個或多個fsinfo塊800的volinfo塊752,每個 fsinfo塊800可與vvol的活動文件系統一起表示一個快照。每個 fsinfo塊轉而指向一個信息節點文件760,如所提到的,該信息節點 文件760除了上面所述的不同點外,和聚集有相同的信息節點結構/ 內容。每個vvol750具有其自己的信息節點文件760和具有對應的信 息節點號的不同的信息節點空間,以及其自己的根(fsid)目錄770 和可從其它vvol單獨輸出的文件的子目錄。包含在聚集的隱藏元數據根目錄730內的存儲標簽文件790是功 能類似于常規raid標簽的小文件。raid標簽包括關于存儲系統的物 理信息,例如巻名稱;該信息裝載到存儲標簽文件790中。說明性地, 存儲標簽文件790包括相關聯的vvol750的名稱792、 vvol的聯才幾/脫 機狀態794、及相關聯的vvol的其它身份和狀態信息796 (是否其處 在創建或破壞的過程中)。D.稀發u的巻如所記錄的,高速緩存巻150說明性地實現為稀疏的巻,并且由 此術語"高速緩存巻150"和"稀疏巻150"在下文中可互換使用。由 巻(vvol)的》茲盤上結構的特定標記來標識稀疏巻150,以表示包括 具有缺少塊的文件。圖8是磁盤上結構的示意性框圖,其說明性地為 示例fsinfo塊800。 fsinfo塊800包括持久一致性點^象(PCPI )指針 805的集合、稀疏巻標志字段810、信息節點文件的信息節點815和在 替換的實施例中的附加字段820。 PCPI指針805是指向與文件系統關 聯的PCPI (快照)的雙vbn (vvbn/pvbn)成對指針。稀疏巻標志字 段810標識由fsinfo塊描述的vvol是否為稀疏的。在說明性的實施例 中,在字段810中插入標志以標識巻是稀疏的。稀疏巻標志字段810 可進一步實現為用于標識與fsinfo塊關聯的vvol的類型的類型字 段。信息節點文件的信息節點815包括包含根級指針的信息節點,該 根級指針指向與fsinfo塊關聯的文件系統的信息節點文件760 (圖 7)。用專門的ABSENT值將文件的適當塊指針做標記(標志)以指明,稀疏巻150內的某些塊,包括數據和/或間接塊沒有物理地位于提供 巻的高速緩存文件管理器上。專門的ABSENT值進一步告知文件系 統,數據將從可替換源,即原始服務器180獲得。響應于數據訪問請 求,文件系統280的Load—Block()函數284檢測文件的適當塊指針是 否標記為ABSENT,并且如果是,將遠程NRV獲取(例如讀取)操作信 息從高速緩存文件管理器傳輸到原始服務器以獲取所請求的數據。 說明性地,獲取操作請求在原始巻185上存儲的文件的一個或多個文 件塊號(fbn)。應當注意,雖然根據單個原始巻來撰寫本發明書, 本發明的原理可用于以下環境其中由多個原始巻支持單個稀疏 巻,每個原始巻可支持稀疏巻的全部或其子集。如所述的,本教導 不應當限于單個原始巻。原始服務器180從其存儲設備獲取所請求的數據并且將所請求的 數據返回到高速緩存文件管理器120,該高速緩存文件管理器120處 理數據訪問請求并且將返回的數據存儲在其存儲器124中。隨后,文 件系統280在寫分配過程中將存儲在其存儲器中的數據"刷新"(寫 入)到本地磁盤。這可以響應于數據被標記為"臟,,或向文件系統 表示數據必須被寫分配的其它符號。根據過程的說明性的隨處可寫 策略,文件系統280將指針值(不是ABSENT值)分配到文件的間接塊, 以由此標識本地存儲在高速緩存巻150內的數據位置。因此,不再需 要遠程獲取操作來訪問數據。應當注意,在網絡140上高速緩存文件管理器120和原始服務器 180之間傳輸的所有NRV消息涉及相對于物理磁盤地址的邏輯文件地 址。由此,不需要相對于原始服務器存儲來制定高速緩存文件管理 器存儲的大小。當將所請求的數據提供到高速緩存文件管理器時, 該數據被寫分配并且依從適當的vvbn (和/或pvbn)塊編號。換句話 說,高速緩存巻150的寫分配完全不同于原始巻185上的寫分配。可有利地用于本發明的寫分配過程的一個例子在美國專利申請 序歹'J號10/836, 090中描述,才示題為Extension of Write Anywhere File Layout Write Allocation, 申請人:為John K. Edwards, 該申 請因此被合并以作為參考。概括地敘述,當寫分配vvol內的塊時, 塊分配在靈活vvol和聚集上并行地進行,并且寫分配器282 (圖2) 在聚集中選擇實際的pvbn且在vvol中選擇vvbn。寫分配器調整聚集的塊分配位圖結構,例如活動映射和空間映射,以記錄選擇的pvbn, 并且調整vvol的類似結構,以記錄所選擇的vvbn。 vvol的vvid ( vvol 標識符)和vvbn在由所選擇的pvbn定義的條目處被插入到聚集的屬 主映射710中。所選擇的pvbn還被插入到目標vvol的容器映射(未示 出)中。最后,用指向所分配塊的一個或多個塊指針來更新所分配 塊的間接塊或信息節點文件雙親。更新操作的內容依賴于vvo 1實施 例。對于雙vbn混合vvol實施例,pvbn和vvbn都插入到間接塊或作為 塊指針的信息節點中。E.網絡高速緩存系統操作本發明涉及網絡高速緩存系統100,其具有連接到原始服務器180 的多協議高速緩存文件管理器120,以響應于計算機網絡140上多協 議客戶端110發出的數據訪問請求而提供由文件管理器服務的數據 的存儲虛擬化。多協議高速緩存文件管理器120包括配置為管理稀疏 巻的文件系統280,該文件系統280 "虛擬化"數據的存儲空間,以 由此提供高速緩存功能而使得多協議客戶端可以訪問數據。為此, 高速緩存文件管理器還包括存儲操作系統200的多協議引擎,該引擎配置為將多協議客戶端數據訪問請求變換成由高速緩存文件管理器 和原始服務器180都可執行的通用文件系統原始操作。程900的步驟的流程圖。如這里使用的,數據修改訪問請求涉及修改 高速緩存文件管理器120的高速緩存巻150的任何操作。這種修改操 作的例子包括創建(文件)、設置屬性和寫入操作。過程900開始于 步驟902且進行到步驟904,其中在高速緩存文件管理器120處接收客 戶端寫入請求。在步驟906,多協議引擎的適當協議層將寫入請求轉 換為通用文件系統寫入消息以傳送到文件系統280。在步驟908,文件系統確定文件系統寫入消息是否指向于高速緩 存巻150,即配置為支持遠程更新操作的稀疏巻。說明性地,文件系 統通過檢查fsinfo塊800和稀疏配置文件732來做出該確定。如所提 到的,fsinfo塊800具有稀疏巻標志810,如果聲明了該稀疏巻標志 810,則標識巻為稀疏巻。此外,稀疏配置文件732包含在應用類型 中標識稀疏巻150的標識符,即標識稀疏巻150是否支持數據修改訪 問請求的遠程更新。如果寫入消息不指向高速緩存巻,文件系統將文件系統寫入消息傳遞到文件的常規寫入處理器,以作為原始寫入操作請求進行處理(步驟910)并且該過程在步驟922結束。然而,如果寫入消息指向高速緩存巻150,在步驟912文件系統將 寫入消息轉發到RUE292。在步驟914, RUE292將通用文件系統寫入消 息轉換為遠程更新請求,并且在步驟916,將更新請求發送到泵模塊 298。在說明性的實施例中,泵模塊的泵工作者線程接收請求,接著 為該請求在其它請求中安排優先次序。在步驟918,將遠程更新請求 變換為NRV寫入消息,并且在步驟920,在網絡140上將NRV寫入消息 發送到原始服務器180,以由服務器上的文件系統執行。接著過程在 步驟922結束。圖1 O是根據本發明的實施例的示出用于處理非數據修改訪問請 求的過程1000的步驟的流程圖。如這里使用的,非數據修改訪問請 求涉及不修改高速緩存文件管理器120的高速緩存巻150的任何操 作。非修改操作的一個例子是讀取操作。過程1000在步驟1002開始, 并且進行到步驟1004,其中在高速緩存文件管理器120接收客戶端讀 取請求。在步驟1006,多協議引擎的適當協議層將讀取請求轉換為 通用文件系統讀取消息,以傳送到文件系統280,在步驟1008,該文 件系統280將消息傳遞到文件系統的常規讀取處理器,以作為原始讀取操作請求來處理。在步驟1010,確定所請求的數據是否駐留在高速緩存文件管理器 的本地高速緩存上。說明性地,文件系統通過使用例如 Load-Block() 284函數裝載一個或多個塊且檢查每個塊的塊指針以 確定該塊指針是否標記為ABSENT來做出所述確定。如果塊不是缺少 的,即所請求的數據駐留在本地高速緩存上,在步驟1012文件系統 280服務讀取消息/請求(如前所述)并且過程在步驟1032結束。然而,如果塊是缺少的,即所請求的數據未駐留在本地高速緩存 上,在步驟1014文件系統將讀取消息轉換為發送到泵模塊298的獲取 請求。泵模塊的泵工作者線程接收請求,接著為該請求在其它請求 中安排優先次序。在步驟1016,泵線程維持用于存儲獲取請求的占 位符,直到接收了響應。在步驟1018,泵線程和NRV模塊295協同以 將獲取請求變換為NRV讀取消息,并且在步驟1020,在網絡140上將 NRV讀取消息發送到原始服務器180以由服務器執行。在步驟1022,原始服務器用獲取的數據響應于高速緩存文件管理 器(泵線程),并且在步驟1024,泵線程和文件系統的填充處理器 協同以通過例如使用獲取的數據執行填充操作來服務在泵模塊維持 著占位符的掛起的讀取/獲取請求。在步驟1026,文件系統用所請求 的數據構造回復,并且在步驟1028,將該回復返回到客戶端。隨后 在步驟1030,在文件系統執行寫分配以將獲取的數據存儲在高速緩 存文件管理器的一個或多個本地存儲設備上并且過程在步驟1032結 束。F.高速緩存一致性在本發明的通常網絡高速緩存系統實施例中,多個客戶端110可 耦合到多個高速緩存文件管理器120的每一個,并且客戶端和文件管 理器都可耦合到原始服務器180。因此可能的是,在該通常系統實施 例中,原始巻185可由客戶端和/或高速緩存文件管理器120修改。所 以,需要高速緩存一致性策略以確保由客戶端直接從原始服務器180 或經由高速緩存文件管理器120訪問的數據總是一致的。根據本發 明,用在網絡高速緩存系統100中的高速緩存一致性策略規定了將高 速緩存文件管理器120配置為與原始服務器180相符合,以便在將數 據遞送到客戶端110之前確定該數據是否發生了變化。響應于指向例如文件的特別存儲對象的客戶端數據訪問請求,例 如讀取請求,高速緩存文件管理器120的文件系統280將按需獲取 (FOD)的請求發送到原始服務器180,以請求文件屬性,諸如修改 時間、鏈接數目、創建時間等的最近副本。任何屬性中的變化指明 自從文件最后一次高速緩存在文件管理器中后,該文件被修改過。 由此,高速緩存文件管理器觸發了在其本地高速緩存上存儲的當前 文件的彈出。高速緩存文件管理器接著使用NRV讀取消息生成適當的 獲取操作,以從原始服務器獲取所請求的數據。圖ll是根據本發明的實施例的示出實現高速緩存一致性策略的 過程1100的步驟的流程圖。過程1100在步驟1102開始并且進行到步 驟1104,其中在高速緩存文件管理器接收客戶端數據訪問請求,例 如讀取請求。在步驟1106,將請求轉換為文件系統讀取消息,以傳 送到文件系統280,在步驟1108,文件系統280將消息傳遞到文件系 統的常規讀取處理器,以作為原始讀取操作請求處理。在步驟1110,讀取處理器例如使用Load-Inode () 288函數獲取在讀取請求/消息中 涉及的文件的信息節點。在步驟1112,文件系統還將讀取消息作為FOD請求傳遞到泵模 塊,以從原始服務器獲取信息節點的屬性。在步驟1114,泵線程維 持用于存儲FOD請求的占位符,直到接收了響應。在步驟1116,泵模 塊和NRV模塊協同以將FOD請求變換為NRV讀取消息,并且在步驟 1118,在網絡140上將NRV讀取消息發送到原始服務器180,以由服務 器執行。在步驟1120,原始服務器用屬性響應高速緩存文件管理器 (泵線程),并且在步驟1122,泵線程和文件系統的填充處理器協 同以通過例如使用響應執行填充操作來服務在泵模塊維持著占位符 的掛起讀取/FOD請求。應當注意,不具有數據(即零長度讀取或"驗證")的填充操作 僅攜帶屬性;因此,在步驟1124,填充處理器確定(從原始服務器 接收的)所請求文件的屬性和當前存儲在高速緩存文件管理器上的 該文件的屬性是否不同。對于后者,例如通過檢查存儲在文件的信 息節點300中的訪問和/或修改時間戳316來確定存儲在高速緩存文 件管理器上的文件的屬性狀態。注意,NRV讀取消息的特性是在NRV 響應中返回的任何數據還包括文件的最近屬性。零長度讀取(驗證) 因此等效于不獲取任何數據而取回文件的最近屬性。如果在屬性中沒有區別(屬性沒有變化),填充處理器觸發了信 息節點(文件)屬性已經被驗證(1126)的確認。因此在高速緩存 文件管理器120和原始服務器180之間的NRV交互實質上是"沒有操 作",這在系統中引入了額外的延遲(至少在最簡單的高速緩存一 致性策略中)。在步驟1128,文件系統搜索本地高速緩存以確定客 戶端請求的數據是否存在于高速緩存文件管理器上。如果是,在步 驟1130文件系統服務讀取請求/消息(如前所述)并且過程在步驟 1136結束。然而,如果所請求的數據(或其部分)未駐留在本地高速緩存上 (即數據遺失),在步驟1132文件系統將讀取消息轉換為獲取請求, 該獲取請求最終被發送到原始服務器180以獲得缺少的數據(如前所 述)。注意,來自原始服務器的響應包括遺失數據和文件的最后屬 性。還要注意,如果在屬性中存在不同(如在步驟1124確定的),過程繼續到步驟1132。在步驟1134,確定是否那些屬性發生了變化 (即在高速緩存文件管理器上初次驗證和獲取了遺失數據的時間之 間屬性是否發生了變化)。如果是,過程返回到步驟1132。否則, 過程繼續到步驟1130。要注意,在確定客戶端請求的數據是否存在于高速緩存文件管理 器120上之前驗證所述數據。這是因為,如果數據存在于高速緩存文 件管理器上,即使在驗證和服務數據之間在原始服務器180上發生對 該數據的更新,也不向客戶端發出。在該后一種情況下,那些操作 被認為是"覆蓋操作",并且通過將讀取請求作為首次發生來對待 而將那些操作串行化。還要注意,考慮網絡高速緩存系統部署,其 中多個客戶端訪問多個高速緩存文件管理器和/或原始服務器,則屬 性可以變化。在說明性的實施例中,在網絡高速緩存系統部署上沒有顯式的鎖 定。然而,網絡高速緩存系統依賴的語義是,與寫入操作覆蓋的讀 取操作(即在驗證之前不發生寫入)可在寫入之前返回讀取。換句 話說,驗證響應指明對于文件沒有屬性發生變化并且該文件數據可 從高速緩存文件管理器的高速緩存巻150提供(如果可能)。當隨后 服務來自高速緩存巻的該數據時,高速緩存文件管理器120像讀取操 作發生在寫入操作之前一樣地來操作。清楚地,在高速緩存命中的情況下,網絡高速緩存系統100保持 語義。在部分高速緩存未中的情況下,網絡高速緩存系統100通過有 效地從擦除(scratch)開始來保持語義。對于后者,假設客戶端發 送32kB的讀取請求并且高速緩存文件管理器僅遺失了該請求的4kB 的塊(遺失數據不在高速緩存巻上)。該情況的正常響應是,為高 速緩存文件管理器發送4kB的NRV讀取消息,以填充該遺失數據,并 伴有隱式的驗證(因為每個讀取返回文件屬性)。還假設之前的顯 式驗證指明數據沒有什么變化,但在顯式驗證和發送4kB的NRV讀取 消息之間發生了介入的寫操作。因為在讀取響應中屬性發生了變化 (由伴隨有響應的隱式驗證來表示),高速緩存文件管理器檢測到 該介入的寫入。這轉而使得高速緩存文件管理器120在其高速緩存巻 150上彈出其文件的副本并且使用NRV讀取消息來生成適當的獲取操 作,以從原始服務器180獲取所請求的數據。該情況表示了寫入操作可引起額外的和浪費的讀取操作。根據本發明的一個方面,泵模塊298可用于緩解這種不足。泵模 塊實現流控制并且新的網絡高速緩存系統體系結構提供了另 一種形 式的流控制,該流控制實質上代理了向原始服務器18 0的讀取操作, 而不用經由普通文件系統讀取處理器為它們服務。即是,響應于為 服務客戶端請求而難以將文件的數據裝載到其本地高速緩存中,高 速緩存文件管理器120切換到這樣的模式將指向該文件的讀取操作 傳遞到RUE292 (類似于寫操作)且傳遞到原始服務器180上,而是通 過文件系統280傳遞到讀取處理器。原始服務器接著使用標準的流控 制和原子性機制,以便將單個響應返回到該讀取操作。G. 優先化根據本發明的一個方面,由高速緩存文件管理器執行提前讀取操 作,并且因此當在客戶端請求和推測的提前讀取請求之間存在差異 時,文件管理器實現了優先化。該特征對于網絡高速緩存系統實現 的優點在于,因為它不會"看見"所有的客戶端請求,因此通常當 做出提前讀取的決定時,原始服務器不必具有和高速緩存文件管理 器一樣多的知識。因為高速緩存文件管理器具有在其上執行的多協 議引擎,它可做出與通常由原始服務器做出的相同的提前讀取的決 定,即使在文件管理器和服務器之間存在高速緩存巻。特別地,高 速緩存文件管理器使用和由原始服務器使用的相同的提前讀取引 擎,并且因此像原始服務器一樣生成相同的提前讀取請求。為了請 求的優先化,網絡高速緩存系統實現將請求作為兩個不同的優先級 范圍對待,其中客戶端請求的優先級在推測的提前讀取之上,并且 如果系統是飽和的,則丟棄推測的提前讀取請求。H. 高速緩存彈出如所記錄的,截取器294編碼高速緩存彈出策略,以便當本地高 速緩存(例如高速緩存巻150)變滿時回收存儲空間。在高速緩存文 件管理器120的高速緩存巻150小于在原始服務器180的原始巻185上 存儲的工作區的情況下,頻繁地出現高速緩存彈出決定。當接收客 戶端請求時,高速緩存文件管理器需要釋放巻存儲空間以高速緩存 (存儲)那些請求。在釋放空間時,必須從高速緩存巻150收回一些 數據。在說明性的實施例中,截取器294實現為掃描器,其配置為當需要空間時,(i )在高速緩存巻150內"行走"以掃描存儲在巻上 的文件的緩沖樹和(ii )做出關于應當收回哪些之前被高速緩存的 數據的決定。說明性地,高速緩存彈出策略是貫穿信息節點文件的循環處理, 優點是不需要維持全局的最近最少使用(LRU)的列表。為此,截取 器294以循環法(round robin)方式掃描信息節點文件,例如在信 息節點的起點開始,前進到終點并且接著在該文件的起點重新開 始,且任意地收回其經過的每個完整文件(直到滿足了需要的空閑 空間)。因此,當需要空間時策略隨機地收回文件,但具有特性 在信息節點文件被完全地遍歷之前,相同的文件不會被收回兩次。 如果高速緩存巻是繁忙的,則非常可能的是在任何給定的時間將工 作區的大部分高速緩存。然而,如果錯誤地收回了 "流行"的文件, 在截取器遍歷了整個信息節點文件之前策略將不會再次收回該文 件。圖12是根據本發明的實施例的示出實現高速緩存彈出策略的過 程1200的步驟的流程圖。過程在步驟1202開始,并且進行到步驟 1204,其中截取器初始化到信息節點文件的第一信息節點。在步驟 1206,響應于例如高速緩存巻變為完全填充,截取器被喚醒(調用)。 在步驟1208,截取器"收回,,第一信息節點并且在步驟1210,繼續 收回隨后的信息節點(文件),直到在巻上有足夠的可用存儲空間。 實質上,僅當需要收回高速緩存巻上的存儲空間時,截取器被激活 且掃過信息節點文件。說明性地,通過傳遞緩沖樹到刪除現有塊的 "僵(zombie)"系統來收回信息節點或文件(或更具體地,文件 的信息節點緩沖樹)并且該信息節點接著被在頂級具有"孔"的信 息節點代替。關于這點,孔定義為高速緩存巻上的信息節點文件的 未分配的段(與缺少塊相反,缺少塊是被分配的)。過程接著在步 驟1212結束。對于高速緩存彈出策略的優化是收回(刪除)信息節點的整個 塊,諸如刪除信息節點文件塊中的每個信息節點、釋放信息節點文 件塊和將孔插入在信息節點文件中其位置處(分配新的空白信息節 點文件塊)。在高速緩存巻上的孔(或信息節點文件的未分配段) 依從于原始服務器上的可能實際使信息節點被分配的信息節點文件塊。在該后一種情況下,當客戶端請求訪問特別的文件時,高速緩存文件管理器僅分配信息節點文件塊;在分配信息節點文件塊時, 高速緩存文件管理器啟動獲取以獲得文件內容。該特定于高速緩存 的格式使得能夠使用文件系統默認策略,以在信息節點文件中用新 的未分配信息節點來填充孔。在說明性的實施例中,存在兩個用于激活截取器294的觸發器。 一個觸發器在填充時間(其中術語"填充"表示當在高速緩存文件 管理器從原始接收響應時采取的動作)發生。在填充時間,期望將 任何返回的數據插入到其文件的緩沖樹中;但如果沒有足夠的物理 磁盤空間容納該數據,通過文件系統中的空間統計來觸發截取器。 說明性地,檢查聚集中的空閑塊的數目并且基于低-高水線標志(例 如85%-95%),確定觸發截取器是適當的。截取器的另一個觸發器是在文件系統一致性點(CP)時刻。因為 高速緩存巻是靈活的vvol,它們可和傳統巻共存于相同的聚集上。 當傳統(或虛擬)巻擴展而消耗更多的磁盤空間時,在高速緩存巻 上觸發截取以限制其磁盤空間的消耗。在CP時間(例如每10秒或CP 頻繁發生)測試磁盤空間的量(聚集中的自由物理空間)。這里, 寫分配器282發信號通知截取器294重新啟動并且釋放聚集的存儲空 間,直到可用空間落入低于設立的低水線標志。I.結論有利地,本發明虛擬化多協議高速緩存文件管理器的存儲空間, 使得能夠讓客戶端對網絡高速緩存系統服務的數據快且有效地訪 問。不像之前的高速緩存系統,該系統需要顯式的文件的句柄到對 象的存儲轉換,新的多協議高速緩存文件管理器使得客戶端能夠通 過使用文件系統且特別地使用由文件系統組織的存儲對象(文件) 的實際名稱而有效地訪問由網絡高速緩存系統服務的數據。而且, 文件系統與高速緩存文件管理器的稀疏的巻協同,以便提供以對多 協議客戶端透明的方式對所提供數據的存儲空間虛擬化。盡管已經示出和描述了網絡高速緩存系統的說明性實施例,所述 網絡高速緩存系統具有耦合到原始服務器的多協議高速緩存文件管 理器,以響應于計算機網絡上多協議客戶端發出的數據訪問請求而 提供由文件管理器服務的數據的存儲虛擬化,應當理解,可在本發明的精神和范圍內做出各種其它適應和修改。例如,在本發明的可替換實施例中,需求生成器296可用于系統地獲取沒有本地存儲在磁 盤上的數據塊,以用于預填充高速緩存巻。注意,在高速緩存部署 中使用比原始巻185小很多的高速緩存巻150 (例如以提供相對于完 全復制的優點)是常見的。所以,更小的高速緩存巻的預填充需要 專門的需求生成器,該需求生成器配置為提供關于應當駐留在本地 高速緩存的數據的智能決定,因為不是所有的原始數據都適合高速 緩存。前面的說明已經針對了本發明的特定實施例。然而明顯的是,可 對描述的實施例做出其它變化和修改,而具有所述實施例的一些或 全部優點。例如,明顯可預期的是,本發明的教導可實現為軟件, 包括具有在計算機上執行的程序指令的計算機可讀介質、硬件、固 件或其組合。因此,僅是通過舉例的方式給出了本說明書并且其并 不限制本發明的范圍。因此,所附權利要求的目標是覆蓋落入本發 明的真實精神和范圍的所有這種變化和修改。
            權利要求
            1.一種網絡高速緩存系統,包括原始服務器;和耦合到原始服務器的高速緩存文件管理器,該高速緩存文件管理器具有配置為管理稀疏卷的文件系統,該文件系統虛擬化數據的存儲空間以由此響應于多協議客戶端發出的數據訪問請求而提供由文件管理器服務的數據的存儲虛擬化。
            2. 權利要求l所述的網絡高速緩存系統,還包括高速緩存文件管 理器的多協議引擎,該多協議引擎配置為將多協議客戶端發出的多 協議數據訪問請求變換為可由高速緩存文件管理器和原始服務器都 執行的文件系統操作。
            3. 權利要求2所述的網絡高速緩存系統,還包括高速緩存文件管 理器的本地高速緩存,該本地高速緩存包括適于服務由一個或多個 客戶端從一個或多個存儲對象請求的數據的稀疏巻,所述存儲對象具有至少一個表示從稀疏巻中遺失的數據的缺少塊,其中缺少塊的 遺失數據存儲在原始服務器上并且以對客戶端透明的方式使用遠程 獲取操作來取得。
            4. 權利要求3所述的網絡高速緩存系統,其中存儲對象是文件和 邏輯單元號之一。
            5. 權利要求3所述的網絡高速緩存系統,其中稀疏巻是包括耦合 到高速緩存文件管理器的一個或多個磁盤的高速緩存巻。
            6. 權利要求5所述的網絡高速緩存系統,還包括高速緩存文件管 理器的遠程更新引擎(RUE),該RUE配置為將修改高速緩存巻的任 何文件系統操作轉發到原始服務器。
            7. 權利要求6所述的網絡高速緩存系統,還包括高速緩存文件管 理器的截取器,該截取器配置為實現高速緩存彈出策略以在高速緩 存巻變滿時回收存儲空間。
            8. —種用于操作網絡高速緩存系統的方法,包括 接收指向所述系統的高速緩存文件管理器上的存儲對象的數據訪問請求;確定數據訪問請求是否修改在高速緩存文件管理器的高速緩存 巻上存儲的數據;如果是,將所述數據訪問請求從高速緩存文件管理器傳送到所述系統的原始服務器;和在原始服務器處理所述數據訪問請求。
            9. 權利要求8所述的方法,還包括如果所述數據訪問請求沒有修改高速緩存巻上存儲的數據,將該 請求傳遞到高速緩存文件管理器的文件系統中;確定所述請求所請求的數據是否駐留在高速緩存文件管理器的 本地高速緩存上;如果未駐留,在高速緩存文件管理器上生成一個或多個獲取操作 以從原始服務器取得所請求的數據;和在從原始服務器接收響應時,將獲取的數據存儲在高速緩存文件 管理器的本地高速緩存中。
            10. 權利要求9所述的方法,還包括如果所請求的數據駐留在高速緩存文件管理器的本地高速緩存 上,在高速緩存文件管理器服務所述請求。
            11. 一種用于操作網絡高速緩存系統的方法,包括 接收指向所述系統的高速緩存文件管理器上的存儲對象的數據訪問請求;從高速緩存文件管理器向所述系統的原始服務器發送按需獲取 (F0D)的請求,該FOD請求對存儲對象的屬性的最近副本進行請求;確定自從存儲對象在高速緩存文件管理器上高速緩存后,是否發 生了任何屬性的變化;和如果是,觸發在高速緩存文件管理器的本地高速緩存上存儲的存 儲對象的彈出。
            12. 權利要求ll所述的方法,其中存儲對象是文件和邏輯單元號 之一。
            13. 權利要求ll所述的方法,其中屬性包括存儲對象的修改時間 和存儲對象的創建時間。
            14. 權利要求13所述的方法,其中任何屬性中發生的變化表明存 儲對象自從在高速緩存文件管理器上高速緩存后已經修改過。
            15. 權利要求ll所述的方法,還包括在高速緩存文件管理器上生成一個或多個獲取操作,以從原始服務器取得所請求的數據。
            16. 權利要求15所述的方法,其中每個獲取操作實現為NRV讀取 消息。
            17. 用于操作網絡高速緩存系統的設備,包括 用于接收指向所述系統的高速緩存文件管理器上的存儲對象的數據訪問請求的裝置;用于確定數據訪問請求是否修改在高速緩存文件管理器的高速 緩存巻上存儲的數據的裝置;如果是,用于將所述數據訪問請求從高速緩存文件管理器傳送到 所述系統的原始服務器的裝置;和用于在原始服務器處理所述數據訪問請求的裝置。
            18. 權利要求17所述的設備,還包括如果所述數據訪問請求沒有修改高速緩存巻上存儲的數據,用于 將該請求傳遞到高速緩存文件管理器的文件系統中的裝置;用于確定所述請求所請求的數據是否駐留在高速緩存文件管理 器的本地高速緩存上的裝置;如果未駐留,用于在高速緩存文件管理器上生成一個或多個獲取 操作以從原始服務器取得所請求的數據的裝置;和在從原始服務器接收響應時,用于將獲取的數據存儲在高速緩存 文件管理器的本地高速緩存中的裝置。
            19. 一種包含操作網絡高速緩存系統的可執行程序指令的計算機 可讀介質,該可執行指令包括一個或多個程序指令,用于接收指向所述系統的高速緩存文件管理器上的存儲對象的數據 訪問請求;確定數據訪問請求是否修改在高速緩存文件管理器的高速緩存 巻上存儲的數據;如果是,將所述數據訪問請求從高速緩存文件管理器傳送到所述 系統的原始服務器;和在原始服務器處理所述數據訪問請求。
            20. 權利要求19所述的計算機可讀介質,還包括一個或多個程序 指令,用于如果所述數據訪問請求沒有修改高速緩存巻上存儲的數據,將該請求傳遞到高速緩存文件管理器的文件系統中;確定所述請求所請求的數據是否駐留在高速緩存文件管理器的 本地高速緩存上;如果未駐留,在高速緩存文件管理器上生成一個或多個獲取操作 以從原始服務器取得所請求的數據;和在從原始服務器接收響應時,將獲取的數據存儲在高速緩存文件 管理器的本地高速緩存中。
            全文摘要
            一種網絡高速緩存系統,具有連接到原始服務器的多協議高速緩存文件管理器,以提供文件管理器響應于計算機網絡上多協議客戶端發出的數據訪問請求而提供的數據的存儲虛擬化。多協議高速緩存文件管理器包括配置為管理稀疏卷的文件系統,該文件系統虛擬化數據的存儲空間以由此提供使得能夠由多協議客戶端訪問數據的高速緩存功能。為此,高速緩存文件管理器還包括多協議引擎,該多協議引擎配置為將多協議客戶端數據訪問請求轉換為可由高速緩存文件管理器和原始服務器都可執行的通用文件系統原始操作。
            文檔編號G06F17/30GK101228523SQ200680022927
            公開日2008年7月23日 申請日期2006年4月24日 優先權日2005年4月25日
            發明者B·M·夸里安, J·A·蘭戈, K·艾亞爾, M·B·阿姆杜, P·C·伊斯塔姆, P·格里伊斯, Q·鄭, R·L·Y·蔡, R·M·恩格里斯 申請人:網絡裝置公司
            網友詢問留言 已有0條留言
            • 還沒有人留言評論。精彩留言會獲得點贊!
            1
            婷婷六月激情在线综合激情,亚洲国产大片,久久中文字幕综合婷婷,精品久久久久久中文字幕,亚洲一区二区三区高清不卡,99国产精品热久久久久久夜夜嗨 ,欧美日韩亚洲综合在线一区二区,99国产精品电影,伊人精品线视天天综合,精品伊人久久久大香线蕉欧美
            亚洲精品1区 国产成人一级 91精品国产欧美一区二区 亚洲精品乱码久久久久久下载 国产精品久久久久久久伊一 九色国产 国产精品九九视频 伊人久久成人爱综合网 欧美日韩亚洲区久久综合 欧美日本一道免费一区三区 夜夜爽一区二区三区精品 欧美日韩高清一区二区三区 国产成人av在线 国产精品对白交换绿帽视频 国产视频亚洲 国产在线欧美精品 国产精品综合网 国产日韩精品欧美一区色 国产日韩精品欧美一区喷 欧美日韩在线观看区一二 国产区精品 欧美视频日韩视频 中文字幕天天躁日日躁狠狠躁97 视频一二三区 欧美高清在线精品一区二区不卡 国产精品揄拍一区二区久久 99久久综合狠狠综合久久aⅴ 亚洲乱码视频在线观看 日韩在线第二页 亚洲精品无码专区在线播放 成人亚洲网站www在线观看 欧美三级一区二区 99久久精品免费看国产高清 91麻豆国产在线观看 最新日韩欧美不卡一二三区 成人在线观看不卡 日韩国产在线 在线亚洲精品 亚洲午夜久久久久中文字幕 国产精品成人久久久久久久 精品国产一区二区在线观看 欧美精品国产一区二区三区 中文在线播放 亚洲第一页在线视频 国产午夜精品福利久久 九色国产 精品国产九九 国产永久视频 久久精品人人做人人综合试看 国产一区二区三区免费观看 亚洲精品国产电影 9999热视频 国产精品资源在线 麻豆久久婷婷国产综合五月 国产精品免费一级在线观看 亚洲国产一区二区三区青草影视 中文在线播放 国产成人综合在线 国产在线观看色 国产亚洲三级 国产片一区二区三区 久久99精品久久久久久牛牛影视 亚洲欧美日韩国产 四虎永久免费网站 国产一毛片 国产精品视频在 九九热在线精品 99精品福利视频 色婷婷色99国产综合精品 97成人精品视频在线播放 精品久久久久久中文字幕 亚洲欧美一区二区三区孕妇 亚洲欧美成人网 日韩高清在线二区 国产尤物在线观看 在线不卡一区二区 91网站在线看 韩国精品福利一区二区 欧美日韩国产成人精品 99热精品久久 国产精品免费视频一区 高清视频一区 精品九九久久 欧美日韩在线观看免费 91欧美激情一区二区三区成人 99福利视频 亚洲国产精品91 久热国产在线 精品久久久久久中文字幕女 国产精品久久久久久久久99热 成人自拍视频网 国产精品视频久久久久久 久久影院国产 国产玖玖在线观看 99精品在线免费 亚洲欧美一区二区三区导航 久久久久久久综合 国产欧美日韩精品高清二区综合区 国产精品视频自拍 亚洲一级片免费 久久久久久九九 国产欧美自拍视频 视频一区二区在线观看 欧美日韩一区二区三区久久 中文在线亚洲 伊人热人久久中文字幕 日韩欧美亚洲国产一区二区三区 欧美亚洲国产成人高清在线 欧美日韩国产码高清综合人成 国产性大片免费播放网站 亚洲午夜综合网 91精品久久一区二区三区 国产无套在线播放 国产精品视频网站 国产成人亚洲精品老王 91在线网站 国产视频97 欧美黑人欧美精品刺激 国产一区二区三区免费在线视频 久久久国产精品免费看 99re6久精品国产首页 久久精品91 国产成人一级 国产成人精品曰本亚洲 日本福利在线观看 伊人成综合网 久久综合一本 国产综合久久久久久 久久精品成人免费看 久久福利 91精品国产91久久久久久麻豆 亚洲精品成人在线 亚洲伊人久久精品 欧美日本二区 国产永久视频 国产一区二 一区二区福利 国产一毛片 亚洲精品1区 毛片一区二区三区 伊人久久大香线蕉综合影 国产欧美在线观看一区 亚洲国产欧洲综合997久久 国产一区二区免费视频 国产91精品对白露脸全集观看 久久亚洲国产伦理 欧美成人伊人久久综合网 亚洲性久久久影院 久久99国产精一区二区三区! 91精品国产欧美一区二区 欧美日韩亚洲区久久综合 日韩精品一二三区 久久久夜色精品国产噜噜 国产在线精品福利91香蕉 久久久久久久亚洲精品 97se色综合一区二区二区 91国语精品自产拍在线观看性色 91久久国产综合精品女同我 日韩中文字幕a 国产成人亚洲日本精品 久久国产精品-国产精品 久久国产经典视频 久久国产精品伦理 亚洲第一页在线视频 国产精品久久久久三级 日韩毛片网 久久免费高清视频 麻豆国产在线观看一区二区 91麻豆国产福利在线观看 国产成人精品男人的天堂538 一区二区三区中文字幕 免费在线视频一区 欧美日韩国产成人精品 国产综合网站 国产资源免费观看 亚洲精品亚洲人成在线播放 精品久久久久久中文字幕专区 亚洲人成人毛片无遮挡 国产一起色一起爱 国产香蕉精品视频在 九九热免费观看 日韩亚洲欧美一区 九九热精品在线观看 精品久久久久久中文字幕专区 亚洲欧美自拍偷拍 国产精品每日更新 久久久久国产一级毛片高清板 久久天天躁狠狠躁夜夜中文字幕 久久精品片 日韩在线毛片 国产成人精品本亚洲 国产成人精品一区二区三区 九九热在线观看 国产r级在线观看 国产欧美日韩精品高清二区综合区 韩国电影一区二区 国产精品毛片va一区二区三区 五月婷婷伊人网 久久一区二区三区免费 一本色道久久综合狠狠躁篇 亚洲综合色站 国产尤物在线观看 亚洲一区亚洲二区 免费在线视频一区 欧洲精品视频在线观看 日韩中文字幕a 中文字幕日本在线mv视频精品 91精品在线免费视频 精品国产免费人成在线观看 精品a级片 中文字幕日本在线mv视频精品 日韩在线精品视频 婷婷丁香色 91精品国产高清久久久久 国产成人精品日本亚洲直接 五月综合视频 欧美日韩在线亚洲国产人 精液呈暗黄色 亚洲乱码一区 久久精品中文字幕不卡一二区 亚洲天堂精品在线 激情婷婷综合 国产免费久久精品久久久 国产精品亚洲二区在线 久久免费播放视频 五月婷婷丁香综合 在线亚洲欧美日韩 久久免费精品高清麻豆 精品久久久久久中文字幕 亚洲一区网站 国产精品福利社 日韩中文字幕免费 亚洲综合丝袜 91精品在线播放 国产精品18 亚洲日日夜夜 伊人久久大香线蕉综合影 亚洲精品中文字幕乱码影院 亚洲一区二区黄色 亚洲第一页在线视频 一区二区在线观看视频 国产成人福利精品视频 亚洲高清二区 国内成人免费视频 精品亚洲性xxx久久久 国产精品合集一区二区三区 97av免费视频 国产一起色一起爱 国产区久久 国产资源免费观看 99精品视频免费 国产成人一级 国产精品九九免费视频 欧美91精品久久久久网免费 99热国产免费 久久精品色 98精品国产综合久久 久久精品播放 中文字幕视频免费 国产欧美日韩一区二区三区在线 精品久久蜜桃 国产小视频精品 一本色道久久综合狠狠躁篇 91在线免费观看 亚洲精品区 伊人成综合网 伊人热人久久中文字幕 伊人黄色片 99国产精品热久久久久久夜夜嗨 久久免费精品视频 亚洲一区二区三区高清不卡 久久久久国产一级毛片高清板 国产片一区二区三区 久久狠狠干 99久久婷婷国产综合精品电影 国产99区 国产精品成人久久久久 久久狠狠干 青青国产在线观看 亚洲高清国产拍精品影院 国产精品一区二区av 九九热在线免费视频 伊人久久国产 国产精品久久久久久久久久一区 在线观看免费视频一区 国产精品自在在线午夜区app 国产精品综合色区在线观看 国产毛片久久久久久国产毛片 97国产免费全部免费观看 国产精品每日更新 国产尤物视频在线 九九视频这里只有精品99 一本一道久久a久久精品综合 久久综合给会久久狠狠狠 国产成人精品男人的天堂538 欧美一区二区高清 毛片一区二区三区 国产欧美日韩在线观看一区二区三区 在线国产二区 欧美不卡网 91在线精品中文字幕 在线国产福利 国内精品91久久久久 91亚洲福利 日韩欧美国产中文字幕 91久久精品国产性色也91久久 亚洲性久久久影院 欧美精品1区 国产热re99久久6国产精品 九九热免费观看 国产精品欧美日韩 久久久久国产一级毛片高清板 久久国产经典视频 日韩欧美亚洲国产一区二区三区 欧美亚洲综合另类在线观看 国产精品自在在线午夜区app 97中文字幕在线观看 视频一二三区 精品国产一区在线观看 国产欧美日韩在线一区二区不卡 欧美一区二三区 伊人成人在线观看 国内精品91久久久久 97在线亚洲 国产在线不卡一区 久久久全免费全集一级全黄片 国产精品v欧美精品∨日韩 亚洲毛片网站 在线不卡一区二区 99re热在线视频 久久激情网 国产毛片一区二区三区精品 久久亚洲综合色 中文字幕视频免费 国产视频亚洲 婷婷伊人久久 国产一区二区免费播放 久久99国产精品成人欧美 99国产在线视频 国产成人免费视频精品一区二区 国产不卡一区二区三区免费视 国产码欧美日韩高清综合一区 久久精品国产主播一区二区 国产一区电影 久久精品国产夜色 国产精品国产三级国产 日韩一区二区三区在线 久久97久久97精品免视看 久久国产免费一区二区三区 伊人久久大香线蕉综合电影网 99re6久精品国产首页 久久激情网 亚洲成人高清在线 国产精品网址 国产成人精品男人的天堂538 香蕉国产综合久久猫咪 国产专区中文字幕 91麻豆精品国产高清在线 久久国产经典视频 国产精品成人va在线观看 国产精品爱啪在线线免费观看 日本精品久久久久久久久免费 亚洲综合一区二区三区 久久五月网 精品国产网红福利在线观看 久久综合亚洲伊人色 亚洲国产精品久久久久久网站 在线日韩国产 99国产精品热久久久久久夜夜嗨 国产综合精品在线 国产区福利 精品亚洲综合久久中文字幕 国产制服丝袜在线 毛片在线播放网站 在线观看免费视频一区 国产精品久久久精品三级 亚洲国产电影在线观看 最新日韩欧美不卡一二三区 狠狠综合久久综合鬼色 日本精品1在线区 国产日韩一区二区三区在线播放 欧美日韩精品在线播放 亚洲欧美日韩国产一区二区三区精品 久久综合久久网 婷婷六月激情在线综合激情 亚洲乱码一区 国产专区91 97av视频在线观看 精品久久久久久中文字幕 久久五月视频 国产成人福利精品视频 国产精品网址 中文字幕视频在线 精品一区二区三区免费视频 伊人手机在线视频 亚洲精品中文字幕乱码 国产在线视频www色 色噜噜国产精品视频一区二区 精品亚洲成a人在线观看 国产香蕉尹人综合在线 成人免费一区二区三区在线观看 国产不卡一区二区三区免费视 欧美精品久久天天躁 国产专区中文字幕 久久精品国产免费中文 久久精品国产免费一区 久久无码精品一区二区三区 国产欧美另类久久久精品免费 欧美精品久久天天躁 亚洲精品在线视频 国产视频91在线 91精品福利一区二区三区野战 日韩中文字幕免费 国产精品99一区二区三区 欧美成人高清性色生活 国产精品系列在线观看 亚洲国产福利精品一区二区 国产成人在线小视频 国产精品久久久久免费 99re热在线视频 久久久久久久综合 一区二区国产在线播放 成人国产在线视频 亚洲精品乱码久久久久 欧美日韩一区二区综合 精品久久久久免费极品大片 中文字幕视频二区 激情粉嫩精品国产尤物 国产成人精品一区二区视频 久久精品中文字幕首页 亚洲高清在线 国产精品亚洲一区二区三区 伊人久久艹 中文在线亚洲 国产精品一区二区在线播放 国产精品九九免费视频 亚洲二区在线播放 亚洲狠狠婷婷综合久久久久网站 亚洲欧美日韩网站 日韩成人精品 亚洲国产一区二区三区青草影视 91精品国产福利在线观看 国产精品久久久久久久久99热 国产一区二区精品尤物 久碰香蕉精品视频在线观看 亚洲日日夜夜 在线不卡一区二区 国产午夜亚洲精品 九九热在线视频观看这里只有精品 伊人手机在线视频 91免费国产精品 日韩欧美中字 91精品国产91久久久久 国产全黄三级播放 视频一区二区三区免费观看 国产开裆丝袜高跟在线观看 国产成人欧美 激情综合丝袜美女一区二区 国产成人亚洲综合无 欧美精品一区二区三区免费观看 欧美亚洲国产日韩 日韩亚州 国产欧美日韩精品高清二区综合区 亚洲午夜国产片在线观看 精品久久久久久中文字幕 欧美精品1区 久久伊人久久亚洲综合 亚洲欧美日韩精品 国产成人精品久久亚洲高清不卡 久久福利影视 国产精品99精品久久免费 久久久久免费精品视频 国产日产亚洲精品 亚洲国产午夜电影在线入口 精品无码一区在线观看 午夜国产精品视频 亚洲一级片免费 伊人久久大香线蕉综合影 国产精品久久影院 久碰香蕉精品视频在线观看 www.欧美精品 在线小视频国产 亚洲国产天堂久久综合图区 欧美一区二区三区不卡 日韩美女福利视频 九九精品免视频国产成人 不卡国产00高中生在线视频 亚洲第一页在线视频 欧美日韩在线播放成人 99re视频这里只有精品 国产精品91在线 精品乱码一区二区三区在线 国产区久久 91麻豆精品国产自产在线观看一区 日韩精品成人在线 九九热在线观看 国产精品久久不卡日韩美女 欧美一区二区三区综合色视频 欧美精品免费一区欧美久久优播 国产精品网址 国产专区中文字幕 国产精品欧美亚洲韩国日本久久 日韩美香港a一级毛片 久久精品123 欧美一区二区三区免费看 99r在线视频 亚洲精品国产字幕久久vr 国产综合激情在线亚洲第一页 91免费国产精品 日韩免费小视频 亚洲国产精品综合一区在线 国产亚洲第一伦理第一区 在线亚洲精品 国产精品一区二区制服丝袜 国产在线成人精品 九九精品免视频国产成人 亚洲国产网 欧美日韩亚洲一区二区三区在线观看 在线亚洲精品 欧美一区二区三区高清视频 国产成人精品男人的天堂538 欧美日韩在线观看区一二 亚洲欧美一区二区久久 久久精品中文字幕首页 日本高清www午夜视频 久久精品国产免费 久久999精品 亚洲国产精品欧美综合 88国产精品视频一区二区三区 91久久偷偷做嫩草影院免费看 国产精品夜色视频一区二区 欧美日韩导航 国产成人啪精品午夜在线播放 一区二区视频在线免费观看 99久久精品国产自免费 精液呈暗黄色 久久99国产精品 日本精品久久久久久久久免费 精品国产97在线观看 99re视频这里只有精品 国产视频91在线 999av视频 亚洲美女视频一区二区三区 久久97久久97精品免视看 亚洲国产成人久久三区 99久久亚洲国产高清观看 日韩毛片在线视频 综合激情在线 91福利一区二区在线观看 一区二区视频在线免费观看 激情粉嫩精品国产尤物 国产成人精品曰本亚洲78 国产成人精品本亚洲 国产精品成人免费视频 国产成人啪精品视频免费软件 久久精品国产亚洲妲己影院 国产精品成人久久久久久久 久久大香线蕉综合爱 欧美一区二区三区高清视频 99热国产免费 在线观看欧美国产 91精品视频在线播放 国产精品福利社 欧美精品一区二区三区免费观看 国产一区二区免费视频 国产午夜精品一区二区 精品视频在线观看97 91精品福利久久久 国产一区福利 国产综合激情在线亚洲第一页 国产精品久久久久久久久久久不卡 九色国产 在线日韩国产 黄网在线观看 亚洲一区小说区中文字幕 中文字幕丝袜 日本二区在线观看 日本国产一区在线观看 欧美日韩一区二区三区久久 欧美精品亚洲精品日韩专 国产日产亚洲精品 久久综合九色综合欧美播 亚洲国产欧美无圣光一区 欧美视频区 亚洲乱码视频在线观看 久久无码精品一区二区三区 九九热精品免费视频 久久99精品久久久久久牛牛影视 国产精品成久久久久三级 国产一区福利 午夜国产精品视频 日本二区在线观看 99久久网站 国产亚洲天堂 精品国产一区二区三区不卡 亚洲国产日韩在线一区 国产成人综合在线观看网站 久久免费高清视频 欧美在线导航 午夜精品久久久久久99热7777 欧美久久综合网 国产小视频精品 国产尤物在线观看 亚洲国产精品综合一区在线 欧美一区二区三区不卡视频 欧美黑人欧美精品刺激 日本福利在线观看 久久国产偷 国产手机精品一区二区 国产热re99久久6国产精品 国产高清啪啪 欧美亚洲国产成人高清在线 国产在线第三页 亚洲综合一区二区三区 99r在线视频 99精品久久久久久久婷婷 国产精品乱码免费一区二区 国产在线精品福利91香蕉 国产尤物视频在线 五月婷婷亚洲 中文字幕久久综合伊人 亚洲精品一级毛片 99国产精品电影 在线视频第一页 久久99国产精品成人欧美 国产白白视频在线观看2 成人精品一区二区www 亚洲成人网在线观看 麻豆91在线视频 色综合合久久天天综合绕视看 久久精品国产免费高清 国产不卡一区二区三区免费视 欧美国产中文 99精品欧美 九九在线精品 国产中文字幕在线免费观看 国产一区中文字幕在线观看 国产成人一级 国产精品一区二区制服丝袜 国产一起色一起爱 亚洲精品成人在线 亚洲欧美精品在线 国产欧美自拍视频 99精品久久久久久久婷婷 久99视频 国产热re99久久6国产精品 视频一区亚洲 国产精品视频分类 国产精品成在线观看 99re6久精品国产首页 亚洲在成人网在线看 亚洲国产日韩在线一区 久久国产三级 日韩国产欧美 欧美在线一区二区三区 国产精品美女一级在线观看 成人午夜免费福利视频 亚洲天堂精品在线 91精品国产手机 欧美日韩视频在线播放 狠狠综合久久综合鬼色 九一色视频 青青视频国产 亚洲欧美自拍一区 中文字幕天天躁日日躁狠狠躁97 日韩免费大片 996热视频 伊人成综合网 亚洲天堂欧美 日韩精品亚洲人成在线观看 久久综合给会久久狠狠狠 日韩精品亚洲人成在线观看 日韩国产欧美 亚洲成aⅴ人片在线影院八 亚洲精品1区 99久久精品免费 国产精品高清在线观看 国产精品久久久免费视频 在线亚洲欧美日韩 91在线看视频 国产精品96久久久久久久 欧美日韩国产成人精品 91在线亚洲 热久久亚洲 国产精品美女免费视频观看 日韩在线毛片 亚洲永久免费视频 九九免费在线视频 亚洲一区网站 日本高清二区视频久二区 精品国产美女福利在线 伊人久久艹 国产精品久久久久三级 欧美成人精品第一区二区三区 99久久精品国产自免费 在线观看日韩一区 国产中文字幕一区 成人免费午夜视频 欧美日韩另类在线 久久99国产精品成人欧美 色婷婷中文网 久久天天躁夜夜躁狠狠躁2020 欧美成人伊人久久综合网 国产精品福利资源在线 国产伦精品一区二区三区高清 国产精品亚洲综合色区韩国 亚洲一区欧美日韩 色综合视频 国语自产精品视频在线区 国产高清a 成人国内精品久久久久影 国产在线精品香蕉综合网一区 国产不卡在线看 国产成人精品精品欧美 国产欧美日韩综合精品一区二区三区 韩国电影一区二区 国产在线视频www色 91中文字幕在线一区 国产人成午夜免视频网站 亚洲综合一区二区三区 色综合视频一区二区观看 久久五月网 九九热精品在线观看 国产一区二区三区国产精品 99久热re在线精品996热视频 亚洲国产网 在线视频亚洲一区 日韩字幕一中文在线综合 国产高清一级毛片在线不卡 精品国产色在线 国产高清视频一区二区 精品日本久久久久久久久久 亚洲国产午夜精品乱码 成人免费国产gav视频在线 日韩欧美一区二区在线观看 欧美曰批人成在线观看 韩国电影一区二区 99re这里只有精品6 日韩精品一区二区三区视频 99re6久精品国产首页 亚洲欧美一区二区三区导航 欧美色图一区二区三区 午夜精品视频在线观看 欧美激情在线观看一区二区三区 亚洲热在线 成人国产精品一区二区网站 亚洲一级毛片在线播放 亚洲一区小说区中文字幕 亚洲午夜久久久久影院 国产自产v一区二区三区c 国产精品视频免费 久久调教视频 国产成人91激情在线播放 国产精品欧美亚洲韩国日本久久 久久亚洲日本不卡一区二区 91中文字幕网 成人国产在线视频 国产视频91在线 欧美成人精品第一区二区三区 国产精品福利在线 久久综合九色综合精品 欧美一区二区三区精品 久久国产综合尤物免费观看 久久99青青久久99久久 日韩精品免费 久久国产精品999 91亚洲视频在线观看 国产精品igao视频 色综合区 在线亚洲欧国产精品专区 国产一区二区三区在线观看视频 亚洲精品成人在线 一区二区国产在线播放 中文在线亚洲 亚洲精品第一国产综合野 国产一区二区精品久久 一区二区三区四区精品视频 99热精品久久 中文字幕视频二区 国产成人精品男人的天堂538 99精品影视 美女福利视频一区二区 久久午夜夜伦伦鲁鲁片 综合久久久久久久综合网 国产精品国产欧美综合一区 国产99视频在线观看 国产亚洲女在线精品 婷婷影院在线综合免费视频 国产亚洲3p一区二区三区 91成人爽a毛片一区二区 亚洲一区二区高清 国产欧美亚洲精品第二区首页 欧美日韩导航 亚洲高清二区 欧美激情观看一区二区久久 日韩毛片在线播放 亚洲欧美日韩高清中文在线 亚洲日本在线播放 国产精品一区二区制服丝袜 精品国产一区二区三区不卡 国产不卡在线看 国产欧美网站 四虎永久在线观看视频精品 国产黄色片在线观看 夜夜综合 一本色道久久综合狠狠躁篇 欧美亚洲综合另类在线观看 国产91在线看 伊人久久国产 欧美一区二区在线观看免费网站 国产精品久久久久三级 久久福利 日韩中文字幕a 亚洲午夜久久久久影院 91在线高清视频 国产亚洲一区二区三区啪 久久人精品 国产精品亚洲午夜一区二区三区 综合久久久久久 久久伊人一区二区三区四区 国产综合久久久久久 日韩一区精品视频在线看 国产精品日韩欧美制服 日本精品1在线区 99re视频 无码av免费一区二区三区试看 国产视频1区 日韩欧美中文字幕一区 日本高清中文字幕一区二区三区a 亚洲国产欧美无圣光一区 国产在线视频一区二区三区 欧美国产第一页 在线亚洲欧美日韩 日韩中文字幕第一页 在线不卡一区二区 伊人久久青青 国产精品一区二区在线播放 www.五月婷婷 麻豆久久婷婷国产综合五月 亚洲精品区 久久国产欧美另类久久久 99在线视频免费 伊人久久中文字幕久久cm 久久精品成人免费看 久久这里只有精品首页 88国产精品视频一区二区三区 中文字幕日本在线mv视频精品 国产在线精品成人一区二区三区 伊人精品线视天天综合 亚洲一区二区黄色 国产尤物视频在线 亚洲精品99久久久久中文字幕 国产一区二区三区免费观看 伊人久久大香线蕉综合电影网 国产成人精品区在线观看 日本精品一区二区三区视频 日韩高清在线二区 久久免费播放视频 一区二区成人国产精品 国产精品免费精品自在线观看 亚洲精品视频二区 麻豆国产精品有码在线观看 精品日本一区二区 亚洲欧洲久久 久久中文字幕综合婷婷 中文字幕视频在线 国产成人精品综合在线观看 91精品国产91久久久久福利 精液呈暗黄色 香蕉国产综合久久猫咪 国产专区精品 亚洲精品无码不卡 国产永久视频 亚洲成a人片在线播放观看国产 一区二区国产在线播放 亚洲一区二区黄色 欧美日韩在线观看视频 亚洲精品另类 久久国产综合尤物免费观看 国产一区二区三区国产精品 高清视频一区 国产精品igao视频 国产精品资源在线 久久综合精品国产一区二区三区 www.五月婷婷 精品色综合 99热国产免费 麻豆福利影院 亚洲伊人久久大香线蕉苏妲己 久久电影院久久国产 久久精品伊人 在线日韩理论午夜中文电影 亚洲国产欧洲综合997久久 伊人国产精品 久草国产精品 欧美一区精品二区三区 亚洲成人高清在线 91免费国产精品 日韩精品福利在线 国产一线在线观看 国产不卡在线看 久久99青青久久99久久 亚洲精品亚洲人成在线播放 99久久免费看国产精品 国产日本在线观看 青草国产在线视频 麻豆久久婷婷国产综合五月 国产中文字幕一区 91久久精品国产性色也91久久 国产一区a 国产欧美日韩成人 国产亚洲女在线精品 一区二区美女 中文字幕在线2021一区 在线小视频国产 久久这里只有精品首页 国产在线第三页 欧美日韩中文字幕 在线亚洲+欧美+日本专区 精品国产一区二区三区不卡 久久这里精品 欧美在线va在线播放 精液呈暗黄色 91精品国产手机 91在线免费播放 欧美视频亚洲色图 欧美国产日韩精品 日韩高清不卡在线 精品视频免费观看 欧美日韩一区二区三区四区 国产欧美亚洲精品第二区首页 亚洲韩精品欧美一区二区三区 国产精品视频免费 在线精品小视频 久久午夜夜伦伦鲁鲁片 国产无套在线播放 久热这里只精品99re8久 欧美久久久久 久久香蕉国产线看观看精品蕉 国产成人精品男人的天堂538 亚洲人成网站色7799在线观看 日韩在线第二页 一本色道久久综合狠狠躁篇 国产一区二区三区不卡在线观看 亚洲乱码在线 在线观看欧美国产 久久福利青草精品资源站免费 国产玖玖在线观看 在线亚洲精品 亚洲成aⅴ人在线观看 精品91在线 欧美一区二三区 日韩中文字幕视频在线 日本成人一区二区 日韩免费专区 国内精品在线观看视频 久久国产综合尤物免费观看 国产精品系列在线观看 一本一道久久a久久精品综合 亚洲免费播放 久久精品国产免费 久久人精品 亚洲毛片网站 亚洲成a人一区二区三区 韩国福利一区二区三区高清视频 亚洲精品天堂在线 一区二区三区中文字幕 亚洲国产色婷婷精品综合在线观看 亚洲国产成人久久笫一页 999国产视频 国产精品香港三级在线电影 欧美日韩一区二区三区四区 日韩国产欧美 国产精品99一区二区三区 午夜国产精品理论片久久影院 亚洲精品中文字幕麻豆 亚洲国产高清视频 久久免费手机视频 日韩a在线观看 五月婷婷亚洲 亚洲精品中文字幕麻豆 中文字幕丝袜 www国产精品 亚洲天堂精品在线 亚洲乱码一区 国产日韩欧美三级 久久999精品 伊人热人久久中文字幕 久热国产在线视频 国产欧美日韩在线观看一区二区三区 国产一二三区在线 日韩国产欧美 91精品国产91久久久久 亚洲一区小说区中文字幕 精品一区二区免费视频 国产精品视频免费 国产精品亚洲综合色区韩国 亚洲国产精品成人午夜在线观看 欧美国产日韩精品 中文字幕精品一区二区精品