一種自動問答方法和系統的制作方法

            文檔序號:6610259閱讀:247來源:國知局

            專利名稱::一種自動問答方法和系統的制作方法
            技術領域
            :本發明涉及知識工程領域、自然語言處理領域、以及計算機網絡信息
            技術領域
            ,特別是涉及一種基于文檔的自動問答方法和系統。
            背景技術
            :目前的網絡包含了數量越來越大的信息,人們可以從網絡中得到大量問題的答案,通常地,網絡由大量超文本(網頁)組成。但是,在網絡中用戶快速定位所需要的信息非常困難。現有技術中解決這一問題的一種重要方法是利用搜索引擎,通過關鍵字匹配搜索到所需的問題答案。但是,這種方法通常會得到大量包含搜索關鍵字但內容與答案無關的網頁,用戶通常還需要在搜索結果中手動或者進一步搜索到相關的網頁,進而獲取想要的信息,實踐證明,現有基于關鍵字的搜索引擎的信息定位效率是比較低的。隨著計算機技術的發展,人們通過自動問答(QA)系統試圖解決這一問題。自動問答(QA)系統,也叫問題回答系統,是基于一個大語料庫(如維基百科,或整個國際互聯網),自動查找并回答用戶用自由文本方式的提問的計算機處理系統。現有的自動問答系統通常利用一個大的文檔集作為知識源,從文檔集中查找用戶問題的答案。其中,國際互聯網是一個理想的自動問答系統的知識源,與靜態的文檔集相比,國際互聯網有兩方面的優勢,一方面國際互聯網上的信息更新迅速,這能夠保證系統能找到比較精確的答案,特別是對于一些時效性較強的問題;另一方面,國際互聯網上的信息的冗余性,可以用來進行自動問答系統的答案驗證,以判斷答案的有效性,返回更加確切的答案。專利申請號為200510130778.5的中國專利公開了一種網上用戶交互問答方法及其系統,其中,所述的系統,包括一模板數據庫,用于存儲供選擇使用的問題模板和/或答案模板;一提問模塊,用于供用戶選擇問題模板進行提問;一回答模塊,用于供用戶使用答案模板進行回答;所述答案模板為用戶手動選擇或手動創建的、或為由所述回答模塊根據當前問題,從所述模板數據庫中自動査找出的與所述問題模板相對應的答案模板。該發明的方法及其系統可提高用戶提問和回答的效率,同時提高計算機處理問題和答案的準確性并積累知識。然而,現有系統還存在很大的缺陷,往往難以回答一些問題,特別是動態的和時間敏感性的問題。
            發明內容本發明的目的在于提供一種自動問答方法和系統,以提高答案的準確性,提高返回正確結果的精確度。為實現本發明目的而提供的一種自動問答方法,包括下列步驟步驟A,通過問題分析獲取問題的信息;歩驟B,根據問題分析的結果,生成查詢條件,在知識源中以搜索引擎進行檢索,檢索出與査詢條件相關的文檔集,并將文檔集劃分為段落集;步驟C,根據文檔檢索的結果,以段落檢索方法從段落集中檢索出與査詢條件相關的段落集合,并從段落集合中返回問題的答案。所述步驟C中,從段落集合中返回問題的答案,具體包括下列步驟從段落集合中抽取答案段落,作為問題的答案返回。所述步驟C中,從段落集合中返回問題的答案,也可以具體包括下列步驟從所獲取段落集合中抽取作為答案的句子或詞,作為問題的精確答案返回。所述信息為結構信息,包括詞匯特征和句法特征。所述信息為語義信息,包括問題目標、問題類型、問題內的約束關系。所述獲取問題的語義信息,包括下列步驟應用語義模板來描述問題,使用語義模板匹配的方法來分析問題,獲取問題的語義信息。所述語義模板匹配的方法,包括如下步驟步驟A1,用詞性標注器和命名實體識別器對問題做預處理,產生一個初步的詞匯-句法模板;步驟A2,從模板庫搜索與問題滿足初步條件的問題模板;步驟A3,把詞匯-句法模板和問題模板進行匹配;步驟A4,如果匹配成功,則獲得問題類型、問題目標以及問題內的約束關系;否則,返回步驟A2重新進行搜索。所述步驟B還包括下列步驟判斷段落集是否滿足設定的條件,如果沒有滿足,則重寫査詢條件,重新進行檢索。所述步驟B具體包括下列步驟步驟B1,根據問題分析的結果,從問題中去掉所有停用詞,生成一個初始査詢條件;步驟B2,用所獲得的查詢條件遞交到搜索引擎,從知識源中檢索與問題相關的文檔,然后返回文檔集;步驟B3,將文檔集劃分形成段落集;步驟B4,判斷段落集的數量和質量,以及循環次數是否符合要求,如果段落的數量和質量不符合要求并且循環次數少于設定的值,則轉到步驟B5;否則返回結果,結束檢索過程;步驟B5,根據初始查詢條件的一些關鍵字,用該關鍵字的上義詞或下義詞、同義詞代替得到新的關鍵字,利用新的關鍵字組成新的査詢條件,返回步驟B2,重新進行搜索引擎檢索。所述知識源為國際互聯網;所述文檔為Web文檔。所述步驟B1中,生成初始査詢條件,具體包括如下步驟用啟發式方法和局部文本分析方法來做查詢擴展,生成査詢條件。所述步驟B3中,將web文檔集劃分形成段落集,具體包括如下步驟用HTML文檔解析器解析返回的Web文檔,抽取文檔中的明文;對明文文檔進行提取詞干,去停用詞處理后,把文檔集劃分為段落集。所述步驟B5中,所述利用新的關鍵字組成新的査詢條件,包括下列步驟:利用新的關鍵字,以具有匹配關系和約束關系的詞匯單元為基礎,結合詞匯之間的關系,計算段落與問題的相關度,得到新的査詢條件。所述步驟B5中,關鍵字的上義詞或下義詞、同義詞,是利用WordNet或其他同義詞林根據關鍵字獲取的。所述步驟C中,所述段落是由相鄰的句子構成,且句子數目不大于一特定數值或總長度不大于一特定比特字節。所述步驟C中,所述段落檢索方法包括下列步驟結合tf-idf的統計詞頻特征以及査詢和段落之間的語義相關性,計算段落的得分,然后根據各個段落的得分以降序排序,如果大于一特定閾值,則該段落被列為候選答案段落。所述tf-idf詞頻分數如下式所示—(1—相其中,p表示段落;q表示查詢;tf(t,p)表示詞t在段落p中出現的頻率;S表示用來平衡段落長度的參數;lpl表示段落p的長度;N表示查詢q的候選段落的數目;df(t)表示包含詞t的段落的數目;avgpl表示段落的平均長度。所述語義相關性用下式計算5W表示如果詞t在査詢q里有一個語義相關詞,值為l,否則為0。所述段落的得分用下式計算a表示score1和score2的平衡因子。所述步驟C還包括下列步驟采用基于重疊的窗口的方法去劃分段落,使得描述同一主題的相鄰句子不會被劃分到不同的段落中去。所述步驟C中,抽取作為答案的句子或詞,可以是采用模板匹配方法和/或實體識別方法進行抽取作為答案的句子或詞。所述步驟c中,抽取作為答案的句子或詞,也可以是采用語義模板進行匹配來獲取作為答案的句子。所述步驟c中,抽取作為答案的句子或詞,還可以是采用語義模板進行匹配來獲得答案的實體類型,再利用答案的實體類型在答案的句子中匹配到具體的詞,把該詞作為精確答案。為實現本發明的目的還提供一種自動問答系統,包括問題分析模塊,文檔檢索模塊,段落檢索模塊,其中所述問題分析模塊,用于通過問題分析獲取問題的信息;所述文檔檢索模塊,用于根據問題分析模塊對問題分析的結果,生成査詢條件,在知識源中,以搜索引擎進行檢索,檢索出與查詢條件相關的文檔集,并將文檔集劃分為段落集;所述段落檢索模塊,用于根據文檔檢索模塊檢索的結果,以段落檢索方法從段落集中檢索出與査詢條件相關的段落集合,從段落集合中返回問題的答案。所述的自動問答系統,還包括答案抽取模塊,用于根據段落檢索獲得的與査詢條件相關的段落集合,從所獲取段落集合中抽取作為答案的句子或詞返回。所述信息為結構信息,包括詞匯特征和句法特征。所述信息為語義信息,包括問題目標、問題類型、問題內的約束關系。所述獲取問題的語義信息,為應用語義模板來描述問題,使用語義模板匹配的方法來分析問題,獲取問題的語義信息。所述文檔檢索模塊還用于判斷段落集是否滿足設定的條件,如果沒有滿足,則重寫查詢條件,重新進行檢索。所述知識源為國際互聯網;所述文檔為Web文檔。所述段落是由相鄰的句子構成,且句子數目不大于一特定數值或總長度不大于一特定比特字節。所述段落檢索方法為結合tf-idf的統計詞頻特征以及査詢和段落之間的語義相關性,計算段落的得分,然后根據各個段落的得分以降序排序,如果大于一特定閾值,則該段落被列為候選答案段落。所述tf-idf詞頻分數如下式所示<image>imageseeoriginaldocumentpage13</image>其中,p表示段落;q表示查詢;tf(t,p)表示詞t在段落p中出現的頻率;s表示用來平衡段落長度的參數;lpl表示段落p的長度;N表示査詢q的候選段落的數目;df(t)表示包含詞t的段落的數目;avgpl表示段落的平均長度。所述語義相關性用下式計算,印W)表示如果詞t在査詢q里有一個語義相關詞,值為l,否則為O。所述段落的得分用下式計算<image>imageseeoriginaldocumentpage13</image>a表示scorel禾口score2的平衡因子。所述抽取作為答案的句子或詞,是采用模板匹配方法和/或實體識別方法進行抽取作為答案的句子或詞。所述抽取作為答案的句子或詞,也可以是采用語義模板進行匹配來獲取作為答案的句子。所述步驟C中,抽取作為答案的句子或詞,還可以是采用語義模板進行匹配來獲得答案的實體類型,再利用答案的實體類型在答案的句子中匹配到具體的詞,把該詞作為精確答案。本發明的有益效果是本發明的自動問答方法和系統,在現有的自動問答系統中,增加段落(Passage)檢索,減少待處理的文檔大小,使得系統更有效率,提高答案的準確性,提高返回正確答案的精確度;同時,通過利用語義模板等來分析問題,從而獲得更多的信息,并利用這些信息來輔助檢索,在段落中更加精確地定位到包含精確答案的句子,甚至精確答案的詞或短語,從而進一步提高自動答案的質量和準確性。圖1是本發明自動問答方法流程圖;圖2是本發明實施例中語義模板匹配方法流程圖;圖3是本發明實施例中文檔檢索過程流程圖;圖4是本發明自動問答系統示意圖。具體實施例方式為了使本發明的目的、技術方案及優點更加清楚明白,以下結合附圖及實施例,對本發明的一種自動問答方法和系統進行進一步詳細說明。應當理解,此處所描述的具體實施例僅僅用以解釋本發明,并不用于限定本發明。本發明實施例以國際互聯網為知識源,用Google搜索引擎系統從互聯網上搜索相關Web文檔為例,說明本發明的一種自動問答方法和系統,但應當說明的是,這并不是對本發明應用范圍的限定,本發明同樣可以適用于其他知識源(如維基百科或一些本地語料庫等),通過其他搜索方法(或系統,如百度,雅虎或一些本地搜索引擎等)從文檔中檢索出問題的答案的自動問答方法和系統。本發明實施例的一種基于Web文檔的自動問答方法和系統,采用基于語義模板等的問題分析技術分析問題,然后用Google搜索引擎系統從國際互聯網上檢索相關Web文檔,利用問題中的關鍵字之間的關系來生成高質量的査詢關鍵字,通過查詢關鍵字,利用段落(Passage)檢索的方法,從相關文檔中快速檢索,返回高質量的答案段落,進一步從答案段落中得到問題的精確答案。下面詳細說明本發明的一種自動問答方法,如圖1所示,包括下列步驟步驟S100,問題分析。通過問題分析獲取問題的信息,包括結構和語義信息。其中,結構信息包括詞匯特征和句法特征,語義信息包括問題目標、問題類型、問題內的約束關系等。較佳地,在本發明實施例中,應用語義模板(Pattern)來描述問題,使得能夠為用戶提供接口來提交問題。同時,使用語義模板匹配的方法來分析問題,獲取問題的語義信息。所述語義模板匹配的方法,如圖2所示,具體包括如下步驟步驟S110,用詞性標注器(Part-of-SpeechTagger,POSTagger)和命名實體識別器(NameEntityRecognizer)對問題做預處理,產生一個初步的詞匯-句法模板(SLP);步驟S120,從現有的模板庫搜索與問題滿足初步條件(如包含相同問題類型及關鍵字)的問題模板(QP);所述步驟S120中,模板庫即存儲問題模板的數據庫,其一實施例與專利申請號為200510130778.5的中國專利公開的一種網上用戶交互問答方法及其系統中的模板數據庫相同。其中,所述問題模板由問題類型、和/或關鍵字、和/或可填充部分組成。例如,問題"去英國留學需要哪些條件?",其對應問題模板為"[描述/行為]需要〈Q〉哪些〈/Q〉條件"其中,"哪些"即問題類型,"需要"、"條件"即關鍵字,"[描述/行為]"即可填充部分,"〈Q〉、〈/Q〉"即問題類型標識符。問題模板也可以有其他的定義形式,如只包含結構的而不包含語義的模板,或可填充部分的語義標簽可以包含多層次的,用戶可選的概念分類。步驟S130,把詞匯-句法模板和問題模板進行匹配;步驟S140,如果匹配成功,則獲得問題類型、問題目標以及問題內的約束關系;否則,返回步驟S120重新進行搜索。步驟S200,文檔檢索。根據問題分析的結果,生成初始的査詢條件,在國際互聯網等知識源中,以搜索引擎進行檢索,檢索出與查詢條件相關的文檔集,并將文檔集劃分為段落集;并在判斷沒有段落集滿足設定的條件時,重寫査詢條件,重新進行檢索。作為本發明可實施的一種方式,本發明實施例利用Google搜索引擎作為文檔的搜索引擎,從Google搜索引擎中搜索與問題相關的Web文檔,組成文檔集,然后對返回的Web文檔集進行處理,以獲得文檔中的明文。所述檢索過程是一個循環過程,如圖3所示,包括以下步驟步驟S210,根據問題分析的結果,從問題中去掉所有停用詞,生成一個初始查詢條件;查詢條件由多個關鍵字構成,査詢條件的生成基于問題分析的結果。但是,如何生成最適合的査詢條件仍然是一個困難的問題。原因在于1)査詢往往包含不足夠的,同時在査詢關鍵字和段落里出現的詞,導致無法返回最相關的段落;2)—些包含足夠共同出現的詞的査詢,詞語之間缺乏關系,因此會返回一些不相關的段落。例如,給定一個問題"WhereisBeijing",生成的査詢是"Beijing",用這個査詢去檢索回相關的段落(passage):A)BeijingCityisanindependentlyadministeredmunicipaldistrict.TheclimateinBeijingisofthecontinentaltype,withcoldanddrywintersandhotsummers.B)BeijingisoneoftheFourGreatAncientCapitalsofChina.Itwillhostthe2008SummerOlympics.C)ThepopulationofBeijingMunicipality,definedasthetotalnumberofpeoplewhoresideinBeijingformoreperyear,was15.38millionin2005.不難看出,上述的幾個段落沒一個是和給定的問題相關的。對于這種査詢,需要用一些相關的詞做查詢擴展。作為一種可實施的方式,較佳地,本發明用啟發式方法和經典的局部文本分析(localcontextanalysis,LCA)方法來做查詢擴展,生成査詢條件。步驟S220,將獲得的查詢條件遞交到Google搜索引擎,從國際互聯網中檢索與問題相關的Web文檔,然后返回Web文檔集。步驟S230,將Web文檔集劃分形成段落(Passage)集。作為一種可實施的方式,本發明用HTML文檔解析器解析返回的Web文檔,抽取文檔中的明文。對明文文檔進行提取詞干,去停用詞等處理后,把文檔集劃分為段落集。作為一種可實施的方式,采用基于重疊的窗口的方法。該方法在文獻"CallanJP.Passage-levelEvidenceinDocumentRetrieval[C].Proc.ofthe17thACM-SIGIRconference(SIGIR1994),NewYork,USA:ACMPress,1994:302-310."中已闡述,這里不做詳細說明。窗口大小實際上就是段落(Passage)的長度。為了不包括過多的冗余信息,設置窗口大小為250byte,且移動步長為50byte。例如給定某一段落,其第一個窗口即前250byte,第二個窗口為51300byte,依此類推。也可以按照句子數目設置窗口大小,假設每3個句子為一個窗口。例如某一段落由N個句子組成sl...sn,其第一個窗口即sls2s3,第二個窗口為s2s3s4,依此類推。步驟S240,判斷段落集的數量和質量,以及循環次數是否符合要求,如果段落的數量和質量不符合要求并且循環次數少于設定的值(如循環5次),則轉到步驟S250;否則返回結果,結束檢索過程。步驟S250,重寫查詢條件。根據初始査詢條件的一些關鍵字,用該關鍵字的上義詞或下義詞、同義詞代替得到新的關鍵字,利用新的關鍵字組成新的査詢條件,返回步驟S220,重新進行Google搜索引擎檢索。作為一種可實施的方式,利用新的關鍵字,以具有匹配關系和約束關系的詞匯單元為基礎,結合詞匯之間的關系,計算段落與問題的相關度,得到新的査詢條件。作為一種可實施方式,利用WordNet或其他同義詞林獲取關鍵字的上義詞、下義詞或同義詞。為了減少關鍵字之間的錯誤匹配,語義相關的詞作為一個整體來考慮,用啟發式方法來重寫查詢條件,如A)當關鍵詞是名詞時,它的直接修飾詞和它一起作為一個關鍵字。例如,問題"whatisthelongestriverinchina","longestriver"被作為一個關鍵字考慮。B)當關鍵字是形容詞或者副詞時,并且跟在疑問詞"how"后面時,此關鍵字和"how"—起被轉換成與問題語義分類相關的詞。例如,對于問題"howfarisitfromEarthtoMars",其問題類型是Distance,所以把"howfar"轉換成"distance"。C)當關鍵字是名詞時,并且跟在疑問詞"what"之后,此關鍵字會在査詢中刪掉。以問題"WhatcountryisAswanHighDamlocatedin"為例,詞"country"從查詢中去掉。D)對于一些固定搭配中的詞,其與構成搭配的詞作為整體構成一個關鍵字。例如問題"Whatarepenniesmadeof","madeof'作為一^^關鍵字加到查詢中。一些關鍵字以多形態存在,例如名詞單復數、動詞時態等;可以用詞干分析器(如Porter'sstemmer)把這些詞轉換成其詞根形式。通過新的關鍵字,組成新的查詢條件,重新進行查詢,返回步驟S220,重新進行Google搜索引擎檢索和段落檢索。步驟S300,段落檢索。根據文檔檢索的結果,以段落檢索方法從段落集中檢索出與查詢條件相關的段落集合,并從段落集合中抽取答案段落返回。段落檢索將從返回的Web文檔集中找出若干個最相關的段落(Passage)。段落是長度有限的、由一個或幾個句子組成的一段文本。較佳地,因為過長的段落會包含過多的冗余信息,增加分析的難度和返回錯誤信息的概率,本發明實施例的段落(Passage),由相鄰的句子構成,并且長度不大于250比特字節(byte)。段落檢索將從返回的文檔集中找出若干個最相關的段落。把待處理的文檔集的大小減少為有限數目的段落(Passage)集。段落檢索的基本方法是比較查詢條件和候選段落以決定哪個段落與査詢條件相關,典型的査詢是一個詞向量,詞之間的關系是布爾關系,不管是基于詞頻還是基于語言模型的檢索都極大的依賴于査詢的質量。較佳地,為克服現有基于詞頻和語言模型的段落檢索中,經常會返回一些不相關的段落的缺陷,因此,本發明實施例的段落檢索,結合tf-idf的統計詞頻特征以及査詢和段落之間的語義相關性,計算段落的得分,包括兩部分:tf-idf詞頻分數、與段落的語義相關度,然后根據各個段落的得分對它們排序(如降序排序),若大于一定閾值(例如0.3),則作為候選答案段落(passage)。在本發明實施例中,段落與査詢的相關度由其與查詢的匹配程度決定。即對于一個査詢,其最后得分包括兩部分第一個是tf-idf詞頻分數;第二個是與段落(passage)的語義相關度。tf-idf詞頻分數正如公式(l)所示,是一個向量空間模型,同時考慮關鍵字在査詢和段落(passage)中出現的頻率。語義相關性用公式(2)計算,統計查詢和段落(passage)里的語義相關詞的數目。段落(passage)的最終得分用公式(3)計算<formula>formulaseeoriginaldocumentpage19</formula>(1)<formula>formulaseeoriginaldocumentpage19</formula>(3)式中符號含義如下p:段落(passage);q:査詢;tf(t,p):詞t在段落p中出現的頻率;s:用來平衡段落長度的參數;lpl:段落p的長度;N:查詢q的候選段落的數目;df(t):包含詞t的段落的數目;avgpl:段落的平均長度;SW:如果詞t在査詢q里有一個語義相關詞,值為l,否則為0;a:score1和score2的平衡因子。其中,語義相關的定義為,對詞wl和詞w2,如果wl在WordNet或其他同義詞林中是w2的上義詞、下義詞或同義詞,則兩者語義相關。同時,為了保持語義信息的完整性,作為本發明的一種可實施方式,采用基于重疊的窗口的方法去劃分段落(Passage),使得描述同一主題的相鄰句子不會被劃分到不同的段落中去。從所獲得的段落集中選取作為答案的段落(答案段落),當作答案返回。答案段落可以作為答案直接返回給用戶。步驟S400,精確答案抽取。從所獲取答案段落中抽取作為答案的句子或詞,作為問題的精確答案返回。自動問答系統中的精確答案(ExactAnswer)抽取一般有兩種方法利用模板匹配方法或者實體識別方法進行抽取作為答案的句子或詞。1)模板匹配方法對于問題,其答案形式往往是一種或者是幾種固定的模式,這些模式可以用來幫助系統査找描述答案的小段落。如WhenwasBborn它的答案模式往往是Bwasbornin<ANSWER>.In<ANSWER>,BwasborninShanghai.這里<ANSWER>表示精確答案所在的位置。如果它的答案段落是"Bisgoodatmath.In1981,BwasbominShanghai.HegraduatedfromtheShanghaiNo.1primaryschool."這個段落的第二句與上面的第二個模板匹配,可以作為答案句子返回,甚至,其中的"1981"與模板里的〈ANSWER〉相對應,因此可以作為精確答案返回。作為另一種可實施的方式,也可以用正則表達式來實現模板匹配。例如判斷一個字符串是不是整數,或者判斷它是不是一個電話號碼,判斷是不是一個email地址等。2)實體識別方法實體識別的方法是在答案段落中,找出與問題目標(questiontarget)對應的實體詞作為答案返回。如WhenwasBbom它的問題目標是TIME。它的答案段落(AnswerPassage)是"In1981,BwasborninShanghai."這個段落里"1981"是一個TIME實體,因此直接把它作為精確答案返回。較佳地,考慮到模板匹配的方法只考慮答案的位置,而沒考慮所返回的答案的類型是否匹配。而實體識別方法只考慮類型匹配,而沒有考慮答案的位置的缺陷,在本發明實施例中,作為一種可實施的方式,采用一種更加靈活實用的模板匹配方法,采用語義模板進行匹配,其中的可變化部分的語義標注是一種實體標簽,進行實體類型匹配,同時考慮答案的位置,又考慮所返回的答案的類型是否匹配,抽取作為答案的句子或詞。本發明實施例中采用語義模板,以語義標注進行實體類型匹配的模板匹配方法,在本申請人申請的申請號為200510130778.5,名稱為一種網上用戶交互問答方法及其系統,的發明專利申請中予以詳細的說明,本發明實施例中全文引用,不再一一詳細描述。對應于本發明的一種自動問答方法,本發明還提供一種自動問答系統,如圖4所示,其包括四個模塊問題分析模塊51,文檔檢索模塊52,段落檢索模塊55,以及答案抽取模塊56。所述問題分析模塊51,用于通過問題分析獲取問題的信息,包括結構和語乂"f曰息;所述文檔檢索模塊52,用于根據問題分析模塊51對問題分析的結果,生成初始的査詢條件,在國際互聯網等知識源中,以搜索引擎進行檢索,檢索出與查詢條件相關的文檔集53,并將文檔集53劃分為段落集54;并在判斷段落集54不滿足設定的條件時,重寫査詢條件,重新進行檢索;所述段落檢索模塊55,用于根據文檔檢索模^^52檢索的結果,以段落檢索方法從段落集54中檢索出與査詢條件相關的段落集合,并從段落集合中選取最相關的段落作為答案段落返回。所述答案抽取模塊56,用于根據段落檢索獲得的與查詢條件相關的段落集合,從所獲取段落集合中抽取作為答案的句子或詞返回。首先,問題分析模塊51對用戶問題進行分析,以獲得問題的信息,包括句法結構和語義信息;然后,文檔檢索模塊52,根據問題的信息,生成初始査詢條件,在國際互聯網等知識源中,以Google搜索引擎進行搜索,檢索出與査詢條件相關的Web文檔集53,并將文檔集53劃分為段落集54;并在判斷段落集54不滿足設定的條件時,重寫査詢條件,重新進行檢索;其后,段落檢索模塊55從段落集中檢索出與查詢條件相關的段落,并從段落集合中選取最相關的段落作為答案段落返回;最后,答案抽取模塊56從檢索出的與査詢條件相關的答案段落集合中抽取作為答案的句子或詞。本發明的自動問答系統以與自動問答方法相應的過程進行工作,本領域技術人員根據本發明實施例的描述,可以實現本發明的自動問答系統,因此,在本發明實施例中,不再一~^詳細描述。下面通過實驗來描述本發明自動問答方法和系統對問題返回正確結果的精確度。選擇TREC-12(2003)的事實性的(factoid)問題作為測試集。根據問題類型,把問題分為四類。如本發明實施例所提到的,用Google搜索引擎系統作為文檔的搜索引擎,每個問題返回不多于40篇文檔,每篇文檔被劃分為段落(passage)。每個問題的候選段落(passage)由文檔數和文檔長度決定,本實驗中,每個問題平均有400個候選段落(passage),所有的候選段落(passage)被打分并且排序,最后,每個問題返回五個得分最高的段落(passage)。為了比較,在Google搜索引擎上也做了同樣的實驗,測試集的問題被直接遞交到Google返回相關文檔,搜索結果包括URL、標題和摘要。通過人工去檢査返回的前五個結果,然后評估并記錄下結果。為了評估結果,利用平均倒排序(MeanReciprocalrank,MRR)計算出沒有答案段落的問題比例進行評估。答案段落是包含了問題精確答案的段落。對每個問題,系統最多返回五個答案段落。每個段落被獨立評估成正確(correct),相關(relevant),禾口不正確(incorrect)。如果段落中包含了明確的正確的答案,它被評估成正確(correct);如果段落中不包含明確的正確的答案,但是包含了正確答案的重要信息,它被評估成相關(relevant);否則,其被評估成不正確(incorrect)。問題q的倒排序(ReciprocalRank,RR)被定義成公式(4),<formula>formulaseeoriginaldocumentpage23</formula>其中<formula>formulaseeoriginaldocumentpage23</formula>表示第一個正確(correct)段落在返回的段落列表中排的次序。利用MRR評估如公式(5)所示。MRR是所有問題的倒排序的平均值。<formula>formulaseeoriginaldocumentpage23</formula>(5)沒有返回答案段落的問題的比例用公式(6)計算<formula>formulaseeoriginaldocumentpage23</formula>(6)式中符號含義如下e」"問題集;n1有至少一個正確(correct)或者相關(relevant)段落的問題的數目;N:所有問題的數目。另外,對于每個問題,如果其返回的結果中至少有一個正確(correct)段落或者相關(relevant)段落,最好的段落在結果中的排序位置(Rank)將被記錄下來。對于一些問題,其結果中不存在正確(correct)段落或者相關(relevant)段落,則結果記錄為ML。本發明自動問答方法和系統實驗結果如表1所示本發明的自動問答方法和系統為59'what,類型(what-type)的問題返回正確(correct)或者相關(relevant)段落,對其余的65what-type問題則返回NIL。表l.返回答案段落(passage)的問題數目和排序以及MRR<table>tableseeoriginaldocumentpage24</column></row><table>what-type問題的MRR值是0.314。what-type問題的MRR值比how-type('how,類型)和when-type('when'類型)問題要高,兩者的MRR值分別是0.283和0.242。31.5%(即(rankl+rank2)/total=(28+11)/(59+65))的what-type問題至少有一個正確(correct)或相關(relevant)段落排在結果的top-2位置。對于how-type和when-type問題,這個百分比則分別是14.3%((表1:rankl+rank2)/total=(5+3)/56)和20%((表1:rankl+rank2)/total=(2+2)/20)。對這三種類型問題,返回結果中不含正確(correct)段落或者相關(relevant)段落的比例分別是52.4%(即RankNIL(65)/total(124))、21.4%(即RankNIL(12)/total(56))、和50%匸即RankNIL(10)/totai(2(t))。結果表明,本發明的自動問答系統對于what-type問題,結果優于其他兩種類型的問題。原因在于,跟另兩種問題相比,what-type問題目標明確、陳述清晰,搜索引擎能夠為該類問題返回更加準確的文檔。所有問題的總體MRR值是29.8%,沒有返回答案段落(passage)的問題比例則是43.5%。表2顯示的是在Google上手工實驗的實驗結果。when-type問題的MRR值是0.225。how-type和when-type問題的MRR值分別是0.298和0.254。表2.返回答案段落(passage)的問題數目和排序以及MRR<table>tableseeoriginaldocumentpage24</column></row><table>對于所有的問題,Google的MRR值是24.8%。結果表明,本發明的自動問答方法和系統優于Google。在表2中,105個問題返回NIL,而在表1中這個數字是87。實驗結果表明,本發明的自動問答方法和系統可以從排序較低的文檔里找到正確的答案段落(passage)并提升它的排序。通過以上結合附圖對本發明具體實施例的描述,本發明的其它方面及特征對本領域的技術人員而言是顯而易見的。以上對本發明的具體實施例進行了描述和說明,這些實施例應被認為其只是示例性的,并不用于對本發明進行限制,本發明應根據所附的權利要求進行解釋。權利要求1、一種自動問答方法,其特征在于,包括下列步驟步驟A,通過問題分析獲取問題的信息;步驟B,根據問題分析的結果,生成查詢條件,在知識源中以搜索引擎進行檢索,檢索出與查詢條件相關的文檔集,并將文檔集劃分為段落集;步驟C,根據文檔檢索的結果,以段落檢索方法從段落集中檢索出與查詢條件相關的段落集合,并從段落集合中返回問題的答案。2、根據權利要求l所述自動問答方法,其特征在于,所述步驟C中,從段落集合中返回問題的答案,具體包括下列步驟從段落集合中抽取答案段落,作為問題的答案返回。3、根據權利要求l所述的自動問答方法,其特征在于,所述步驟C中,從段落集合中返回問題的答案,具體包括下列步驟從所獲取段落集合中抽取作為答案的句子或詞,作為問題的精確答案返冋。4、根據權利要求1至3任一項所述的自動問答方法,其特征在于,所述信息為結構信息,包括詞匯特征和句法特征。5、根據權利要求1至3任一項所述的自動問答方法,其特征在于,所述信息為語義信息,包括問題目標、問題類型、問題內的約束關系。6、根據權利要求5所述的自動問答方法,其特征在于,所述獲取問題的語義信息,包括下列步驟應用語義模板來描述問題,使用語義模板匹配的方法來分析問題,獲取問題的語義信息。7、根據權利要求6所述的自動問答方法,其特征在于,所述語義模板匹配的方法,包括如下步驟步驟A1,用詞性標注器和命名實體識別器對問題做預處理,產生一個初步的詞匯-句法模板;步驟A2,從模板庫搜索與問題滿足初歩條件的問題模板;步驟A3,把詞匯-句法模板和問題模板進行匹配;步驟A4,如果匹配成功,則獲得問題類型、問題目標以及問題內的約束關系;否則,返回步驟A2重新進行搜索。8、根據權利要求1至3任一項所述的自動問答方法,其特征在于,所述步驟B還包括下列步驟判斷段落集是否滿足設定的條件,如果沒有滿足,則重寫查詢條件,重新進行檢索。9、根據權利要求8所述的自動問答方法,其特征在于,所述步驟B包括下列步驟步驟Bl,根據問題分析的結果,從問題中去掉所有停用詞,生成一個初始査詢條件;步驟B2,用所獲得的查詢條件遞交到搜索引擎,從知識源中檢索與問題相關的文檔,然后返回文檔集;步驟B3,將文檔集劃分形成段落集;步驟B4,判斷段落集的數量和質量,以及循環次數是否符合要求,如果段落的數量和質量不符合要求并且循環次數少于設定的值,則轉到歩驟B5;否則返回結果,結束檢索過程;步驟B5,根據初始査詢條件的一些關鍵字,用該關鍵字的上義詞或下義詞、同義詞代替得到新的關鍵字,利用新的關鍵字組成新的査詢條件,返回步驟B2,重新進行搜索引擎檢索。10、根據權利要求9所述的自動問答方法,其特征在于,所述知識源為國際互聯網;所述文檔為Web文檔。11、根據權利要求9所述的自動問答方法,其特征在于,所述步驟B1中,生成初始査詢條件,具體包括如下步驟用啟發式方法和局部文本分析方法來做査詢擴展,生成査詢條件。12、根據權利要求10所述的自動問答方法,其特征在于,所述步驟B3中,將web文檔集劃分形成段落集,具體包括如下步驟用HTML文檔解析器解析返回的Web文檔,抽取文檔中的明文;對明文文檔進行提取詞干,去停用詞處理后,把文檔集劃分為段落集。13、根據權利要求9所述的自動問答方法,其特征在于,所述步驟B5中,所述利用新的關鍵字組成新的査詢條件,包括下列歩驟利用新的關鍵字,以具有匹配關系和約束關系的詞匯單元為基礎,結合詞匯之間的關系,計算段落與問題的相關度,得到新的査詢條件。14、根據權利要求9所述的自動問答方法,其特征在于,所述步驟B5中,關鍵字的上義詞或下義詞、同義詞,是利用WordNet根據關鍵字獲取的。15、根據權利要求1至3任一項所述的自動問答方法,其特征在于,所述步驟C中,所述段落是由相鄰的句子構成,且句子數目不大于一特定數值或總長度不大于一特定比特字節。16、根據權利要求1至3任一項所述的自動問答方法,其特征在于,所述步驟C中,所述段落檢索方法包括下列步驟結合tf-idf的統計詞頻特征以及查詢和段落之間的語義相關性,計算段落的得分,然后根據各個段落的得分以降序排序,如果大于一特定閾值,則該段落被列為候選答案段落。17、根據權利要求16所述的自動問答方法,其特征在于,所述tf-idf詞頻分數如下式所示<formula>formulaseeoriginaldocumentpage4</formula>其中,p表示段落;q表示査詢;tf(t,p)表示詞t在段落p中出現的頻率;S表示用來平衡段落長度的參數;lpl表示段落p的長度;N表示査詢q的候選段落的數目;df(t)表示包含詞t的段落的數目;avgpl表示段落的平均長度;所述語義相關性用下式計算,印SW表示如果詞t在査詢q里有一個語義相關詞,值為l,否則為0;所述段落的得分用下式計算scwe(p,《)二scw^(p,《)+axscore2(/),g)a表示score1禾卩score2的平衡因子。18、根據權利要求16所述的自動問答方法,其特征在于,所述步驟C還包括下列步驟采用基于重疊的窗口的方法去劃分段落,使得描述同一主題的相鄰句子不會被劃分到不同的段落中去。19、根據權利要求3所述的自動問答方法,其特征在于,所述步驟C中,抽取作為答案的句子或詞,是采用模板匹配方法和/或實體識別方法進行抽取作為答案的句子。20、根據權利要求3所述的自動問答方法,其特征在于,所述步驟C中,抽取作為答案的句子或詞,是采用語義模板進行匹配來獲取作為答案的句子。21、根據權利要求3所述的自動問答方法,其特征在于,所述步驟C中,抽取作為答案的句子或詞,是采用語義模板進行匹配來獲得答案的實體類型,再利用答案的實體類型在答案的句子中匹配到具體的詞,把該詞作為精確答案。22、一種自動問答系統,其特征在于,包括問題分析模塊,文檔檢索模塊,段落檢索模塊,其中所述問題分析模塊,用于通過問題分析獲取問題的信息;所述文檔檢索模塊,用于根據問題分析模塊對問題分析的結果,生成査詢條件,在知識源中,以搜索引擎進行檢索,檢索出與査詢條件相關的文檔集,并將文檔集劃分為段落集;所述段落檢索模塊,用于根據文檔檢索模塊檢索的結果,以段落檢索方法從段落集中檢索出與査詢條件相關的段落集合,從段落集合中返回問題的答案。23、根據權利要求22所述的自動問答系統,其特征在于,還包括答案抽取模塊,用于根據段落檢索獲得的與査詢條件相關的段落集合,從所獲取段落集合中抽取作為答案的句子或詞返回。24、根據權利要求22或23所述的自動問答系統,其特征在于,所述信息為結構信息,包括詞匯特征和句法特征。25、根據權利要求22或23所述的自動問答系統,其特征在于,所述信息為語義信息,包括問題目標、問題類型、問題內的約束關系。26、根據權利要求22或23所述的自動問答系統,其特征在于,所述獲取問題的語義信息,為應用語義模板來描述問題,使用語義模板匹配的方法來分析問題,獲取問題的語義信息。27、根據權利要求22或23所述的自動問答系統,其特征在于,所述文檔檢索模塊還用于判斷段落集是否滿足設定的條件,如果沒有滿足,則重寫查詢條件,重新進行檢索。28、根據權利要求27所述的自動問答系統,其特征在于,所述知識源為國際互聯網;所述文檔為Web文檔。29、根據權利要求22或23所述的自動問答系統,其特征在于,所述段落是由相鄰的句子構成,且句子數目不大于一特定數值或總長度不大于一特定比30、根據權利要求22或23所述的自動問答系統,其特征在于,所述段落檢索方法為結合tf-idf的統計詞頻特征以及査詢和段落之間的語義相關性,計算段落的得分,然后根據各個段落的得分以降序排序,如果大于一特定閾值,則該段落被列為候選答案段落。31、根據權利要求30所述的自動問答系統,其特征在于,所述tf-idf詞頻分數如下式所示其中,p表示段落;q表示査詢;tf(t,p)表示詞t在段落p中出現的頻率;s表示用來平衡段落長度的參數;lpl表示段落p的長度;N表示査詢q的候選段落的數目;df(t)表示包含詞t的段落的數目;avgpl表示段落的平均長度;所述語義相關性用下式計算,印W)表示如果詞t在査詢q里有一個語義相關詞,值為l,否則為0;所述段落的得分用下式計算a表示score1禾卩score2的平衡因子。32、根據權利要求23所述的自動問答系統,其特征在于,所述抽取作為答案的句子或詞,是采用模板匹配方法和/或實體識別方法進行抽取作為答案的句子。33、根據權利要求23所述的自動問答系統,其特征在于,所述抽取作為答案的句子或詞,是采用語義模板進行匹配來獲取作為答案的句子。34、根據權利要求23所述的自動問答方法,其特征在于,所述步驟C中,抽取作為答案的句子或詞,是采用語義模板進行匹配來獲得答案的實體類型,再利用答案的實體類型在答案的句子中匹配到具體的詞,把該詞作為精確答案。全文摘要本發明公開了一種自動問答方法和系統。該方法包括下列步驟步驟A,通過問題分析獲取問題的信息;步驟B,根據問題分析的結果,生成查詢條件,在知識源中以搜索引擎進行檢索,檢索出與查詢條件相關的文檔集,并將文檔集劃分為段落集;步驟C,根據文檔檢索的結果,以段落檢索方法從段落集中檢索出與查詢條件相關的段落集合,并從段落集合中返回問題的答案。其提高答案的準確性,提高返回正確結果的精確度。文檔編號G06F17/27GK101377777SQ20071012130公開日2009年3月4日申請日期2007年9月3日優先權日2007年9月3日發明者劉文印申請人:北京百問百答網絡技術有限公司
            網友詢問留言 已有0條留言
            • 還沒有人留言評論。精彩留言會獲得點贊!
            1
            婷婷六月激情在线综合激情,亚洲国产大片,久久中文字幕综合婷婷,精品久久久久久中文字幕,亚洲一区二区三区高清不卡,99国产精品热久久久久久夜夜嗨 ,欧美日韩亚洲综合在线一区二区,99国产精品电影,伊人精品线视天天综合,精品伊人久久久大香线蕉欧美
            亚洲精品1区 国产成人一级 91精品国产欧美一区二区 亚洲精品乱码久久久久久下载 国产精品久久久久久久伊一 九色国产 国产精品九九视频 伊人久久成人爱综合网 欧美日韩亚洲区久久综合 欧美日本一道免费一区三区 夜夜爽一区二区三区精品 欧美日韩高清一区二区三区 国产成人av在线 国产精品对白交换绿帽视频 国产视频亚洲 国产在线欧美精品 国产精品综合网 国产日韩精品欧美一区色 国产日韩精品欧美一区喷 欧美日韩在线观看区一二 国产区精品 欧美视频日韩视频 中文字幕天天躁日日躁狠狠躁97 视频一二三区 欧美高清在线精品一区二区不卡 国产精品揄拍一区二区久久 99久久综合狠狠综合久久aⅴ 亚洲乱码视频在线观看 日韩在线第二页 亚洲精品无码专区在线播放 成人亚洲网站www在线观看 欧美三级一区二区 99久久精品免费看国产高清 91麻豆国产在线观看 最新日韩欧美不卡一二三区 成人在线观看不卡 日韩国产在线 在线亚洲精品 亚洲午夜久久久久中文字幕 国产精品成人久久久久久久 精品国产一区二区在线观看 欧美精品国产一区二区三区 中文在线播放 亚洲第一页在线视频 国产午夜精品福利久久 九色国产 精品国产九九 国产永久视频 久久精品人人做人人综合试看 国产一区二区三区免费观看 亚洲精品国产电影 9999热视频 国产精品资源在线 麻豆久久婷婷国产综合五月 国产精品免费一级在线观看 亚洲国产一区二区三区青草影视 中文在线播放 国产成人综合在线 国产在线观看色 国产亚洲三级 国产片一区二区三区 久久99精品久久久久久牛牛影视 亚洲欧美日韩国产 四虎永久免费网站 国产一毛片 国产精品视频在 九九热在线精品 99精品福利视频 色婷婷色99国产综合精品 97成人精品视频在线播放 精品久久久久久中文字幕 亚洲欧美一区二区三区孕妇 亚洲欧美成人网 日韩高清在线二区 国产尤物在线观看 在线不卡一区二区 91网站在线看 韩国精品福利一区二区 欧美日韩国产成人精品 99热精品久久 国产精品免费视频一区 高清视频一区 精品九九久久 欧美日韩在线观看免费 91欧美激情一区二区三区成人 99福利视频 亚洲国产精品91 久热国产在线 精品久久久久久中文字幕女 国产精品久久久久久久久99热 成人自拍视频网 国产精品视频久久久久久 久久影院国产 国产玖玖在线观看 99精品在线免费 亚洲欧美一区二区三区导航 久久久久久久综合 国产欧美日韩精品高清二区综合区 国产精品视频自拍 亚洲一级片免费 久久久久久九九 国产欧美自拍视频 视频一区二区在线观看 欧美日韩一区二区三区久久 中文在线亚洲 伊人热人久久中文字幕 日韩欧美亚洲国产一区二区三区 欧美亚洲国产成人高清在线 欧美日韩国产码高清综合人成 国产性大片免费播放网站 亚洲午夜综合网 91精品久久一区二区三区 国产无套在线播放 国产精品视频网站 国产成人亚洲精品老王 91在线网站 国产视频97 欧美黑人欧美精品刺激 国产一区二区三区免费在线视频 久久久国产精品免费看 99re6久精品国产首页 久久精品91 国产成人一级 国产成人精品曰本亚洲 日本福利在线观看 伊人成综合网 久久综合一本 国产综合久久久久久 久久精品成人免费看 久久福利 91精品国产91久久久久久麻豆 亚洲精品成人在线 亚洲伊人久久精品 欧美日本二区 国产永久视频 国产一区二 一区二区福利 国产一毛片 亚洲精品1区 毛片一区二区三区 伊人久久大香线蕉综合影 国产欧美在线观看一区 亚洲国产欧洲综合997久久 国产一区二区免费视频 国产91精品对白露脸全集观看 久久亚洲国产伦理 欧美成人伊人久久综合网 亚洲性久久久影院 久久99国产精一区二区三区! 91精品国产欧美一区二区 欧美日韩亚洲区久久综合 日韩精品一二三区 久久久夜色精品国产噜噜 国产在线精品福利91香蕉 久久久久久久亚洲精品 97se色综合一区二区二区 91国语精品自产拍在线观看性色 91久久国产综合精品女同我 日韩中文字幕a 国产成人亚洲日本精品 久久国产精品-国产精品 久久国产经典视频 久久国产精品伦理 亚洲第一页在线视频 国产精品久久久久三级 日韩毛片网 久久免费高清视频 麻豆国产在线观看一区二区 91麻豆国产福利在线观看 国产成人精品男人的天堂538 一区二区三区中文字幕 免费在线视频一区 欧美日韩国产成人精品 国产综合网站 国产资源免费观看 亚洲精品亚洲人成在线播放 精品久久久久久中文字幕专区 亚洲人成人毛片无遮挡 国产一起色一起爱 国产香蕉精品视频在 九九热免费观看 日韩亚洲欧美一区 九九热精品在线观看 精品久久久久久中文字幕专区 亚洲欧美自拍偷拍 国产精品每日更新 久久久久国产一级毛片高清板 久久天天躁狠狠躁夜夜中文字幕 久久精品片 日韩在线毛片 国产成人精品本亚洲 国产成人精品一区二区三区 九九热在线观看 国产r级在线观看 国产欧美日韩精品高清二区综合区 韩国电影一区二区 国产精品毛片va一区二区三区 五月婷婷伊人网 久久一区二区三区免费 一本色道久久综合狠狠躁篇 亚洲综合色站 国产尤物在线观看 亚洲一区亚洲二区 免费在线视频一区 欧洲精品视频在线观看 日韩中文字幕a 中文字幕日本在线mv视频精品 91精品在线免费视频 精品国产免费人成在线观看 精品a级片 中文字幕日本在线mv视频精品 日韩在线精品视频 婷婷丁香色 91精品国产高清久久久久 国产成人精品日本亚洲直接 五月综合视频 欧美日韩在线亚洲国产人 精液呈暗黄色 亚洲乱码一区 久久精品中文字幕不卡一二区 亚洲天堂精品在线 激情婷婷综合 国产免费久久精品久久久 国产精品亚洲二区在线 久久免费播放视频 五月婷婷丁香综合 在线亚洲欧美日韩 久久免费精品高清麻豆 精品久久久久久中文字幕 亚洲一区网站 国产精品福利社 日韩中文字幕免费 亚洲综合丝袜 91精品在线播放 国产精品18 亚洲日日夜夜 伊人久久大香线蕉综合影 亚洲精品中文字幕乱码影院 亚洲一区二区黄色 亚洲第一页在线视频 一区二区在线观看视频 国产成人福利精品视频 亚洲高清二区 国内成人免费视频 精品亚洲性xxx久久久 国产精品合集一区二区三区 97av免费视频 国产一起色一起爱 国产区久久 国产资源免费观看 99精品视频免费 国产成人一级 国产精品九九免费视频 欧美91精品久久久久网免费 99热国产免费 久久精品色 98精品国产综合久久 久久精品播放 中文字幕视频免费 国产欧美日韩一区二区三区在线 精品久久蜜桃 国产小视频精品 一本色道久久综合狠狠躁篇 91在线免费观看 亚洲精品区 伊人成综合网 伊人热人久久中文字幕 伊人黄色片 99国产精品热久久久久久夜夜嗨 久久免费精品视频 亚洲一区二区三区高清不卡 久久久久国产一级毛片高清板 国产片一区二区三区 久久狠狠干 99久久婷婷国产综合精品电影 国产99区 国产精品成人久久久久 久久狠狠干 青青国产在线观看 亚洲高清国产拍精品影院 国产精品一区二区av 九九热在线免费视频 伊人久久国产 国产精品久久久久久久久久一区 在线观看免费视频一区 国产精品自在在线午夜区app 国产精品综合色区在线观看 国产毛片久久久久久国产毛片 97国产免费全部免费观看 国产精品每日更新 国产尤物视频在线 九九视频这里只有精品99 一本一道久久a久久精品综合 久久综合给会久久狠狠狠 国产成人精品男人的天堂538 欧美一区二区高清 毛片一区二区三区 国产欧美日韩在线观看一区二区三区 在线国产二区 欧美不卡网 91在线精品中文字幕 在线国产福利 国内精品91久久久久 91亚洲福利 日韩欧美国产中文字幕 91久久精品国产性色也91久久 亚洲性久久久影院 欧美精品1区 国产热re99久久6国产精品 九九热免费观看 国产精品欧美日韩 久久久久国产一级毛片高清板 久久国产经典视频 日韩欧美亚洲国产一区二区三区 欧美亚洲综合另类在线观看 国产精品自在在线午夜区app 97中文字幕在线观看 视频一二三区 精品国产一区在线观看 国产欧美日韩在线一区二区不卡 欧美一区二三区 伊人成人在线观看 国内精品91久久久久 97在线亚洲 国产在线不卡一区 久久久全免费全集一级全黄片 国产精品v欧美精品∨日韩 亚洲毛片网站 在线不卡一区二区 99re热在线视频 久久激情网 国产毛片一区二区三区精品 久久亚洲综合色 中文字幕视频免费 国产视频亚洲 婷婷伊人久久 国产一区二区免费播放 久久99国产精品成人欧美 99国产在线视频 国产成人免费视频精品一区二区 国产不卡一区二区三区免费视 国产码欧美日韩高清综合一区 久久精品国产主播一区二区 国产一区电影 久久精品国产夜色 国产精品国产三级国产 日韩一区二区三区在线 久久97久久97精品免视看 久久国产免费一区二区三区 伊人久久大香线蕉综合电影网 99re6久精品国产首页 久久激情网 亚洲成人高清在线 国产精品网址 国产成人精品男人的天堂538 香蕉国产综合久久猫咪 国产专区中文字幕 91麻豆精品国产高清在线 久久国产经典视频 国产精品成人va在线观看 国产精品爱啪在线线免费观看 日本精品久久久久久久久免费 亚洲综合一区二区三区 久久五月网 精品国产网红福利在线观看 久久综合亚洲伊人色 亚洲国产精品久久久久久网站 在线日韩国产 99国产精品热久久久久久夜夜嗨 国产综合精品在线 国产区福利 精品亚洲综合久久中文字幕 国产制服丝袜在线 毛片在线播放网站 在线观看免费视频一区 国产精品久久久精品三级 亚洲国产电影在线观看 最新日韩欧美不卡一二三区 狠狠综合久久综合鬼色 日本精品1在线区 国产日韩一区二区三区在线播放 欧美日韩精品在线播放 亚洲欧美日韩国产一区二区三区精品 久久综合久久网 婷婷六月激情在线综合激情 亚洲乱码一区 国产专区91 97av视频在线观看 精品久久久久久中文字幕 久久五月视频 国产成人福利精品视频 国产精品网址 中文字幕视频在线 精品一区二区三区免费视频 伊人手机在线视频 亚洲精品中文字幕乱码 国产在线视频www色 色噜噜国产精品视频一区二区 精品亚洲成a人在线观看 国产香蕉尹人综合在线 成人免费一区二区三区在线观看 国产不卡一区二区三区免费视 欧美精品久久天天躁 国产专区中文字幕 久久精品国产免费中文 久久精品国产免费一区 久久无码精品一区二区三区 国产欧美另类久久久精品免费 欧美精品久久天天躁 亚洲精品在线视频 国产视频91在线 91精品福利一区二区三区野战 日韩中文字幕免费 国产精品99一区二区三区 欧美成人高清性色生活 国产精品系列在线观看 亚洲国产福利精品一区二区 国产成人在线小视频 国产精品久久久久免费 99re热在线视频 久久久久久久综合 一区二区国产在线播放 成人国产在线视频 亚洲精品乱码久久久久 欧美日韩一区二区综合 精品久久久久免费极品大片 中文字幕视频二区 激情粉嫩精品国产尤物 国产成人精品一区二区视频 久久精品中文字幕首页 亚洲高清在线 国产精品亚洲一区二区三区 伊人久久艹 中文在线亚洲 国产精品一区二区在线播放 国产精品九九免费视频 亚洲二区在线播放 亚洲狠狠婷婷综合久久久久网站 亚洲欧美日韩网站 日韩成人精品 亚洲国产一区二区三区青草影视 91精品国产福利在线观看 国产精品久久久久久久久99热 国产一区二区精品尤物 久碰香蕉精品视频在线观看 亚洲日日夜夜 在线不卡一区二区 国产午夜亚洲精品 九九热在线视频观看这里只有精品 伊人手机在线视频 91免费国产精品 日韩欧美中字 91精品国产91久久久久 国产全黄三级播放 视频一区二区三区免费观看 国产开裆丝袜高跟在线观看 国产成人欧美 激情综合丝袜美女一区二区 国产成人亚洲综合无 欧美精品一区二区三区免费观看 欧美亚洲国产日韩 日韩亚州 国产欧美日韩精品高清二区综合区 亚洲午夜国产片在线观看 精品久久久久久中文字幕 欧美精品1区 久久伊人久久亚洲综合 亚洲欧美日韩精品 国产成人精品久久亚洲高清不卡 久久福利影视 国产精品99精品久久免费 久久久久免费精品视频 国产日产亚洲精品 亚洲国产午夜电影在线入口 精品无码一区在线观看 午夜国产精品视频 亚洲一级片免费 伊人久久大香线蕉综合影 国产精品久久影院 久碰香蕉精品视频在线观看 www.欧美精品 在线小视频国产 亚洲国产天堂久久综合图区 欧美一区二区三区不卡 日韩美女福利视频 九九精品免视频国产成人 不卡国产00高中生在线视频 亚洲第一页在线视频 欧美日韩在线播放成人 99re视频这里只有精品 国产精品91在线 精品乱码一区二区三区在线 国产区久久 91麻豆精品国产自产在线观看一区 日韩精品成人在线 九九热在线观看 国产精品久久不卡日韩美女 欧美一区二区三区综合色视频 欧美精品免费一区欧美久久优播 国产精品网址 国产专区中文字幕 国产精品欧美亚洲韩国日本久久 日韩美香港a一级毛片 久久精品123 欧美一区二区三区免费看 99r在线视频 亚洲精品国产字幕久久vr 国产综合激情在线亚洲第一页 91免费国产精品 日韩免费小视频 亚洲国产精品综合一区在线 国产亚洲第一伦理第一区 在线亚洲精品 国产精品一区二区制服丝袜 国产在线成人精品 九九精品免视频国产成人 亚洲国产网 欧美日韩亚洲一区二区三区在线观看 在线亚洲精品 欧美一区二区三区高清视频 国产成人精品男人的天堂538 欧美日韩在线观看区一二 亚洲欧美一区二区久久 久久精品中文字幕首页 日本高清www午夜视频 久久精品国产免费 久久999精品 亚洲国产精品欧美综合 88国产精品视频一区二区三区 91久久偷偷做嫩草影院免费看 国产精品夜色视频一区二区 欧美日韩导航 国产成人啪精品午夜在线播放 一区二区视频在线免费观看 99久久精品国产自免费 精液呈暗黄色 久久99国产精品 日本精品久久久久久久久免费 精品国产97在线观看 99re视频这里只有精品 国产视频91在线 999av视频 亚洲美女视频一区二区三区 久久97久久97精品免视看 亚洲国产成人久久三区 99久久亚洲国产高清观看 日韩毛片在线视频 综合激情在线 91福利一区二区在线观看 一区二区视频在线免费观看 激情粉嫩精品国产尤物 国产成人精品曰本亚洲78 国产成人精品本亚洲 国产精品成人免费视频 国产成人啪精品视频免费软件 久久精品国产亚洲妲己影院 国产精品成人久久久久久久 久久大香线蕉综合爱 欧美一区二区三区高清视频 99热国产免费 在线观看欧美国产 91精品视频在线播放 国产精品福利社 欧美精品一区二区三区免费观看 国产一区二区免费视频 国产午夜精品一区二区 精品视频在线观看97 91精品福利久久久 国产一区福利 国产综合激情在线亚洲第一页 国产精品久久久久久久久久久不卡 九色国产 在线日韩国产 黄网在线观看 亚洲一区小说区中文字幕 中文字幕丝袜 日本二区在线观看 日本国产一区在线观看 欧美日韩一区二区三区久久 欧美精品亚洲精品日韩专 国产日产亚洲精品 久久综合九色综合欧美播 亚洲国产欧美无圣光一区 欧美视频区 亚洲乱码视频在线观看 久久无码精品一区二区三区 九九热精品免费视频 久久99精品久久久久久牛牛影视 国产精品成久久久久三级 国产一区福利 午夜国产精品视频 日本二区在线观看 99久久网站 国产亚洲天堂 精品国产一区二区三区不卡 亚洲国产日韩在线一区 国产成人综合在线观看网站 久久免费高清视频 欧美在线导航 午夜精品久久久久久99热7777 欧美久久综合网 国产小视频精品 国产尤物在线观看 亚洲国产精品综合一区在线 欧美一区二区三区不卡视频 欧美黑人欧美精品刺激 日本福利在线观看 久久国产偷 国产手机精品一区二区 国产热re99久久6国产精品 国产高清啪啪 欧美亚洲国产成人高清在线 国产在线第三页 亚洲综合一区二区三区 99r在线视频 99精品久久久久久久婷婷 国产精品乱码免费一区二区 国产在线精品福利91香蕉 国产尤物视频在线 五月婷婷亚洲 中文字幕久久综合伊人 亚洲精品一级毛片 99国产精品电影 在线视频第一页 久久99国产精品成人欧美 国产白白视频在线观看2 成人精品一区二区www 亚洲成人网在线观看 麻豆91在线视频 色综合合久久天天综合绕视看 久久精品国产免费高清 国产不卡一区二区三区免费视 欧美国产中文 99精品欧美 九九在线精品 国产中文字幕在线免费观看 国产一区中文字幕在线观看 国产成人一级 国产精品一区二区制服丝袜 国产一起色一起爱 亚洲精品成人在线 亚洲欧美精品在线 国产欧美自拍视频 99精品久久久久久久婷婷 久99视频 国产热re99久久6国产精品 视频一区亚洲 国产精品视频分类 国产精品成在线观看 99re6久精品国产首页 亚洲在成人网在线看 亚洲国产日韩在线一区 久久国产三级 日韩国产欧美 欧美在线一区二区三区 国产精品美女一级在线观看 成人午夜免费福利视频 亚洲天堂精品在线 91精品国产手机 欧美日韩视频在线播放 狠狠综合久久综合鬼色 九一色视频 青青视频国产 亚洲欧美自拍一区 中文字幕天天躁日日躁狠狠躁97 日韩免费大片 996热视频 伊人成综合网 亚洲天堂欧美 日韩精品亚洲人成在线观看 久久综合给会久久狠狠狠 日韩精品亚洲人成在线观看 日韩国产欧美 亚洲成aⅴ人片在线影院八 亚洲精品1区 99久久精品免费 国产精品高清在线观看 国产精品久久久免费视频 在线亚洲欧美日韩 91在线看视频 国产精品96久久久久久久 欧美日韩国产成人精品 91在线亚洲 热久久亚洲 国产精品美女免费视频观看 日韩在线毛片 亚洲永久免费视频 九九免费在线视频 亚洲一区网站 日本高清二区视频久二区 精品国产美女福利在线 伊人久久艹 国产精品久久久久三级 欧美成人精品第一区二区三区 99久久精品国产自免费 在线观看日韩一区 国产中文字幕一区 成人免费午夜视频 欧美日韩另类在线 久久99国产精品成人欧美 色婷婷中文网 久久天天躁夜夜躁狠狠躁2020 欧美成人伊人久久综合网 国产精品福利资源在线 国产伦精品一区二区三区高清 国产精品亚洲综合色区韩国 亚洲一区欧美日韩 色综合视频 国语自产精品视频在线区 国产高清a 成人国内精品久久久久影 国产在线精品香蕉综合网一区 国产不卡在线看 国产成人精品精品欧美 国产欧美日韩综合精品一区二区三区 韩国电影一区二区 国产在线视频www色 91中文字幕在线一区 国产人成午夜免视频网站 亚洲综合一区二区三区 色综合视频一区二区观看 久久五月网 九九热精品在线观看 国产一区二区三区国产精品 99久热re在线精品996热视频 亚洲国产网 在线视频亚洲一区 日韩字幕一中文在线综合 国产高清一级毛片在线不卡 精品国产色在线 国产高清视频一区二区 精品日本久久久久久久久久 亚洲国产午夜精品乱码 成人免费国产gav视频在线 日韩欧美一区二区在线观看 欧美曰批人成在线观看 韩国电影一区二区 99re这里只有精品6 日韩精品一区二区三区视频 99re6久精品国产首页 亚洲欧美一区二区三区导航 欧美色图一区二区三区 午夜精品视频在线观看 欧美激情在线观看一区二区三区 亚洲热在线 成人国产精品一区二区网站 亚洲一级毛片在线播放 亚洲一区小说区中文字幕 亚洲午夜久久久久影院 国产自产v一区二区三区c 国产精品视频免费 久久调教视频 国产成人91激情在线播放 国产精品欧美亚洲韩国日本久久 久久亚洲日本不卡一区二区 91中文字幕网 成人国产在线视频 国产视频91在线 欧美成人精品第一区二区三区 国产精品福利在线 久久综合九色综合精品 欧美一区二区三区精品 久久国产综合尤物免费观看 久久99青青久久99久久 日韩精品免费 久久国产精品999 91亚洲视频在线观看 国产精品igao视频 色综合区 在线亚洲欧国产精品专区 国产一区二区三区在线观看视频 亚洲精品成人在线 一区二区国产在线播放 中文在线亚洲 亚洲精品第一国产综合野 国产一区二区精品久久 一区二区三区四区精品视频 99热精品久久 中文字幕视频二区 国产成人精品男人的天堂538 99精品影视 美女福利视频一区二区 久久午夜夜伦伦鲁鲁片 综合久久久久久久综合网 国产精品国产欧美综合一区 国产99视频在线观看 国产亚洲女在线精品 婷婷影院在线综合免费视频 国产亚洲3p一区二区三区 91成人爽a毛片一区二区 亚洲一区二区高清 国产欧美亚洲精品第二区首页 欧美日韩导航 亚洲高清二区 欧美激情观看一区二区久久 日韩毛片在线播放 亚洲欧美日韩高清中文在线 亚洲日本在线播放 国产精品一区二区制服丝袜 精品国产一区二区三区不卡 国产不卡在线看 国产欧美网站 四虎永久在线观看视频精品 国产黄色片在线观看 夜夜综合 一本色道久久综合狠狠躁篇 欧美亚洲综合另类在线观看 国产91在线看 伊人久久国产 欧美一区二区在线观看免费网站 国产精品久久久久三级 久久福利 日韩中文字幕a 亚洲午夜久久久久影院 91在线高清视频 国产亚洲一区二区三区啪 久久人精品 国产精品亚洲午夜一区二区三区 综合久久久久久 久久伊人一区二区三区四区 国产综合久久久久久 日韩一区精品视频在线看 国产精品日韩欧美制服 日本精品1在线区 99re视频 无码av免费一区二区三区试看 国产视频1区 日韩欧美中文字幕一区 日本高清中文字幕一区二区三区a 亚洲国产欧美无圣光一区 国产在线视频一区二区三区 欧美国产第一页 在线亚洲欧美日韩 日韩中文字幕第一页 在线不卡一区二区 伊人久久青青 国产精品一区二区在线播放 www.五月婷婷 麻豆久久婷婷国产综合五月 亚洲精品区 久久国产欧美另类久久久 99在线视频免费 伊人久久中文字幕久久cm 久久精品成人免费看 久久这里只有精品首页 88国产精品视频一区二区三区 中文字幕日本在线mv视频精品 国产在线精品成人一区二区三区 伊人精品线视天天综合 亚洲一区二区黄色 国产尤物视频在线 亚洲精品99久久久久中文字幕 国产一区二区三区免费观看 伊人久久大香线蕉综合电影网 国产成人精品区在线观看 日本精品一区二区三区视频 日韩高清在线二区 久久免费播放视频 一区二区成人国产精品 国产精品免费精品自在线观看 亚洲精品视频二区 麻豆国产精品有码在线观看 精品日本一区二区 亚洲欧洲久久 久久中文字幕综合婷婷 中文字幕视频在线 国产成人精品综合在线观看 91精品国产91久久久久福利 精液呈暗黄色 香蕉国产综合久久猫咪 国产专区精品 亚洲精品无码不卡 国产永久视频 亚洲成a人片在线播放观看国产 一区二区国产在线播放 亚洲一区二区黄色 欧美日韩在线观看视频 亚洲精品另类 久久国产综合尤物免费观看 国产一区二区三区国产精品 高清视频一区 国产精品igao视频 国产精品资源在线 久久综合精品国产一区二区三区 www.五月婷婷 精品色综合 99热国产免费 麻豆福利影院 亚洲伊人久久大香线蕉苏妲己 久久电影院久久国产 久久精品伊人 在线日韩理论午夜中文电影 亚洲国产欧洲综合997久久 伊人国产精品 久草国产精品 欧美一区精品二区三区 亚洲成人高清在线 91免费国产精品 日韩精品福利在线 国产一线在线观看 国产不卡在线看 久久99青青久久99久久 亚洲精品亚洲人成在线播放 99久久免费看国产精品 国产日本在线观看 青草国产在线视频 麻豆久久婷婷国产综合五月 国产中文字幕一区 91久久精品国产性色也91久久 国产一区a 国产欧美日韩成人 国产亚洲女在线精品 一区二区美女 中文字幕在线2021一区 在线小视频国产 久久这里只有精品首页 国产在线第三页 欧美日韩中文字幕 在线亚洲+欧美+日本专区 精品国产一区二区三区不卡 久久这里精品 欧美在线va在线播放 精液呈暗黄色 91精品国产手机 91在线免费播放 欧美视频亚洲色图 欧美国产日韩精品 日韩高清不卡在线 精品视频免费观看 欧美日韩一区二区三区四区 国产欧美亚洲精品第二区首页 亚洲韩精品欧美一区二区三区 国产精品视频免费 在线精品小视频 久久午夜夜伦伦鲁鲁片 国产无套在线播放 久热这里只精品99re8久 欧美久久久久 久久香蕉国产线看观看精品蕉 国产成人精品男人的天堂538 亚洲人成网站色7799在线观看 日韩在线第二页 一本色道久久综合狠狠躁篇 国产一区二区三区不卡在线观看 亚洲乱码在线 在线观看欧美国产 久久福利青草精品资源站免费 国产玖玖在线观看 在线亚洲精品 亚洲成aⅴ人在线观看 精品91在线 欧美一区二三区 日韩中文字幕视频在线 日本成人一区二区 日韩免费专区 国内精品在线观看视频 久久国产综合尤物免费观看 国产精品系列在线观看 一本一道久久a久久精品综合 亚洲免费播放 久久精品国产免费 久久人精品 亚洲毛片网站 亚洲成a人一区二区三区 韩国福利一区二区三区高清视频 亚洲精品天堂在线 一区二区三区中文字幕 亚洲国产色婷婷精品综合在线观看 亚洲国产成人久久笫一页 999国产视频 国产精品香港三级在线电影 欧美日韩一区二区三区四区 日韩国产欧美 国产精品99一区二区三区 午夜国产精品理论片久久影院 亚洲精品中文字幕麻豆 亚洲国产高清视频 久久免费手机视频 日韩a在线观看 五月婷婷亚洲 亚洲精品中文字幕麻豆 中文字幕丝袜 www国产精品 亚洲天堂精品在线 亚洲乱码一区 国产日韩欧美三级 久久999精品 伊人热人久久中文字幕 久热国产在线视频 国产欧美日韩在线观看一区二区三区 国产一二三区在线 日韩国产欧美 91精品国产91久久久久 亚洲一区小说区中文字幕 精品一区二区免费视频 国产精品视频免费 国产精品亚洲综合色区韩国 亚洲国产精品成人午夜在线观看 欧美国产日韩精品 中文字幕精品一区二区精品