本發明涉及數據處理技術領域,特別涉及一種燃煤機組參數處理系統及方法。
背景技術:
當前,為了實現發電信息平臺由“點末端監控”向“全過程監控”的轉變,解決傳統上只監測污染結果、不重視生產過程環境保護和環保設施運行的問題,已實現對燃煤機組脫硫、脫硝、除塵等環保設施及機爐主要關鍵參數的實時采集。目前的采集系統如圖1所示,配置兩臺采集服務器和一臺正向隔離裝置,各設備功能如下:
采集服務器1上部署采集應用程序,實現對各種不同數據源的實時、歷史數據讀取功能。正向隔離裝置實現電廠信息安全區與電力調度三區之間的隔離,僅允許采集服務器1向采集服務器2傳輸字節形式的數據,逆向傳輸或傳輸其他格式數據流均被禁用。采集服務器2上部署應用,一方面解析從采集服務器1,經正向隔離裝置傳輸過來的文件,另一方面通過TCP/IP協議,將實時數據寫入主站采集數據庫。
雖然目前的采集系統能實現大數據量的采集,但存在如下問題:
一方面,由于現場數據源存在多類型的情況,采集系統呈現多樣化分布,針對每種數據源類型,都開發了相應的采集程序。各程序之間數據提取和轉換方式都存在區別,不具備兼容性,每新增一種數據源類型都要進行采集軟件的重復開發,開發工作量大,且現場實施和維護也極其不便。
另一方面,采集服務器2中對數據文件的處理形式造成了一定的弊端:按照目前采集系統數據從現場服務器直接入庫的形式,現場不同種類的大量服務器需要同時訪問主站端實時數據庫,數據中服務器承受著巨大的訪問和網絡壓力,影響了數據傳輸的穩定性和可靠性。
技術實現要素:
本發明的目的在于提供一種燃煤機組參數處理系統及方法,能夠有效改善數據采集系統的穩定性、可靠性、兼容性、擴展性,使現場實施和日常維護更加簡便,降低主站端數據庫訪問壓力,確保發電企業數據正常傳輸。
為實現上述目的,本發明提供一種燃煤機組參數處理系統,所述系統包括前端數據采集區、數據傳輸區和末端數據存儲區,所述前端數據采集區和所述數據傳輸區之間連接有正向隔離裝置,所述前端數據采集區用于封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集;所述數據傳輸區用于將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中;其中,所述數據客戶端通過與主站的數據服務端進行通訊,以向所述主站的數據服務端上傳經過壓縮的數據;所述末端數據存儲區用于按照所述前端數據采集區預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫。
進一步地,所述前端數據采集區由前端數據采集應用實現,所述前端數據采集應用支持多種類型的通訊協議,所述前端數據采集應用用于將所述多種類型的通訊協議整合為統一的信道接口和協議接口;通過所述統一的信道接口和協議接口采集所述燃煤機組的參數數據,并將采集的參數數據按照預設規約格式轉換為文件形式。
進一步地,所述前端數據采集應用包括宿主程序模塊和插件庫,其中:所述宿主程序模塊用于通過插件接口規范來管理所述插件庫中的插件,并將采集到的數據按照預設規約格式進行打包封裝,并將打包封裝后的數據寫入所述正向隔離裝置指定的文件目錄中;所述插件庫用于存儲各種數據庫類型對應的插件。
進一步地,所述數據傳輸區由數據傳輸應用實現,所述數據傳輸應用中包括數據客戶端和數據服務端,其中:所述數據客戶端用于將采集的數據處理為加密壓縮文件,并將所述加密壓縮文件存放于發送緩存目錄夾中;利用網絡通訊協議,經電力調度數據網絡與所述數據服務端搭建起數據傳輸通道,并將所述發送緩存目錄夾中的加密壓縮文件發送到至所述數據服務端;所述數據服務端用于接收所述加密壓縮文件,并將所述加密壓縮文件存儲于文件存儲中心。
進一步地,所述末端數據存儲區由末端數據存儲應用實現,所述末端數據存儲應用用于將所述數據服務端的數據進行解密和解壓縮,并將解密和解壓縮后的數據寫入主站數據庫中。
為實現上述目的,本申請另一方面還提供一種燃煤機組參數處理方法,所述方法包括:預先封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集;將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中;其中,所述數據客戶端通過與主站的數據服務端進行通訊,以向所述主站的數據服務端上傳經過壓縮的數據;按照預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫。
進一步地,預先封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集具體包括:將多種類型的通訊協議整合為統一的信道接口和協議接口,并通過所述統一的信道接口和協議接口采集所述燃煤機組的參數數據,并將采集的參數數據按照預設規約格式轉換為文件形式。
進一步地,將采集的參數數據按照預設規約格式轉換為文件形式具體包括:將采集到的數據按照預設規約格式進行打包封裝,并將打包封裝后的數據寫入正向隔離裝置指定的文件目錄中。
進一步地,在將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中的步驟之后,所述方法還包括:利用網絡通訊協議,經電力調度數據網絡與數據服務端搭建起數據傳輸通道,并將經過加密壓縮處理的文件發送到至所述數據服務端;所述數據服務端接收所述經過加密壓縮處理的文件,并將所述經過加密壓縮處理的文件存儲于文件存儲中心。
進一步地,按照預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫具體包括:按照預先指定的文件規約格式對所述數據服務端的數據進行解密和解壓縮,并將解密和解壓縮后的數據寫入主站數據庫中。
本申請上述技術方案存在以下有益效果:
1、能夠實現更大數據量的實時采集和歷史采集。
2、具備較好的可擴展性。
在產生新數據源時,本申請中的系統只需要了解新數據源的數據獲取方式,從而可以將其轉換為程序語言封裝到已有的前端數據采集應用中,即可實現數據采集,擴展性好,開發周期短。
3、現場實施和日常維護簡單。
當現場需要新增測點時,傳統的采集方式需要對采集服務器1和采集服務器2中的程序都進行重新配置,無形中增加了現場實施的時間和工作量。而按照本申請中系統的運行模式,新增測點只需要對采集服務器1中的前端數據采集應用進行相關測點配置即可,采集服務器2不要進行任何操作。當系統數據出現故障時,由于傳統的采集方式數據采集和數據寫入都配置在現場,這就需要投入大量的時間配合電廠維護人員進行問題的排查,而本申請中的系統由于將數據文件直接發送至主站端,因此可直接查看數據文件是否正常傳輸即可判斷現場采集和擺渡是否存在故障,維護簡單方便。
4、安全性和可靠性更好。
傳統的數據采集方式由于是直接與主站端數據庫進行連接,存在很大的訪問壓力和安全風險,可能導致數據傳輸故障。而本申請中的系統的運行模式將數據存儲實現統一化,現場的客戶端與主站數據庫之間不產生任何網絡連接,能有效改善上述缺點,提升主站數據庫的安全性,提高數據傳輸的可靠性。
附圖說明
圖1是背景技術中采集系統的結構示意圖;
圖2是本發明中燃煤機組參數處理系統的結構示意圖;
圖3是本發明中Unicollect采集應用的模塊圖;
圖4是本發明中數據傳輸應用的模塊示意圖;
圖5是本發明中燃煤機組參數處理方法的流程圖。
具體實施方式
為了使本技術領域的人員更好地理解本申請中的技術方案,下面將結合本申請實施方式中的附圖,對本申請實施方式中的技術方案進行清楚、完整地描述,顯然,所描述的實施方式僅僅是本申請一部分實施方式,而不是全部的實施方式。基于本申請中的實施方式,本領域普通技術人員在沒有做出創造性勞動前提下所獲得的所有其它實施方式,都應當屬于本申請保護的范圍。
請參閱圖2,本申請實施方式提供一種燃煤機組參數處理系統。所述系統包括前端數據采集區、數據傳輸區和末端數據存儲區,所述前端數據采集區和所述數據傳輸區之間連接有正向隔離裝置。
具體地,所述前端數據采集區用于封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集。
所述數據傳輸區用于將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中;其中,所述數據客戶端通過與主站的數據服務端進行通訊,以向所述主站的數據服務端上傳經過壓縮的數據。
所述末端數據存儲區用于按照所述前端數據采集區預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫。
在本實施方式中,所述前端數據采集區由前端數據采集應用實現,所述前端數據采集應用支持多種類型的通訊協議,所述前端數據采集應用用于將所述多種類型的通訊協議整合為統一的信道接口和協議接口;通過所述統一的信道接口和協議接口采集所述燃煤機組的參數數據,并將采集的參數數據按照預設規約格式轉換為文件形式。
在本實施方式中,所述前端數據采集應用包括宿主程序模塊和插件庫,其中:所述宿主程序模塊用于通過插件接口規范來管理所述插件庫中的插件,并將采集到的數據按照預設規約格式進行打包封裝,并將打包封裝后的數據寫入所述正向隔離裝置指定的文件目錄中。所述插件庫用于存儲各種數據庫類型對應的插件。
在本實施方式中,所述數據傳輸區由數據傳輸應用實現,所述數據傳輸應用中包括數據客戶端和數據服務端,其中:所述數據客戶端用于將采集的數據處理為加密壓縮文件,并將所述加密壓縮文件存放于發送緩存目錄夾中;利用網絡通訊協議,經電力調度數據網絡與所述數據服務端搭建起數據傳輸通道,并將所述發送緩存目錄夾中的加密壓縮文件發送到至所述數據服務端;所述數據服務端用于接收所述加密壓縮文件,并將所述加密壓縮文件存儲于文件存儲中心。
在本實施方式中,所述末端數據存儲區由末端數據存儲應用實現,所述末端數據存儲應用用于將所述數據服務端的數據進行解密和解壓縮,并將解密和解壓縮后的數據寫入主站數據庫中。
請參閱圖2至圖4,在一個具體的應用場景中,前端數據采集區主要任務是對機組運行參數進行實時和歷史采集,采用軟件插件技術,封裝省內所有數據源類型數據調用方式,統一數據采集應用的運行方式和形式。數據傳輸區主要任務是將采集文件與主站端實現實時交互,數據傳輸區摒棄了原有采集系統中數據在現場直接存儲入庫的方式,而是將數據文件經過高精度壓縮后存放于特定的目錄文件中,現場傳輸客戶端程序與主站傳輸服務端程序進行通訊,實現壓縮文件的實時上傳和歷史補傳。末端數據存儲區主要任務是對全省所有機組運行參數進行入庫操作,按照前端采集的文件規約格式,開發統一的數據入庫應用,實現數據的實時存儲。
本發明定義了前端數據采集應用為UniCollect,鑒于現場監測數據來源存在多樣化的特性,包含了DCS系統、SIS系統、MIS系統等,涉及數據庫類型復雜,包括PI、Edna、OpenPlant、Agilor、GE iH、SQL Server、Vestore、Rython等,采集應用在設計上支持多類型通訊協議,采用軟件插件技術方式實現統一的信道接口和協議接口,以計算機服務方式運行,保證了運行的穩定性和可靠性。采集應用獲取數據后按照特定的規約格式,轉換為文件形式進行暫存。該采集應用具備更好的擴展性,對于新增的數據源類型,只需要對采集應用的部分程序進行修改即可實現數據的實時采集和歷史采集。在Unicollect采集應用中,可以包括采集程序主控制器和參數加載控制器。在Unicollect采集應用運行時,可以通過多線程進行信道控制、數據庫訪問、采集任務控制以及數據傳輸控制等過程。此外,Unicollect采集應用還可以通過信道庫控制器和協議庫控制器分別對信道庫和協議庫進行管理。信道庫中可以包括TCP/IP、GPRS、CDMA等不同的信道,協議庫中可以包括OPC、Modbus、IEC61850等常用協議。
本發明采用壓縮級加密方式實現數據上傳,定義了客戶端程序為Uniclient,定義服務端程序為Uniserver。前端數據采集區生成的數據文件由系統中的隔離裝置擺渡到數據傳輸區,由Uniclient處理形成加密壓縮文件,壓縮加密文件存放在發送緩存目錄夾中,等待發送處理。客戶端程序利用網絡通訊協議,經電力調度數據網絡與服務端搭建起數據傳輸通道,將加密的壓縮文件發送到主站端數據文件存儲中心。數據中心支持控制臺方式發送控制命令操控數據傳輸模塊,實現文件傳輸的可控制。如圖4所示,客戶端中可以包括數據暫存目錄,數據暫存目錄中的數據可以讀入數據待壓縮目錄中,并且通過數據加密壓縮模塊進行加密壓縮處理。處理后的文件可以存入數據待發送目錄中,并且在發送了加密壓縮文件后,可以將已發送的加密壓縮文件寫入已發送文件存儲模塊中。在服務端處,可以由接收模塊接收客戶端發來的加密壓縮文件,然后將該加密壓縮文件發往文件存儲中心,從而可以寫入主站的數據庫中。
為了適應數據傳輸區的數據文件交互方式,本發明將末端數據存儲區部分實現了統一處理,定義了統一存儲應用程序Uniwrite。按照此前所述約定的特定數據格式和加密壓縮格式,Uniwrite首先將壓縮文件實現實時解壓操作,然后將解壓縮后的數據文件進行處理,將實時數據和歷史數據進行寫入數據庫操作。Uniwrite和數據傳輸區的服務端物理上獨立運行,降低數據庫壓力的同時也降低了安全風險。Uniwrite能實現省內所有機組運行參數的統一存儲入庫。
具體地,Unicollect采用插件方式實現數據采集應用,該數據采集應用中包括宿主程序模塊和插件庫。宿主程序是采集程序主體,主要負責插件庫管理、任務調度、多線程控制、配置管理、數據壓縮、網絡傳輸以及日志記錄。宿主程序通過插件接口規范來管理插件,實現數據采集,并將采集到的數據安裝特定的文件格式打包封裝,最后寫入正向隔離裝置指定的文件目錄。
其中,插件管理是指負責插件的加載和調用控制,支持不同廠家、不同品牌的數據庫、設備通訊協議。
任務調度是指根據數據采集規則,形成采集任務命令,并根據插件接口規范進行相關調用。
多線程控制是指多種線程驅動采集程序運行,主要線程有:插件管理現場、數據壓縮線程、網絡傳輸線程、日志線程、任務調度線程。
配置管理是指記錄并管理采集程序的各種配置信息。
數據壓縮是指對采集到的數據進行壓縮形成獨立的壓縮數據包信息,并傳遞給網絡傳輸模塊。
網絡傳輸是指負責將壓縮后的數據發送到數據服務器,兼顧網絡握手命令控制。
日志系統是指記錄采集程序主體的各種運行情況信息,形成本地格式化的日志文件。
數據傳輸區采用自動傳輸方式,同時支持服務端人工下發命令方式傳輸數據。數據傳輸協議包括一系列的握手命令和文件操作命令:
心跳命令:用于UniClient與UniServer之間的網絡連接保持控制。
登錄命令:用于確定UniClient在UniServer中所用于的權限,同時確保多UniClient可以互不干擾的工作。
文件傳輸工作目錄設置命令:用于確定文件上傳所對應的根目錄。
目錄夾建立命令:用于在UniServer中建立目錄夾,用于存儲上傳文件。
目錄文件列表:用于對根目錄下的子目錄中的文件名稱列表顯示。
上傳文件命令:UniClient上傳加密壓縮文件到UniServer中指定的目錄中。
下載文件命令:UniClient從UniServer中指定的目錄下下載文件到本地,并負責解析文件內容。
文件刪除命令:UniClient向UniServer發送文件刪除命令,主要用于任務文件的更新控制。
在本實施方式中,統一存儲應用程序Uniwrite軟件架構可以采用分布式方式,支持多進程、多線程方式實現采集數據的存儲入庫。Uniwrite不僅支持將數據存儲到PI數據庫,而且支持將數據存儲到大數據平臺中。
請參閱圖5,本申請還提供一種燃煤機組參數處理方法,所述方法包括以下步驟。
S1:預先封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集;
S2:將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中;其中,所述數據客戶端通過與主站的數據服務端進行通訊,以向所述主站的數據服務端上傳經過壓縮的數據;
S3:按照預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫。
在本申請一個實施方式中,預先封裝各個數據源類型的數據調用方式,并對所述燃煤機組的參數進行實時采集和歷史采集具體包括:
將多種類型的通訊協議整合為統一的信道接口和協議接口,并通過所述統一的信道接口和協議接口采集所述燃煤機組的參數數據,并將采集的參數數據按照預設規約格式轉換為文件形式。
在本申請一個實施方式中,將采集的參數數據按照預設規約格式轉換為文件形式具體包括:
將采集到的數據按照預設規約格式進行打包封裝,并將打包封裝后的數據寫入正向隔離裝置指定的文件目錄中。
在本申請一個實施方式中,在將采集的數據經過壓縮之后存放于數據客戶端的預設目錄文件中的步驟之后,所述方法還包括:
利用網絡通訊協議,經電力調度數據網絡與數據服務端搭建起數據傳輸通道,并將經過加密壓縮處理的文件發送到至所述數據服務端;
所述數據服務端接收所述經過加密壓縮處理的文件,并將所述經過加密壓縮處理的文件存儲于文件存儲中心。
在本申請一個實施方式中,按照預先指定的文件規約格式將所述數據服務端的數據寫入主站數據庫具體包括:
按照預先指定的文件規約格式對所述數據服務端的數據進行解密和解壓縮,并將解密和解壓縮后的數據寫入主站數據庫中。
需要說明的是,上述各個方法步驟的具體實現方式與系統實施方式中的描述一致,這里便不再贅述。
本申請上述技術方案存在以下有益效果:
1、能夠實現更大數據量的實時采集和歷史采集。
2、具備較好的可擴展性。
在產生新數據源時,本申請中的系統只需要了解新數據源的數據獲取方式,從而可以將其轉換為程序語言封裝到已有的前端數據采集應用中,即可實現數據采集,擴展性好,開發周期短。
3、現場實施和日常維護簡單。
當現場需要新增測點時,傳統的采集方式需要對采集服務器1和采集服務器2中的程序都進行重新配置,無形中增加了現場實施的時間和工作量。而按照本申請中系統的運行模式,新增測點只需要對采集服務器1中的前端數據采集應用進行相關測點配置即可,采集服務器2不要進行任何操作。當系統數據出現故障時,由于傳統的采集方式數據采集和數據寫入都配置在現場,這就需要投入大量的時間配合電廠維護人員進行問題的排查,而本申請中的系統由于將數據文件直接發送至主站端,因此可直接查看數據文件是否正常傳輸即可判斷現場采集和擺渡是否存在故障,維護簡單方便。
4、安全性和可靠性更好。
傳統的數據采集方式由于是直接與主站端數據庫進行連接,存在很大的訪問壓力和安全風險,可能導致數據傳輸故障。而本申請中的系統的運行模式將數據存儲實現統一化,現場的客戶端與主站數據庫之間不產生任何網絡連接,能有效改善上述缺點,提升主站數據庫的安全性,提高數據傳輸的可靠性。
上面對本申請的各種實施方式的描述以描述的目的提供給本領域技術人員。其不旨在是窮舉的、或者不旨在將本發明限制于單個公開的實施方式。如上所述,本申請的各種替代和變化對于上述技術所屬領域技術人員而言將是顯而易見的。因此,雖然已經具體討論了一些另選的實施方式,但是其它實施方式將是顯而易見的,或者本領域技術人員相對容易得出。本申請旨在包括在此已經討論過的本發明的所有替代、修改、和變化,以及落在上述申請的精神和范圍內的其它實施方式。
本說明書中的各個實施方式均采用遞進的方式描述,各個實施方式之間相同相似的部分互相參見即可,每個實施方式重點說明的都是與其他實施方式的不同之處。
雖然通過實施方式描繪了本申請,本領域普通技術人員知道,本申請有許多變形和變化而不脫離本申請的精神,希望所附的權利要求包括這些變形和變化而不脫離本申請的精神。