一種異常登錄檢測方法及裝置與流程

本發明涉及互聯網技術領域，尤其涉及一種異常登錄檢測方法及裝置。

背景技術：

隨著互聯網的不斷發展，網絡安全所帶來的挑戰也越來越嚴峻。一旦攻擊者通過釣魚，詐騙等手段竊取到用戶的賬號和密碼之后，用戶的個人信息和財產就受到了嚴重的威脅。因此，及時發現異常的用戶登錄行為，并對其賬戶采取適當的保護措施，對于保護用戶的隱私和財產有重大的意義。然而，對于如何檢測異常登錄的行為，一直是行業內的一個重點研究問題。

對于檢測異常登錄行為，最簡單的方法為閾值檢測。即統計某一入口或ip下，發起的登錄次數以及其中的異常行為的比例(包括用戶不存在，密碼錯誤以及異地登錄等)，如果這個比例超過了一定的閾值，那么就可以認為這個ip發起的登錄行為都是異常的。這么做的原理在于，攻擊者往往需要嘗試它所擁有的所有用戶名/密碼來進行登錄，如果登錄成功就可以盜取一個賬號。因為數據量較大，攻擊者會以極快的速度來進行登錄嘗試，這樣才能保證它自身的收益。而這些嘗試中，又會有很大一部分是失敗的。而對于正常用戶而言，一來不會短時間內發起大量登錄，二來不會出現大量的失敗(其實有輸錯的情況，也不會占太大比例)。通過這種行為的區別，來指定一個閾值進行區分，是一個簡單易行的方法，目前也被大量的公司所采用。而對于閾值的設置，往往是根據次數來進行分段的，例如登錄10次失敗超過90％，登錄100次失敗超過70％等。

閾值檢測的方法雖然簡單易行，但存在以下幾個缺點：

1)閾值固定：閾值的設定往往是通過經驗，人為的總結出來的。但是黑客本身，也能夠通過其經驗，去猜測目標服務器的閾值。例如，如果一個黑客在登錄100次以上就被封禁，它可以猜測到閾值大致在100左右，然后通過降低攻擊頻率，替換ip等方式來進行規避，使得基于閾值的防御完全失效。

2)閾值不連續：閾值的分段是由于次數越多，可疑性越大，因此允許的失敗比例會越低。但是，這個不連續性會造成較大的問題。例如，假如一個閾值的一個分段點為100，對于100以下的次數，允許失敗率為90％，而對于100以上的次數，允許的失敗率只有70％。那么對于黑客來說，一旦它猜測出了這個分段標準，它就可以把它的嘗試次數設置到99，從而最大化攻擊的效率。

3)閾值人為設定：閾值的設定往往是憑借人為的經驗來設定的，這樣一來，成本就會增加不少。另外，黑客的攻擊行為是一直變化的，人為的處理方式也就意味著響應的滯后性，很可能等人為反應過來的時候，一個攻擊行為已經完成了。同樣的，如果想將同一套策略移植到不同的服務，則需要不同的閾值設定。這個時候，人為設定也將大大限制防御系統本身的擴展性。

除了從ip的角度去判定異常登錄的行為，也可以從用戶的角度出發去進行檢測。例如，可以根據用戶的歷史登錄記錄，分析出該用戶的常用登錄地、常用登錄時間等。一旦用戶在登錄的時候，登錄地或者登錄時間發生異常的改變，就判定為異常登錄的行為。

這個策略的好處在于，不局限于攻擊者發起的登錄行為，而直接從用戶本身的角度去考慮。這樣一來，哪怕攻擊者只登錄了一次，也能夠及時的發現異常登錄行為。而且，攻擊者掌握的用戶信息往往有限，因此，也不能準確的去模仿出用戶的習慣登錄行為。這樣一來，對于攻擊者的成本，就會大大增加。

基于用戶的策略，同樣也會存在一定的不足之處：

1)誤報率和漏報率較高：如果只是從少數幾個維度去分析，很容易出現誤報或者漏報的情況。例如，當用戶某天突然出差到另一個城市，那么很可能會觸發異常登錄的行為。而這種頻繁的誤報，會對用戶體驗產生極大的負面影響。另一方面，如果攻擊者恰巧跟用戶的常用登錄地符合，那么就會產生漏報。常用登錄時間也同樣存在類似的問題，如果一個用戶全天段都在進行登錄的情況下，那么相當于時間維度的保護已經完全失效。

2)冷啟動問題：所謂冷啟動問題，及對于一個新用戶，在缺乏歷史數據的情況下，如何判定常用登錄地及常用登錄時間等問題。這是因為，常用地的判斷，往往需要對用戶歷史的登錄地進行一個綜合的判定，才能夠給出一個準確的結果出來。冷啟動的問題，將直接導致新用戶無法得到有效的保護，從而對于用戶的增長產生嚴重的影響。

在實現本發明過程中，發明人發現現有技術中至少存在如下問題：傳統異常登錄檢測技術方案維度單一，而且需要很多的人為工作。

技術實現要素：

本發明實施例提供一種異常登錄檢測方法及裝置，以解決傳統技術方案維度單一的問題，并能夠避免過多的人為工作。

一方面，本發明實施例提供了一種異常登錄檢測方法，所述方法包括：

當檢測到某一用戶登錄時，獲取當前用戶的用戶登錄日志；

根據當前用戶的用戶登錄日志，獲取當前用戶登錄的多維屬性數據；

根據當前用戶登錄的多維屬性數據，利用建立的用戶登錄機器學習模型對當前用戶登錄進行異常評分，獲取當前用戶登錄的異常評分值；

若判定所述異常評分值在設置的異常評分閾值范圍之內，則向當前用戶發起是否允許當前用戶登錄的詢問；

根據當前用戶的詢問反饋結果，對是否允許當前用戶登錄進行處理。

另一方面，本發明實施例提供了一種異常登錄檢測裝置，所述裝置包括：

預處理單元，用于當檢測到某一用戶登錄時，獲取當前用戶的用戶登錄日志；根據當前用戶的用戶登錄日志，獲取當前用戶登錄的多維屬性數據；

機器學習單元，用于根據當前用戶登錄的多維屬性數據，利用建立的用戶登錄機器學習模型對當前用戶登錄進行異常評分，獲取當前用戶登錄的異常評分值；

主動學習單元，用于若判定所述異常評分值在設置的異常評分閾值范圍之內，則向當前用戶發起是否允許當前用戶登錄的詢問；

異常處理單元，用于根據當前用戶的詢問反饋結果，對是否允許當前用戶登錄進行處理。

上述技術方案具有如下有益效果：通過將機器學習的方式引入到異常登錄檢測中來，解決傳統方法維度單一的問題，也能夠避免過多的人為工作。

附圖說明

為了更清楚地說明本發明實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本發明的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。

圖1為本發明實施例一種異常登錄檢測方法流程圖；

圖2為本發明實施例一種異常登錄檢測裝置結構示意圖；

圖3為本發明實施例機器學習單元結構示意圖；

圖4為本發明實施例主動學習單元結構示意圖；

圖5為本發明應用實例一種異常登錄檢測方法整體流程示意圖。

具體實施方式

下面將結合本發明實施例中的附圖，對本發明實施例中的技術方案進行清楚、完整地描述，顯然，所描述的實施例僅僅是本發明一部分實施例，而不是全部的實施例。基于本發明中的實施例，本領域普通技術人員在沒有做出創造性勞動前提下所獲得的所有其他實施例，都屬于本發明保護的范圍。

如圖1所示，為本發明實施例一種異常登錄檢測方法流程圖，所述方法包括：

101、當檢測到某一用戶登錄時，獲取當前用戶的用戶登錄日志；

102、根據當前用戶的用戶登錄日志，獲取當前用戶登錄的多維屬性數據；

103、根據當前用戶登錄的多維屬性數據，利用建立的用戶登錄機器學習模型對當前用戶登錄進行異常評分，獲取當前用戶登錄的異常評分值；

104、若判定所述異常評分值在設置的異常評分閾值范圍之內，則向當前用戶發起是否允許當前用戶登錄的詢問；

105、根據當前用戶的詢問反饋結果，對是否允許當前用戶登錄進行處理。

優選地，所述用戶登錄機器學習模型的建立方法，包括：獲取多個樣本用戶登錄日志；根據所述多個樣本用戶登錄日志，獲取所述多個樣本用戶登錄的多維屬性數據及登錄結果；利用所述多個樣本用戶登錄的多維屬性數據及登錄結果，采用增量式的機器學習算法進行機器學習，建立所述用戶登錄機器學習模型。

優選地，所述方法還包括：將所述當前用戶的多維屬性數據及登錄結果作為訓練集，采用增量式的機器學習算法進行機器學習，修正所述用戶登錄機器學習模型。

優選地，還包括：若判定所述異常評分值高于設置的異常評分閾值范圍中的最大值，則直接按照異常登錄進行處理；若判定所述異常評分值低于設置的異常評分閾值范圍中的最小值，則允許登錄。

優選地，所述多維屬性數據包括：登錄是否屬于常用登錄地、登錄是否屬于常用登錄時間、登錄是否屬于常用登錄設備、統計維度數據；所述統計維度數據包括：預設時間內的錯誤率，預設時間內的登錄次數；

若判定所述異常評分值在設置的異常評分閾值范圍之內，則在向當前用戶發起是否允許當前用戶登錄的詢問之前，還包括：通過如下至少一種方式對當前用戶進行強制驗證：驗證密碼、驗證手機號、驗證身份證號、驗證用戶頭像、驗證手勢；并確認強制驗證通過。若強制驗證未通過，則確定為異常登錄，不用向當前用戶發起是否允許當前用戶登錄的詢問。

對應于方法實施例，如圖2所示，為本發明實施例一種異常登錄檢測裝置結構示意圖，所述裝置包括：

預處理單元21，用于當檢測到某一用戶登錄時，獲取當前用戶的用戶登錄日志；根據當前用戶的用戶登錄日志，獲取當前用戶登錄的多維屬性數據；

機器學習單元22，用于根據當前用戶登錄的多維屬性數據，利用建立的用戶登錄機器學習模型對當前用戶登錄進行異常評分，獲取當前用戶登錄的異常評分值；

主動學習單元23，用于若判定所述異常評分值在設置的異常評分閾值范圍之內，則向當前用戶發起是否允許當前用戶登錄的詢問；

異常處理單元24，用于根據當前用戶的詢問反饋結果，對是否允許當前用戶登錄進行處理。

優選地，所述預處理單元21，還用于獲取多個樣本用戶登錄日志；根據所述多個樣本用戶登錄日志，獲取所述多個樣本用戶登錄的多維屬性數據及登錄結果；獲取多個用戶登錄日志；根據所述多個用戶登錄日志，獲取用戶登錄的多維屬性數據；

如圖3所示，為本發明實施例機器學習單元結構示意圖，所述機器學習單元22包括：

用戶登錄機器學習模型建立模塊221，用于利用所述多個樣本用戶登錄的多維屬性數據及登錄結果，采用增量式的機器學習算法進行機器學習，建立所述用戶登錄機器學習模型。

優選地，所述機器學習單元22還包括：

用戶登錄機器學習模型修正模塊222，用于將所述當前用戶的多維屬性數據及登錄結果作為訓練集，采用增量式的機器學習算法進行機器學習，修正所述用戶登錄機器學習模型。

優選地，所述異常處理單元24，還用于若判定所述異常評分值高于設置的異常評分閾值范圍中的最大值，則直接按照異常登錄進行處理；

所述異常處理單元24，還用于若判定所述異常評分值低于設置的異常評分閾值范圍中的最小值，則允許登錄。

優選地，所述多維屬性數據包括：登錄是否屬于常用登錄地、登錄是否屬于常用登錄時間、登錄是否屬于常用登錄設備、統計維度數據；所述統計維度數據包括：預設時間內的錯誤率，預設時間內的登錄次數；

如圖4所示，為本發明實施例主動學習單元結構示意圖，所述主動學習單元23包括：

強制驗證模塊231，用于若判定所述異常評分值在設置的異常評分閾值范圍之內，則在向當前用戶發起是否允許當前用戶登錄的詢問之前，通過如下至少一種方式對當前用戶進行強制驗證：驗證密碼、驗證手機號、驗證身份證號、驗證用戶頭像、驗證手勢；并確認強制驗證通過。

上述技術方案具有如下有益效果：通過將機器學習的方式引入到異常登錄檢測中來，解決傳統方法維度單一的問題，也能夠避免過多的人為工作。重要的是，考慮到訓練集對機器學習效果的影響，本發明實施例還提出了通過用戶反饋來收集訓練集的模式，這樣一來，可以有效解決在運用機器學習過程中，收集訓練集的難題。通過引入用戶反饋，并一定程度上考慮用戶體驗，能夠最高效的收集到準確的訓練數據，從而有效提升機器學習的整體效果。

以下通過應用實例對本發明實施例上述技術方案進行詳細說明：

如圖5所示，為本發明應用實例一種異常登錄檢測方法整體流程示意圖，具體包括：

1.對每一條登錄日志進行預處理。這個預處理可以包括，判定當前登錄是否屬于常用登錄地，是否屬于常用時間；也可以包括一些統計特征，例如短時間內的錯誤率，登錄次數等。經過預處理之后，原始登錄日志會被轉化為一個一個的維度屬性，可以直接用于機器學習中去處理。

2.通過機器學習，利用用戶登錄機器學習模型對當前登錄進行異常評分。在這里，具體采用的機器學習算法不是本發明的重點，這里只要求采用增量式的機器學習算法即可，如，hoeffding樹。

3.在獲取到異常評分后，通過主動學習來判斷是否需要向用戶進行咨詢。主動學習會維護一個評分的閾值，當異常評分高于閾值時，則直接處理。否則向用戶發起咨詢。這樣一來，就可以避免向用戶發起過多咨詢，影響用戶體驗。

4.獲取到用戶反饋后，將當前用戶的多維屬性數據及登錄結果作為訓練集，采用增量式的機器學習算法進行機器學習，修正所述用戶登錄機器學習模型。這樣一來，通過不斷的用戶反饋，就能夠不斷的加強機器學習的模型。

以下詳述本發明實施例的上述技術方案：

預處理：

預處理階段，主要是將簡單的登錄日志，變換成信息相對全面的數據。例如，根據登錄的ip，判斷是否屬于常用的登錄地，根據登錄的用戶代替，判定是否屬于常用的設備等。同時，還可以在ip或者用戶維度收集一些統計信息。比如，當前ip在5分鐘內的登錄次數，失敗頻率，當前用戶上次的登錄時間間隔。只有將日志轉化成大量維度屬性組成的數據時，才能夠以數據的形式準確全面的描述出當前的登錄行為，為機器學習做好必要的數據基礎。

機器學習與用戶反饋：

機器學習屬于一個大的領域范疇，它通常用來解決多維度下的分類問題。本發明并不對機器學習算法部分做任何改進，也不局限于某種或莫一類算法，因此，只是在高層次上進行說明。機器學習算法，會通過對訓練集進行學習，生成一個可用的模型。接著，對新的數據，就可以直接通過模型來給出一個評分。這個評分的準確度，跟訓練集的數量、維度、分步等，都直接相關。

然而，在實際應用中，訓練集的收集過程并不簡單。首先，每天都有大量的登錄日志，而其中只有很小一部分的異常登錄行為。如果只是簡單的隨機抽取，會造成異常登錄的訓練數據過少，無法很好的識別。另外，即使是人為判定，在某些情況下，也很難準確的判定出是否是異常的登錄行為。畢竟工作人員無法直接詢問用戶本人，只能通過收集的到的相關信息，做一個估測。因此，在這種情況下，如何收集到準確全面的訓練集，成為了引入機器學習算法的主要挑戰之一。

本發明應用實例通過用戶反饋的方式來解決這個問題。首先，還是將登錄日志轉化為機器學習可用的多維數據，然后，向用戶以郵件、短信或者私信的形式，向其進行詢問。讓用戶來判定，這次登錄行為是否是本人發起的。根據用戶選擇的結果，可以將多維數據標記成異常或者正常，然后直接投入到訓練集中去。如果采用的是增量式的機器學習算法，還可以立即將訓練數據投入到機器學習算法中去，然后機器學習算法，根據源源不斷的數據，不斷的進化自身的模型，使得分類結果越來越準確。

主動學習：

詢問用戶的方式，雖然直接有效，但是會在用戶體驗上，造成一定的影響。為了控制這個影響的范圍，必須對查詢的次數進行限制。與此同時，又必須保證機器學習能夠得到充分的訓練。為了達到這兩個要求，本發明引入了主動學習的方式。

所謂主動學習，就是根據機器學習的評分結果，判定當前數據是否需要進行準確的人為標記和再訓練。比如，如果一個數據的異常評分為0分或者100分，那么表示機器學習對當前結果十分確定，如果對這個數據進行人為標記和再訓練，那么對于模型的進化，往往產生不了很大的增益。相反的，如果一個數據的異常評分為50分，那么表明機器學習并不確定當前登錄是否異常，這個時候進行人為標記和再訓練，就可以對機器學習產生較大的影響。換一句話說，可以認為，異常評分為50分的數據，其訓練價值比100分的數據要高。

基于這一個原理，主動學習會維護一個評分的閾值范圍，當評分在閾值范圍內的時候，就表示該數據訓練價值高，需要向用戶進行咨詢并再訓練。而這個閾值會隨著咨詢的次數，不斷進行調整，以保證只有一定百分比的用戶會收到咨詢請求。舉例來說，比如初始閾值為40-60，設定只有20％的用戶收到咨詢請求。那么，假設當前已經咨詢的用戶比例，已經達到了20％，且新一條登錄的異常評分為60分，那么，主動學習策略首先判定需要咨詢用戶。接著，因為此時的咨詢比例已經超過20％，主動學習會對閾值范圍進行收縮，比如收縮到41-59。這樣，更少的數據會被判定為需要咨詢，從而限制咨詢的用戶比例持續增長。相反的，如果當前咨詢比例低于20％，那么可以將閾值范圍逐步放寬，直到咨詢比例回到20％為止。這樣一來，主動學習相當于維護了一個自調節的閾值系統，通過這個系統，可以在保證咨詢用戶比例的前提下，最大化訓練集的訓練價值。

反饋驗證：

需要注意的是，通過主動學習的篩選，被詢問的用戶有可能是存在異常登錄行為的。這就意味著，在詢問用戶的時候，有可能不是詢問到的真實用戶，而是詢問到了惡意的攻擊者。顯然，攻擊者會嘗試給出錯誤的反饋來影響機器學習系統的最終檢測效果。因此，在進行詢問的時候，必須要設置一定的驗證門檻，來阻止攻擊者給出錯誤的反饋。

為了收集到足夠多反饋數據，整個反饋流程(包括驗證審核)必須是通過自動化的流程來完成的。這樣一來，對于異常反饋的識別問題和本發明嘗試解決的異常登錄的識別問題，存在著一定的相似性。但是不同的是，對于登錄場景，需要更多的去考慮用戶體驗帶來的影響。而對于反饋，可以加入一些損傷用戶體驗的強驗證機制。因為反饋系統屬于整個檢測機制一個輔助系統，并不會直接影響用戶對產品的使用。而對于擁有龐大用戶基數的產品來說，哪怕只有小部分的用戶愿意參與到整個反饋機制中，就足以推動自學習過程的進行。所以，可以通過強驗證機制和適當的產品設計，來避免再次引入新的異常反饋檢測方法來使得這個過程過于復雜化。部分可信的強驗證機制包括：驗證密碼、手機或者身份證號等。甚至可以通過驗證頭像、手勢等目前新型的驗證技術，再讓用戶更容易操作的同時，來加強驗證效果。

最后，驗證過程只能局限于自動化的流程，所以是無法保證百分之百的正確的。但是，對于噪聲的處理，是機器學習領域的一個常見問題，大部分的主流算法，都已經有了相對成熟的噪聲處理解決方案。因此，只要通過驗證機制，保障正確率能夠在一個較高的水平，那么少量的攻擊者產生的錯誤反饋，可以被視作噪聲，從而被機器學習算法自動消除掉其影響。

本發明應用實例提供了一種基于用戶反饋的異常登錄自學習式檢測方法。通過將機器學習的方式引入到異常登錄檢測中來，解決傳統方法維度單一的問題，也能夠避免過多的人為工作。更重要的是，考慮到訓練集對機器學習效果的影響，本發明應用實例還提出了通過用戶反饋來收集訓練集的模式，這樣一來，可以有效解決在運用機器學習過程中，收集訓練集的難題。通過引入用戶反饋，并一定程度上考慮用戶體驗，能夠最高效的收集到準確的訓練數據，從而有效提升機器學習的整體效果。

應該明白，公開的過程中的步驟的特定順序或層次是示例性方法的實例。基于設計偏好，應該理解，過程中的步驟的特定順序或層次可以在不脫離本公開的保護范圍的情況下得到重新安排。所附的方法權利要求以示例性的順序給出了各種步驟的要素，并且不是要限于所述的特定順序或層次。

在上述的詳細描述中，各種特征一起組合在單個的實施方案中，以簡化本公開。不應該將這種公開方法解釋為反映了這樣的意圖，即，所要求保護的主題的實施方案需要比清楚地在每個權利要求中所陳述的特征更多的特征。相反，如所附的權利要求書所反映的那樣，本發明處于比所公開的單個實施方案的全部特征少的狀態。因此，所附的權利要求書特此清楚地被并入詳細描述中，其中每項權利要求獨自作為本發明單獨的優選實施方案。

為使本領域內的任何技術人員能夠實現或者使用本發明，上面對所公開實施例進行了描述。對于本領域技術人員來說；這些實施例的各種修改方式都是顯而易見的，并且本文定義的一般原理也可以在不脫離本公開的精神和保護范圍的基礎上適用于其它實施例。因此，本公開并不限于本文給出的實施例，而是與本申請公開的原理和新穎性特征的最廣范圍相一致。

上文的描述包括一個或多個實施例的舉例。當然，為了描述上述實施例而描述部件或方法的所有可能的結合是不可能的，但是本領域普通技術人員應該認識到，各個實施例可以做進一步的組合和排列。因此，本文中描述的實施例旨在涵蓋落入所附權利要求書的保護范圍內的所有這樣的改變、修改和變型。此外，就說明書或權利要求書中使用的術語“包含”，該詞的涵蓋方式類似于術語“包括”，就如同“包括，”在權利要求中用作銜接詞所解釋的那樣。此外，使用在權利要求書的說明書中的任何一個術語“或者”是要表示“非排它性的或者”。

本領域技術人員還可以了解到本發明實施例列出的各種說明性邏輯塊(illustrativelogicalblock)，單元，和步驟可以通過電子硬件、電腦軟件，或兩者的結合進行實現。為清楚展示硬件和軟件的可替換性(interchangeability)，上述的各種說明性部件(illustrativecomponents)，單元和步驟已經通用地描述了它們的功能。這樣的功能是通過硬件還是軟件來實現取決于特定的應用和整個系統的設計要求。本領域技術人員可以對于每種特定的應用，可以使用各種方法實現所述的功能，但這種實現不應被理解為超出本發明實施例保護的范圍。

本發明實施例中所描述的各種說明性的邏輯塊，或單元都可以通過通用處理器，數字信號處理器，專用集成電路(asic)，現場可編程門陣列或其它可編程邏輯裝置，離散門或晶體管邏輯，離散硬件部件，或上述任何組合的設計來實現或操作所描述的功能。通用處理器可以為微處理器，可選地，該通用處理器也可以為任何傳統的處理器、控制器、微控制器或狀態機。處理器也可以通過計算裝置的組合來實現，例如數字信號處理器和微處理器，多個微處理器，一個或多個微處理器聯合一個數字信號處理器核，或任何其它類似的配置來實現。

本發明實施例中所描述的方法或算法的步驟可以直接嵌入硬件、處理器執行的軟件模塊、或者這兩者的結合。軟件模塊可以存儲于ram存儲器、閃存、rom存儲器、eprom存儲器、eeprom存儲器、寄存器、硬盤、可移動磁盤、cd-rom或本領域中其它任意形式的存儲媒介中。示例性地，存儲媒介可以與處理器連接，以使得處理器可以從存儲媒介中讀取信息，并可以向存儲媒介存寫信息。可選地，存儲媒介還可以集成到處理器中。處理器和存儲媒介可以設置于asic中，asic可以設置于用戶終端中。可選地，處理器和存儲媒介也可以設置于用戶終端中的不同的部件中。

在一個或多個示例性的設計中，本發明實施例所描述的上述功能可以在硬件、軟件、固件或這三者的任意組合來實現。如果在軟件中實現，這些功能可以存儲與電腦可讀的媒介上，或以一個或多個指令或代碼形式傳輸于電腦可讀的媒介上。電腦可讀媒介包括電腦存儲媒介和便于使得讓電腦程序從一個地方轉移到其它地方的通信媒介。存儲媒介可以是任何通用或特殊電腦可以接入訪問的可用媒體。例如，這樣的電腦可讀媒體可以包括但不限于ram、rom、eeprom、cd-rom或其它光盤存儲、磁盤存儲或其它磁性存儲裝置，或其它任何可以用于承載或存儲以指令或數據結構和其它可被通用或特殊電腦、或通用或特殊處理器讀取形式的程序代碼的媒介。此外，任何連接都可以被適當地定義為電腦可讀媒介，例如，如果軟件是從一個網站站點、服務器或其它遠程資源通過一個同軸電纜、光纖電纜、雙絞線、數字用戶線(dsl)或以例如紅外、無線和微波等無線方式傳輸的也被包含在所定義的電腦可讀媒介中。所述的碟片(disk)和磁盤(disc)包括壓縮磁盤、鐳射盤、光盤、dvd、軟盤和藍光光盤，磁盤通常以磁性復制數據，而碟片通常以激光進行光學復制數據。上述的組合也可以包含在電腦可讀媒介中。

以上所述的具體實施方式，對本發明的目的、技術方案和有益效果進行了進一步詳細說明，所應理解的是，以上所述僅為本發明的具體實施方式而已，并不用于限定本發明的保護范圍，凡在本發明的精神和原則之內，所做的任何修改、等同替換、改進等，均應包含在本發明的保護范圍之內。