用于空間目標選擇的失衡式交叉抑制性機制的制作方法
【專利摘要】一種從多個目標之中選擇目標的方法包括基于選擇函數來設置神經網絡中的連接的失衡。該方法還包括基于該失衡來修改多個目標之間的相對激活。該相對激活對應于這些目標之一。
【專利說明】用于空間目標選擇的失衡式交叉抑制性機制
[0001] 相關申請的交叉引用
[0002] 本申請依據35U.S.C.§119(e)要求于2014年2月21日提交的題為"Imbalanced cross-inhibitory mechanism for spatial target selection(用于空間目標選擇的失 衡式交叉抑制性機制)"的美國臨時專利申請No .61/943,231以及于2014年2月21日提交的 題為"dynamic spatial target selection(動態空間目標選擇)"的美國臨時專利申請 No. 61/943,227的權益,其公開內容通過援引整體明確納入于此。
【背景技術】 [0003] 領域
[0004] 本公開的某些方面一般涉及神經系統工程,并且尤其涉及用于空間目標選擇的失 衡式交叉抑制性機制的系統和方法。
[0005] 背景
[0006] 可包括一群互連的人工神經元(即神經元模型)的人工神經網絡是一種計算設備 或者表示將由計算設備執行的方法。人工神經網絡可具有生物學神經網絡中的對應的結構 和/或功能。然而,人工神經網絡可為其中傳統計算技術是麻煩的、不切實際的、或不勝任的 某些應用提供創新且有用的計算技術。由于人工神經網絡能從觀察中推斷出功能,因此這 樣的網絡在因任務或數據的復雜度使得通過常規技術來設計該功能較為麻煩的應用中是 特別有用的。因而,期望提供一種神經元形態接收器以基于為目標單元指定的失衡式交叉 抑制性機制來選擇目標。
[0007] 概述
[0008] 根據本公開的一方面,提出了一種從多個目標之中選擇目標的方法。該方法包括 基于選擇函數來設置神經網絡中的連接的失衡。該方法還包括基于該失衡來修改這些目標 之間的相對激活。該相對激活對應于一個或多個目標。
[0009] 本公開的另一個方面涉及一種用于從多個目標之中選擇目標的設備。該設備包括 用于基于選擇函數來設置神經網絡中的連接的失衡的裝置。該設備還包括用于基于該失衡 來修改這些目標之間的相對激活的裝置。該相對激活對應于一個或多個目標。
[0010] 在本公開的另一方面中,公開了一種用于從多個目標之中選擇目標的計算機程序 產品。該計算機可讀介質上記錄有非瞬態程序代碼,該程序代碼在由(諸)處理器執行時使 得該(諸)處理器執行如下操作:基于選擇函數來設置神經網絡中的連接的失衡。該程序代 碼還使得(諸)處理器基于該失衡來修改這些目標之間的相對激活。該相對激活對應于一個 或多個目標。
[0011] 本公開的另一方面涉及一種用于從多個目標之中選擇目標的裝置,該裝置具有存 儲器和耦合于該存儲器的至少一個處理器。該(諸)處理器被配置成基于選擇函數來設置神 經網絡中的連接的失衡。該(諸)處理器還被配置成基于該失衡來修改這些目標之間的相對 激活。該相對激活對應于一個或多個目標。
[0012] 本公開的其他特征和優點將在下文描述。本領域技術人員應該領會,本公開可容 易地被用作改動或設計用于實施與本公開相同的目的的其他結構的基礎。本領域技術人員 還應認識到,這樣的等效構造并不脫離如所附權利要求中所闡述的本公開的教導。被認為 是本公開的特性的新穎特征在其組織和操作方法兩方面連同進一步的目的和優點在結合 附圖來考慮以下描述時將被更好地理解。然而,要清楚理解的是,提供每一幅附圖均僅用于 解說和描述目的,且無意作為對本公開的限定的定義。
[0013] 附圖簡述
[0014] 在結合附圖理解下面闡述的詳細描述時,本發明的特征、本質和優點將變得更加 明顯,在附圖中,相同附圖標記始終作相應標識。
[0015] 圖1解說根據本公開的某些方面的示例神經元網絡。
[0016] 圖2解說根據本公開的某些方面的計算網絡(神經系統或神經網絡)的處理單元 (神經元)的示例。
[0017] 圖3解說根據本公開的某些方面的尖峰定時依賴可塑性(STDP)曲線的示例。
[0018] 圖4解說根據本公開的某些方面的用于定義神經元模型的行為的正態相和負態相 的示例。
[0019 ]圖5和6解說了根據本公開各方面的目標地圖。
[0020] 圖7解說了神經元的常規交叉抑制。
[0021] 圖8解說了根據本公開的一方面的目標地圖。
[0022]圖9解說根據本公開的某些方面的使用通用處理器來設計神經網絡的示例實現。
[0023]圖10解說根據本公開的某些方面的設計其中存儲器可以與個體的分布式處理單 元對接的神經網絡的示例實現。
[0024]圖11解說根據本公開的某些方面的基于分布式存儲器和分布式處理單元來設計 神經網絡的示例實現。
[0025] 圖12解說根據本公開的某些方面的神經網絡的示例實現。
[0026] 圖13是解說根據本公開的一方面的在神經網絡中選擇目標的框圖。
[0027] 詳細描述
[0028] 以下結合附圖闡述的詳細描述旨在作為各種配置的描述,而無意表示可實踐本文 中所描述的概念的僅有的配置。本詳細描述包括具體細節以便提供對各種概念的透徹理 解。然而,對于本領域技術人員將顯而易見的是,沒有這些具體細節也可實踐這些概念。在 一些實例中,以框圖形式示出眾所周知的結構和組件以避免湮沒此類概念。
[0029] 基于本教導,本領域技術人員應領會,本公開的范圍旨在覆蓋本公開的任何方面, 不論其是與本公開的任何其他方面相獨立地還是組合地實現的。例如,可以使用所闡述的 任何數目的方面來實現裝置或實踐方法。另外,本公開的范圍旨在覆蓋使用作為所闡述的 本公開的各個方面的補充或者與之不同的其他結構、功能性、或者結構及功能性來實踐的 此類裝置或方法。應當理解,所披露的本公開的任何方面可由權利要求的一個或多個元素 來實施。
[0030] 措辭"示例性"在本文中用于表示"用作示例、實例或解說"。本文中描述為"示例 性"的任何方面不必被解釋為優于或勝過其他方面。
[0031] 盡管本文描述了特定方面,但這些方面的眾多變體和置換落在本公開的范圍之 內。雖然提到了優選方面的一些益處和優點,但本公開的范圍并非旨在被限定于特定益處、 用途或目標。相反,本公開的各方面旨在能寬泛地應用于不同的技術、系統配置、網絡和協 議,其中一些作為示例在附圖以及以下對優選方面的描述中解說。詳細描述和附圖僅僅解 說本公開而非限定本公開,本公開的范圍由所附權利要求及其等效技術方案來定義。
[0032] 示例神經系統、訓練及操作
[0033] 圖1解說根據本公開的某些方面的具有多級神經元的示例人工神經系統100。神經 系統100可具有神經元級102,該神經元級102通過突觸連接網絡104(即,前饋連接)來連接 到另一神經元級106。為簡單起見,圖1中僅解說了兩級神經元,盡管神經系統中可存在更少 或更多級神經元。應注意,一些神經元可通過側向連接來連接至同層中的其他神經元。此 外,一些神經元可通過反饋連接來后向連接至先前層中的神經元。
[0034] 如圖1所解說的,級102中的每一個神經元可以接收可由前級的神經元(未在圖1中 示出)生成的輸入信號108。信號108可表示級102的神經元的輸入電流。該電流可在神經元 膜上累積以對膜電位進行充電。當膜電位達到其閾值時,該神經元可激發并生成輸出尖峰, 該輸出尖峰將被傳遞到下一級神經元(例如,級106)。在某些建模辦法中,神經元可以連續 地向下一級神經元傳遞信號。該信號通常是膜電位的函數。此類行為可在硬件和/或軟件 (包括模擬和數字實現,諸如以下所述那些實現)中進行仿真或模擬。
[0035] 在生物學神經元中,在神經元激發時生成的輸出尖峰被稱為動作電位。該電信號 是相對迅速、瞬態的神經沖激,其具有約為100mV的振幅和約為lms的歷時。在具有一系列連 通的神經元(例如,尖峰從圖1中的一級神經元傳遞至另一級神經元)的神經系統的特定實 施例中,每個動作電位都具有基本上相同的振幅和歷時,并且因此該信號中的信息可僅由 尖峰的頻率和數目、或尖峰的時間來表示,而不由振幅來表示。動作電位所攜帶的信息可由 尖峰、發放了尖峰的神經元、以及該尖峰相對于一個或數個其他尖峰的時間來確定。尖峰的 重要性可由向各神經元之間的連接所應用的權重來確定,如以下所解釋的。
[0036] 尖峰從一級神經元向另一級神經元的傳遞可通過突觸連接(或簡稱"突觸")網絡 104來達成,如圖1中所解說的。相對于突觸104,級102的神經元可被視為突觸前神經元,而 級106的神經元可被視為突觸后神經元。突觸104可接收來自級102的神經元的輸出信號 (即,尖峰),并根據可調節突觸權重來按比例縮放那些信號,其中P是 .? i; Λ 級102的神經元與級106的神經元之間的突觸連接的總數,并且i是神經元級的指示符。在圖 1的示例中,i表示神經元級102并且i+Ι表示神經元級106。此外,經按比例縮放的信號可被 組合以作為級106中每個神經元的輸入信號。級106中的每個神經元可基于對應的組合輸入 信號來生成輸出尖峰110。可使用另一突觸連接網絡(圖1中未示出)將這些輸出尖峰110傳 遞到另一級神經元。
[0037] 生物學突觸可以仲裁突觸后神經元中的興奮性或抑制性(超級化)動作,并且還可 用于放大神經元信號。興奮性信號使膜電位去極化(即,相對于靜息電位增大膜電位)。如果 在某個時間段內接收到足夠的興奮性信號以使膜電位去極化到高于閾值,則在突觸后神經 元中發生動作電位。相反,抑制性信號一般使膜電位超極化(即,降低膜電位)。抑制性信號 如果足夠強則可抵消掉興奮性信號之和并阻止膜電位到達閾值。除了抵消掉突觸興奮以 外,突觸抑制還可對自發活躍神經元施加強力的控制。自發活躍神經元是指在沒有進一步 輸入的情況下(例如,由于其動態或反饋而)發放尖峰的神經元。通過壓制這些神經元中的 動作電位的自發生成,突觸抑制可對神經元中的激發模式進行定形,這一般被稱為雕刻。取 決于期望的行為,各種突觸104可充當興奮性或抑制性突觸的任何組合。
[0038] 神經系統100可由通用處理器、數字信號處理器(DSP)、專用集成電路(ASIC)、現場 可編程門陣列(FPGA)或其他可編程邏輯器件(PLD)、分立的門或晶體管邏輯、分立的硬件組 件、由處理器執行的軟件模塊、或其任何組合來仿真。神經系統100可用在大范圍的應用中, 諸如圖像和模式識別、機器學習、電機控制、及類似應用等。神經系統100中的每一神經元可 被實現為神經元電路。被充電至發起輸出尖峰的閾值的神經元膜可被實現為例如對流經其 的電流進行積分的電容器。
[0039] 在一方面,電容器作為神經元電路的電流積分器件可被除去,并且可使用較小的 憶阻器元件來替代它。這種辦法可應用于神經元電路中,以及其中大容量電容器被用作電 流積分器的各種其他應用中。另外,每個突觸104可基于憶阻器元件來實現,其中突觸權重 改變可與憶阻器電阻的變化有關。使用納米特征尺寸的憶阻器,可顯著地減小神經元電路 和突觸的面積,這可使得實現大規模神經系統硬件實現更為切實可行。
[0040] 對神經系統100進行仿真的神經處理器的功能性可取決于突觸連接的權重,這些 權重可控制神經元之間的連接的強度。突觸權重可存儲在非易失性存儲器中以在掉電之后 保留該處理器的功能性。在一方面,突觸權重存儲器可實現在與主神經處理器芯片分開的 外部芯片上。突觸權重存儲器可與神經處理器芯片分開地封裝成可更換的存儲卡。這可向 神經處理器提供多種多樣的功能性,其中特定功能性可基于當前附連至神經處理器的存儲 卡中所存儲的突觸權重。
[0041] 圖2解說根據本公開的某些方面的計算網絡(例如,神經系統或神經網絡)的處理 單元(例如,神經元或神經元電路)202的示例性示圖200。例如,神經元202可對應于來自圖1 的級102和106的任何神經元。神經元202可接收多個輸入信號20^-20%,這些輸入信號可以 是該神經系統外部的信號、或是由同一神經系統的其他神經元所生成的信號、或這兩者。輸 入信號可以是電流、電導、電壓、實數值的和/或復數值的。輸入信號可包括具有定點或浮點 表示的數值。可通過突觸連接將這些輸入信號遞送到神經元202,突觸連接根據可調節突觸 權重206^206^1^??)對這些信號進行按比例縮放,其中N可以是神經元202的輸入連接總 數。
[0042]神經元202可組合這些經按比例縮放的輸入信號,并且使用組合的經按比例縮放 的輸入來生成輸出信號208(即,信號Y)。輸出信號208可以是電流、電導、電壓、實數值的和/ 或復數值的。輸出信號可以是具有定點或浮點表示的數值。隨后該輸出信號208可作為輸入 信號傳遞至同一神經系統的其他神經元、或作為輸入信號傳遞至同一神經元202、或作為該 神經系統的輸出來傳遞。
[0043]處理單元(神經元)202可由電路來仿真,并且其輸入和輸出連接可由具有突觸電 路的電連接來仿真。處理單元202及其輸入和輸出連接也可由軟件代碼來仿真。處理單元 202還可由電路來仿真,而其輸入和輸出連接可由軟件代碼來仿真。在一方面,計算網絡中 的處理單元202可以是模擬電路。在另一方面,處理單元202可以是數字電路。在又一方面, 處理單元202可以是具有模擬和數字組件兩者的混合信號電路。計算網絡可包括任何前述 形式的處理單元。使用這樣的處理單元的計算網絡(神經系統或神經網絡)可用在大范圍的 應用中,諸如圖像和模式識別、機器學習、電機控制、及類似應用等。
[0044] 在神經網絡的訓練過程期間,突觸權重(例如,來自圖1的權重Mp+1\ 、wp+1) 和/或來自圖2的權重206:-2064可用隨機值來初始化并根據學習規則而被增大或減小。本 領域技術人員將領會,學習規則的示例包括但不限于尖峰定時依賴可塑性(STDP)學習規 貝丨J、Hebb規則、0 ja規則、Bienenstock-Copper-Munro(BCM)規則等。在某些方面,這些權重可 穩定或收斂至兩個值(即,權重的雙峰分布)之一。該效應可被用于減少每個突觸權重的位 數、提高從/向存儲突觸權重的存儲器讀取和寫入的速度、以及降低突觸存儲器的功率和/ 或處理器消耗。
[0045] 突觸類型
[0046] 在神經網絡的硬件和軟件模型中,突觸相關功能的處理可基于突觸類型。突觸類 型可以是非可塑突觸(權重和延遲沒有改變)、可塑突觸(權重可改變)、結構化延遲可塑突 觸(權重和延遲可改變)、全可塑突觸(權重、延遲和連通性可改變)、以及基于此的變型(例 如,延遲可改變,但在權重或連通性方面沒有改變)。多種類型的優點在于處理可以被細分。 例如,非可塑突觸不會要求執行可塑性功能(或等待此類功能完成)。類似地,延遲和權重可 塑性可被細分成可一起或分開地、順序地或并行地運作的操作。不同類型的突觸對于適用 的每一種不同的可塑性類型可具有不同的查找表或公式以及參數。因此,這些方法將針對 該突觸的類型來訪問相關的表、公式或參數。
[0047] 還進一步牽涉到以下事實:尖峰定時依賴型結構化可塑性可獨立于突觸可塑性地 來執行。結構化可塑性即使在權重幅值沒有改變的情況下(例如,如果權重已達最小或最大 值、或者其由于某種其他原因而不被改變)也可被執行,因為結構化可塑性(即,延遲改變的 量)可以是前-后尖峰時間差的直接函數。替換地,結構化可塑性可被設為權重改變量的函 數或者可基于與權重或權重改變的界限有關的條件來設置。例如,突觸延遲可僅在權重改 變發生時或者在權重到達〇的情況下才改變,但在這些權重為最大值時則不改變。然而,具 有獨立函數以使得這些過程能被并行化從而減少存儲器訪問的次數和交疊可能是有利的。 [0048]突觸可塑性的確定
[0049] 神經元可塑性(或簡稱"可塑性")是大腦中的神經元和神經網絡響應于新的信息、 感官刺激、發展、損壞、或機能障礙而改變其突觸連接和行為的能力。可塑性對于生物學中 的學習和記憶、以及對于計算神經元科學和神經網絡是重要的。已經研究了各種形式的可 塑性,諸如突觸可塑性(例如,根據Hebbian理論)、尖峰定時依賴可塑性(STDP)、非突觸可塑 性、活躍性依賴可塑性、結構化可塑性和自穩態可塑性。
[0050] STDP是調節神經元之間的突觸連接的強度的學習過程。連接強度是基于特定神經 元的輸出與收到輸入尖峰(即,動作電位)的相對定時來調節的。在STDP過程下,如果至某個 神經元的輸入尖峰平均而言傾向于緊挨在該神經元的輸出尖峰之前發生,則可發生長期增 強(LTP)。于是使得該特定輸入在一定程度上更強。另一方面,如果輸入尖峰平均而言傾向 于緊接在輸出尖峰之后發生,則可發生長期抑壓(LTD)。于是使得該特定輸入在一定程度上 更弱,并由此得名"尖峰定時依賴可塑性"。因此,使得可能是突觸后神經元興奮原因的輸入 甚至在將來作出貢獻的可能性更大,而使得不是突觸后尖峰的原因的輸入在將來作出貢獻 的可能性更小。該過程繼續,直至初始連接集合的子集保留,而所有其他連接的影響減小至 無關緊要的水平。
[0051]由于神經元一般在其許多輸入都在一短時段內發生(即,累積性足以引起輸出)時 產生輸出尖峰,因此通常保留下來的輸入子集包括傾向于在時間上相關的那些輸入。另外, 由于在輸出尖峰之前發生的輸入被加強,因此提供對相關性的最早充分累積性指示的那些 輸入將最終變成至該神經元的最后輸入。
[0052] STDP學習規則可因變于突觸前神經元的尖峰時間tpre與突觸后神經元的尖峰時間 tpcist之間的時間差(即,t = tpcist-tpre)來有效地適配將該突觸前神經元連接到該突觸后神經 元的突觸的突觸權重。STDP的典型公式化是若該時間差為正(突觸前神經元在突觸后神經 元之前激發)則增大突觸權重(即,增強該突觸),以及若該時間差為負(突觸后神經元在突 觸前神經元之前激發)則減小突觸權重(即,抑壓該突觸)。
[0053]在STDP過程中,突觸權重隨時間推移的改變可通常使用指數式衰退來達成,如由 下式給出的:
[0055] 其中k+和LTsign(At)分別是針對正和負時間差的時間常數,a+和a-是對應的比例縮 放幅值,并且μ是可應用于正時間差和/或負時間差的偏移。
[0056] 圖3解說根據STDP,因變于突觸前(pre)和突觸后(post)尖峰的相對定時的突觸權 重改變的示例性示圖300。如果突觸前神經元在突觸后神經元之前激發,則對應的突觸權重 可被增大,如曲線圖300的部分302中所解說的。該權重增大可被稱為該突觸的LTP。從曲線 圖部分302可觀察到,LTP的量可因變于突觸前和突觸后尖峰時間之差而大致呈指數式地下 降。相反的激發次序可減小突觸權重,如曲線圖300的部分304中所解說的,從而導致該突觸 的 LTD。
[0057] 如圖3中的曲線圖300中所解說的,可向STDP曲線圖的LTP(因果性)部分302應用負 偏移lx軸的交越點306(y = 0)可被配置成與最大時間滯后重合以考慮到來自層i-Ι的各因 果性輸入的相關性。在基于幀的輸入(即,呈特定歷時的包括尖峰或脈沖的幀的形式的輸 入)的情形中,可計算偏移值μ以反映幀邊界。該幀中的第一輸入尖峰(脈沖)可被視為要么 如直接由突觸后電位所建模地隨時間衰退,要么在對神經狀態的影響的意義上隨時間衰 退。如果該幀中的第二輸入尖峰(脈沖)被視為與特定時間幀相關或有關,則該幀之前和之 后的有關時間可通過使STDP曲線的一個或多個部分偏移以使得這些有關時間中的值可以 不同(例如,對于大于一個幀為負,而對于小于一個幀為正)來在該時間幀邊界處被分開并 在可塑性意義上被不同地對待。例如,負偏移μ可被設為偏移LTP以使得曲線實際上在大于 幀時間的pre-post時間處變得低于零并且它由此為LTD而非LTP的一部分。
[0058]神經元模型及操作
[0059]存在一些用于設計有用的尖峰發放神經元模型的一般原理。良好的神經元模型在 以下兩個計算態相(regime)方面可具有豐富的潛在行為:重合性檢測和功能性計算。此外, 良好的神經元模型應當具有允許時間編碼的兩個要素:輸入的抵達時間影響輸出時間,以 及重合性檢測能具有窄時間窗。最后,為了在計算上是有吸引力的,良好的神經元模型在連 續時間上可具有閉合形式解,并且具有穩定的行為,包括在靠近吸引子和鞍點之處。換言 之,有用的神經元模型是可實踐且可被用于建模豐富的、現實的且生物學一致的行為并且 可被用于對神經電路進行工程設計和反向工程設計兩者的神經元模型。
[0060] 神經元模型可取決于事件,諸如輸入抵達、輸出尖峰或其他事件,無論這些事件是 內部的還是外部的。為了達成豐富的行為庫,能展現復雜行為的狀態機可能是期望的。如果 事件本身的發生在撇開輸入貢獻(若有)的情況下能影響狀態機并約束該事件之后的動態, 則該系統的將來狀態并非僅是狀態和輸入的函數,而是狀態、事件和輸入的函數。
[0061] 在一方面,神經元η可被建模為尖峰帶漏泄積分激發神經元,其膜電壓vn(t)由以 下動態來支配:
[0063] 其中α和β是參數,Wm,n是將突觸前神經元m連接至突觸后神經元 n的突觸的突觸權 重,以及ym(t)是神經元m的尖峰發放輸出,其可根據Δ tm,η被延遲達樹突或軸突延遲才抵達 神經元η的胞體。
[0064] 應注意,從建立了對突觸后神經元的充分輸入的時間直至該突觸后神經元實際上 激發的時間存在延遲。在動態尖峰神經元模型(諸如Izhikevich簡單模型)中,如果在去極 化閾值v t與峰值尖峰電Svpeak之間有差量,則可引發時間延遲。例如,在該簡單模型中,神經 元胞體動態可由關于電壓和恢復的微分方程對來支配,即:
[0067] 其中v是膜電位,u是膜恢復變量,k是描述膜電位v的時間尺度的參數,a是描述恢 復變量u的時間尺度的參數,b是描述恢復變量u對膜電位v的閾下波動的敏感度的參數,Vi· 是膜靜息電位,I是突觸電流,以及C是膜的電容。根據該模型,神經元被定義為在v>v peak時 發放尖峰。
[0068] Hunzinger Cold模型
[0069] Hunzinger Cold神經元模型是能再現豐富多樣的各種神經行為的最小雙態相尖 峰發放線性動態模型。該模型的一維或二維線性動態可具有兩個態相,其中時間常數(以及 耦合)可取決于態相。在閾下態相中,時間常數(按照慣例為負)表示漏泄通道動態,其一般 作用于以生物學一致的線性方式使細胞返回到靜息。閾上態相中的時間常數(按照慣例為 正)反映抗漏泄通道動態,其一般驅動細胞發放尖峰,而同時在尖峰生成中引發等待時間。 [0070]如圖4中所解說的,該模型400的動態可被劃分成兩個(或更多個)態相。這些態相 可被稱為負態相402(也可互換地稱為帶漏泄積分激發(LIF)態相,勿與LIF神經元模型混 淆)以及正態相404(也可互換地稱為抗漏泄積分激發(ALIF)態相,勿與ALIF神經元模型混 淆)。在負態相402中,狀態在將來事件的時間趨向于靜息(V-)。在該負態相中,該模型一般 展現出時間輸入檢測性質及其他閾下行為。在正態相404中,狀態趨向于尖峰發放事件 ( Vs)。在該正態相中,該模型展現出計算性質,諸如取決于后續輸入事件而引發發放尖峰的 等待時間。在事件方面對動態進行公式化以及將動態分成這兩個態相是該模型的基礎特 性。
[0071 ]線性雙態相二維動態(對于狀態v和u)可按照慣例定義為:
[0074] 其中qP和r是用于耦合的線性變換變量。
[0075] 符號P在本文中用于標示動態態相,在討論或表達具體態相的關系時,按照慣例對 于負態相和正態相分別用符號或"+"來替換符號P。
[0076] 模型狀態通過膜電位(電壓)v和恢復電流u來定義。在基本形式中,態相在本質上 是由模型狀態來決定的。該精確和通用的定義存在一些細微卻重要的方面,但目前考慮該 模型在電壓v高于閾值(v+)的情況下處于正態相404中,否則處于負態相402中。
[0077]態相依賴型時間常數包括負態相時間常數τ-和正態相時間常數τ+。恢復電流時間 常數tu通常是獨立于態相的。出于方便起見,負態相時間常數τ-通常被指定為反映衰退的負 量,從而用于電壓演變的相同表達式可用于正態相,在正態相中指數和τ+將一般為正,正如 tu那樣。
[0078] 這兩個狀態元素的動態可在發生事件之際通過使狀態偏離其零傾線(nul Ιο 1 ine) 的變換來耦合 ,其中 變換變量為:
[0079] qP = -Tp0u-Vp (7)
[0080] Γ = δ(ν+ε) (8)
[0081] 其中δ、ε、β和V-、V+是參數。Vp的兩個值是這兩個態相的參考電壓的基數。參數v-是 負態相的基電壓,并且膜電位在負態相中一般將朝向V-衰退。參數v+是正態相的基電壓,并 且膜電位在正態相中一般將趨向于背離v+。
[0082] v和u的零傾線分別由變換變量qP和r的負數給出。參數δ是控制u零傾線的斜率的 縮放因子。參數ε通常被設為等于-V-。參數β是控制這兩個態相中的ν零傾線的斜率的電阻 值。τ Ρ時間常數參數不僅控制指數式衰退,還單獨地控制每個態相中的零傾線斜率。
[0083]該模型可被定義為在電壓ν達到值vs時發放尖峰。隨后,狀態可在發生復位事件 (其可以與尖峰事件完全相同)之際被復位:
[0084] ν:= ^ (9)
[0085] u = u+ Δ u (10)
[0086] 其中1和Δ u是參數。復位電壓色通常被設為ν-。
[0087] 依照瞬時耦合的原理,閉合形式解不僅對于狀態是可能的(且具有單個指數項), 而且對于到達特定狀態所需的時間也是可能的。閉合形式狀態解為:
[0090]因此,模型狀態可僅在發生事件之際被更新,諸如在輸入(突觸前尖峰)或輸出(突 觸后尖峰)之際被更新。還可在任何特定時間(無論是否有輸入或輸出)執行操作。
[0091]此外,依照瞬時耦合原理,突觸后尖峰的時間可被預計,因此到達特定狀態的時間 可提前被確定而無需迭代技術或數值方法(例如,歐拉數值方法)。給定了先前電壓狀態V0, 直至到達電壓狀態Vf之前的時間延遲由下式給出:
[0093]如果尖峰被定義為發生在電壓狀態v到達vs的時間,則從電壓處于給定狀態v的時 間起測量的直至發生尖峰前的時間量或即相對延遲的閉合形式解為:
[0095] 其中1^+通常被設為參數v+,但其他變型可以是可能的。
[0096] 模型動態的以上定義取決于該模型是在正態相還是負態相中。如所提及的,耦合 和態相P可基于事件來計算。出于狀態傳播的目的,態相和耦合(變換)變量可基于在上一 (先前)事件的時間的狀態來定義。出于隨后預計尖峰輸出時間的目的,態相和耦合變量可 基于在下一(當前)事件的時間的狀態來定義。
[0097] 存在對該Cold模型、以及在時間上執行模擬、仿真、或建模的若干可能實現。這包 括例如事件-更新、步點-事件更新、以及步點-更新模式。事件更新是其中基于事件或"事件 更新"(在特定時刻)來更新狀態的更新。步點更新是以間隔(例如,lms)來更新模型的更新。 這不一定要求迭代方法或數值方法。通過僅在事件發生于步點處或步點間的情況下才更新 模型或即通過"步點-事件"更新,基于事件的實現以有限的時間分辨率在基于步點的模擬 器中實現也是可能的。
[0098]失衡式目標選擇
[0099] 專用于對多個目標(諸如空間目標)采取動作的系統使用各種準則來選擇一個或 多個目標。目標的選擇可取決于正在解決的問題。例如,一種選擇準則使用各目標與對象當 前位置之間的空間關系。在此示例中,該選擇準則選擇最靠近該對象當前位置的目標。此 外,在本示例中,該選擇準則基于空間位置的任意函數來選擇目標。
[0100] 在另一配置中,選擇準則基于網絡實現和空間位置表示。例如,在常規實現中,位 置由整數對(X,y)來表示。目標可由X,y對的列表連同關于對象當前位置的X,y對來表示。可 通過迭代遍歷目標列表并選擇滿足選擇準則的目標(諸如選擇最靠近對象當前位置的目 標)來應用該選擇準則。
[0101] 空間位置可用尖峰發放單元的二維(2D)網格來表示。該網格中每個單元的位置可 被映射到物理空間中的位置。單元的屬性可由該單元的活躍性(諸如尖峰發放速率)來指 示。在一個配置中,活躍單元指示該位置是感興趣的目標。如果對象包括相對于該對象的當 前位置的目標地圖,則可基于交叉抑制來選擇一個或多個目標。基于交叉抑制來選擇目標 可被稱為贏者全得。即,對象選擇具有比其他目標的活躍率更大的活躍率的一個或多個目 標。在本申請中,目標單元可被稱為目標。
[0102] 連接的權重可以是非對稱的,以偏置目標選擇。例如,單元(諸如目標單元)抑制離 該單元和/或對象較遠的單元。此外,在此示例中,較靠近對象(例如,機器人)的目標單元接 收到較少的抑制權重和/或接收到興奮性權重。離該對象等距的單元可在其交叉抑制中具 有隨機失衡以緩解目標之間的平局。在一個配置中,經由連接提供的興奮性權重和/或抑制 性權重(例如,目標偏置)基于下式:
[0104] 在式15中,c是比例縮放常數。在一個配置中,c等于30。此外,a是形狀常數并且可 等于0.1。此外,r是隨機數,諸如0或1,并且可被用來提供隨機失衡。另外,D pre是突觸前單元 距中心的距離,而Dpcist是突觸后單元距中心的距離。
[0105] 本公開的各方面是為被連線成基于目標的空間關系來執行目標選擇的緊湊型網 絡來指定的。在以上示例中,抑制性權重中的失衡被指定以選擇最靠近對象的目標。該選擇 可被稱為勝利。然而,任何的任意選擇準則均可被用來偏置目標選擇。
[0106] 如圖5中所示,目標地圖500可由地點單元502的2D網格來表示。目標在一位置處的 在場由單元的活躍性(諸如尖峰發放間隔)來指示。在一個配置中,假定了(諸)目標在目標 地圖500中的坐標已被變換為相對于對象的位置而言。
[0107] 坐標變換是指將相對于第一參考系的空間表示轉換為相對于第二參考系的實質 上類似的表示。例如,可向對象(諸如機器人)給予目標相對于房間西北角的坐標集。在此示 例中,該目標的坐標基于世界中心參考系(即,非自我中心式坐標表示)。盡管如此,對于計 劃朝該目標移動的對象而言,期望將非自我中心式坐標轉換為相對于該對象的當前位置和 方向的表示(即,自我中心式參考系)。即,非自我中心式坐標應當被轉換為自我中心式坐 標。該目標的自我中心式坐標將隨著該對象在房間內四處移動而改變,盡管如此,非自我中 心式坐標將在該對象在房間內四處移動時保持不變。將期望維持基于對象的固定位置(諸 如地圖中心)的自我中心式坐標。
[0108] 如圖5中所示,對象504的位置處于目標地圖500的中心。即,與非自我中心式地圖 (未示出)形成對比的是,對象504和目標506、508、510在圖5的目標地圖500中的坐標基于來 自該對象的位置的參考系。
[0109]如先前討論的,對象被指定為基于選擇準則來選擇一個或多個目標,諸如最靠近 該對象的目標。在本配置中,網絡使用交叉抑制來減少并非最靠近該對象的目標的尖峰發 放。此外,靠近該機器人的目標的尖峰發放可被增加或按小于更遠離該對象的目標的尖峰 發放減少的速率來被減少。在一個配置中,軟目標選擇被指定以選擇一個或多個目標。在另 一配置中,硬目標選擇被指定以僅選擇一個目標。每個目標可對應于一個或多個活躍神經 元。替代地,多個目標可對應于一個活躍神經元。軟目標選擇和硬目標選擇兩者均選擇與其 他目標相比更活躍的目標。
[0110]圖6解說了根據本公開的一方面的目標選擇的示例。如圖6中所示,單元612的第一 目標地圖600包括對象604和多個目標606、608和610。具體而言,與第二目標608和第三目標 610相比,第一目標606最靠近對象604。因而,因為第一目標606最靠近對象604,所以網絡使 用交叉抑制來減少第二目標608和第三目標610的尖峰發放。
[0111] 即,與最靠近對象的目標相比,更遠離該對象的目標的尖峰發放被減少。靠近該對 象的這一個或多個目標可以是僅有的進行尖峰發放的目標或者可以按照大于更遠離該機 器人的目標的速率來發放尖峰。因此,因為最靠近對象的目標是僅有的進行尖峰發放的目 標或按照與其他目標相比更大的速率發放尖峰,所以該對象選擇此最近的目標。如圖6中所 示,作為交叉抑制的結果,第二目標地圖602僅包括靠近對象614的一個活躍目標616。
[0112] 在常規網絡中,交叉抑制被指定以允許一個單元按照大于另一個單元的速率發放 尖峰。即,當期望使這些單元之一更有可能勝利時,抑制性權重可使用于選擇的偏置失衡。 例如,如果一個單元更靠近對象,則抑制性權重可偏置其他目標的尖峰發放。
[0113]圖7解說了交叉抑制的示例。如圖7中所示,第一單元702抑制第二單元704以使得 第一單元702更有可能勝利。即,可經由第一抑制性連接706輸出抑制性權重。第一抑制性連 接706連接至第一單元702的輸出710。第二抑制性連接708也連接至第二單元704的輸出 712。第二抑制性連接708也可向第一單元702輸出抑制性權重。盡管如此,在此配置中,第一 抑制性連接706的抑制性權重大于第二抑制性連接708的抑制性權重。因此,第一單元702抑 制第二單元704以使得第一單元702更有可能勝利。此外,第一單元702經由第一輸入714接 收信號(例如,尖峰),而第二單元704經由第二輸入716接收信號(例如,尖峰)。
[0114]如先前討論的,前述交叉抑制可被應用于二維單元網格。圖8解說了用于目標地圖 800中的目標選擇的交叉抑制的示例。如先前討論的,在一個配置中,選擇函數可經由權重 的相對比例縮放來指定。即,特定目標可具有大于其他目標的尖峰速率的尖峰速率。
[0115]作為示例,如圖8中所示,最靠近對象單元810(被稱為"對象")的目標808被選中, 因為較靠近對象810的單元(諸如目標單元808和/或非目標單元812)抑制較遠離該對象810 的單元(諸如目標單元802、804、806和/或非目標單元812)。即,不靠近對象810的目標單元 802、804、806的尖峰發放被抑制以使得對象810選擇最靠近的目標單元808。在一個配置中, 多個目標可以是候選目標,然而,基于交叉抑制,僅一個目標是活躍目標。
[0116] 如圖8中所示,單元808、812、810可彼此抑制。例如,最靠近對象810的目標單元808 抑制周圍的單元812。此外,周圍的單元812還可抑制或激勵目標單元808。盡管如此,來自目 標單元808的抑制輸出比在目標單元808處從周圍單元812接收到的抑制更大。單元808、 810、812經由連接816提供抑制性和/或興奮性輸出。
[0117] 此外,圖8示出了毗鄰于目標單元808的單元具有抑制性連接。盡管如此,本公開的 各方面不限于僅在各單元之間指定抑制性連接,而是可在任何距離的單元之間指定抑制性 連接。
[0118] 如上面討論的,在一個配置中,在神經網絡中的連接之間設置失衡。該失衡可以是 抑制性權重或興奮性權重。抑制性權重減小神經元的尖峰發放速率,而興奮性權重增加神 經元的尖峰發放。抑制性權重可經由前饋邏輯抑制性連接和/或反饋邏輯抑制性連接來提 供。替代地或附加地,興奮性權重可經由前饋興奮性抑制性連接和/或反饋邏輯興奮性連接 來提供。連接可以是一個或多個第一輸入層連接、神經元輸入、側向連接、和/或其他類型的 連接。即,在一個配置中,連接是對神經元的輸入。替代地或附加地,連接是神經元之間的側 向連接。
[0119] 此外,基于選擇函數(諸如目標單元與對象的距離)來設置失衡。盡管如此,選擇函 數不限于目標與對象的距離,而是可基于其他準則。例如,在另一配置中,基于目標的概率 來選擇一個或多個目標。每個目標可對應于多個活躍神經元或一個活躍神經元。該概率可 以是指尖峰發放概率。
[0120] 此外,在一個配置中,與候選目標單元相對應的神經元之間的相對激活被修改。該 相對激活對應于一個或多個目標單元并且基于目標之間的失衡量。相對激活被指定以使得 一個或多個目標(例如神經元)相比于其他目標具有更大的活躍量。
[0121] 在一個配置中,目標是空間目標。如前面討論的,基于經由神經元之間的連接提供 的失衡量來選擇一個或多個目標。即,對象選擇具有最高尖峰發放速率的目標。目標可以是 一個或多個活躍神經元。
[0122] 圖9解說了根據本公開的某些方面的使用通用處理器902進行前述目標選擇的示 例實現900。與計算網絡(神經網絡)相關聯的變量(神經信號)、突觸權重、系統參數,延遲, 和頻率槽信息可被存儲在存儲器塊904中,而在通用處理器902處執行的指令可從程序存儲 器906中加載。在本公開的一方面中,加載到通用處理器902中的指令可包括用于設置神經 網絡中的連接的失衡量和/或基于該失衡量來修改目標之間的相對激活的代碼。
[0123] 圖10解說了根據本公開的某些方面的前述目標選擇的示例實現1000,其中存儲器 1002可以經由互連網絡1004與計算網絡(神經網絡)的個體(分布式)處理單元(神經處理 器)1006對接。與計算網絡(神經網絡)相關聯的變量(神經信號)、突觸權重、系統參數,延 遲,頻率槽信息、相對激活、和/或連接失衡可被存儲在存儲器1002中,并且可從存儲器1002 經由互連網絡1004的連接被加載到每個處理單元(神經處理器)1006中。在本公開的一方面 中,處理單元1006可被配置成設置神經網絡中的連接的失衡量和/或基于該失衡量來修改 目標之間的相對激活。
[0124] 圖11解說前述目標選擇的示例實現1100。如圖11中所解說的,一個存儲器組1102 可與計算網絡(神經網絡)的一個處理單元1104直接對接。每一個存儲器組1102可存儲與對 應的處理單元(神經處理器)1104相關聯的變量(神經信號)、突觸權重、和/或系統參數,延 遲、頻率槽信息、相對激活、和/或連接失衡。在本公開的一方面中,處理單元1104可被配置 成設置神經網絡中的連接的失衡量和/或基于該失衡量來修改目標之間的相對激活。
[0125] 圖12解說根據本公開的某些方面的神經網絡1200的示例實現。如圖12中所解說 的,神經網絡1200可具有多個局部處理單元1202,它們可執行上述方法的各種操作。每個局 部處理單元1202可包括存儲該神經網絡的參數的局部狀態存儲器1204和局部參數存儲器 1206。另外,局部處理單元1202可具有用于存儲局部模型程序的局部(神經元)模型程序 (LMP)存儲器1208、用于存儲局部學習程序的局部學習程序(LLP)存儲器1210、以及局部連 接存儲器1212。此外,如圖12中所解說的,每個局部處理單元1202可與用于提供對局部處理 單元的局部存儲器的配置的配置處理單元1214對接,并且與提供各局部處理單元1202之間 的路由的路由連接處理元件1216對接。
[0126] 在一個配置中,神經元模型被配置成用于設置神經網絡中的連接的失衡量和/或 基于該失衡量來修改神經元之間的相對激活。神經元模型包括設置裝置和修改裝置。在一 個方面,該設置裝置和修改裝置可以是被配置成執行所敘述的功能的通用處理器902、程序 存儲器906、存儲器塊904、存儲器1002、互連網絡1004、處理單元1006、處理單元1104、局部 處理單元1202、和/或路由連接處理元件1216。在另一配置中,前述裝置可以是被配置成執 行由前述裝置所敘述的功能的任何模塊或任何設備。
[0127] 根據本公開的某些方面,每一個局部處理單元1202可被配置成基于神經網絡的期 望的一個或多個功能性特征來確定神經網絡的參數,以及隨著所確定的參數被進一步適 配、調諧和更新來使這一個或多個功能性特征朝著期望的功能性特征發展。
[0128] 圖13解說了用于在神經網絡中選擇目標的方法1300。在框1302,神經元模型設置 神經網絡中的連接的失衡量。該失衡可基于選擇函數來設置。此外,在框1304,該神經元模 型基于該失衡量來修改目標之間的相對激活。該相對激活可對應于這些目標之一。
[0129] 以上所描述的方法的各種操作可由能夠執行相應功能的任何合適的裝置來執行。 這些裝置可包括各種硬件和/或軟件組件和/或模塊,包括但不限于電路、專用集成電路 (ASIC)、或處理器。一般而言,在附圖中有解說的操作的場合,那些操作可具有帶相似編號 的相應配對裝置加功能組件。
[0130]如本文所使用的,術語"確定"涵蓋各種各樣的動作。例如,"確定"可包括演算、計 算、處理、推導、研究、查找(例如,在表、數據庫或其他數據結構中查找)、探知及諸如此類。 另外,"確定"可包括接收(例如接收信息)、訪問(例如訪問存儲器中的數據)、及類似動作。 而且,"確定"可包括解析、選擇、選取、確立及類似動作。
[0131 ]如本文中所使用的,引述一列項目中的"至少一個"的短語是指這些項目的任何組 合,包括單個成員。作為示例,"a、b或c中的至少一個"旨在涵蓋:a、b、c、a_b、a_c、b_c和a_b_ c〇
[0132] 結合本公開所描述的各種解說性邏輯框、模塊、以及電路可用設計成執行本文所 描述功能的通用處理器、數字信號處理器(DSP)、專用集成電路(ASIC)、現場可編程門陣列 信號(FPGA)或其他可編程邏輯器件(PLD)、分立的門或晶體管邏輯、分立的硬件組件或其任 何組合來實現或執行。通用處理器可以是微處理器,但在替換方案中,該處理器可以是任何 市售的處理器、控制器、微控制器、或狀態機。處理器還可以被實現為計算設備的組合,例如 DSP與微處理器的組合、多個微處理器、與DSP核心協同的一個或多個微處理器、或任何其它 此類配置。
[0133] 結合本公開所描述的方法或算法的步驟可直接在硬件中、在由處理器執行的軟件 模塊中、或在這兩者的組合中體現。軟件模塊可駐留在本領域所知的任何形式的存儲介質 中。可使用的存儲介質的一些示例包括隨機存取存儲器(RAM)、只讀存儲器(R0M)、閃存、可 擦除可編程只讀存儲器(EPROM)、電可擦除可編程只讀存儲器(EEPR0M)、寄存器、硬盤、可移 動盤、CD-ROM,等等。軟件模塊可包括單條指令、或許多條指令,且可分布在若干不同的代碼 段上,分布在不同的程序間以及跨多個存儲介質分布。存儲介質可被耦合到處理器以使得 該處理器能從/向該存儲介質讀寫信息。替換地,存儲介質可以被整合到處理器。
[0134] 本文所公開的方法包括用于實現所描述的方法的一個或多個步驟或動作。這些方 法步驟和/或動作可以彼此互換而不會脫離權利要求的范圍。換言之,除非指定了步驟或動 作的特定次序,否則具體步驟和/或動作的次序和/或使用可以改動而不會脫離權利要求的 范圍。
[0135] 所描述的功能可在硬件、軟件、固件、或其任何組合中實現。如果以硬件實現,則示 例硬件配置可包括設備中的處理系統。處理系統可以用總線架構來實現。取決于處理系統 的具體應用和整體設計約束,總線可包括任何數目的互連總線和橋接器。總線可將包括處 理器、機器可讀介質、以及總線接口的各種電路鏈接在一起。總線接口可用于尤其將網絡適 配器等經由總線連接至處理系統。網絡適配器可用于實現信號處理功能。對于某些方面,用 戶接口(例如,按鍵板、顯示器、鼠標、操縱桿,等等)也可以被連接到總線。總線還可以鏈接 各種其他電路,諸如定時源、外圍設備、穩壓器、功率管理電路以及類似電路,它們在本領域 中是眾所周知的,因此將不再進一步描述。
[0136] 處理器可負責管理總線和一般處理,包括執行存儲在機器可讀介質上的軟件。處 理器可用一個或多個通用和/或專用處理器來實現。示例包括微處理器、微控制器、DSP處理 器、以及其他能執行軟件的電路系統。軟件應當被寬泛地解釋成意指指令、數據、或其任何 組合,無論是被稱作軟件、固件、中間件、微代碼、硬件描述語言、或其他。作為示例,機器可 讀介質可包括隨機存取存儲器(RAM)、閃存、只讀存儲器(R0M)、可編程只讀存儲器(PR0M)、 可擦式可編程只讀存儲器(EPROM)、電可擦式可編程只讀存儲器(EEPR0M)、寄存器、磁盤、光 盤、硬驅動器、或者任何其他合適的存儲介質、或其任何組合。機器可讀介質可被實施在計 算機程序產品中。該計算機程序產品可以包括包裝材料。
[0137] 在硬件實現中,機器可讀介質可以是處理系統中與處理器分開的一部分。然而,如 本領域技術人員將容易領會的,機器可讀介質、或其任何部分可在處理系統外部。作為示 例,機器可讀介質可包括傳輸線、由數據調制的載波、和/或與設備分開的計算機產品,所有 這些都可由處理器通過總線接口來訪問。替換地或補充地,機器可讀介質、或其任何部分可 被集成到處理器中,諸如高速緩存和/或通用寄存器文件可能就是這種情形。雖然所討論的 各種組件可被描述為具有特定位置,諸如局部組件,但它們也可按各種方式來配置,諸如某 些組件被配置成分布式計算系統的一部分。
[0138] 處理系統可以被配置為通用處理系統,該通用處理系統具有一個或多個提供處理 器功能性的微處理器、和提供機器可讀介質中的至少一部分的外部存儲器,它們都通過外 部總線架構與其他支持電路系統鏈接在一起。替換地,該處理系統可以包括一個或多個神 經元形態處理器以用于實現本文所述的神經元模型和神經系統模型。作為另一替代方案, 處理系統可以用帶有集成在單塊芯片中的處理器、總線接口、用戶接口、支持電路系統、和 至少一部分機器可讀介質的專用集成電路(ASIC)來實現,或者用一個或多個現場可編程門 陣列(FPGA)、可編程邏輯器件(PLD)、控制器、狀態機、門控邏輯、分立硬件組件、或者任何其 他合適的電路系統、或者能執行本公開通篇所描述的各種功能性的電路的任何組合來實 現。取決于具體應用和加諸于整體系統上的總設計約束,本領域技術人員將認識到如何最 佳地實現關于處理系統所描述的功能性。
[0139] 機器可讀介質可包括數個軟件模塊。這些軟件模塊包括當由處理器執行時使處理 系統執行各種功能的指令。這些軟件模塊可包括傳輸模塊和接收模塊。每個軟件模塊可以 駐留在單個存儲設備中或者跨多個存儲設備分布。作為示例,當觸發事件發生時,可以從硬 驅動器中將軟件模塊加載到RAM中。在軟件模塊執行期間,處理器可以將一些指令加載到高 速緩存中以提高訪問速度。隨后可將一個或多個高速緩存行加載到通用寄存器文件中以供 由處理器執行。在以下談及軟件模塊的功能性時,將理解此類功能性是在處理器執行來自 該軟件模塊的指令時由該處理器來實現的。
[0140] 如果以軟件實現,則各功能可作為一條或多條指令或代碼存儲在計算機可讀介質 上或藉其進行傳送。計算機可讀介質包括計算機存儲介質和通信介質兩者,這些介質包括 促成計算機程序從一地向另一地轉移的任何介質。存儲介質可以是能被計算機訪問的任何 可用介質。作為示例而非限定,這樣的計算機可讀介質可包括RAM、ROM、EEPROM、CD-ROM或其 它光盤存儲、磁盤存儲或其它磁存儲設備、或能被用來攜帶或存儲指令或數據結構形式的 期望程序代碼且能被計算機訪問的任何其它介質。另外,任何連接也被正當地稱為計算機 可讀介質。例如,如果軟件是使用同軸電纜、光纖電纜、雙絞線、數字訂戶線(DSL)、或無線技 術(諸如紅外(IR)、無線電、以及微波)從web網站、服務器、或其他遠程源傳送而來,則該同 軸電纜、光纖電纜、雙絞線、DSL或無線技術(諸如紅外、無線電、以及微波)就被包括在介質 的定義之中。如本文中所使用的盤(disk)和碟(disc)包括壓縮碟(CD)、激光碟、光碟、數字 多用碟(DVD)、軟盤、和藍光⑧碟,其中盤(disk)常常磁性地再現數據,而碟(disc)用激光來 光學地再現數據。因此,在一些方面,計算機可讀介質可包括非瞬態計算機可讀介質(例如, 有形介質)。另外,對于其他方面,計算機可讀介質可包括瞬態計算機可讀介質(例如,信 號)。上述的組合也應被包括在計算機可讀介質的范圍內。
[0141]因此,某些方面可包括用于執行本文中給出的操作的計算機程序產品。例如,此類 計算機程序產品可包括其上存儲(和/或編碼)有指令的計算機可讀介質,這些指令能由一 個或多個處理器執行以執行本文中所描述的操作。對于某些方面,計算機程序產品可包括 包裝材料。
[0142] 此外,應當領會,用于執行本文中所描述的方法和技術的模塊和/或其它恰適裝置 能由用戶終端和/或基站在適用的場合下載和/或以其他方式獲得。例如,此類設備能被耦 合至服務器以促成用于執行本文中所描述的方法的裝置的轉移。替換地,本文所述的各種 方法能經由存儲裝置(例如,RAM、R0M、諸如壓縮碟(CD)或軟盤等物理存儲介質等)來提供, 以使得一旦將該存儲裝置耦合至或提供給用戶終端和/或基站,該設備就能獲得各種方法。 此外,能利用適于向設備提供本文描述的方法和技術的任何其他合適的技術。
[0143] 應該理解的是,權利要求并不被限定于以上所解說的精確配置和組件。可在以上 所描述的方法和設備的布局、操作和細節上作出各種改動、更換和變形而不會脫離權利要 求的范圍。
【主權項】
1. 一種從多個目標中選擇目標的方法,包括: 至少部分地基于選擇函數來設置神經網絡中的連接的失衡;以及 至少部分地基于所述失衡來修改所述多個目標之間的相對激活,所述相對激活對應于 至少一個目標。2. 如權利要求1所述的方法,其特征在于,每個目標是空間目標。3. 如權利要求1所述的方法,其特征在于,每個目標包括至少一個活躍神經元。4. 如權利要求1所述的方法,其特征在于,進一步包括至少部分地基于所述失衡來選擇 所述至少一個目標。5. 如權利要求4所述的方法,其特征在于,進一步包括至少部分地基于每個目標的概率 來選擇所述多個目標中的兩個或更多個目標。6. 如權利要求1所述的方法,其特征在于,所述選擇函數至少部分地基于每個目標與對 象之間的距離。7. 如權利要求1所述的方法,其特征在于,所述失衡至少包括抑制性權重、興奮性權重、 或其組合。8. 如權利要求1所述的方法,其特征在于,所述至少一個目標至少部分地基于所述相對 激活而與其他目標相比具有更大的活躍量。9. 如權利要求1所述的方法,其特征在于,所述連接至少包括前饋邏輯抑制性連接、前 饋邏輯興奮連接、反饋邏輯抑制性連接、反饋邏輯興奮連接、或其組合。10. 如權利要求1所述的方法,其特征在于,所述連接至少是第一輸入層連接、神經元輸 入、側向連接、或其組合。11. 一種用于從多個目標中選擇目標的設備,包括: 用于至少部分地基于選擇函數來設置神經網絡中的連接的失衡的裝置;以及 用于至少部分地基于所述失衡來修改所述多個目標之間的相對激活的裝置,所述相對 激活對應于至少一個目標。12. 如權利要求11所述的設備,其特征在于,每個目標是空間目標。13. 如權利要求11所述的設備,其特征在于,每個目標包括至少一個活躍神經元。14. 如權利要求11所述的設備,其特征在于,進一步包括用于至少部分地基于所述失衡 來選擇所述至少一個目標的裝置。15. 如權利要求14所述的設備,其特征在于,進一步包括用于至少部分地基于每個目標 的概率來選擇所述多個目標中的兩個或更多個目標的裝置。16. 如權利要求11所述的設備,其特征在于,所述選擇函數至少部分地基于每個目標與 對象之間的距離。17. -種用于從多個目標中選擇目標的裝置,包括: 存儲器單元;以及 耦合至所述存儲器單元的至少一個處理器,所述至少一個處理器被配置成: 至少部分地基于選擇函數來設置神經網絡中的連接的失衡;以及 至少部分地基于所述失衡來修改所述多個目標之間的相對激活,所述相對激活對應于 至少一個目標。18. 如權利要求17所述的裝置,其特征在于,每個目標是空間目標。19. 如權利要求17所述的裝置,其特征在于,每個目標包括至少一個活躍神經元。20. 如權利要求17所述的裝置,其特征在于,所述至少一個處理器被進一步配置成至少 部分地基于所述失衡來選擇所述至少一個目標。21. 如權利要求20所述的裝置,其特征在于,所述至少一個處理器被進一步配置成至少 部分地基于每個目標的概率來選擇所述多個目標中的兩個或更多個目標。22. 如權利要求17所述的裝置,其特征在于,所述選擇函數至少部分地基于每個目標與 對象之間的距離。23. 如權利要求17所述的裝置,其特征在于,所述失衡至少包括抑制性權重、興奮性權 重、或其組合。24. 如權利要求17所述的裝置,其特征在于,所述至少一個目標至少部分地基于所述相 對激活而與其他目標相比具有更大的活躍量。25. 如權利要求17所述的裝置,其特征在于,所述連接至少包括前饋邏輯抑制性連接、 前饋邏輯興奮連接、反饋邏輯抑制性連接、反饋邏輯興奮連接、或其組合。26. 如權利要求17所述的裝置,其特征在于,所述連接至少是第一輸入層連接、神經元 輸入、側向連接、或其組合。27. -種用于從多個目標中選擇目標的計算機程序產品,包括: 其上記錄有非瞬態程序代碼的非瞬態計算機可讀介質,所述程序代碼包括: 用于至少部分地基于選擇函數來設置神經網絡中的連接的失衡的程序代碼;以及 用于至少部分地基于所述失衡來修改所述多個目標之間的相對激活的程序代碼,所述 相對激活對應于至少一個目標。
【文檔編號】G06N3/04GK106030621SQ201580009576
【公開日】2016年10月12日
【申請日】2015年2月19日
【發明人】N·G·勞
【申請人】高通股份有限公司