用于坐標變換的相位編碼的制作方法
【專利摘要】一種用于尖峰神經網絡中的坐標變換的方法包括將第一位置表示編碼為尖峰神經網絡中的相位信息。該方法還包括移位該相位信息以將第一位置表示修改為第二位置表示。
【專利說明】用于坐標變換的相位編碼
[0001] 相關申請的交叉引用
[0002] 本申請根據35 U.S.C.§119(e)要求于2014年2月20日提交的題為"Phase-coding for coordinate transformation(用于坐標變換的相位編碼)"的美國臨時專利申請 No. 61/942,557的權益,其公開通過引用整體明確地納入于此。
【背景技術】 [0003] 領域
[0004] 本公開的某些方面一般涉及神經系統工程,尤其涉及用于對神經尖峰進行相位編 碼以變換坐標的系統和方法。
[0005] 背景
[0006] 可包括一群互連的人工神經元(即,神經元模型)的人工神經網絡是一種計算設備 或者表示將由計算設備執行的方法。人工神經網絡可具有生物學神經網絡中的對應的結構 和/或功能。然而,人工神經網絡可為其中傳統計算技術是麻煩的、不切實際的、或不勝任的 某些應用提供創新且有用的計算技術。由于人工神經網絡能從觀察中推斷出功能,因此這 樣的網絡在因任務或數據的復雜度使得通過常規技術來設計該功能較為麻煩的應用中是 特別有用的。由此,提供通過調整神經尖峰的相位編碼來變換由目標細胞的尖峰相位表示 的坐標的神經元形態接收機是合乎需要的。
[0007] 這已較寬泛地勾勒出本公開的特征和技術優勢以便下面的詳細描述可以被更好 地理解。本公開的附加特征和優點將在下文描述。本領域技術人員應該領會,本公開可容易 地被用作修改或設計用于實施與本公開相同的目的的其他結構的基礎。本領域技術人員還 應認識到,這樣的等效構造并不脫離所附權利要求中所闡述的本公開的教導。被認為是本 公開的特性的新穎特征在其組織和操作方法兩方面連同進一步的目的和優點在結合附圖 來考慮以下描述時將被更好地理解。然而,要清楚理解的是,提供每一幅附圖均僅用于解說 和描述目的,且無意作為對本公開的限定的定義。
[0008] 概述
[0009] 在本公開的一方面,呈現了一種用于尖峰神經網絡中的坐標變換的方法。該方法 包括將第一位置表示編碼為尖峰神經網絡中的相位信息。該方法還包括移位該相位信息以 將第一位置表示修改為第二位置表示。
[0010] 本公開的另一方面涉及一種包括用于將第一位置表示編碼為尖峰神經網絡中的 相位信息的裝置的裝備。該裝備還包括用于移位該相位信息以將第一位置表示修改為第二 位置表示的裝置。
[0011] 在本公開的另一方面,公開了一種具有非瞬態計算機可讀介質的用于尖峰神經網 絡的計算機程序產品。該計算機可讀介質上記錄有非瞬態程序代碼,這些程序代碼在由 (諸)處理器執行時使該(諸)處理器執行將第一位置表示編碼為尖峰神經網絡中的相位信 息的操作。該程序代碼還使得該(諸)處理器移位該相位信息以將第一位置表示修改為第二 位置表示。
[0012] 本公開的另一方面涉及一種具有存儲器以及耦合到該存儲器的至少一個處理器 的尖峰神經網絡。(諸)處理器被配置成將第一位置表示編碼為尖峰神經網絡中的相位信 息。(諸)處理器還被配置成移位該相位信息以將第一位置表示修改為第二位置表示。
[0013] 本公開的附加特征和優點將在下文描述。本領域技術人員應該領會,本公開可容 易地被用作修改或設計用于實施與本公開相同的目的的其他結構的基礎。本領域技術人員 還應認識到,這樣的等效構造并不脫離所附權利要求中所闡述的本公開的教導。被認為是 本公開的特性的新穎特征在其組織和操作方法兩方面連同進一步的目的和優點在結合附 圖來考慮以下描述時將被更好地理解。然而,要清楚理解的是,提供每一幅附圖均僅用于解 說和描述目的,且無意作為對本公開的限定的定義。
[0014] 附圖簡述
[0015] 在結合附圖理解下面闡述的詳細描述時,本公開的特征、本質和優點將變得更加 明顯,在附圖中,相同附圖標記始終作相應標識。
[0016] 圖1解說了根據本公開的某些方面的示例神經元網絡。
[0017] 圖2解說了根據本公開的某些方面的計算網絡(神經系統或神經網絡)的處理單元 (神經元)的示例。
[0018] 圖3解說了根據本公開的某些方面的尖峰定時依賴可塑性(STDP)曲線的示例。
[0019] 圖4解說了根據本公開的某些方面的用于定義神經元模型的行為的正態相和負態 相的示例。
[0020] 圖5A-5B解說了根據本公開的一方面的變換坐標的示例。
[0021] 圖6解說了根據本公開的一方面的目標細胞的網格表示和相位編碼表示。
[0022] 圖7解說了根據本公開一方面的調整細胞的尖峰相位的示例。
[0023]圖8A-8D解說了根據本公開的一方面的變換坐標的示例。
[0024]圖9解說了根據本公開的一方面的從非自我中心式地圖900到相位編碼的非自我 中心式地圖902的連接模式。
[0025]圖10解說了根據本公開的某些方面的使用通用處理器來設計神經網絡的示例實 現。
[0026]圖11解說了根據本公開的某些方面的設計其中存儲器可以與個體分布式處理單 元對接的神經網絡的示例實現。
[0027]圖12解說了根據本公開的某些方面的基于分布式存儲器和分布式處理單元來設 計神經網絡的示例實現。
[0028] 圖13解說了根據本公開的某些方面的神經網絡的示例實現。
[0029] 圖14是解說根據本公開的一方面的坐標變換的框圖。
[0030] 詳細描述
[0031] 以下結合附圖闡述的詳細描述旨在作為各種配置的描述,而無意表示可實踐本文 中所描述的概念的僅有的配置。本詳細描述包括具體細節以便提供對各種概念的透徹理 解。然而,對于本領域技術人員將顯而易見的是,沒有這些具體細節也可實踐這些概念。在 一些實例中,以框圖形式示出眾所周知的結構和組件以便避免淡化此類概念。
[0032] 基于本教導,本領域技術人員應領會,本公開的范圍旨在覆蓋本公開的任何方面, 不論其是與本公開的任何其他方面相獨立地還是組合地實現的。例如,可以使用所闡述的 任何數目的方面來實現裝置或實踐方法。另外,本公開的范圍旨在覆蓋使用作為所闡述的 本公開的各個方面的補充或者與之不同的其他結構、功能性、或者結構及功能性來實踐的 此類裝置或方法。應當理解,所披露的本公開的任何方面可由權利要求的一個或多個元素 來實施。
[0033] 措辭"示例性"在本文中用于表示"用作示例、實例或解說"。本文中描述為"示例 性"的任何方面不必被解釋為優于或勝過其他方面。
[0034] 盡管本文描述了特定方面,但這些方面的眾多變體和置換落在本公開的范圍之 內。雖然提到了優選方面的一些益處和優點,但本公開的范圍并非旨在被限定于特定益處、 用途或目標。相反,本公開的各方面旨在能寬泛地應用于不同的技術、系統配置、網絡和協 議,其中一些作為示例在附圖以及以下對優選方面的描述中解說。詳細描述和附圖僅僅解 說本公開而非限定本公開,本公開的范圍由所附權利要求及其等效技術方案來定義。
[0035] 示例神經系統、訓練及操作
[0036] 圖1解說了根據本公開的某些方面的具有多級神經元的示例人工神經系統100。神 經系統100可具有神經元級102,該神經元級102通過突觸連接網絡104(即,前饋連接)來連 接到另一神經元級106。為簡單起見,圖1中僅解說了兩級神經元,盡管神經系統中可存在更 少或更多級神經元。應注意,一些神經元可通過側向連接來連接至同層中的其他神經元。此 外,一些神經元可通過反饋連接來后向連接至先前層中的神經元。
[0037] 如圖1所解說的,級102中的每一個神經元可以接收可由前級的神經元(未在圖1中 示出)生成的輸入信號108。信號108可表示級102的神經元的輸入電流。該電流可在神經元 膜上累積以對膜電位進行充電。當膜電位達到其閾值時,該神經元可激發并生成輸出尖峰, 該輸出尖峰將被傳遞到下一級神經元(例如,級106)。在一些建模辦法中,神經元可以連續 地向下一級神經元傳遞信號。該信號通常是膜電位的函數。此類行為可在硬件和/或軟件 (包括模擬和數字實現,諸如以下所述那些實現)中進行仿真或模擬。
[0038] 在生物學神經元中,在神經元激發時生成的輸出尖峰被稱為動作電位。該電信號 是相對迅速、瞬態的神經脈沖,其具有約為100mV的振幅和約為lms的歷時。在具有一系列連 通的神經元(例如,尖峰從圖1中的一級神經元傳遞至另一級神經元)的神經系統的特定實 施例中,每個動作電位都具有基本上相同的振幅和歷時,并且因此該信號中的信息可僅由 尖峰的頻率和數目、或尖峰的時間來表示,而不由振幅來表示。動作電位所攜帶的信息可由 尖峰、發放了尖峰的神經元、以及該尖峰相對于一個或數個其他尖峰的時間來確定。尖峰的 重要性可由向各神經元之間的連接所應用的權重來確定,如以下所解釋的。
[0039] 尖峰從一級神經元向另一級神經元的傳遞可通過突觸連接(或簡稱"突觸")網絡 104來達成,如圖1中所解說的。相對于突觸104,級102的神經元可被視為突觸前神經元,而 級106的神經元可被視為突觸后神經元。突觸104可接收來自級102的神經元的輸出信號 (即,尖峰),并根據可調節突觸權重_ w^+1)來按比例縮放那些信號,其中P是 級102的神經元與級106的神經元之間的突觸連接的總數,并且i是神經元級的指示符。在圖 1的示例中,i表示神經元級102并且i+Ι表示神經元級106。此外,經按比例縮放的信號可被 組合以作為級106中每個神經元的輸入信號。級106中的每個神經元可基于對應的組合輸入 信號來生成輸出尖峰110。可使用另一突觸連接網絡(圖1中未示出)將這些輸出尖峰110傳 遞到另一級神經元。
[0040] 生物學突觸可以仲裁突觸后神經元中的興奮性或抑制性(超極化)動作,并且還可 用于放大神經元信號。興奮性信號使膜電位去極化(即,相對于靜息電位增大膜電位)。如果 在某個時間段內接收到足夠的興奮性信號以使膜電位去極化到高于閾值,則在突觸后神經 元中發生動作電位。相反,抑制性信號一般使膜電位超極化(即,降低膜電位)。抑制性信號 如果足夠強則可抵消掉興奮性信號之和并阻止膜電位到達閾值。除了抵消掉突觸興奮以 外,突觸抑制還可對自發活躍神經元施加強力的控制。自發活躍神經元是指在沒有進一步 輸入的情況下(例如,由于其動態或反饋而)發放尖峰的神經元。通過壓制這些神經元中的 動作電位的自發生成,突觸抑制可對神經元中的激發模式進行定形,這一般被稱為雕刻。取 決于期望的行為,各種突觸104可充當興奮性或抑制性突觸的任何組合。
[0041] 神經系統100可由通用處理器、數字信號處理器(DSP)、專用集成電路(ASIC)、現場 可編程門陣列(FPGA)或其他可編程邏輯器件(PLD)、分立的門或晶體管邏輯、分立的硬件組 件、由處理器執行的軟件模塊、或其任何組合來仿真。神經系統100可用在大范圍的應用中, 諸如圖像和模式識別、機器學習、電機控制、及類似應用等。神經系統100中的每一神經元可 被實現為神經元電路。被充電至發起輸出尖峰的閾值的神經元膜可被實現為例如對流經其 的電流進行積分的電容器。
[0042] 在一方面,電容器作為神經元電路的電流積分器件可被除去,并且可使用較小的 憶阻器元件來替代它。這種辦法可應用于神經元電路中,以及其中大容量電容器被用作電 流積分器的各種其他應用中。另外,每個突觸104可基于憶阻器元件來實現,其中突觸權重 變化可與憶阻器電阻的變化有關。使用納米特征尺寸的憶阻器,可顯著地減小神經元電路 和突觸的面積,這可使得實現大規模神經系統硬件實現更為切實可行。
[0043]對神經系統100進行仿真的神經處理器的功能性可取決于突觸連接的權重,這些 權重可控制神經元之間的連接的強度。突觸權重可存儲在非易失性存儲器中以在掉電之后 保留該處理器的功能性。在一方面,突觸權重存儲器可實現在與主神經處理器芯片分開的 外部芯片上。突觸權重存儲器可與神經處理器芯片分開地封裝成可更換的存儲卡。這可向 神經處理器提供多種多樣的功能性,其中特定功能性可基于當前附連至神經處理器的存儲 卡中所存儲的突觸權重。
[0044] 圖2解說了根據本公開的某些方面的計算網絡(例如,神經系統或神經網絡)的處 理單元(例如,神經元或神經元電路)202的示例性示圖200。例如,神經元202可對應于來自 圖1的級102和106的任何神經元。神經元202可接收多個輸入信號20^-20%,這些輸入信號 可以是該神經系統外部的信號、或是由同一神經系統的其他神經元所生成的信號、或這兩 者。輸入信號可以是電流、電導、電壓、實數值的和/或復數值的。輸入信號可包括具有定點 或浮點表示的數值。可通過突觸連接將這些輸入信號遞送到神經元202,突觸連接根據可調 節突觸權重206^206^1^??)對這些信號進行按比例縮放,其中N可以是神經元202的輸入連 接總數。
[0045] 神經元202可組合這些經按比例縮放的輸入信號,并且使用組合的經按比例縮放 的輸入來生成輸出信號208(即,信號Y)。輸出信號208可以是電流、電導、電壓、實數值的和/ 或復數值的。輸出信號可以是具有定點或浮點表示的數值。隨后該輸出信號208可作為輸入 信號傳遞至同一神經系統的其他神經元、或作為輸入信號傳遞至同一神經元202、或作為該 神經系統的輸出來傳遞。
[0046] 處理單元(神經元)202可由電路來仿真,并且其輸入和輸出連接可由具有突觸電 路的電連接來仿真。處理單元202及其輸入和輸出連接也可由軟件代碼來仿真。處理單元 202還可由電路來仿真,而其輸入和輸出連接可由軟件代碼來仿真。在一方面,計算網絡中 的處理單元202可以是模擬電路。在另一方面,處理單元202可以是數字電路。在又一方面, 處理單元202可以是具有模擬和數字組件兩者的混合信號電路。計算網絡可包括任何前述 形式的處理單元。使用這樣的處理單元的計算網絡(神經系統或神經網絡)可用在大范圍的 應用中,諸如圖像和模式識別、機器學習、電機控制、及類似應用等。
[0047] 在神經網絡的訓練過程期間,突觸權重(例如,來自圖1的權重λΜ^/+1) 和/或來自圖2的權重206:-2064可用隨機值來初始化并根據學習規則而被增大或減小。本 領域技術人員將領會,學習規則的示例包括但不限于尖峰定時依賴可塑性(STDP)學習規 貝丨J、Hebb規則、0 ja規則、Bienenstock-Copper-Munro(BCM)規則等。在某些方面,這些權重可 穩定或收斂至兩個值(即,權重的雙峰分布)之一。該效應可被用于減少每個突觸權重的位 數、提高從/向存儲突觸權重的存儲器讀取和寫入的速度、以及降低突觸存儲器的功率和/ 或處理器消耗。
[0048]突觸類型
[0049] 在神經網絡的硬件和軟件模型中,突觸相關功能的處理可基于突觸類型。突觸類 型可以是非可塑突觸(權重和延遲沒有改變)、可塑突觸(權重可改變)、結構化延遲可塑突 觸(權重和延遲可改變)、全可塑突觸(權重、延遲和連通性可改變)、以及基于此的變型(例 如,延遲可改變,但在權重或連通性方面沒有改變)。多種類型的優點在于處理可以被細分。 例如,非可塑突觸不會要求執行可塑性功能(或等待此類功能完成)。類似地,延遲和權重可 塑性可被細分成可一起或分開地、順序地或并行地運作的操作。不同類型的突觸對于適用 的每一種不同的可塑性類型可具有不同的查找表或公式以及參數。因此,這些方法將針對 該突觸的類型來訪問相關的表、公式或參數。
[0050] 還進一步牽涉到以下事實:尖峰定時依賴型結構化可塑性可獨立于突觸可塑性地 來執行。結構化可塑性即使在權重幅值沒有改變的情況下(例如,如果權重已達最小或最大 值、或者其由于某種其他原因而不被改變)也可被執行,因為結構化可塑性(即,延遲改變的 量)可以是pre-post(前-后)尖峰時間差的直接函數。替換地,結構化可塑性可被設為權重 變化量的函數或者可基于與權重或權重變化的界限有關的條件來設置。例如,突觸延遲可 僅在權重變化發生時或者在權重到達0的情況下才改變,但在這些權重為最大值時則不改 變。然而,具有獨立函數以使得這些過程能被并行化從而減少存儲器訪問的次數和交疊可 能是有利的。
[0051 ]突觸可塑性的確定
[0052]神經元可塑性(或簡稱"可塑性")是大腦中的神經元和神經網絡響應于新的信息、 感官刺激、發展、損壞、或機能障礙而改變其突觸連接和行為的能力。可塑性對于生物學中 的學習和記憶、以及對于計算神經元科學和神經網絡是重要的。已經研究了各種形式的可 塑性,諸如突觸可塑性(例如,根據Hebbian理論)、尖峰定時依賴可塑性(STDP)、非突觸可塑 性、活躍性依賴可塑性、結構化可塑性和自穩態可塑性。
[0053] STDP是調節神經元之間的突觸連接的強度的學習過程。連接強度是基于特定神經 元的輸出與收到輸入尖峰(即,動作電位)的相對定時來調節的。在STDP過程下,如果至某個 神經元的輸入尖峰平均而言傾向于緊挨在該神經元的輸出尖峰之前發生,則可發生長期增 強(LTP)。于是使得該特定輸入在一定程度上更強。另一方面,如果輸入尖峰平均而言傾向 于緊接在輸出尖峰之后發生,則可發生長期抑壓(LTD)。于是使得該特定輸入在一定程度上 更弱,并由此得名"尖峰定時依賴可塑性"。因此,使得可能是突觸后神經元興奮原因的輸入 甚至在將來作出貢獻的可能性更大,而使得不是突觸后尖峰的原因的輸入在將來作出貢獻 的可能性更小。該過程繼續,直至初始連接集合的子集保留,而所有其他連接的影響減小至 無關緊要的水平。
[0054] 由于神經元一般在其許多輸入都在一短時段內發生(即,累積性足以引起輸出)時 產生輸出尖峰,因此通常保留下來的輸入子集包括傾向于在時間上相關的那些輸入。另外, 由于在輸出尖峰之前發生的輸入被加強,因此提供對相關性的最早充分累積性指示的那些 輸入將最終變成至該神經元的最后輸入。
[0055] STDP學習規則可因變于突觸前神經元的尖峰時間tpre與突觸后神經元的尖峰時間 tpcist之間的時間差(即,t = tpcist-tpre)來有效地適配將該突觸前神經元連接到該突觸后神經 元的突觸的突觸權重。STDP的典型公式化是若該時間差為正(突觸前神經元在突觸后神經 元之前激發)則增大突觸權重(即,增強該突觸),以及若該時間差為負(突觸后神經元在突 觸前神經元之前激發)則減小突觸權重(即,抑壓該突觸)。
[0056]在STDP過程中,突觸權重隨時間推移的改變可通常使用指數式衰退來達成,如由 下式給出的:
[0058] 其中k+和k-Tsign(At)分別是針對正和負時間差的時間常數,a+和a-是對應的比例縮 放幅值,并且μ是可應用于正時間差和/或負時間差的偏移。
[0059] 圖3解說了根據STDP,突觸權重作為突觸前(presynaptic)和突觸后 (postsynaptic)尖峰的相對定時的函數而改變的示例性示圖300。如果突觸前神經元在突 觸后神經元之前激發,則對應的突觸權重可被增大,如曲線圖300的部分302中所解說的。該 權重增大可被稱為該突觸的LTP。從曲線圖部分302可觀察到,LTP的量可因變于突觸前和突 觸后尖峰時間之差而大致呈指數式地下降。相反的激發次序可減小突觸權重,如曲線圖300 的部分304中所解說的,從而導致該突觸的LTD。
[0060] 如圖3中的曲線圖300中所解說的,可向STDP曲線圖的LTP(因果性)部分302應用負 偏移lx軸的交越點306(y = 0)可被配置成與最大時間滯后重合以考慮到來自層i-Ι的各因 果性輸入的相關性。在基于幀的輸入(即,呈特定歷時的包括尖峰或脈沖的幀的形式的輸 入)的情形中,可計算偏移值μ以反映幀邊界。該幀中的第一輸入尖峰(脈沖)可被視為要么 如直接由突觸后電位所建模地隨時間衰退,要么在對神經狀態的影響的意義上隨時間衰 退。如果該幀中的第二輸入尖峰(脈沖)被視為與特定時間幀相關或有關,則該幀之前和之 后的有關時間可通過使STDP曲線的一個或多個部分偏移以使得這些有關時間中的值可以 不同(例如,對于大于一個幀為負,而對于小于一個幀為正)來在該時間幀邊界處被分開并 在可塑性意義上被不同地對待。例如,負偏移μ可被設為偏移LTP以使得曲線實際上在大于 幀時間的pre-post時間處變得低于零并且它由此為LTD而非LTP的一部分。
[0061]神經元模型及操作
[0062]存在一些用于設計有用的尖峰發放神經元模型的一般原理。良好的神經元模型在 以下兩個計算態相(regime)方面可具有豐富的潛在行為:重合性檢測和功能性計算。此外, 良好的神經元模型應當具有允許時間編碼的兩個要素:輸入的抵達時間影響輸出時間,以 及重合性檢測能具有窄時間窗。最后,為了在計算上是有吸引力的,良好的神經元模型在連 續時間上可具有閉合形式解,并且具有穩定的行為,包括在靠近吸引子和鞍點之處。換言 之,有用的神經元模型是可實踐且可被用于建模豐富的、現實的且生物學一致的行為并且 可被用于對神經電路進行工程設計和反向工程兩者的神經元模型。
[0063] 神經元模型可取決于事件,諸如輸入抵達、輸出尖峰或其他事件,無論這些事件是 內部的還是外部的。為了達成豐富的行為庫,能展現復雜行為的狀態機可能是期望的。如果 事件本身的發生在撇開輸入貢獻(若有)的情況下能影響狀態機并約束該事件之后的動態, 則該系統的將來狀態并非僅是狀態和輸入的函數,而是狀態、事件和輸入的函數。
[0064] 在一方面,神經元η可被建模為尖峰帶漏泄積分激發神經元,其膜電壓vn(t)由以 下動態來支配:
[0066] 其中α和β是參數,Wm,n是將突觸前神經元m連接至突觸后神經元 n的突觸的突觸權 重,以及ym(t)是神經元m的尖峰發放輸出,其可根據Δ tm,η被延遲達樹突或軸突延遲才抵達 神經元η的胞體。
[0067] 應注意,從建立了對突觸后神經元的充分輸入的時間直至該突觸后神經元實際上 激發的時間存在延遲。在動態尖峰發放神經元模型(諸如Izhikevich簡單模型)中,如果在 去極化閾值vt與峰值尖峰電壓v peak之間有差量,則可引發時間延遲。例如,在該簡單模型中, 神經元胞體動態可由關于電壓和恢復的微分方程對來支配,即:
[0070] 其中V是膜電位,u是膜恢復變量,k是描述膜電位v的時間尺度的參數,a是描述恢 復變量u的時間尺度的參數,b是描述恢復變量u對膜電位v的閾下波動的敏感度的參數,Vi· 是膜靜息電位,I是突觸電流,以及C是膜的電容。根據該模型,神經元被定義為在v>v peak時 發放尖峰。
[0071] Hunzinger Cold模型
[0072] Hunzinger Cold神經元模型是能再現豐富多樣的各種神經行為的最小雙態相尖 峰發放線性動態模型。該模型的一維或二維線性動態可具有兩個態相,其中時間常數(以及 耦合)可取決于態相。在閾下態相中,時間常數(按照慣例為負)表示漏泄通道動態,其一般 作用于以生物學一致的線性方式使細胞返回到靜息。閾上態相中的時間常數(按照慣例為 正)反映抗漏泄通道動態,其一般驅動細胞發放尖峰,而同時在尖峰生成中引發等待時間。
[0073] 如圖4中所解說的,該模型400的動態可被劃分成兩個(或更多個)態相。這些態相 可被稱為負態相402(也可互換地稱為帶漏泄積分激發(LIF)態相,勿與LIF神經元模型混 淆)以及正態相404(也可互換地稱為抗漏泄積分激發(ALIF)態相,勿與ALIF神經元模型混 淆)。在負態相402中,狀態在將來事件的時間趨向于靜息(V-)。在該負態相中,該模型一般 展現出時間輸入檢測性質及其他閾下行為。在正態相404中,狀態趨向于尖峰發放事件 ( Vs)。在該正態相中,該模型展現出計算性質,諸如取決于后續輸入事件而引發發放尖峰的 等待時間。在事件方面對動態進行公式化以及將動態分成這兩個態相是該模型的基礎特 性。
[0074] 線性雙態相二維動態(對于狀態v和u)可按照慣例定義為:
[0077] 其中qP和r是用于耦合的線性變換變量。
[0078] 符號p在本文中用于標示動態態相,在討論或表達具體態相的關系時,按照慣例對 于負態相和正態相分別用符號或"+"來替換符號P。
[0079] 模型狀態由膜電位(電壓)v和恢復電流u來定義。在基本形式中,態相在本質上是 由模型狀態來決定的。該精確和通用的定義存在一些細微卻重要的方面,但目前考慮該模 型在電壓v高于閾值(v+)的情況下處于正態相404中,否則處于負態相402中。
[0080] 態相相關時間常數包括負態相時間常數τ-和正態相時間常數τ+。恢復電流時間常 數^通常是與態相無關的。出于方便起見,負態相時間常數τ_通常被指定為反映衰退的負 量,從而用于電壓演變的相同表達式可用于正態相,在正態相中指數和τ+將一般為正,正如 tu那樣。
[0081] 這兩個狀態元素的動態可在發生事件之際通過使狀態偏離其零傾線(nul Ιο 1 ine) 的變換來耦合 ,其中 變換變量為:
[0082] qP = -Tp0u-Vp (7)
[0083] Γ = δ(ν+ε) (8)
[0084] 其中δ、ε、β和V-、V+是參數。Vp的兩個值是這兩個態相的參考電壓的基數。參數v-是 負態相的基電壓,并且膜電位在負態相中一般將朝向V-衰退。參數v+是正態相的基電壓,并 且膜電位在正態相中一般將趨向于背離v+。
[0085] v和u的零傾線分別由變換變量qP和r的負數給出。參數δ是控制u零傾線的斜率的 比例縮放因子。參數ε通常被設為等于-V-。參數β是控制這兩個態相中的ν零傾線的斜率的 電阻值。τρ時間常數參數不僅控制指數式衰退,還單獨地控制每個態相中的零傾線斜率。
[0086] 該模型可被定義為在電壓ν達到值vs時發放尖峰。隨后,狀態可在發生復位事件 (其可以與尖峰事件完全相同)之際被復位:
[0087] v = '' (9)
[0088] u = u+ Δ u (10)
[0089] 其中免和Δ u是參數。復位電壓it通常被設為v一。
[0090] 依照瞬時耦合的原理,閉合形式解不僅對于狀態是可能的(且具有單個指數項), 而且對于到達特定狀態所需的時間也是可能的。閉合形式狀態解為:
[0093]因此,模型狀態可僅在發生事件之際被更新,諸如在輸入(突觸前尖峰)或輸出(突 觸后尖峰)之際被更新。還可在任何特定時間(無論是否有輸入或輸出)執行操作。
[0094]而且,依照瞬時耦合原理,突觸后尖峰的時間可被預計,因此到達特定狀態的時間 可提前被確定而無需迭代技術或數值方法(例如,歐拉數值方法)。給定了先前電壓狀態vo, 直至到達電壓狀態Vf之前的時間延遲由下式給出:
[0096]如果尖峰被定義為發生在電壓狀態v到達vs的時間,則從電壓處于給定狀態v的時 間起測量的直至發生尖峰前的時間量或即相對延遲的閉合形式解為:
[0098] 其中f+通常被設為參數v+,但其他變型可以是可能的。
[0099] 模型動態的以上定義取決于該模型是在正態相還是負態相中。如所提及的,耦合 和態相P可基于事件來計算。出于狀態傳播的目的,態相和耦合(變換)變量可基于在上一 (先前)事件的時間的狀態來定義。出于隨后預計尖峰輸出時間的目的,態相和耦合變量可 基于在下一(當前)事件的時間的狀態來定義。
[0100] 存在對該Cold模型、以及在時間上執行模擬、仿真、或建模的若干可能實現。這包 括例如事件-更新、步階-事件更新、以及步階-更新模式。事件更新是其中基于事件或"事件 更新"(在特定時刻)來更新狀態的更新。步階更新是以間隔(例如,lms)來更新模型的更新。 這不一定要求迭代方法或數值方法。通過僅在事件發生于步階處或步階間的情況下才更新 模型或即通過"步階-事件"更新,基于事件的實現以有限的時間分辨率在基于步階的模擬 器中實現也是可能的。
[0101] 用于坐標變換的相位編碼
[0102] 對象(諸如機器人或自動化設備)可被指定選擇環境中的目標。為該對象指定的目 標的位置可基于世界視圖(諸如基于用戶位置的視圖)。盡管如此,為了提高性能,將目標的 坐標變換成相對于對象位置是合乎需要的。
[0103] 坐標變換可以指將相對于第一參考系的空間表示轉換為相對于第二參考系的實 質上類似的表示。例如,可向對象(諸如機器人)給予目標相對于房間西北角的坐標集。在此 示例中,該目標的坐標基于世界中心參考系(即,非自我中心式坐標表示)。盡管如此,對于 計劃朝該目標移動的機器人而言,期望將非自我中心式坐標轉換為相對于該機器人的當前 位置和方向的表示(即,自我中心式參考系)。
[0104] 具體而言,為了使機器人計劃朝向該目標的移動,非自我中心式坐標應被轉換成 自我中心式坐標。該目標的自我中心式坐標將隨著該機器人在房間內四處移動而改變,盡 管如此,非自我中心式坐標將在該機器人在房間內四處移動時保持不變。將期望維持基于 機器人的固定位置(諸如地圖中心)的自我中心式坐標。
[0105] 本公開的各方面涉及基于調整神經元的尖峰相位來將非自我中心式坐標轉換成 自我中心式坐標。在神經元科學中,坐標變換通過尖峰網絡內的增益字段來執行。增益字段 指定與所實現的表示不同的空間表示。另外,增益字段提供了多個突觸輸入之間的乘法交 互。
[0106] 圖5A-5B解說了非自我中心式坐標到自我中心式坐標的轉換的示例。圖5A-5B的地 圖基于包括目標和對象(諸如機器人)的2維(2D)空間表示。即,非自我中心式空間和自我中 心式空間可由細胞的2D網格來表示。每一細胞表示真實空間中的位置,并且細胞的活動(諸 如尖峰發放活動)可表示關于該位置的屬性(諸如目標的存在或不存在)。
[0107] 在一種配置中,非自我中心式表示到自我中心式表示的變換通過將2D網格中所表 示的目標從非自我中心式表示映射到自我中心式表示來執行。對于自我中心式表示,機器 人可以在地圖的中央。該變換使用對象在非自我中心式坐標中的當前位置。對象的當前位 置由地點細胞的網格來表示。可以指定僅僅對象的地點細胞地圖。即,包括細胞網格的地點 細胞地圖可被指定并且對象的位置可基于細胞的活動來指定。
[0108] 圖5A解說了對象504以及目標506、508、510的非自我中心式地圖500。非自我中心 式地圖500由地點細胞502的網格來表示。如圖5A所示,對象504的位置不在地圖500的中心。 艮P,對象504以及目標506、508、510的坐標基于世界中心參考系。在一種配置中,圖5A所示的 非自我中心式地圖500可被轉換成圖5B所示的自我中心式地圖512。具體而言,如圖5B所示, 對象504的位置在地圖512的中心。即,與非自我中心式地圖500 (圖5A)形成對比的是,對象 504和目標506、508、510在自我中心式地圖512(圖5B)中的坐標基于根據該對象的位置的參 考系。
[0109]如先前所討論的,非自我中心式地圖500可由細胞的2D網格來表示。在一位置處的 目標的存在可由細胞的尖峰發放間隔來指示。在一種配置中,目標細胞的地圖被轉換成使 用尖峰相位來表示位置的相位編碼表示。即,目標細胞的地圖可由網格表示和/或相位編碼 表示來表示。
[0110] 圖6解說了根據本公開的一方面的每一目標細胞的尖峰相位。具體而言,如圖6所 示,每一目標細胞都可以按特定周期性來尖峰發放。由此,因為每一細胞可具有周期性尖峰 發放模式,所以各細胞的尖峰發放速率的相位可以相互比較。在一個示例中,第一目標細胞 602每50毫秒尖峰發放一次。具體而言,在該示例中,第一目標細胞在時間0、50、100、150等 尖峰發放。另外,第一目標細胞的尖峰相位不同于其它目標細胞604、606的尖峰相位。即,如 圖6所示,每一細胞可以按相同的頻率(諸如每50毫秒一次)尖峰發放,但這些細胞可以在不 同的相位(即,時間)尖峰發放。
[0111] 由此,除了在2D網格中在空間中表示目標之外,目標也可被表示為相位。此外,相 位偏移可表示目標細胞在網格中的位置。即,在一種配置中,每一目標細胞與表示該目標細 胞在網格中的位置的特定相位(0…η)相關聯。在當前配置中,第一目標602在細胞網格中的 第一位置且具有相位零。另外,第二目標604在第十四位置且具有相位十三。最后,第三目標 606在第二十二位置且具有相位二十一。
[0112] 細胞在網格內的物理位置一般被接受為是固定的,但活躍細胞的尖峰發放的相位 可由其它突觸輸入來修改。在一種配置中,地點細胞輸入可修改相位編碼表示中的活躍細 胞的相位以模擬期望輸出位置的相位。在當前配置中,地點細胞輸入可被聯系至相位編碼 細胞以使得相位編碼表示中的細胞的相位在給定活躍地點細胞的情況下被恰當地移位。相 位可經由興奮性連接來向前移位(即,減小相位)。此外,相位可經由抑制性連接來延遲(即, 增大相位)。
[0113] 圖7解說了根據本公開一方面的調整細胞的尖峰相位的示例。如圖7所示,X軸表示 時間,而y軸表示膜電位。在一種配置中,如圖7所示,在時間Τ0,細胞處于靜息電位。在時間 T1,該細胞接收到觸發響應的輸入。通常,電位在它不大于抗漏泄積分激發(ALIF)閾值702 的情況下衰退回到靜息電位。替換地,如果電位大于抗漏泄積分激發閾值702,則該電位向 上衰退至尖峰閾值704。電位在該電位大于該尖峰閾值時被認為是尖峰。
[0114] 因此,因為膜電位在它大于ALIF閾值時具有向上衰退,所以該向上衰退可被向前 移位或延遲。即,在一種配置中,興奮性輸入可被應用于在時間T1接收到的輸入,以使得膜 電位被提高以更接近尖峰閾值。如圖7所示,興奮性輸入可被輸入以使得膜電位可以在時間 T2尖峰發放。替換地,抑制性輸入可被應用于在時間T1接收到的輸入以使得尖峰發放被延 遲。例如,如圖7所示,膜電位可被延遲至在時間T3或時間T4尖峰發放。由此,細胞的尖峰定 時可基于被應用于細胞的興奮性輸入或抑制性輸入來調整。抑制性輸入和興奮性輸入可以 在向上衰退期間的不同時間提供以按需修改電位的尖峰發放。
[0115] 圖8A-8D解說了根據本公開的一方面的調整目標細胞的相位編碼以將非自我中心 式地圖轉換成自我中心式地圖的示例。
[0116] 圖8A解說了具有對象804以及目標806、808、810的地點細胞802的網格800。圖8A的 網格800基于非自我中心式地圖,以使得對象804的位置不在網格800的中心。具體而言,對 象804以及目標806、808、810的坐標基于世界中心參考系。在一種配置中,網格800可被轉換 成自我中心式地圖。
[0117] 在當前配置中,網格800中的目標806、808、810的尖峰相位在轉換之前確定。即,相 位編碼的非自我中心式地圖基于目標細胞的尖峰相位來生成。如圖8B所示,第一目標806具 有尖峰相位零,第二目標808具有尖峰相位十三,而第三目標810具有尖峰相位二^^一。在當 前示例中,每一目標806、808、810的尖峰相位相對于細胞網格中的位置(0…η)。即,第一目 標806在細胞網格中的第一位置且具有相位零。另外,第二目標808在第四位置且具有相位 十三。最后,第三目標810在第二十二位置且具有相位二^^一。圖8B解說了網絡確定每一細 胞的尖峰相位,但在另一配置中網絡只確定目標細胞的尖峰相位。
[0118] 在確定每一目標的尖峰相位以生成相位編碼的非自我中心式地圖(諸如圖8B的相 位編碼的非自我中心式地圖)后,每一目標的尖峰相位被擾動以使得尖峰相位相對于對象 位置來調整。即,每一目標的尖峰相位被調整成使得這些目標基于自我中心式地圖。每一目 標細胞的尖峰相位可經由興奮性輸入或抑制性輸入來調整。應注意,系統或用戶可以基于 對象位置的地點細胞地圖來知曉該對象與網格中心之間的距離。但當前應用的各方面不限 于基于對象位置的地點細胞地圖來確定對象位置,并且還構想了用于確定對象位置的其它 方面。
[0119] 如先前所討論的,自我中心式表示指定對象804被放置在網格800的中心。因此,在 圖8C所示的示例中,對象804距離網格中心一個細胞。由此,為了將網格800轉換成自我中心 式地圖,生成經修改的相位編碼地圖。經修改的相位編碼的非自我中心式地圖調整每一目 標的尖峰相位以補償對象與中心之間的距離。圖8C的地圖仍然是非自我中心式地圖,因為 對象仍然不在中心,然而如圖8C所示,如果對象804在地圖中心,則每一目標806、808、810的 尖峰相位被調整以表示相鄰細胞的尖峰相位。即,第一目標806的尖峰相位從零調整為一, 第二目標808的尖峰相位從十三調整為十四,而第三目標810的尖峰相位從二十一調整為二 十二。
[0120] 在當前配置中,基于經修改的相位編碼的非自我中心式地圖,可生成自我中心式 地圖。具體而言,目標細胞的經調整的相位被恢復以生成自我中心式地圖。如圖8D所示,網 格800是對象804在網格800的中心的自我中心式地圖。圖8D的自我中心式地圖基于來自經 修改的相位編碼的非自我中心式地圖的目標的經調整的相位。
[0121] 在一種配置中,相位編碼細胞被指定為在這些相位編碼細胞已由地點細胞輸入修 改后獲取新位置表示。在當前配置中,為了恢復經變換的位置,指定第二細胞網格。第二細 胞網格是針對特定位置處的尖峰發放輸入的特定相位定制的。第二網格的經時間調諧的細 胞通過產生在網絡中所使用的所有相位處尖峰發放的細胞集合(即,相位細胞)來創建。此 外,相位細胞與相位編碼細胞的輸出相組合。所有相位編碼細胞被連接到所有輸出細胞。輸 出細胞將只在來自相位編碼細胞以及輸出細胞的特定相位細胞的輸入之間存在尖峰一致 性時才尖峰發放。
[0122] 在另一配置中,細胞矩陣內的特定位置可以從目標細胞輸入聯系到該地圖的所有 可能移位。地點細胞輸入經由抑制來選擇被指定為執行變換的經移位地圖。
[0123] 在又一配置中,變換可以堆疊。即,因為相位是相對量,所以非自我中心式地圖可 被變換成T0地圖。此外,T0地圖可被變換成作為離T0地圖的相對偏移的T1地圖。變換的堆疊 不限于兩個地圖,因為本公開的各方面也被構想成用于一到η個地圖。在一種配置中,T〇-Tn 地圖是自我中心式地圖。
[0124] 圖9解說了根據本公開的一方面的從非自我中心式地圖900到相位編碼的非自我 中心式地圖902的連接模式。具體而言,如圖9所示,非自我中心式地圖900具有到相位編碼 的非自我中心式地圖902的一對一連接。相位編碼的非自我中心式地圖902中的每一細胞包 括權重和相位。作為示例,相位編碼的非自我中心式地圖902中的第一細胞904具有相位零 和權重一。
[0125] 這些權重被指定為使得相位編碼地圖的相位代表源細胞的位置。即,零是第一細 胞904的相位,而八是最后一個細胞的相位。此外,地點細胞地圖906具有到相位編碼的非自 我中心式地圖902的多對多連接(未示出)。多對多連接中的連接被指定為使得各細胞的相 位以將活躍地點細胞置于地圖中心的特有方式移位。活躍地點細胞是對象(諸如機器人)在 世界坐標中的位置。如圖9所示,地點細胞的權重被調整為使得這些細胞的相位被移位。例 如,如圖9所示,地點細胞地圖906中的第一細胞908的權重被調整為-0.4。
[0126] 圖10解說了根據本公開的某些方面的使用通用處理器1002進行前述相位編碼變 換的示例實現1000。與計算網絡(神經網絡)相關聯的變量(神經信號)、突觸權重、系統參 數,延遲,和頻槽信息可被存儲在存儲器塊1004中,而在通用處理器1002處執行的指令可從 程序存儲器1006中加載。在本公開的一方面,被加載到通用處理器1002中的指令可包括用 于調整目標細胞的相位編碼的代碼。
[0127] 圖11解說了根據本公開的某些方面的前述相位編碼變換的示例實現1100,其中存 儲器1102可以經由互連網絡1104與計算網絡(神經網絡)的個體(分布式)處理單元(神經處 理器)1106對接。與計算網絡(神經網絡)相關聯的變量(神經信號)、突觸權重、系統參數,延 遲,頻槽信息、以及尖峰相位可被存儲在存儲器1102中,并且可從存儲器1102經由互連網絡 1104的(諸)連接被加載到每個處理單元(神經處理器)1106中。在本公開的一方面,處理單 元1106可被配置成調整目標細胞的相位編碼。
[0128] 圖12解說了前述相位編碼變換的示例實現1200。如圖12中所解說的,一個存儲器 組1202可與計算網絡(神經網絡)的一個處理單元1204直接對接。每一個存儲器組1202可存 儲與對應的處理單元(神經處理器)1204相關聯的變量(神經信號)、突觸權重、和/或系統參 數,延遲,頻率槽信息,以及尖峰相位。在本公開的一方面,處理單元1204可被配置成調整目 標細胞的相位編碼。
[0129] 圖13解說根據本公開的某些方面的神經網絡1300的示例實現。如圖8中所解說的, 神經網絡1300可具有多個局部處理單元1302,它們可執行上述方法的各種操作。每個局部 處理單元1302可包括存儲該神經網絡的參數的局部狀態存儲器1304和局部參數存儲器 1306。另外,局部處理單元1302可具有用于存儲局部模型程序的局部(神經元)模型程序 (LMP)存儲器1308、用于存儲局部學習程序的局部學習程序(LLP)存儲器1310、以及局部連 接存儲器1313。此外,如圖8中所解說的,每個局部處理單元1302可與用于提供對局部處理 單元的局部存儲器的配置的配置處理單元1314對接,并且與提供各局部處理單元1302之間 的路由的路由連接處理元件1316對接。
[0130] 在一種配置中,神經元模型被配置成用于獲得原型神經元動態和/或修改神經元 模型的參數。神經元模型包括編碼裝置和移位裝置。在一個方面,該編碼裝置和/或移位裝 置可以是被配置成執行所敘述的功能的通用處理器1002、程序存儲器1006、存儲器塊1004、 存儲器1102、互連網絡1104、處理單元1106、處理單元1204、局部處理單元1302、和/或路由 連接處理單元1316。在另一種配置中,前述裝置可以是被配置成執行由前述裝置所敘述的 功能的任何模塊或任何裝備。
[0131]根據本公開的某些方面,每個局部處理單元1302可被配置成基于神經網絡的一個 或多個期望功能性特征來確定神經網絡的參數,以及隨著所確定的參數被進一步適配、調 諧和更新來使這一個或多個功能性特征朝著期望的功能性特征發展。
[0132] 圖14解說了用于坐標變換的相位編碼的方法1400。在框1402中,神經元模型將第 一位置表示編碼為尖峰神經網絡中的相位信息。此外,在框1404中,神經元模型移位該相位 信息以將第一位置表示修改為第二位置表示。
[0133] 以上所描述的方法的各種操作可由能夠執行相應功能的任何合適的裝置來執行。 這些裝置可包括各種硬件和/或軟件組件和/或模塊,包括但不限于電路、專用集成電路 (ASIC)、或處理器。一般而言,在附圖中有解說的操作的場合,那些操作可具有帶相似編號 的相應配對裝置加功能組件。
[0134] 如本文所使用的,術語"確定"涵蓋各種各樣的動作。例如,"確定"可包括演算、計 算、處理、推導、研究、查找(例如,在表、數據庫或其他數據結構中查找)、探知及諸如此類。 另外,"確定"可包括接收(例如接收信息)、訪問(例如訪問存儲器中的數據)、及類似動作。 而且,"確定"可包括解析、選擇、選取、確立及類似動作。
[0135] 如本文所使用的,引述一列項目中的"至少一個"的短語是指這些項目的任何組 合,包括單個成員。作為示例,"a、b或c中的至少一個"旨在涵蓋:a、b、c、a-b、a-c、b-c、&& a-b-c〇
[0136] 結合本公開所描述的各種解說性邏輯框、模塊、以及電路可用設計成執行本文所 描述功能的通用處理器、數字信號處理器(DSP)、專用集成電路(ASIC)、現場可編程門陣列 信號(FPGA)或其他可編程邏輯器件(PLD)、分立的門或晶體管邏輯、分立的硬件組件或其任 何組合來實現或執行。通用處理器可以是微處理器,但在替換方案中,處理器可以是任何市 售的處理器、控制器、微控制器、或狀態機。處理器還可以被實現為計算設備的組合,例如 DSP與微處理器的組合、多個微處理器、與DSP核心協同的一個或多個微處理器、或任何其它 此類配置。
[0137] 結合本公開所描述的方法或算法的步驟可直接在硬件中、在由處理器執行的軟件 模塊中、或在這兩者的組合中體現。軟件模塊可駐留在本領域所知的任何形式的存儲介質 中。可使用的存儲介質的一些示例包括隨機存取存儲器(RAM)、只讀存儲器(R0M)、閃存、可 擦除可編程只讀存儲器(EPROM)、電可擦除可編程只讀存儲器(EEPR0M)、寄存器、硬盤、可移 動盤、CD-ROM,等等。軟件模塊可包括單條指令、或許多條指令,且可分布在若干不同的代碼 段上,分布在不同的程序間以及跨多個存儲介質分布。存儲介質可被耦合到處理器以使得 該處理器能從/向該存儲介質讀寫信息。在替換方案中,存儲介質可以被整合到處理器。
[0138] 本文所公開的方法包括用于實現所描述的方法的一個或多個步驟或動作。這些方 法步驟和/或動作可以彼此互換而不會脫離權利要求的范圍。換言之,除非指定了步驟或動 作的特定次序,否則具體步驟和/或動作的次序和/或使用可以改動而不會脫離權利要求的 范圍。
[0139] 所描述的功能可在硬件、軟件、固件或其任何組合中實現。如果以硬件實現,則示 例硬件配置可包括設備中的處理系統。處理系統可以用總線架構來實現。取決于處理系統 的具體應用和整體設計約束,總線可包括任何數目的互連總線和橋接器。總線可將包括處 理器、機器可讀介質、以及總線接口的各種電路鏈接在一起。總線接口可用于尤其將網絡適 配器等經由總線連接至處理系統。網絡適配器可用于實現信號處理功能。對于某些方面,用 戶接口(例如,按鍵板、顯示器、鼠標、操縱桿,等等)也可以被連接到總線。總線還可以鏈接 各種其他電路,諸如定時源、外圍設備、穩壓器、功率管理電路以及類似電路,它們在本領域 中是眾所周知的,因此將不再進一步描述。
[0140]處理器可負責管理總線和一般處理,包括執行存儲在機器可讀介質上的軟件。處 理器可用一個或多個通用和/或專用處理器來實現。示例包括微處理器、微控制器、DSP處理 器、以及其他能執行軟件的電路系統。軟件應當被寬泛地解釋成意指指令、數據、或其任何 組合,無論是被稱作軟件、固件、中間件、微代碼、硬件描述語言、或其他。作為示例,機器可 讀介質可包括隨機存取存儲器(RAM)、閃存、只讀存儲器(R0M)、可編程只讀存儲器(PR0M)、 可擦式可編程只讀存儲器(EPROM)、電可擦式可編程只讀存儲器(EEPR0M)、寄存器、磁盤、光 盤、硬驅動器、或者任何其他合適的存儲介質、或其任何組合。機器可讀介質可被實施在計 算機程序產品中。該計算機程序產品可以包括包裝材料。
[0141] 在硬件實現中,機器可讀介質可以是處理系統中與處理器分開的一部分。然而,如 本領域技術人員將容易領會的,機器可讀介質或其任何部分可在處理系統外部。作為示例, 機器可讀介質可包括傳輸線、由數據調制的載波、和/或與設備分開的計算機產品,所有這 些都可由處理器通過總線接口來訪問。替換地或補充地,機器可讀介質或其任何部分可被 集成到處理器中,諸如高速緩存和/或通用寄存器文件可能就是這種情形。雖然所討論的各 種組件可被描述為具有特定位置,諸如局部組件,但它們也可按各種方式來配置,諸如某些 組件被配置成分布式計算系統的一部分。
[0142] 處理系統可以被配置為通用處理系統,該通用處理系統具有一個或多個提供處理 器功能性的微處理器、以及提供機器可讀介質中的至少一部分的外部存儲器,它們都通過 外部總線架構與其他支持電路系統鏈接在一起。替換地,該處理系統可以包括一個或多個 神經元形態處理器以用于實現本文所述的神經元模型和神經系統模型。作為另一替換方 案,處理系統可以用帶有集成在單塊芯片中的處理器、總線接口、用戶接口、支持電路系統、 和至少一部分機器可讀介質的專用集成電路(ASIC)來實現,或者用一個或多個現場可編程 門陣列(FPGA)、可編程邏輯器件(PLD)、控制器、狀態機、門控邏輯、分立硬件組件、或者任何 其他合適的電路系統、或者能執行本公開通篇所描述的各種功能性的電路的任何組合來實 現。取決于具體應用和加諸于整體系統上的總設計約束,本領域技術人員將認識到如何最 佳地實現關于處理系統所描述的功能性。
[0143] 機器可讀介質可包括數個軟件模塊。這些軟件模塊包括當由處理器執行時使處理 系統執行各種功能的指令。這些軟件模塊可包括傳送模塊和接收模塊。每個軟件模塊可以 駐留在單個存儲設備中或者跨多個存儲設備分布。作為示例,當觸發事件發生時,可以從硬 驅動器中將軟件模塊加載到RAM中。在軟件模塊執行期間,處理器可以將一些指令加載到高 速緩存中以提高訪問速度。隨后可將一個或多個高速緩存行加載到通用寄存器文件中以供 處理器執行。在參照以下述及軟件模塊的功能性時,將理解此類功能性是在處理器執行來 自該軟件模塊的指令時由該處理器來實現的。
[0144] 如果以軟件實現,則各功能可作為一條或多條指令或代碼存儲在計算機可讀介質 上或藉其進行傳送。計算機可讀介質包括計算機存儲介質和通信介質兩者,這些介質包括 促成計算機程序從一地向另一地轉移的任何介質。存儲介質可以是能被計算機訪問的任何 可用介質。作為示例而非限定,此類計算機可讀介質可包括RAM、R0M、EEPR0M、CD-R0M或其他 光盤存儲、磁盤存儲或其他磁存儲設備、或能用于攜帶或存儲指令或數據結構形式的期望 程序代碼且能被計算機訪問的任何其他介質。另外,任何連接也被正當地稱為計算機可讀 介質。例如,如果軟件是使用同軸電纜、光纖電纜、雙絞線、數字訂戶線(DSL)、或無線技術 (諸如紅外(IR)、無線電、以及微波)從web網站、服務器、或其他遠程源傳送而來,則該同軸 電纜、光纖電纜、雙絞線、DSL或無線技術(諸如紅外、無線電、以及微波)就被包括在介質的 定義之中。如本文中所使用的盤(disk)和碟(disc)包括壓縮碟(CD)、激光碟、光碟、數字多 用碟(DVD)、軟盤、和藍光《碟,其中盤(disk)常常磁性地再現數據,而碟(disc)用激光來光 學地再現數據。因此,在一些方面,計算機可讀介質可包括非瞬態計算機可讀介質(例如,有 形介質)。另外,對于其他方面,計算機可讀介質可包括瞬態計算機可讀介質(例如,信號)。 上述的組合應當也被包括在計算機可讀介質的范圍內。
[0145] 因此,某些方面可包括用于執行本文中給出的操作的計算機程序產品。例如,此類 計算機程序產品可包括其上存儲(和/或編碼)有指令的計算機可讀介質,這些指令能由一 個或多個處理器執行以執行本文中所描述的操作。對于某些方面,計算機程序產品可包括 包裝材料。
[0146] 此外,應當領會,用于執行本文中所描述的方法和技術的模塊和/或其它恰適裝置 能由用戶終端和/或基站在適用的場合下載和/或以其他方式獲得。例如,此類設備能被耦 合至服務器以促成用于執行本文中所描述的方法的裝置的轉移。替換地,本文所述的各種 方法能經由存儲裝置(例如,RAM、R0M、諸如壓縮碟(CD)或軟盤等物理存儲介質等)來提供, 以使得一旦將該存儲裝置耦合至或提供給用戶終端和/或基站,該設備就能獲得各種方法。 此外,可利用適于向設備提供本文所描述的方法和技術的任何其他合適的技術。
[0147] 將理解,權利要求并不被限定于以上所解說的精確配置和組件。可在以上所描述 的方法和裝置的布局、操作和細節上作出各種改動、更換和變形而不會脫離權利要求的范 圍。
【主權項】
1. 一種用于尖峰神經網絡中的坐標變換的方法,包括: 將第一位置表示編碼為所述尖峰神經網絡中的相位信息;以及 移位所述相位信息以將所述第一位置表示修改為第二位置表示。2. 如權利要求1所述的方法,其特征在于,所述第二位置表示是自我中心式表示。3. 如權利要求1所述的方法,其特征在于,所述第一位置表示是非自我中心式表示。4. 如權利要求1所述的方法,其特征在于,所述第二位置表示以指定點為中心。5. 如權利要求1所述的方法,其特征在于,所述編碼包括將多個坐標線性化成單個相位 集。6. 如權利要求5所述的方法,其特征在于,所述坐標包括極坐標。7. 如權利要求1所述的方法,其特征在于,所述編碼包括將第一坐標編碼為第一相位 集,以及將第二坐標編碼為第二相位集。8. 如權利要求1所述的方法,其特征在于,所述相位移位包括將尖峰輸入期間的神經元 激勵或抑制與期望相位移位相對應的量。9. 如權利要求1所述的方法,其特征在于,進一步包括移位經移位的相位信息以將所述 第二位置表示修改為第三位置表示。10. -種用于尖峰神經網絡中的坐標變換的裝置,包括: 存儲器單元;以及 耦合至所述存儲器單元的至少一個處理器,所述至少一個處理器被配置成: 將第一位置表示編碼為所述尖峰神經網絡中的相位信息;以及 移位所述相位信息以將所述第一位置表示修改為第二位置表示。11. 如權利要求10所述的裝置,其特征在于,所述第二位置表示是自我中心式表示。12. 如權利要求10所述的裝置,其特征在于,所述第一位置表示是非自我中心式表示。13. 如權利要求10所述的裝置,其特征在于,所述第二位置表示以指定點為中心。14. 如權利要求10所述的裝置,其特征在于,所述至少一個處理器被進一步配置成通過 將多個坐標線性化成單個相位集來編碼。15. 如權利要求14所述的裝置,其特征在于,所述坐標包括極坐標。16. 如權利要求10所述的裝置,其特征在于,所述至少一個處理器被進一步配置成通過 將第一坐標編碼為第一相位集以及將第二坐標編碼為第二相位集來編碼。17. 如權利要求10所述的裝置,其特征在于,所述至少一個處理器被進一步配置成通過 將尖峰輸入期間的神經元激勵或抑制與期望相位移位相對應的量來進行相位移位。18. 如權利要求10所述的裝置,其特征在于,所述至少一個處理器被進一步配置成移位 經移位的相位信息以將所述第二位置表示修改為第三位置表示。19. 一種用于尖峰神經網絡中的坐標變換的裝備,包括: 用于將第一位置表示編碼為所述尖峰神經網絡中的相位信息的裝置;以及 用于移位所述相位信息以將所述第一位置表示修改為第二位置表示的裝置。20. -種用于無線通信的計算機程序產品,所述計算機程序產品包括: 其上記錄有程序代碼的非瞬態計算機可讀介質,所述程序代碼包括: 用于將第一位置表示編碼為所述尖峰神經網絡中的相位信息的程序代碼;以及 用于移位所述相位信息以將所述第一位置表示修改為第二位置表示的程序代碼。
【文檔編號】G06N3/04GK106030619SQ201580009074
【公開日】2016年10月12日
【申請日】2015年2月12日
【發明人】N·G·勞
【申請人】高通股份有限公司