本公開整體涉及成像設備,并且更具體地講,涉及具有選擇性圖像信號讀出和處理能力的成像設備。
背景技術:
圖像傳感器常在電子設備,例如,移動電話、相機和計算機中用來捕獲圖像。在典型布置方式中,電子設備設置有被布置成像素行和像素列的圖像像素陣列。圖像像素包含光電二極管以便響應于圖像光而生成電荷。通常將電路耦合到各個像素列以用于讀出來自圖像像素的圖像信號。
在某些應用中,可能希望讀出和/或處理來自圖像像素陣列中的僅一些圖像像素的圖像信號(即,“跳過”來自像素陣列中的一些圖像像素的圖像信號),以降低成像系統的功耗。在常規成像系統中,來自其的圖像信號被讀出和處理的圖像像素與被“跳過”的圖像像素的比率在整個圖像像素陣列中是恒定的(即,陣列中的每兩個圖像像素當中僅對來自其中之一的圖像信號進行讀出和處理,或者每十個圖像像素當中僅對來自其中之一的圖像信號進行讀出和處理,或者陣列中的每十五個圖像像素當中僅對來自其中之一的圖像信號進行讀出和處理,等等)。
然而,在諸如在汽車應用中具有數字相機“環視”圖像捕獲的廣角圖像捕獲的應用中,圖像數據可在圖像的一些部分中更豐富,而圖像的其他部分包括更少圖像數據。在這些應用中,可能希望對在包括更豐富數據的圖像部分中生成圖像數據的像素使用不同跳過比率,同時對在包括較不豐富圖像數據的圖像部分中生成圖像數據的像素使用不同跳過比率。然而,由于常規圖像傳感器對整個圖像幀僅使用一種跳過比率,來自其的圖像信號被讀出和處理的圖像像素的數量在具有豐富圖像數據的圖像部分中將保持較高,以提高具有較不豐富圖像數據的圖像部分的分辨率。但這會增加成像系統的功耗。作為另外一種選擇,將減少來自其的圖像信號被讀出和處理的圖像像素的數量,以降低成像系統的總功耗。但這會降低具有較不豐富圖像數據的圖像部分的分辨率。
因此希望能夠提供具有像素讀出能力改善的成像系統。
技術實現要素:
根據本實用新型的一個方面,一種含有成像設備的系統包括:中央處理單元;存儲器;輸入-輸出電路;以及所述成像設備,其中所述成像設備包括:生成圖像信號的、包括第一組像素和第二組像素的像素陣列;將光引導到所述像素陣列上的鏡頭;讀出由所述第一組像素和所述第二組像素所生成的所述圖像信號的像素讀出電路,其中所述像素讀出電路跳過對所述第一組中的所述像素的第一百分比的像素的圖像信號讀出,并跳過對所述第二組中的所述像素的第二百分比的像素的圖像信號讀出,并且其中所述第一百分比和所述第二百分比不同;以及圖像信號處理電路,所述圖像信號處理電路基于從所述第一組像素和所述第二組像素讀出的所述圖像信號生成圖像。
在一個實施例中,所述第一組像素和所述第二組像素響應于從場景的第一部分和第二部分接收到的光而生成所述圖像信號,其中所述場景的所述第一部分與所述場景的所述第二部分相比離所述系統更近,并且其中所述第一百分比大于所述第二百分比。
在一個實施例中,所述鏡頭為寬視角鏡頭,所述寬視角鏡頭被配置為將來自所述場景的第三部分的額外光引導到所述像素陣列,其中第三組像素響應于從所述場景的所述第三部分接收到的所述光而生成圖像信號,其中所述像素讀出電路讀出由所述第三組像素所生成的所述圖像信號,其中所述像素讀出電路跳過對所述第三組中的所述像素的第三百分比的像素的圖像信號讀出,并且其中所述第三百分比小于所述第一百分比和所述第二百分比。
在一個實施例中,所述中央處理單元、所述像素讀出電路和所述圖像信號處理電路中的至少一者被配置為對所述圖像執行透視校正操作,以減輕因所述場景的所述第一部分與所述場景的所述第二部分相比離所述系統更近而致所述圖像中的透視失真。
在一個實施例中,來自所述第一組像素的第一數量的圖像信號被合并而生成第一結合圖像信號,其中來自所述第二組像素的第二數量的圖像信號被合并而生成第二結合圖像信號,并且其中所述第一數量大于所述第二數量。
在一個實施例中,所述第一數量的圖像信號中的所述圖像信號在被所述像素讀出電路讀出之前被結合為所述第一結合信號。
在一個實施例中,所述第一數量的圖像信號中的所述圖像信號在被結合為所述第一結合信號之前被所述像素讀出電路讀出。
附圖說明
圖1為根據本實用新型實施方案的示例性電子設備的示意圖,該電子設備具有圖像傳感器和處理電路以便使用具有圖像信號跳過和/或合并能力的像素陣列來捕獲圖像。
圖2為根據本實用新型實施方案的示例性像素陣列和相關讀出電路的示意圖,所述讀出電路用于從像素陣列讀出圖像信號。
圖3為根據本實用新型實施方案的示例性像素陣列的示意圖,所述像素陣列具有被布置成行和列的圖像像素。
圖4A和5A為根據本實用新型實施方案的示例性原始圖像的示意圖,所述原始圖像通過圖3所示類型的像素陣列捕獲。
圖4B和5B為根據本實用新型實施方案的圖3所示類型的圖像像素陣列的示意圖,所述圖像像素陣列分別疊加在了圖4A和5A中所示類型的原始圖像上。
圖4C和5C為根據本實用新型實施方案的示例性校正圖像的示意圖,所述校正圖像通過分別將透視校正操作施加于圖4A和5A中所示類型的圖像而生成。
圖6為根據本實用新型實施方案的示例性步驟的流程圖,這些步驟可在使用加權跳過像素讀出方法生成圖像時執行。
圖7為根據本實用新型實施方案的示例性步驟的流程圖,這些步驟可在使用加權合并像素讀出方法生成圖像時執行。
圖8是根據本實用新型實施方案的采用圖1至圖7的實施方案的示例性處理器系統的框圖。
具體實施方式
電子設備,例如,數字相機、計算機、移動電話和其他電子設備可包括圖像傳感器,所述圖像傳感器收集入射光以捕獲圖像。圖像傳感器可包括圖像像素陣列。圖像傳感器中的像素可包括光敏元件,例如,將入射光轉換為圖像信號的光電二極管。圖像傳感器可具有任何數量(如,數百或數千或更多)的像素。典型的圖像傳感器可(例如)具有數十萬或數百萬像素(如,百萬像素)。圖像傳感器可包括控制電路(例如,用于操作圖像像素的電路)和用于讀出圖像信號的讀出電路,所述圖像信號與光敏元件所生成的電荷相對應。
圖1為示例性成像系統(例如,電子設備)的示意圖,該成像系統使用圖像傳感器捕獲圖像。圖1的電子設備10可為便捷式電子設備,諸如相機、移動電話、平板計算機、網絡相機、攝像機、視頻監控系統、汽車成像系統、具有成像能力的視頻游戲系統或者捕獲數字圖像數據的任何其他所需成像系統或設備。相機模塊12可用于將入射光轉換成數字圖像數據。相機12可包括一個或多個鏡頭14以及一個或多個對應的圖像傳感器16。鏡頭14可包括固定鏡頭和/或可調鏡頭,并且可包括形成于圖像傳感器16的成像表面上的微鏡頭。在圖像捕獲操作期間,可通過鏡頭14將來自場景的光聚焦到圖像傳感器16上。圖像傳感器16可包括用于將模擬像素數據轉換成要提供給存儲和處理電路18的對應數字圖像數據的電路。如果需要,相機模塊12可設置有鏡頭14的陣列和對應圖像傳感器16的陣列。
存儲和處理電路18可包括一個或多個集成電路(如,圖像處理電路、微處理器、諸如隨機存取存儲器和非易失性存儲器的存儲設備等),并且可使用與相機模塊12分開和/或形成相機模塊12的一部分的組件(如,形成包括圖像傳感器16的集成電路或者與圖像傳感器16相關的模塊12內的集成電路的一部分的電路)來實施。可使用處理電路18處理和存儲已被相機模塊12捕獲的圖像數據(如,使用處理電路18上的圖像處理引擎、使用處理電路18上的成像模式選擇引擎等)。可根據需要使用耦合至處理電路18的有線和/或無線通信路徑將經過處理的圖像數據提供給外部設備(如,計算機、外部顯示器或其他設備)。
如圖2所示,圖像傳感器16可包括含有被布置成行和列的圖像傳感器像素22(有時在本文稱為圖像像素或像素)的像素陣列20以及控制和處理電路24(其可包括(例如)圖像信號處理電路)。陣列20可包含(例如)幾百或幾千行以及幾百或幾千列圖像傳感器像素22。控制電路24可耦合至行控制電路26和圖像讀出電路28(有時稱為列控制電路、讀出電路、處理電路或列解碼器電路)。行控制電路26可從控制電路24接收行地址,并且通過行控制路徑30將對應的行控制信號,例如,復位控制信號、行選擇控制信號、電荷傳輸控制信號、雙轉換增益控制信號和讀出控制信號提供給像素22。可將一根或多根導線(例如,列線32)耦合至陣列20中的各列像素22。列線32可用于讀出來自像素22的圖像信號以及用于將偏置信號(如,偏置電流或偏置電壓)提供給像素22。如果需要,在像素讀出操作期間,可使用行控制電路26選擇陣列20中的像素行,并且可沿列線32讀出由該像素行中的圖像像素22生成的圖像信號。
圖像讀出電路28可通過列線32接收圖像信號(如,由像素22生成的模擬像素值)。圖像讀出電路28可包括用于對從陣列20讀出的圖像信號進行采樣和暫時存儲的采樣保持電路、放大器電路、模擬/數字轉換(ADC)電路、偏置電路、列存儲器、用于選擇性啟用或禁用列電路的閂鎖電路或者耦合至陣列20中的一個或多個像素列以用于操作像素22以及用于讀出來自像素22的圖像信號的其他電路。讀出電路28中的ADC電路可將從陣列20接收的模擬像素值轉換成對應的數字像素值(有時稱為數字圖像數據或數字像素數據)。圖像讀出電路28可針對一個或多個像素列中的像素通過路徑25將數字像素數據提供給控制和處理電路24和/或處理器18(圖1)。
如果需要,可在陣列20中的光敏區域上方形成濾色器陣列,使得在相關像素22的光敏區域的上表面上方形成濾色器陣列中的預期濾色器元件。可在濾色器陣列的上表面上方形成微鏡頭,以將入射光聚焦到與該像素22相關的光敏區域上。入射光可由微鏡頭聚焦到光敏區域上,并且可穿過濾色器元件,使得在光敏區域處僅捕獲對應顏色的光。如果需要,對于陣列20中的一個或多個像素22而言,可在濾色器元件與微鏡頭之間插置任選的掩蔽層。在另一個合適的布置方式中,對于陣列20中的一個或多個像素22而言,可在濾色器元件與光敏區域之間插置任選的掩蔽層。掩蔽層可包括金屬掩蔽層或其他濾光層,其阻止圖像光的一部分在光敏區域處被接收到。掩蔽層可被(例如)提供給一些圖像像素22,以調節對應圖像像素22的有效曝光水平(例如,相對于無掩蔽層的圖像像素22而言,具有掩蔽層的圖像像素22可捕獲更少光)。如果需要,圖像像素22可被形成為不具有任何掩蔽層。
如果需要,圖2的陣列20中的像素22可設置有各自通過一種或多種顏色的光的濾色器元件的陣列。像素22中的全部或一些可設置有濾色器元件。像素22的濾色器元件可為紅色濾色器元件(如,使紅光通過同時將其他顏色的光反射和/或吸收的光阻材料)、藍色濾色器元件(如,使藍光通過同時將其他顏色的光反射和/或吸收的光阻材料)和/或綠色濾色器元件(如,使綠光通過同時將其他顏色的光反射和/或吸收的光阻材料)。濾色器元件也可被配置為過濾人可見光譜之外的光。例如,濾色器元件可被配置為過濾紫外光或紅外光(如,濾色器元件可僅允許紅外光或紫外光到達光電二極管)。濾色器元件可將圖像像素22配置為僅檢測特定波長或波長范圍(有時在本文稱作波段)的光,并且可被配置為允許多個波長的光通過,同時阻擋某些其他波長的光(例如,其波長對應于某個可見顏色和/或紅外波長或紫外波長的光)。
使兩種或更多種顏色的光(如,選自包含紅光、藍光和綠光的集合的兩種或更多種顏色的光)通過的濾色器元件有時在本文稱為“寬帶”濾色器元件。例如,被配置為使紅光和綠光通過的黃色濾色器元件以及被配置為使紅光、綠光和藍光通過的透明色濾色器元件在本文可稱為寬帶濾波器器元件或寬帶濾色器元件。被配置為使紅光和藍光通過的洋紅色濾色器元件在本文也可稱為寬帶濾波器元件或寬帶濾色器元件。相似地,包括寬帶濾色器元件(如,黃色、洋紅色或透明色濾色器元件)并且因此對兩種或更多種顏色的光敏感(如,響應于檢測到選自包括紅光、藍光和綠光的集合的兩種或更多種顏色的光捕獲圖像信號)的圖像像素有時在本文可稱為寬頻像素或寬頻圖像像素。由寬帶圖像像素生成的圖像信號有時在本文可稱為寬帶圖像信號。寬帶圖像像素可具有天然靈敏度,該天然靈敏度由形成寬帶濾色器元件的材料和/或形成圖像傳感器像素的材料(如,硅)限定。在另一個合適的布置方式中,寬帶圖像像素可被形成為不具有任何濾色器元件。如果需要,可通過使用諸如顏料的光吸收劑調整寬帶圖像像素的靈敏度以獲得更佳的顏色再現特性和/或噪聲特性。相比之下,“著色”像素在本文可用于指代主要對一種顏色的光(如,紅光、藍光、綠光或任何其他合適顏色的光)敏感的圖像像素。著色像素有時在本文可稱為窄帶圖像像素,因為著色像素具有比寬帶圖像像素更窄的光譜響應。
如果需要,未被配置為對紅外光敏感的窄帶像素和/或寬帶像素可設置有結合了NIR輻射吸收劑的濾色器。阻擋近紅外光的濾色器可最大程度減小紅外光對既包含可見光輻射又包含紅外輻射的光源中的顏色再現的影響。
例如,諸如陣列20中的圖像像素的圖像傳感器像素可設置有濾色器陣列,該濾色器陣列允許單個圖像傳感器使用被布置成拜耳馬賽克圖案的對應的紅色、綠色和藍色圖像傳感器像素對紅光、綠光和藍光(RGB)進行采樣。拜耳馬賽克圖案由重復的2×2個圖像像素的單元格組成,其中兩個綠色圖像像素沿對角線彼此相對,并且鄰近與藍色圖像像素沿對角線相對的紅色圖像像素。然而,與拜耳馬賽克圖案相關的信噪比(SNR)的限制使得諸如圖像傳感器16的圖像傳感器的尺寸難以降低。因此可能希望能夠提供具有改善的捕獲圖像的方式的圖像傳感器。在另一個合適的實施例中,拜耳圖案中的綠色像素被替換為具有寬帶濾色器元件的寬帶圖像像素。這些實施例僅僅是示例性的,并且一般來講,可在任何所需數量的圖像像素22上方形成任何所需顏色和任何所需圖案的濾色器元件。
具有被布置成行(A-H)和列(1-8)的圖像像素22的示例性像素陣列20的示意圖示于圖3中。在圖像捕獲操作期間,像素陣列20中的每個像素22可接收來自場景的光。不同部分的場景可獲得不同量的圖像數據,具體取決于(例如)相對于像素陣列20的位置而言場景中的物體的位置。例如,在圖像捕獲操作期間離像素陣列20較近的場景中的物體可反射和/或發射被陣列20中相對較大數量的像素22接收到的光。由于相對較大數量的像素接收來自近距離物體的光,近距離物體所處的圖像部分可獲得相對較大量的圖像數據。然而,在圖像捕獲操作期間遠離像素陣列20的場景中的物體可反射和/或發射被陣列20中相對較少像素22接收到的光。由于相對較小數量的像素接收來自遠處物體的光,遠處物體所處的圖像部分可獲得相對較少量的圖像數據。
可被結合圖3所示和所述的類型的圖像像素陣列20捕獲的圖像34的示例性例子示于圖4A中。圖4A的例子示出了朝建筑物頂部仰視時從地面捕獲的建筑物的圖像(通過(例如)用戶操作相機模塊12)。如圖4A所示,在執行圖像捕獲操作時,建筑物的最低樓層(示于圖像的底部)離圖像像素陣列20相對較近。在捕獲圖像時,建筑物的最高樓層(示于圖像的頂部)離圖像像素陣列20相對較遠。在一個合適的例子中,可使用廣角鏡頭捕獲圖4A中所示類型的圖像34,以增加可在單個圖像幀中捕獲的場景的量(例如,以捕獲建筑物的整體或大部分)。
圖4B為示例性示意圖,其包括疊加在圖4A的圖像34上的圖3的圖像像素陣列20,以示出從圖4A的圖像中捕獲的場景接收到過光的像素陣列20中的相應圖像像素22。如圖4B所示,像素陣列20中的幾乎整行像素22(像素H1-H8)接收到來自建筑物底部的光,并且響應于所接收到的光而生成電信號,所述電信號被轉換為圖像數據并用于生成圖像。換句話講,整行圖像像素生成建筑物第一樓層的圖像數據,使得該樓層可獲得相對較大量的圖像數據。圖4B還示出了像素陣列20中的大約兩個像素22(像素A4和A5)接收到來自建筑物頂部的光,并且響應于所接收到的光而生成電信號,所述電信號被轉換為圖像數據并用于生成圖像。換句話講,僅兩個圖像像素生成建筑物頂部樓層的圖像數據,使得建筑物的該樓層僅獲得相對較少量的圖像數據(即使頂部樓層和底部樓層的實際尺寸基本上相同)。
圖像捕獲操作可能對電子設備10提出處理和功率要求。在一些適當情境下,可能希望通過執行改進的圖像捕獲操作,嘗試降低對圖像傳感器16和/或相機模塊12的處理和功率要求。在一個合適的例子中,來自圖像像素陣列20中的僅一些像素22的電信號可被讀出并用于生成圖像,以降低圖像捕獲過程的功率和處理需求。從陣列20中的僅一些圖像像素22讀出圖像信號可稱為跳過操作。
在常規跳過過程中,被跳過的像素與被讀出的像素的比率在整個像素陣列中是恒定的。應用于圖4B的例子時,常規跳過過程可使得行A-H中的像素每隔一個被讀出,行A-H中的像素每隔兩個被讀出,陣列20的像素每十個當中有一個被讀出等等。換句話講,常規跳過過程將相同跳過比率應用于整個圖像像素陣列,而不論陣列中的每個像素所捕獲的場景的部分或響應于來自場景的給定部分的光而生成圖像數據的像素的數量如何。
在一些適當情境下,可能希望對諸如圖4A和4B中所示圖像的圖像執行透視校正操作。一般來講,透視校正操作可包括應用透視控制以使現實中(例如,在現實世界場景中)豎直的所有線條在圖像中都是豎直的,并且使所有平行線(例如,水平邊緣)相交于一點。透視校正可用于消除透視失真,例如,在從地面拍攝高聳物體時發生的“脫散”效應(例如,物體的頂部看起來變得更小)和/或圖像的更大部分被物體填充(例如,高聳物體的頂部可被跨越圖像“拉伸”)。由于與常規鏡頭相比,廣角鏡頭可將更多來自場景邊緣的光引導至圖像傳感器,透視失真在使用廣角鏡頭捕獲的圖像中可能特別明顯。在一些場景中,可能希望使用常規(或其他)鏡頭布置捕獲包括來自相對較寬視野的光的圖像。此類情形可包括數字攝影或汽車應用,在這些應用中希望使用一個或多個相機捕獲環繞汽車內部或外部的三百六十度視圖(例如,三百六十度監視或環視成像)。這些情形當中捕獲的圖像可能經歷透視失真。可能希望對使用寬視角(或其他)鏡頭捕獲的圖像執行透視校正操作,以嘗試減輕透視失真。然而,如果不小心,透視校正操作可導致附加的圖像失真和降低的分辨率。
雖然常規跳過過程可節省功率和處理,但在整個圖像像素陣列中應用均勻跳過比率可使得貢獻圖像數據稀少的場景部分(例如,遠離物體)的圖像數據的圖像像素被跳過,而貢獻圖像數據豐富的場景部分的圖像數據的圖像像素被讀出。例如,在圖4A中的圖像的捕獲期間將常規跳過過程(例如,其中的像素每隔一個被跳過)應用于像素陣列20將導致陣列20中的僅(大約)一個圖像像素生成建筑物頂部樓層的圖像數據,而(大約)四個圖像像素將生成底部樓層的圖像數據。在后續的透視校正操作(例如,將建筑物的遠處部分調節到其實際尺寸的透視校正操作)中,可能難以生成建筑物頂部的適當校正圖像,其中對場景該部分捕獲的圖像數據中僅一半可用于處理。因此希望能夠為圖像傳感器提供改善的跳過操作。
在一個合適的實施例中,可在圖像捕獲和讀出操作期間使用加權跳過操作。例如,加權跳過操作可包括使用第一跳過模式從陣列中的第一組圖像像素讀出圖像信號,并且使用第二跳過模式從陣列中的第二組像素讀出圖像信號。如果需要,使用第一跳過模式可包括從接收來自場景第一部分的光的第一組像素中的第一百分比的像素(子組)讀出圖像信號。使用第一跳過模式可包括從第一子組讀出圖像信號,而不從屬于第一組但不屬于第一子組的像素讀出圖像信號(例如,僅從第一子組讀出圖像信號并有效跳過不屬于第一子組的那些像素的讀出操作)。如果需要,使用第二跳過模式可包括從接收來自場景第二部分的光的第二組圖像像素中的第二百分比的像素(子組)讀出圖像信號。使用第二跳過模式可包括從第二子組讀出圖像信號,而不從屬于第二組但不屬于第二子組的像素讀出圖像信號(例如,僅從第二子組讀出圖像信號并有效跳過不屬于第二子組的那些像素的讀出操作)。場景的第一部分可為離圖像捕獲設備(例如,相機模塊12)相對較近的場景部分,并且場景的第二部分可為離圖像捕獲設備相對較遠的場景部分。第一百分比可相對較小(例如,10%),因為圖像的第一部分可能有相對較大量的圖像數據可用。第二百分比可相對較大(例如,90%),因為圖像的第二部分可能只有相對較少量的圖像數據可用。換句話講,第一子組可包含第一組中的圖像像素的第一比例(例如,每兩個中有一個,每四個中有一個,每十個中有一個,每十五個中有一個等),并且第二子組可包含第二組中的圖像像素的第二比例(例如,每兩個中有一個,每四個中有一個,每十個中有一個,每十五個中有一個等)。與第一子組和第二子組對應的比例(百分比)可相同或不同,并且/或者第一子組和第二子組中的像素數量可相同或不同。如果需要,第一組和第二組每一者中的像素數量可相同或不同(例如,第一組和第二組可對應于場景的不同部分)。跳過操作和處理操作(例如,透視校正處理)可能必須隨視野位置而變化,以遏制圖像偽影。
在一個合適的實施例中,像素陣列可具有其中來自每個像素的圖像信號均被讀出以生成圖像的頂部區域(例如,上部)、其中的像素(僅)每隔一個被讀出圖像信號以生成圖像的中間區域(例如,中央部分)、以及其中每十五個圖像像素中(僅)一個圖像像素被讀出圖像信號以生成圖像的下部區域(例如,底部)。這種布置方式可用于(例如)用一個或多個圖像捕獲設備生成圖像,這些圖像可一起組合或呈現以提供環繞物體的區域的視圖(例如,環繞汽車的三百六十度視圖)。
在另一個合適的布置方式中,像素陣列可具有來自每個圖像像素的圖像像素信號均被讀出以生成圖像的左區域和右區域(例如,周邊部分),以及其中的每兩個圖像像素中(僅)一個圖像像素被讀出圖像信號以生成圖像的中間區域(例如,中央部分)。這種布置方式可用于(例如)采用數字相機的廣角圖像捕獲操作。
雖然本文所述的一些例子在每者具有對應子組的兩組像素的背景中闡述,但這僅僅是示例性的。如果需要,像素陣列可包括兩組、三組、四組或更多組圖像像素。每組可具有來自其的圖像信號被讀出的對應子組(例如,第一、第二、第三和第四子組)的像素,而來自未包括于子組中的像素的圖像信號可不被讀出。例如,可僅從組中還包括于給定子組中的圖像像素讀出圖像信號,而不從組中不屬于給定子組的圖像像素讀出圖像信號。對于每組而言,組中被跳過的圖像像素的跳過比率(模式、百分比、比例、部分或份數)可相同或不同。可根據需要改變跳過比率(有時在本文稱為跳過模式)。在一種適當的情形當中,用戶可以能夠選擇圖像像素陣列將被劃分成的各個組,并選擇每個組的對應跳過比率。如果需要,可基于圖像捕獲模式的類型,對區域和跳過比率進行預先編程(例如,廣角圖像捕獲模式可對應于預先設定的區域和跳過比率),或可基于將在圖像中捕獲的場景來確定組和子組。例如,圖像傳感器可使用陣列中的一些或所有像素(例如,采用低功率模式,其中僅一些像素為活動的)以響應于來自場景的光而生成第一圖像信號,處理第一圖像信號以測定場景各個部分中的可得圖像數據的量,并且基于處理來調節用于讀出陣列各個部分中的像素的跳過模式。這樣,可使用適當數量的圖像像素生成針對場景的各個部分讀出的圖像信號。
在圖4B的例子中,上述加權跳過操作可包括從行E-H(例如,包含從某些圖像部分接收光的圖像像素的行,所述圖像部分離像素陣列相對較近,并且因此可獲得相對較大量的圖像數據)中每四個像素中的一個像素讀出圖像信號,以及讀出行A-D(例如,包含從某些圖像部分接收光的圖像像素的行,所述圖像部分離像素陣列相對較近,并且因此可獲得相對較少量的圖像數據)中每兩個像素中的一個像素。
如果需要,可執行加權跳過操作,使得在行E-H(例如,與圖像的第一部分對應的行)每一者中讀出列1到4中的一個像素和列5到8中的一個像素。例如,可在行E中讀出像素E1和E5,可在行F中讀出像素F2和F6,可在行G中讀出像素G3和G7,并且可在行H中讀出像素H4和H7。如果需要,可在行E中讀出像素E1和E2,可在行F中讀出像素F3和F4,可在行G中讀出像素G5和G6,并且可在行H中讀出像素H7和H8。如果需要,行E-H中其余像素的讀出操作可被跳過。在一個合適布置方式中,行E和G中的所有像素可被讀出,而行F和H中可沒有任何像素被讀出(或反之亦然)。如果需要,僅給定列中的像素可被讀出。例如,對于行E-H而言,僅列3和6(或任何其他的所需列)中的像素可被讀出,而其余列中的可沒有任何圖像像素被讀出(例如,其余列可被跳過)。在一個合適布置方式中,給定行中的一些或所有像素可被跳過。例如,僅行E和G、行F和H、行G、F和E、或任何其他合適的行組合中的像素可被讀出,而不從陣列給定部分中的所選其他行讀出任何圖像信號。一般來講,圖像的第一部分的跳過比率可為一比二、一比十、一比十五、一比一百、或任何其他合適的比率。
如果需要,可執行加權跳過操作,使得行A-D(例如,與圖像的第二部分對應的行)每一者中的像素每隔一個被讀出。如果需要,其余像素(例如,未被讀出的那些像素)可被跳過。例如,在行A中可讀出像素A1、A3、A5和A7,在行B中可讀出像素B2、B4、B6和B8,在行C中可讀出像素C1、C3、C5和C7,并且在行D中可讀出像素D2、D4、D6和D8,等等。如果需要,可讀出每行中的四個相鄰像素。例如,在行A中可讀出像素A2-A4,像在行B中可讀出素B2-B4,在行C中可讀出像素C2-C4,并且在行D中可讀出像素D2-D4。如果需要,可讀出行A-D中的每個圖像像素。在一個合適布置方式中,僅行A和C、行B和D、行A、B和D、或任何其他合適的行組合中的像素可被讀出,而不從陣列中的所選其他行讀出任何圖像信號(例如,所選其他行可被跳過)。在一個合適布置方式中,行A-D中每隔一列的圖像信號可被讀出(例如,列1、3、5和7)和/或僅來自所選列的圖像信號可被讀出(例如,僅列4和5)。一般來講,圖像的第二部分的跳過比率可為一比二、一比十、一比十五、一比一百、或任何其他合適的比率。
雖然上文討論了特定的跳過模式和比率,但這些布置方式僅僅是示例性的。雖然以上實施例已使用8×8像素陣列進行闡述,但可用包括更大數量(例如,數千或數百萬)的圖像傳感器像素的像素陣列執行跳過操作。換句話講,上述像素陣列、像素、圖像傳感器的區域/部分的數量和尺寸以及情形僅僅是示例性的,并且可能未按與實踐中可采用的布置方式相同的尺度示出和/或描述。上文描述的對圖像的兩個不同部分采用兩種不同的跳過比率的實施例僅僅是示例性的。如果需要,三個不同跳過比率可用于圖像傳感器的三個不同部分(例如,其會生成不同量的可用圖像數據),四個不同跳過比率可用于圖像傳感器的四個不同部分,等等。如果需要,圖像傳感器的每個部分可包含相同或不同數量的像素。一般來講,任何合適的跳過比率可以任何合適的組合用于圖像的采取任何合適配置或布置方式的任何部分。
可使用加權跳過操作,例如,使用上文所描述的那些加權跳過操作從充足數量的像素讀出圖像數據,從而為各個區域獲得足夠圖像數據。例如,在圖4B的例子中,可從行A-D中的列3-6中的像素(例如,該圖像區域中的50%的像素)的每一者讀出圖像信號。這樣,建筑物頂部的基本上所有圖像數據可被讀出(例如,數據稀少的圖像部分的大多數或所有可用圖像數據被讀出)。在這種情形當中,可從行E-H每一者中的列3和6中的像素讀出圖像信號。這樣,不會花費過多功率和處理來讀出圖像數據豐富的圖像部分的圖像信號,同時仍然提供足夠圖像數據以生成圖像。
可對使用上述加權跳過操作所捕獲的圖像執行透視校正操作。對使用加權跳過操作所捕獲的圖像采取透視校正操作而生成的校正圖像的例子示于圖4C中,該圖示出了可使用僅來自陣列的一定比例像素的圖像數據生成透視校正圖像36。由于建筑物頂部的基本上所有圖像數據被讀出,建筑物頂部可在透視校正圖像中以相對較高分辨率重現(例如,來自圖像該部分的足夠可用圖像數據被讀出,以允許在透視校正操作期間“拉伸”或對圖像數據做其他修改)。雖然建筑物底部的僅一定比例圖像數據被讀出,但圖像該部分中的圖像數據的豐富性允許該減少的讀出用于產生分辨率至少與建筑物頂部的分辨率相當的透視校正圖像。這樣,成像設備可以通過在功率和處理方面有效率的方式生成透視校正圖像(例如,圖像36)。
圖5A示出了在沿著建筑物的兩側往下看時從建筑物拐角捕獲的建筑物的示例性圖像38(通過(例如)用戶操作相機模塊12)。如圖5A所示,在執行圖像捕獲操作時,建筑物的拐角(示于圖像的中間)離圖像像素陣列20相對較近。在圖像捕獲時,朝任一側向拐角后面延伸的建筑物墻壁(例如,向頁面內延伸,其被示為建筑物的分別朝圖像內的左側和右側延伸的部分)逐漸遠離圖像像素陣列20。在一個合適的實施例中,可使用廣角鏡頭捕獲圖5A的圖像38,以增加可在單個圖像幀中捕獲的場景的量(例如,以捕獲從拐角延伸的墻壁的更大部分,如圖5A所示)。
圖5B為示例性示意圖,其包括疊加在圖5A的圖像38上的圖3的圖像像素陣列20,以示出從捕獲于圖5A的圖像中的場景接收過光的像素陣列20中的相應圖像像素22。如圖5B所示,像素陣列20中的幾乎整列像素22(列4)接收到過來自建筑物拐角左側的光,并且響應于所接收到的光而生成了電信號,所述電信號被轉換為圖像數據并用于生成圖像。換句話講,幾乎整行圖像像素生成了建筑物拐角部分的左側的圖像數據。即,建筑物拐角的左側可獲得相對較大量的圖像數據。圖5B還示出了像素陣列20中的大約兩個像素22(像素D1和E1)接收到過來自建筑物最左部分的光,并且響應于所接收到的光而生成了電信號,所述電信號被轉換為圖像數據并用于生成圖像。即,建筑物最左部分可獲得相對較少量的圖像數據,即使建筑物的左拐角部分和最左部分的實際尺寸基本上相同也是如此。
應用于圖5B的例子時,這種常規跳過過程(如上所述)將使得列1-8中的像素每隔一個被讀出,列1-8中的像素每隔兩個被讀出,陣列20中的像素每十個當中有一個被讀出,等等(作為實施例)。換句話講,常規跳過過程可使得貢獻圖像數據稀少的場景部分(例如,遠距離物體)的圖像數據的圖像像素被跳過,而貢獻圖像數據豐富的場景部分的圖像數據的圖像像素被讀出。
例如,在圖5A中的圖像的捕獲期間將常規跳過過程(其中例如每隔一個像素跳過一個像素)應用于像素陣列20將導致陣列20中的僅(大約)一個圖像像素生成建筑物最左部分的圖像數據,而(大約)三個圖像像素將生成與拐角相鄰的建筑物部分的圖像數據。在后續的透視校正操作(例如,將建筑物的遠距離部分調節到其實際尺寸的透視校正操作)中,可能難以生成建筑物最左部分的適當校正圖像,其中對場景該部分捕獲的圖像數據中僅一半可用于處理。因此可能希望在捕獲圖5A所示類型的圖像時應用加權跳過方法(例如,上文結合圖4A-4C所述的那些)。
在圖5B的例子中,加權跳過操作可包括從列3-6(例如,包含從某些圖像部分接收光的圖像像素的列,所述圖像部分離像素陣列相對較近,并且因此有相對較大量的圖像數據可用)中每四個像素中的一個像素讀出圖像信號,以及讀出列1、2、7和8(例如,包含從某些圖像部分接收光的圖像像素的列,所述圖像部分離像素陣列相對較近,并且因此有相對較少量的圖像數據可用)中每兩個像素中的一個像素。
如果需要,可執行加權跳過操作,使得在列3-6(例如,與圖像的第一部分對應的列)的每者中讀出行A-D中的一個像素和行E-H中的一個像素。例如,在列3中可讀出像素D3和E3,在列4中可讀出像素B4和G4,在列5中可讀出像素C5和F5,并且在列6中可讀出像素D6和F6。如果需要,在列3中可讀出像素C3和D3,在列4中可讀出像素E4和F4,在列5中可讀出像素C5和F5,并且在列6中可讀出像素E6和F6。在一個合適布置方式中,列3-6的一些行中的像素可被讀出,而其他被跳過。例如,列3-6的行A、C、E和G中的像素可被讀出,而行B、D、F和H中的像素可被跳過(或反之亦然)。如果需要,列3-6中某些列的像素可被讀出,而其他被跳過。例如,列4和5中的像素可被讀出,而列3和6中的像素可被跳過(或反之亦然)。一般來講,圖像的第一部分的跳過比率可為一比二、一比十、一比十五、一比一百、或任何其他合適的比率。
如果需要,可執行加權跳過操作,使得列1、2、7和8(例如,與圖像的第二部分對應的列)每一者中的像素每隔一個被讀出。例如,在列1中可讀出像素A1、C1、E1和G1,在列2中可讀出像素B2、D2、F2和H2,在列7中可讀出像素A7、C7、E7和G7,并且在列8中可讀出像素B8、D8、F8和H8。如果需要,可讀出每行中的四個相鄰像素。例如,在列1中可讀出像素C1-F1,在列2中可讀出像素C2-F2,在列7中可讀出像素C7-F7,并且在列8中可讀出像素C8-F8。在一個合適布置方式中,行1、2、7和8中的每個像素可被讀出。如果需要,列1、2、7和/或8的行A、C、E和G中的像素可被讀出,而行B、D、F和H中的像素被跳過(或反之亦然)。在一個合適布置方式中,列1和7中的像素可被讀出,而列2和8中的像素可被跳過(或反之亦然)。一般來講,圖像的第一部分的跳過比率可為一比二、一比十、一比十五、一比一百、或任何其他合適的比率。
雖然上文討論了特定的跳過模式和比率,但這些布置方式僅僅是示例性的。雖然已使用8×8像素陣列闡述了上面的例子,但可使用包括更大數量(例如,數千或數百萬)的圖像傳感器像素的像素陣列執行跳過操作。換句話講,上述像素陣列、像素、圖像傳感器的區域/部分的數量和尺寸以及情形僅僅是示例性的,并且可能未按與實踐中可采用的布置方式相同的尺度示出/描述。上文描述的對圖像的兩個不同部分采用兩種不同的跳過比率的實施例僅僅是示例性的。如果需要,三個不同跳過比率可用于圖像傳感器的三個不同部分(例如,其會生成不同量的可用圖像數據),四個不同跳過比率可用于圖像傳感器的四個不同部分,等等。如果需要,圖像傳感器的每個部分可包含相同或不同數量的像素。一般來講,任何合適的跳過比率可以任何合適的組合用于圖像的采取任何合適配置或布置方式的任何部分。
可使用加權跳過操作,例如,使用上文描述的那些加權跳過操作從充足數量的像素讀出圖像數據,從而獲得場景各個區域的足夠圖像數據。例如,在圖5B的例子中,可從列1、2、7和8中的行C-D中的像素(例如,圖像最左和最右區域中的50%的像素)的每一者讀出圖像信號。這樣,建筑物最左和最右部分的基本上所有圖像數據可被讀出(例如,數據稀少的圖像部分的大多數或所有可用圖像數據被讀出)。在這種情形當中,可從列3-6每一者中的行C和F中的像素讀出圖像信號。這樣,不會花費過多功率和處理來讀出圖像數據豐富的圖像部分的圖像信號,同時仍然提供足夠圖像數據以生成圖像。
在一些合適的情形當中,可能希望對諸如圖5A中所示的圖像的圖像38執行透視校正操作。對使用加權跳過所捕獲的圖像采取透視校正操作而生成的校正圖像40的例子示于圖5C中,該圖示出了可使用僅來自陣列的一定比例像素的圖像數據生成透視校正圖像40。由于建筑物最左和最右部分的基本上所有圖像數據被讀出,建筑物最左和最右部分可在透視校正圖像中以相對較高分辨率重現(例如,來自圖像該部分的足夠可用圖像數據被讀出,以允許在透視校正操作期間“拉伸”或對圖像數據做其他修改)。雖然建筑物拐角的僅一定比例的圖像數據被讀出,但圖像該部分中的圖像數據的豐富性允許該減少的讀出用于產生分辨率至少與建筑物最左和最右部分的分辨率相當的透視校正圖像。這樣,成像設備可以通過在功率和處理方面有效率的方式生成透視校正圖像。
其中陣列20中的一些像素22被跳過而陣列20中的其他像素22被讀出的上述示例性跳過操作僅僅是示例性的。如果需要,可使用合并(結合)操作以作為跳過操作的補充和/或替代。一般來講,合并操作可包括將從多個像素讀出的信號(圖像數據)結合成單個合并(結合)信號。通過對來自多個像素的圖像信號合并,可簡化處理和/或讀出過程,從而需要更少功率。由于合并操作可包括讀出陣列20中的相當大一部分像素22(例如,陣列中的所有像素)的電信號(例如,生成圖像像素信號和/或數字圖像數據),與跳過操作(其僅讀出/生成陣列中一定比例像素的圖像數據)相比,合并操作可提供更多用于處理(例如,透視校正操作)的圖像數據以及更高質量的最終圖像。
在一個合適布置方式中,合并操作可包括將電信號從陣列20中的多個像素22傳輸到共同浮動擴散(FD)節點。重新參見圖3的例子,例如,合并過程可包括響應于用陣列20中的每個圖像像素22從場景中接收到的光而生成電信號。然后可將來自多個像素的電信號傳輸到共享浮動擴散節點,以生成結合信號。例如,可將來自像素A1、A2、B1和B2的電信號傳輸到共享浮動擴散節點并同時存儲在共享浮動擴散節點上,以生成結合電信號。然后可從共享浮動擴散節點讀出結合電信號并進行處理(例如,使用透視校正處理操作)。在這個例子中,必須讀出和處理的信號數量減至了四分之一,從而可降低與圖像捕獲和處理操作相關的功率和處理需求。諸如這些合并操作的合并操作可被描述為模擬合并操作,因為信號是在模擬域中結合的(例如,在這些信號被列控制和讀出電路28或其他合適處理電路中的ADC讀出并轉換為數字信號之前)。
如果需要,可通過數字方式執行合并操作。例如,數字合并操作可包括從陣列20中的每個接收來自場景的光(并響應于所述光而生成電信號)的圖像像素22讀出電信號。然后可通過像素控制和讀出電路28中的ADC從每個像素讀出電信號,并將電信號轉換為相應數字信號(例如,圖像數據)。在后續處理步驟之前,可將源自多個像素的數字圖像數據結合(合并)成單個結合數字圖像數據信號。重新參見圖3的例子,例如,合并操作可包括將源自像素A1、C1、E1和F1的數字圖像數據結合成單個結合數字圖像信號。可通過列控制和讀出電路28、控制和處理電路24、或電子設備10中的其他合適處理電路(例如,圖像信號處理電路)執行諸如這些合并操作的合并操作。然后可接著通過列控制和讀出電路28、控制和處理電路24、或電子設備10中的其他合適處理電路(或與電子設備10分隔開的處理電路)處理所述結合數字圖像數據(例如,使用透視校正處理操作)。在這個例子中,必須處理的信號數量降至了四分之一,從而可降低與圖像捕獲和處理操作相關的功率和處理需求。諸如這些合并操作的合并操作可被描述為數字合并操作,因為信號是在數字域中結合的(例如,在這些信號被列控制和讀出電路28或其他合適處理電路中的ADC讀出并轉換為數字信號之后)。
在常規合并過程中,來自其的圖像信號被結合而生成結合圖像信號的像素的數量在整個像素陣列中是恒定的。應用于圖4B的例子時,這種常規跳過過程可使得來自各個四像素組的圖像信號被合并,來自各個兩圖像像素組的圖像信號被合并,來自共同行或列中的交替圖像像素的圖像信號被合并,等等。換句話講,常規跳過過程將相同合并因子應用于整個圖像像素陣列,而不論陣列中的每個像素所捕獲的場景的部分或響應于來自場景的給定部分的光而生成圖像數據的像素的數量如何。
雖然常規合并過程可節省功率和處理,但在整個圖像像素陣列中應用均勻合并因子可使得貢獻圖像數據稀少的場景部分(例如,遠離物體)的圖像數據的圖像像素被按照與貢獻圖像數據豐富的場景部分的圖像數據的圖像像素相同的速率合并。例如,在圖4B中的圖像的捕獲期間將常規合并過程(例如,其中對各個四像素組合并)應用于像素陣列20將使得建筑物最上兩個樓層的僅產生兩個結合圖像像素信號(例如,如果像素A3、A4、B3和B4被合并,并且像素A5、A6、B5和B6被合并),而針對底部樓層將生成四個結合圖像像素信號(例如,如果像素G1、G2、H1和H2被合并,像素G3、G4、H3和H4被合并,像素G5、G6、H5和H6被合并,并且像素G7、G8、H7和H8被合并)。在后續的透視校正操作(例如,將建筑物的遠距離部分調節到其實際尺寸的透視校正操作)中,可能難以借助有限數量的結合圖像信號生成建筑物頂部的適當校正圖像。因此希望能夠為圖像傳感器提供改善的合并操作。
在根據本實用新型一個實施方案的一個合適實施例中,可在圖像捕獲操作期間使用加權合并操作。例如,加權合并操作可包括將來自從場景的第一部分接收光的像素的圖像信號合并為每者具有第一數量的像素的第一像素組,以及將來自從場景的第二部分接收光的圖像像素的圖像信號合并為具有第二數量的像素的第二像素組。場景的第一部分可為離圖像捕獲設備(例如,相機模塊12)相對較近的場景部分,并且場景的第二部分可為離圖像捕獲設備相對較遠的場景部分。第一組中的像素的數量可相對較大(例如,四個像素),因為圖像的第一部分可能有相對較大量的圖像數據可用。第二組中的像素的數量可相對較小(例如,兩個像素),因為圖像的第二部分可能只有相對較少量的圖像數據可用。合并操作和處理操作(例如,透視校正處理)可能必須隨視野位置而變化,以控制圖像偽影。
在圖4B的例子中,上述加權合并操作可包括對來自像素陣列的諸如行E-H(例如,包含從某些圖像部分接收光的圖像像素的行,所述圖像部分離像素陣列相對較近,并且因此可獲得相對較大量的圖像數據)的第一區域中的各個四圖像像素組的圖像信號進行合并,以及對來自像素陣列的諸如行A-D(例如,包含從某些圖像部分接收光的圖像像素的行,所述圖像部分離像素陣列相對較近,并且因此可獲得相對較少量的圖像數據)的第二區域中的各個兩像素組的圖像信號進行合并。
在一個示例性實施例中,像素E1、E2、F1和F2可被合并以生成結合圖像信號,像素E3、E4、F3和F4可被合并以生成結合圖像信號,像素G1、G2、H1和H2可被合并以生成結合圖像信號,像素G3、G4、H3和H4可被合并以生成結合圖像信號,等等。如果需要,可對行E-H中的所有像素執行類似合并操作。在這個例子中,八個結合圖像信號將由行E-H的合并操作得出。
如果需要,像素A1和B1可被合并以生成結合圖像信號,像素A2和B2可被合并以生成結合圖像信號,像素A3和B3可被合并以生成結合圖像信號,像素A4和B4可被結合以生成結合圖像信號,像素C1和D1可被合并以生成結合圖像信號,像素C2和D2可被合并以生成結合圖像信號,像素C3和D3可被合并以生成結合圖像信號,像素C4和D4可被結合以生成結合圖像信號,等等。如果需要,可對行A-D中的所有像素執行類似合并操作。在這個例子中,十六個結合圖像信號將由行A-D的合并操作得出。
雖然上文討論了特定的合并模式和因子(比率),但這些布置方式僅僅是示例性的。雖然以上實施例已使用8×8像素陣列進行闡述,但可用包括更大數量(例如,數千或數百萬)的圖像傳感器像素的像素陣列執行合并操作。換句話講,上述像素陣列、像素、圖像傳感器的區域/部分的數量和尺寸以及情形僅僅是示例性的,并且可能未按與實踐中可采用的布置方式相同的尺度示出和/或描述。上文所述的對圖像的兩個不同部分采用兩種不同的合并因子的實施例僅僅是示例性的。如果需要,三個不同合并因子可用于圖像傳感器的三個不同部分(例如,其會生成不同量的可用圖像數據),四個不同合并因子可用于圖像傳感器的四個不同部分,等等。如果需要,圖像傳感器的每個部分可包含相同或不同數量的像素。一般來講,任何合適的合并模式可以任何合適的組合用于圖像的采取任何合適配置或布置方式的任何部分。
使用諸如上文所述的那些加權合并操作的加權合并操作,可生成充足數量的結合圖像信號,從而獲得場景各個區域的足夠圖像數據。例如,在圖4B的實施例中,來自行A-D中的各個兩像素組的圖像信號可被合并。這樣,建筑物頂部的基本上所有圖像數據可被讀出(例如,數據稀少的圖像部分的大多數或所有可用圖像數據被讀出)。在這種情形當中,來自行E-H每者的各個四像素組的圖像信號可被合并。這樣,不會花費過多功率和處理來讀出圖像數據豐富和/或冗余的圖像部分的大量結合圖像信號,同時仍然提供足夠圖像數據以生成圖像。如果需要,可對圖像執行透視校正處理,以生成圖4C所示類型的透視校正圖像36。由于相對較大數量的結合圖像信號通過對圖像數據稀少的圖像部分(例如,建筑物頂部)實施合并操作而生成,因而透視校正過程可以能夠在生成校正圖像時更好地保持這些部分的分辨率。
在圖5B的例子中,加權合并操作可包括對來自圖像傳感器像素陣列的諸如列3-6(例如,包含從某些圖像部分接收光的圖像像素的列,所述圖像部分離像素陣列相對較近,并且因此有相對較大量的圖像數據可用)的第一部分中的各個八像素組的圖像信號進行合并,以及對來自圖像傳感器的諸如列1、2、7和8(例如,包含從某些圖像部分接收光的圖像像素的列,所述圖像部分離像素陣列相對較遠,并且因此有相對較少量的圖像數據可用)的第二部分中的各個四像素組的圖像信號進行合并。
在一個合適的例子中,可執行加權跳過操作,使得來自像素A1、A2、B1和B2的圖像信號被結合而生成結合圖像信號,來自像素C1、C2、D1和D2的圖像信號被結合而生成結合圖像信號,來自像素A7、A8、B7和B8的圖像信號被結合而生成圖像信號,來自像素C7、C8、D7和D8的圖像信號被結合而生成結合圖像信號,等等。如果需要,可對列1、2、7和8中的所有像素執行這種類別的合并操作。在這樣的實施例中,將對列1、2、7和8中的像素生成八個結合圖像信號。
如果需要,加權跳過操作可包括對由列3中的像素生成的所有圖像信號進行合并以生成結合圖像信號,對由列4中的像素生成的所有圖像信號進行合并以生成結合圖像信號,對由列5中的像素生成的所有圖像信號進行合并以生成結合圖像信號,以及對由列6中的像素生成的所有圖像信號進行合并以生成結合圖像信號(作為實施例)。在這樣的實施例中,將對列3-6中的像素生成四個結合圖像信號。
使用諸如上文所述的那些加權合并操作的加權合并操作,可生成充足數量的結合圖像信號,從而獲得場景各個區域的足夠圖像數據。例如,在圖5B的例子中,來自列1、2、7和8中的每個像素的圖像信號可具有其自身的倉(例如,可不發生合并)。這樣,建筑物最左和最右部分的基本上所有圖像數據可被讀出(例如,在分辨率幾乎沒有降低或沒有降低的情況下,獲得數據稀少的圖像部分的大多數或所有可用圖像數據)。在這種情形當中,來自列3-6每列中各個四像素組的圖像信號可被合并。這樣,不會花費過多功率和處理來讀出圖像數據豐富和/或冗余的圖像部分的大量結合圖像信號,同時仍然提供足夠圖像數據以生成圖像。如果需要,可對圖像執行透視校正處理,以生成圖5C所示類型的透視校正圖像40。由于相對較大數量的結合圖像信號通過對圖像數據稀少的圖像部分(例如,建筑物最左和最右側)的合并操作而生成,因而透視校正過程可以能夠在生成校正圖像時更好地保持這些部分的分辨率。
雖然上文討論了特定的合并模式和因子(比率),但這些布置方式僅僅是示例性的。雖然以上實施例已使用8×8像素陣列進行闡述,但可用包括更大數量(例如,數千或數百萬)的圖像傳感器像素的像素陣列執行合并操作。換句話講,上述像素陣列、像素、圖像傳感器的區域/部分=的數量和尺寸以及情形僅僅是示例性的,并且可能未按與實踐中可采用的布置方式相同的尺度示出和/或描述。上文所述的對圖像的兩個不同部分采用兩種不同合并因子的實施例僅僅是示例性的。如果需要,三個不同合并因子可用于圖像傳感器的三個不同部分(例如,其會生成不同量的可用圖像數據),四個不同合并因子可用于圖像傳感器的四個不同部分,等等。如果需要,圖像傳感器的每個部分可包含相同或不同數量的像素。一般來講,任何合適的合并模式可以任何合適的組合用于圖像的采取任何合適配置或布置方式的任何部分。
可在使用上文結合圖4A-C和5A-C所述的加權跳過方法生成圖像時執行的示例性步驟的流程圖示于圖6中。
在步驟600中,包括具有多個像素的圖像像素陣列的圖像傳感器可接收來自場景的光。所述像素可響應于所接收到的光而生成圖像像素電信號。
在步驟602中,可使用第一跳過模式讀出來自第一組像素的圖像信號(例如,可讀出從場景的第一部分捕獲光的像素中的第一百分比的像素,而不會讀出不包括在所述第一百分比中的圖像像素)。可使用與第一跳過模式不同的第二跳過模式讀出來自第二組像素的圖像信號(例如,可讀出從場景的第二部分捕獲光的像素中的第二百分比的像素,而不會讀出不包括在所述第二百分比中的圖像像素)。場景的第一部分可離圖像傳感器相對較近,而場景的第二部分可離圖像傳感器相對較遠。第一百分比可小于第二百分比。換句話講,對圖像數據稀少的場景部分生成圖像信號的圖像傳感器像素中有較大比例可被讀出,而對圖像數據豐富的場景部分生成圖像信號的圖像傳感器像素中有較小比例可被讀出。
在步驟604中,處理電路可基于從第一組和第二組像素讀出的圖像信號而生成圖像。
在任選步驟606中,處理電路可對圖像執行透視校正操作以生成透視校正圖像(例如,屬于圖4C和/或5C所示的類型)。如果需要,可省略步驟606。
可在使用上文結合圖4A-C和5A-C所述的加權合并方法生成圖像時執行的示例性步驟的流程圖示于圖7中。
在步驟700中,包括具有第一組和第二組圖像像素的圖像像素陣列的圖像傳感器可接收來自場景的光。第一組和第二組中的圖像像素可響應于所接收到的光而生成圖像像素電信號。可預先確定陣列中的每個圖像像素所“屬于”的組,或可基于圖像像素生成的圖像像素電信號對圖像像素進行分組(例如,可采用處理操作確定哪些圖像像素和對應電信號歸入每組中)。如果需要,第一組像素可包括響應于來自圖像數據稀少的場景部分(例如,場景的遠距離部分)的光而生成圖像像素信號的圖像像素。第二組像素可包括響應于來自圖像數據豐富的場景部分(例如,場景的近距離部分)的光而生成圖像像素信號的圖像像素。然而,這僅僅是示例性的。一般來講,第一組和第二組圖像像素可包括像素的任何所需組合。
在步驟702中,可使用模擬或數字合并操作對來自第一組圖像像素中的第一子組圖像像素的圖像信號進行合并,以生成第一合并圖像信號。第一子組圖像像素可包括第一數量的像素。
在步驟704中,可使用模擬或數字合并操作對來自第二組圖像像素中的第二子組圖像像素的圖像信號進行合并,以生成第二合并圖像信號。第二子組圖像像素可包括第二數量的像素。如果需要,第一子組圖像像素可包含比第二子組圖像像素更少的像素,使得來自生成“稀少”圖像數據的圖像像素的相對較少圖像信號被合并為結合的第一結合信號,而來自生成“豐富”圖像數據的圖像像素的相對較多圖像信號被合并為第二結合信號。以這種方式執行合并操作可有助于保持“稀少”圖像數據的質量(分辨率)。
在步驟706中,第一合并圖像信號和第二合并圖像信號可被結合而生成圖像。
在任選步驟708中,可對圖像執行透視校正操作以生成校正圖像(例如,屬于圖4C和/或5C所示的類型)。如果需要,可省略步驟708。
圖8以簡化形式示出了典型處理器系統300,例如,數字相機,該處理器系統300包括成像設備200(如,諸如圖1-7的具有像素陣列的設備10的成像設備200,所述像素陣列具有可用于使用透視校正操作生成透視校正圖像的加權跳過和/或合并能力)。處理器系統300是可包括成像設備200的具有數字電路的示例性系統。在不進行限制的前提下,這種系統可包括計算機系統、靜態或視頻攝像機系統、掃描儀、機器視覺、車輛導航、視頻電話、監控系統、自動對焦系統、星體跟蹤器系統、運動檢測系統、圖像穩定系統以及其他采用成像設備的系統。
處理器系統300通常包括鏡頭396,該鏡頭用于在快門釋放按鈕397被按下時,將圖像聚焦到設備200的像素陣列20上;中央處理單元(CPU)395,例如,控制相機功能以及一個或多個圖像流功能的微處理器,所述中央處理單元通過總線393與一個或多個輸入/輸出(I/O)設備391通信。成像設備200也通過總線393與CPU 395通信。系統300還包括隨機存取存儲器(RAM)392并且可包括可移動存儲器394,例如閃存,該存儲器也通過總線393與CPU 395通信。成像設備200可在單個集成電路或不同芯片上與CPU相組合,無論是否具有存儲器。盡管總線393被示為單總線,但該總線也可以是一個或多個總線或橋接器或其他用于互連系統組件的通信路徑。
已描述了說明電子設備(參見例如圖1的設備10)的各種實施方案,該電子設備包括成像系統。一種成像系統可包括一個或多個圖像傳感器。每個圖像傳感器可包括形成在半導體襯底上的圖像像素陣列。每個圖像像素可包括一個或多個光敏元件,這些光敏元件被配置為將入射光轉換成電荷。成像系統可包括像素控制和讀出電路,以便讀出圖像像素所生成的電荷。作為成像系統的一部分或以其他方式包括在設備10中的圖像信號處理電路可基于圖像像素所讀出的圖像信號來生成圖像。
根據本實用新型的各種實施例,成像系統可包括被分成至少第一組和第二組的像素陣列。如果需要,像素陣列可被分成三組或更多組。圖像像素可響應于入射光而生成圖像信號。可使用不同跳過模式從每組讀出圖像信號。在一個合適布置方式中,跳過模式可指組中被讀出的像素的數量與該組中未被讀出(例如,跳過)的像素的數量的比率。如果需要,跳過模式可指陣列中來自其的圖像信號被讀出的圖像像素的物理圖案。例如,跳過模式可指以棋盤狀圖案從圖像像素讀出圖像信號而不從其他像素讀出圖像信號,可指從像素陣列的每隔一行和/或列中的圖像像素讀出圖像信號而不從其他像素讀出圖像信號,可指僅從像素陣列的某些列、行或其他部分中的圖像像素讀出圖像信號,等等。應用于每組像素的跳過圖案可相同或不同。例如,圖像像素陣列可被分成三部分(組)像素,并且可將不同跳過模式應用于每部分中的像素。如果需要,三個跳過模式中的兩者可為相同的。可基于圖像傳感器所捕獲的場景部分的可得圖像數據的量,確定所應用的跳過模式。較高跳過比率(例如,跳過較多像素)可應用于對圖像數據豐富的場景部分生成像素信號的像素陣列部分中的像素,而較低跳過比率(例如,跳過較少像素)可應用于對圖像數據稀少的場景部分生成像素信號的像素陣列部分中的像素。換句話講,被跳過的圖像像素的百分比在像素陣列的一些部分中可比其他部分中更高。處理電路可基于從像素讀出的圖像信號而生成圖像。透視校正操作可應用于圖像以校正透視失真。上述加權跳過操作可有助于確保有足夠圖像數據可用于對整個圖像執行透視校正操作。
根據本實用新型的各種實施例,加權圖像信號合并操作可結合或替代加權跳過操作使用。加權合并操作可包括基于像素在陣列中的位置對來自像素的圖像信號進行合并。在對有大量圖像數據可用的場景部分生成圖像信號的陣列部分中,較大數量的圖像信號可被合并。在對有少量圖像數據可用的場景部分生成圖像信號的陣列部分中,較少數量的圖像信號可被合并。圖像信號可在由圖像像素讀出電路讀出之前或之后合并(例如,可使用模擬或數字合并對圖像信號合并)。圖像信號可被合并而生成結合(合并)圖像信號,所述信號可用于生成圖像。透視校正操作可應用于圖像。上述加權合并操作可有助于確保有足夠圖像數據可用于對整個圖像執行透視校正操作。
根據本實用新型的各種實施例,一種系統可包括中央處理單元、存儲器、輸入-輸出電路和成像設備。成像設備可包括像素陣列及相關像素讀出和圖像信號處理電路,以便使用加權合并和/或跳過操作讀出圖像信號,從而生成圖像。可使用成像設備中或系統其他地方的圖像信號處理電路生成圖像。鏡頭可為寬視角鏡頭,其將來自場景的額外光引導到像素陣列上。可使用成像系統中的處理電路或使用系統其他地方的處理電路執行透視校正操作。
前述內容僅是對本實用新型原理的示例性說明,因此本領域技術人員可以在不脫離本實用新型的精神和范圍的前提下進行多種修改。上述實施例可單獨地或以任意組合方式實施。