的密集位移圖,也被稱為運動域。這種運動域與在本發明中使用的運動域相兼容。此外,該國際申請引入從參考運動域和到參考運動域的概念。
[0032]在變型中,這種運動域是視頻編輯任務的預計算上游,并且對于視頻序列增加存儲的數據量。在另一變型中,需要更多計算能力,這種運動域與傳播任務一起被在線計算。
[0033]圖1示出根據優選實施例的所述方法的步驟。
[0034]在顯示母幀的第一步驟10中,由用戶通過輸入界面選擇視頻序列的多個幀中的一個幀作為母幀。該母幀被顯示在附接到實現所述方法的處理裝置的顯示裝置上。也被稱為參考幀的母幀對應于將對其應用編輯任務的幀。在下文中,術語幀或圖像將被無差別地使用并且術語母幀或參考幀將被無差別地使用。
[0035]在捕捉表示編輯任務的信息的第二步驟20中,通過輸入界面,與先前詳細描述的編輯任務類似的編輯任務由用戶手動應用于所顯示母幀并且被捕捉。編輯任務的變型(也稱為編輯工具)將與用于多幀圖像編輯的它們相應的傳播模式一起在下文中詳細描述。在特別感興趣于所公開的方法的范圍的變型中,幀編輯任務修改與所顯示的母幀的至少一個像素有關的信息。根據母幀的修改的視頻序列的修改因此需要所修改的母幀的逐像素傳播。
[0036]在顯示具有時間傳播的信息的子幀的第三步驟20中,由用戶選擇視頻序列的多個幀中的至少一個幀作為子幀。有利地,子幀在視頻序列中時間分布。即,子幀包括視頻序列的(有利地時間遠離母幀的)任何幀。子幀也被顯示在附接到實現所述方法的處理裝置的顯示裝置上。與在母幀中修改的像素對應的子幀中的像素被相應地修改。為此,通過參考幀和子幀之間的密集運動域確定與在母幀中修改的像素對應的子幀中的像素。除了運動域附接到給定幀以及將其鏈接到另一幀之外,封閉掩蔽指示被封閉在另一幀中的當前域中的像素。有利地,根據編輯任務的傳播模型的變型,當母幀的像素被封閉在子幀中時,或當子幀的像素被封閉在母幀中時,封閉掩蔽禁用時間傳播。
[0037]有利地并行執行所述方法的步驟,即同時顯示母幀和子幀,并且一旦用戶輸入對母幀的修改,就立即應用在所顯示的子幀中的修改的傳播。在變型中,順序執行所述方法的步驟,即一起顯示母幀和子幀,并且一旦用戶輸入對母幀的修改,僅在用戶輸入用于傳播修改的命令之后應用所顯示的子幀中的修改的傳播。
[0038]在改進中,不僅對于所顯示的子幀,而且對于視頻序列的全部幀,也由用戶控制傳播。當傳播的處理耗時時,該實施例是特別有利的。因此,首先可以優選地首先立即(on thefly)對所顯示的子幀應用編輯任務,并且隨后,在由用戶驗證之后,將編輯任務傳播到全部其他幀。有利地,所述方法包括作為整體呈現視頻序列的進一步的步驟,其中視頻序列包括與編輯任務有關的傳播的信息。
[0039]根據變型,在相同編輯任務期間由用戶選擇視頻序列的任何幀作為參考幀或作為子幀。換句話說,修改被應用于任何圖像并且改變被自動傳播到視頻序列的其他幀。因此,編輯第一母幀的用戶可以通過經由輸入界面對焦于所顯示的子幀之一來改變母幀并將所對焦的子幀認為是新的母幀。當用戶對焦于這種圖像時,其即刻變為參考。該特征引起在視頻序列的幀之間的修改的向后和向前傳播的技術問題。當將不同改變應用于不同圖像時可能出現的沖突可以以不同方式解決:
[0040].在對焦的圖像處的當前改變被傳播到剩余圖像,代替全部先前的改變。
[0041]籲在對焦的圖像處的當前改變被傳播到剩余圖像,僅代替沒有使用相同多幀編輯任務在先前被修改的子幀中的那些像素。當所選擇的任務改變時,該改變的歷史被重置。
[0042]籲在對焦的圖像處的當前改變被傳播到剩余圖像,除了使用相同多幀編輯任務被直接修改(對焦于圖像)的那些像素之外。
[0043]?可以由用戶獨立鎖定任何圖像以便根本避免被修改。
[0044]?使用一些用戶定義的標準混合方法:阿爾法、乘法、顏色加深、變暗、變淡等,將新的修改與先前修改的像素混合。
[0045]當將編輯任務應用于多個幀時可能出現其他沖突。當將這種編輯任務傳播到視頻序列的全部幀時,人們可能不知道多個編輯的幀中的哪些幀用作對于視頻的剩余幀的參考。該問題在以下變型中特別顯著:在用戶驗證之后,在線下執行到剩余的視頻的傳播。本領域技術人員將理解本發明與各種實施例相兼容:最新編輯的幀用作對于序列的全部幀的參考幀,最近的編輯的幀用作對于序列的給定幀的參考幀,有利地,由用戶控制關于基于密集運動域選擇用于傳播的參考幀的各種實施例。
[0046]根據其他有利特征,描述編輯任務(也被稱為編輯工具)的變型實施例。每一個編輯任務與多幀圖像編輯傳播模式相關聯。
[0047]通過例如使用多步驟流程方法計算的密集運動域將序列的圖像鏈接到參考圖像。有利地,使用長距離運動和對應域估計器。該類型的估計器被良好適配為解決時間封閉、照度變化和最小位移漂移錯誤。在變型中,那些運動域被假設為由另一系統或算法預計算。
[0048]改變自動從參考幀傳播到剩余幀的方式可以以若干方式完成:
[0049]籲逐點操作復制:編輯任務包括在參考圖像上的像素上定位指向裝置(或光標)。根據用于這種像素和這種圖像對的從參考運動向量將指向裝置的定位同樣地應用于子圖像中的對應像素。對應像素對應于與由子圖像中的運動向量指向的位置最近的像素。如果像素被封閉在子圖像中,則不傳播操作。這種逐點操作復制的實施例是多幀畫筆,用戶使用所述多幀畫筆使用一些顏色和筆刷類型在參考圖像中繪制。相同的估計被應用于子圖像。
[0050]籲使用按比例調整和變形的逐點操作復制:當所選擇的工具和/或選擇的筆刷類型具有特定形狀和大小時,除了中點的定位之外,該形狀也可以在子幀中變換。這種使用按比例調整和變形的逐點操作復制的實施例是在參考圖像中使用的圓形筆刷。根據形狀的長軸和短軸的變換,這種圓形筆刷在子圖像中被變形為更大或更小的橢圓。在變型中,在子幀中不修改形狀,即變形對應于身份函數。
[0051]籲基于多幀多邊形的選擇:當所選擇的工具屬于選擇工具族時(矩形選擇、圓形選擇、套索選擇等),定義參考圖像中的選擇的圖形路徑或形狀被變換為子幀中的選擇。具體地,選擇被認為是定義多邊形的頂點的序列。頂點之間的線段確定選擇的邊界,所述邊界在第一和最后的頂點之間閉合。使用密集運動域,通過以與參考幀相同的順序將這種頂點轉變為子幀來應用多幀選擇。如果與母幀中的多邊形的頂點對應的像素被封閉在子圖像中,則不傳播該頂點,并且多邊形少包括一個頂點。內部和外部區域被定義為選擇曲線的包圍區。本領域技術人員將理解,不像所討論的其中掩蔽例如被定義為對象的輪廓或背景區的現有技術掩蔽調整方法,這里所述區域由一系列像素(即頂點)的位置定義。
[0052]籲基于多幀選擇的效果:在參考幀中確定選擇并且所述選擇被立即傳播到子幀之后,對每一個幀中的每一個選擇應用例如模糊、浮雕、染色、像素化的圖像處理效果或過濾器。
[0053]籲像素顏色傳播:在參考圖像中在像素水平上的修改可以使用到參考運動向量通過傳播參考中的向量最終位置的內插顏色值來復制到子幀。該任務對于包括標識的插入的紋理插入任務是有用的。像素顏色傳播的兩個變型是可能的:
[0054]〇參考幀被完全修改,并且在由用戶驗證之后,如果參考中的對應點被修改,更新子幀像素;
[0055]〇當參考被修改時,確定修改的區,從參考向量用于確定子幀中的對應待編輯區,并且隨后到參考向量用于通過復制顏色信息更新屬于這種區的那些像素。
[0056]如果參考中的像素被封閉,即由應用于子幀中的對應像素的運動向量到參考導致的,則母幀中的像素的顏色值不被傳播。例如通過空間傳播的區域顏色填充或子幀內部的顏色值的圖像修補的可替換解決方案良好適用于這種封閉區域。
[0057]?縮放:在任何圖像編輯軟件中可用的基本工具是縮放。雖然其不考慮圖像本身的修改,其可以受益于多幀方式。在參考圖像的特定位置應用縮放時,可以在子圖像中的對應位置應用相同操作,即縮放的相同百分比。以該方式,簡化編輯處理。
[0058]圖2示出根據本發明的特定實施例的圖形界面的顯示元素。基本提出的界面包括容器窗口或工作區20,其是同時顯示參考圖像201和至少一個子幀202、203的組件。第二容器是包含至少一個多幀工具210的工具箱21。視覺元素204指示子幀202鏈接到參考幀201,使得如果其處于其活動狀態中,則參考幀201中的改變傳播到子幀202。用戶從工具箱21中選擇工具210,并且對參考幀201應用編輯任務。效果被傳播到子幀202。例如,使用繪制工具205,當用戶在參考201上繪制時,軌跡也出現在活動子幀202中。相反,當視覺元素204指示子幀203不鏈接到參考幀201時,參考幀201中的改變不被傳播到子幀202。在變型中,界面包括第三容器(未表示),其中在編輯的任何步驟處呈現視頻序列。
[0059]圖3示出根據本發明的特定實施例的具有傳播的