不確定性估計對于提高深度神經網絡的可靠性至關重要。加州大學洛杉磯分校 Aydogan Ozcan 領導的研究團隊引入了一種不確定性量化方法，該方法利用循環一致性來增強深度神經網絡在解決逆成像問題時的可靠性。

這項研究于 12 月 21 日發表在《智能計算》(Science Partner Journal)上。

深度神經網絡已被用于解決逆成像問題，例如圖像去噪、超分辨率成像和醫學圖像重建，其目標是使用實際捕獲的原始圖像數據(通常是在一些退化之后)創建理想圖像。然而，深度神經網絡有時會產生不可靠的結果，并且在某些情況下，錯誤的預測可能會產生嚴重的后果。能夠定量估計其輸出的確定性的模型可以更好地檢測異常情況，例如異常數據和徹底的攻擊。

估計網絡不確定性的新方法使用物理正向模型，該模型作為控制輸入輸出關系的基礎過程的計算表示。通過將該模型與神經網絡相結合并在輸入和輸出數據之間執行前向-后向循環，不確定性會累積并可以有效地估計。

該方法的理論基礎涉及建立循環一致性的界限，定義為循環中相鄰輸出之間的差異。研究人員得出了循環一致性的上限和下限，證明了它與神經網絡輸出不確定性的關系。該研究考慮了周期產出出現分歧的情況和趨同的情況，為這兩種情況提供了表達。即使不了解基本事實，導出的界限也可用于估計不確定性。

通過兩個實驗證明了新方法的有效性：

1. 圖像損壞檢測

對于這項任務，研究人員專注于一種稱為圖像去模糊的逆問題。他們創建了一些被噪聲損壞和未損壞的模糊圖像，并應用了一個在未損壞的數據上預先訓練的圖像去模糊網絡來對這些圖像進行去模糊。然后，他們訓練了一個機器學習模型，通過前向-后向循環將圖像分類為損壞或未損壞。他們發現，使用循環一致性指標來估計網絡不確定性和偏差可以使最終分類更加準確。

2. 分布外圖像的檢測

對于第二個任務，作者將他們的方法擴展到圖像超分辨率問題。他們收集了三種類型的低分辨率圖像：動漫、顯微鏡和面部圖像，并訓練了三個超分辨率神經網絡，每種圖像類型一個。然后，每個超分辨率網絡都在三種類型的圖像上進行測試，其中機器學習算法學會根據前向-后向循環區分訓練-測試數據分布差異。例如，當使用動漫圖像超分辨率網絡進行測試時，低分辨率顯微鏡和面部圖像是“分布不均勻”的，也就是說，不是網絡訓練的目的;該算法準確地檢測到這些超出分布的情況，以提醒用戶。其他兩個網絡的結果相似。與其他方法相比，基于循環一致性的方法在識別分布外圖像方面具有更好的整體精度。

研究人員預計，他們的基于循環一致性的不確定性量化方法將大大有助于提高逆成像問題中神經網絡推理的可靠性。此外，該方法可以在不確定性引導學習中找到應用。這項研究標志著朝著解決與神經網絡預測的不確定性相關的挑戰邁出了重要一步，為在關鍵的現實應用中更可靠、更自信地部署深度學習模型鋪平了道路。