人工智慧（AI）的例子無處不在。我們對於AI的使用可能超出想像，並且在許多方面視為理所當然。智慧手機助理就是一個很好的例子，儘管我們可能並不認為這與AI有關。許多情況下，我們已經習慣於與Siri或Google Assistant的互動。同樣，臉部辨識已成為新型智慧手機的標準解鎖功能。

機器學習屬於AI的一個子集，原理是通過訓練基於電腦的神經網路模型來識別設定的模型或聲音。在神經網路完成訓練後，就可以推理出結果。例如，如果我們用數百張狗和貓的圖像訓練神經網路，那麼它應該能夠正確地識別圖片中是狗還是貓。網路模型會確定答案，並指示預測的類別概率。

圖一 : 機器學習的原理是通過訓練基於電腦的神經網路模型來識別設定的模型或聲音。（source：恩智浦）

隨著基於機器學習的應用越來越深入日常生活，系統開發人員已經逐漸意識到神經網路的當前運行方式不一定正確。讓我們回到上面的例子，如果我們向神經網路顯示一匹馬的圖片，那麼僅經過貓狗推理訓練的神經網路不得不在已訓練的類別中選擇一個。更令人擔憂的是，給出錯誤預測的概率很高，您甚至都不會注意到，這個模型就這樣無聲無息地失敗了。
...
...