無人駕駛汽車和無人駕駛飛機不再是未來概念。截至 2023 年 8 月，舊金山兩家出租車公司的自動駕駛出租車行駛裏程就達到了 800 萬英裏，在美國注冊的自動駕駛飛行器（無人機）超過了 85 萬架。但公衆對無人駕駛的安全性卻表示擔憂，截至 2022 年，美國國家公路交通安全管理局（NHTSA）就報告了近 400 起涉及使用自動控制技術的車禍。
解決這個問題的通常方法（有時名爲 " 耗盡測試 "）是指不斷測試這些系統，直到它們很安全爲止，但是我們永遠無法确信這個過程一定會發現所有潛在的缺陷。
目前，Mitra 的團隊已成功地證明了汽車車道跟蹤能力和自動駕駛飛機着陸系統的安全性。他們的策略現在被用于幫助無人機降落在航空母艦上，波音公司計劃今年在一架試驗飛機上進行測試。
大體上來講，許多自動駕駛汽車有兩個組成部分：感知系統和控制系統。比如說，感知系統可以告訴你，你的車離車道中央有多遠，或者飛機朝哪個方向飛去、它相對地平線的角度是多少。該系統可以将來自攝像頭及其他感測工具的原始數據，提供給基于神經網絡的機器學習算法，算法重新構建車輛外面的環境。
然後，這些評估結果被發送到一個單獨的系統：控制模塊——它決定執行什麽操作。比如說，如果即将碰到障礙物，它會決定是踩刹車還是繞過障礙物。據麻省理工學院的副教授 Luca Carlone 表示，雖然控制模塊依賴成熟的技術，但 " 它根據感知結果做出決策，無法保證這些結果是正确的。"
爲了提供安全保證，Mitra 的團隊緻力于确保車輛感知系統的可靠性。他們先假設，若可以完美地渲染外界環境，就可以保證安全。然後，他們确定了感知系統在重新構建車輛周圍環境時帶來的誤差。
這種策略的關鍵是量化所涉及的不确定因素，名爲誤差範圍，或者 " 已知的未知因素 "。這番計算來自感知契約（perception contract）。
在軟件工程領域，契約是一種承諾，針對計算機程序的給定輸入，輸出會在指定的範圍内。而弄清楚這個範圍并非易事。汽車傳感器的精度如何？無人機可以承受多大的霧、雨或太陽眩光？但是如果能将車輛保持在指定的不确定範圍内，并且這個範圍足夠準确，就可以确保其安全性。
圖 1. 計算機科學家 Sayan Mitra 已開發了一種保證某些自動駕駛系統安全性的系統方法
感知契約爲依賴機器學習的不完美系統的安全性提供了一種保證。Carlone 表示，該團隊最大的貢獻在于引入了感知契約這個概念，并提供了構建感知契約的方法。爲此，研究團隊利用計算機科學分支技術做到這一點，形式驗證提供了一種數學方法來确認系統的行爲滿足一系列要求。
Mitra 表示，盡管他們不知道神經網絡到底是如何執行其操作的，但研究表明仍有可能從數值上，證明神經網絡輸出的不确定性在一定範圍内。而且，如果真是這樣，那麽系統将是安全的。他們可以提供一個統計保證，表明某個特定的神經網絡是否（以及在多大程度上）在這些範圍内。
航空航天公司目前正在測試将無人機降落在航空母艦上時的安全性概率。由于飛行涉及另外的維度，這個問題在某些方面比駕駛汽車來得更複雜。波音公司人工智能首席技術專家 Dragos Margineantu 表示，無人機在降落時，有兩個主要任務：将飛機與跑道對準，并确保跑道上沒有障礙物。波音與 Sayan 的合作就是爲這兩項任務提供安全保證。Margineantu 特别指出，使用 Sayan 算法的模拟表明，飛機在降落前在對準上确實有所改善。
