2025 年 7 月,五角大廈把 AI 合約同樣授予了 Anthropic、Google、OpenAI 和 xAI。2026 年 2 月,五角大廈試圖從 Anthropic 的合約中刪去自主武器和國內監控的限制;Anthropic 拒絕了,並在 3 月被列為供應鏈風險。在兩個案例中,具體的核心問題是一個在成為問題之前聽起來像學術問題的問題:人類相對於決策坐在哪裡?
那個問題——及其答案——是將人在迴路與人在迴路上方與人在迴路之外分開的。這些術語被本應更清楚的供應商互換使用。它們不可互換。它們代表根本不同的控制結構、風險特徵和監管態勢。
精確定義
人在迴路(HITL)
在系統繼續之前,人類必須行動。AI 提出決定、推薦行動或分類。然後系統停止並等待。合格的人類審查 AI 的輸出並批准、修改或拒絕它。只有這樣行動才會執行。
關鍵字是「停止」。AI 沒有明確的人類授權就不能繼續。
例子:在結果進入患者記錄之前,必須簽署 AI 標記的影像掃描的放射科醫生。在審查 AI 的評分和推理後,必須批准或拒絕貸款申請的信用官員。在給藥前必須確認藥物劑量建議的藥劑師。
人在迴路上方(HOTL)
AI 自主行動。人類監控系統的輸出並有能力干預——但行動發生在人類決定任何事情之前。人類的角色是監控和覆蓋,而非批准。
例子:在交易員觀看儀表板時執行訂單的自主交易算法。立即刪除帖子的內容審核 AI,人工審核員能夠在 24 小時窗口內撤銷決定。帶有能夠在響應指標看起來錯誤時停止它的人工監督員的自動化電子郵件活動系統。

