微軟官方出品！18 條應該記住的AI人機交互指南
為什么需要 AI 人機交互指南
AI 系統可能會表現出不可預測的行為，這些行為可能具有破壞性、混淆性、冒犯性甚至危險性。由于這些原因，AI 系統經常違反傳統的人機交互設計原則。當傳統應用程序或產品的行為不一致時，將被判斷為存在設計缺陷或錯誤。然而，不一致性和不確定性是 AI 系統天生就有的，因為它們具有概率性質，并隨著時間的推移，它們會隨著新數據的學習而發生變化。AI 服務的屬性，包括其準確性、故障處理模式和對用戶行為的理解能力，為產品設計、服務設計和程序開發人員帶來了新的挑戰和機遇。
微軟提出了 18 條普遍使用的 AI 人機交互設計指南。這些指南綜合了二十多年來關于如何使人工智能變得更加用戶友好的思考和研究。微軟團隊對他們進行了三輪驗證，以確保它們是具體、可觀測且易于理解的。
這 18 條指南提供了有關如何創建有意義的人工智能產品體驗的建議，讓用戶有掌控感并尊重它們的價值觀、目標和注意力。這些指南依據其所處的具體交互階段分為四大類。
初始階段
在初次接觸 AI 系統時，應該傳遞出明確的用戶預期。這個系統有什么能力？它具體的表現如何？設定不合理的高預期會導致用戶沮喪和放棄使用產品，因此誠實地傳遞產品可以做什么以及做到何種程度是很重要的。因此，第一類指南是關于設定用戶預期的：
- 明確傳遞系統可以做什么。幫助用戶了解 AI 系統能夠幫助自己解決什么問題
- 明確傳遞系統可以做到何種程度。幫助用戶了解 AI 系統出錯的概率
交互過程中
這部分指南是關于場景的。無論是（讓 AI 系統考慮）更大的社會和文化背景，還是用戶的本地設置或當前任務狀況，AI 系統都需要根據場景對用戶需求進行推斷。
- 基于具體場景和時間提供服務。根據用戶當前的任務和環境判斷何時該觸發行為或中斷行為。
- 顯示場景相關信息。顯示與用戶當前任務和環境相關的信息。
- 匹配相關的社會準則。考慮到用戶的社會和文化背景，確保以符合用戶預期的方式提供體驗。
- 減少社會偏見。確保 AI 系統的語言和行為不會傳遞不公平的刻板印象和偏見。
系統出錯時
接入 AI 能力的系統不可避免地也會出錯，因此必須要考慮到應對邏輯。比如，系統可能不會在預期的時間觸發，或可能在錯誤的時間觸發，所以 AI 算法應該很容易被調用或者關閉。當系統出現錯誤時，應該很容易被糾正；當不明確用戶的意圖時，應該能允許用戶自行完成任務。例如，AI 系統可以很自然淡出運作或請求用戶確認。
- 支持高效調用。在需要時輕松調用或請求 AI 系統的服務。
- 支持高效關閉。讓用戶輕松關閉或忽略不需要的 AI 服務。
- 支持高效校正。當 AI 系統出錯時，可以輕松地進行編輯、改進或恢復初始狀態。
- 目標不明確時審視服務內容。當不確定用戶的意圖時，提供消除歧義或降級 AI 系統的服務。
- 明確傳遞系統為什么這樣做。使用戶能夠觸達 AI 系統之所以這樣做的原理。
隨著時間推移
由于 AI 系統會從用戶行為中進行學習，因此會隨著時間的推移不斷升級。此部分指南鼓勵用戶通過提供細顆粒度的反饋來訓練系統。當用戶提供反饋時，至少要讓用戶知道反饋行為已被 AI 系統記錄，并表明用戶的反饋將如何影響未來的體驗。
然而，隨著 AI 系統的學習和算法模型的改進，在對用戶體驗引入大的根本性變化時需要格外謹慎。需要提前規劃如何逐步退出這些更改并告知到用戶。
- 記住用戶最近的互動行為。保持短期記憶并允許用戶高效引用。
- 從用戶行為中學習。通過從他們的行為中不斷學習來個性定制用戶體驗（類似千人千面）。
- 謹慎更新和調整。在更新和調整 AI 系統的行為時限制變化的幅度。
- 鼓勵細顆粒度的反饋。使用戶能夠在與 AI 系統的定期交互期間提供可以反映用戶偏好的反饋。
- 傳遞用戶行為的結果。及時反饋用戶行為將如何影響 AI 系統的未來行為。
- 提供全局控制。允許用戶全局自定義 AI 系統監控的內容及其行為方式。
- 通知用戶有關更新。當 AI 系統新增或更新功能時及時通知用戶。
資源鏈接
- Original human-AI interaction guidelines research paper
- Printable cards
- Blog post: Guidelines for Human-AI Interaction
- Blog post: AI Guidelines in the Creative Process
- Microsoft Research: Guidelines for human-AI interaction design
