?本文系統地提出基于“以人為中心AI(HCAI)”理念的人-人工智能交互(人智交互)這一跨學科新領域及框架,定義人智交互領域的理念、基本理論和關鍵問題、方法、開發流程和參與團隊等,闡述提出人智交互新領域的意義。然后,提出人智交互研究的三種新范式取向以及它們的意義。最后,總結本章內容和展望今后的人智交互研究。

01、引言

在計算機時代,人們的日常工作和生活中主要與基于非智能技術的計算技術系統(包括產品、系統、服務等)產生交互。進入智能時代,基于 AI 技術的智能系統(包括產品、系統、服務等)逐步進入人們的日常工作和生活,人們開始與這些智能系統產生交互。但是, AI 技術的新特征使得這種人機交互和用戶體驗不同于傳統的基于非智能技術的人機交互,由此帶來了一系列的新挑戰和新問題,促使我們必須采用新思維和新方法來研究、設計、優化這種新型的人與智能系統之間的交互。如上一篇所討論,智能系統的研發必須遵循以人為中心 AI 的理念,同時,針對人與智能系統交互的研究和應用工作也是實踐 HCAI 理念的主要領域,兩者密不可分,直接影響 AI 技術是否能夠有效地為人類服務。

02、人-智能系統交互的新特征

2.1 ?人-智能系統交互與傳統人機交互的對比

基于 AI 、深度學習、大數據等技術,我們可以開發出具有自主化特征的智能體( intelligentagent ,或稱為智能代理)。取決于智能系統的智能自主化程度,一個智能系統(包括單個或多個智能體)可以擁有在一定程度上類似于人的認知能力(感知、學習、自適應、獨立執行操作等),在特定的場景下可以自主地完成一些特定任務,對一些不可預測的環境具有一定的自適應能力,可以在一些事先未預期的場景中自主地完成以往自動化技術所不能完成的任務(denBroeketal.,2017 ; Kaber , 2018 ; Rahwanetal., 2019 ;Xu , 2020 )。

人機交互(human-computerinteraction , HCI )是 PC 時代出現的一門跨學科領域,它主要研究人與非智能計算技術系統之間的交互。表 2.1 分析和比較了人 - 非智能計算系統交互與人 - 智能系統交互之間的一些基本特征(許為,葛列眾,2020 ;許為, 2020 )。其中,人 - 智能系統交互的特征是基于智能系統具有較高的智能自主化程度的假設,雖然目前的 AI 技術還無法實現所有這些新特征,但是隨著AI 技術的發展以及機器智能自主化程度的進一步提高,未來智能系統將逐步具備這些新特征。

從表 2.1 可見,在人-非智能系統交互中,作為支持人類操作的一種輔助工具,機器依賴于由人事先預定的固定邏輯規則和算法來響應操作員的指令,實現單向式(人指向機器)人機交互。盡管人機之間也存在一定程度上的人機合作,但是作為一個輔助工具,機器的行為總體上是被動的,只有人可以主動地啟動這種有限的合作。

在特定的操作任務環境中,智能系統可以擁有某些認知能力(學習、自適應、獨立執行等),這些能力使得智能系統與人類操作員之間可以實現在一定程度上類似于人 - 人團隊隊友之間的雙向性“合作式交互”。例如,不同于人 - 非智能系統交互中的“刺激 - 反應”單向式人機交互,人智交互的這種雙向性“合作式交互”意味著智能系統對人也有指向,即智能系統可以通過感應技術主動地監測和識別用戶生理、認知、行為、意圖、情感等狀態,人類用戶則通過多模態人機界面獲取最佳的針對系統和環境的情景意識。取決于智能系統的智能自主化程度,這種“合作式交互”是由兩者之間雙向主動的、可分享、可互補、可替換、自適應以及可預測等特征決定的(許為,葛列眾,2020 )。

由此可見,這兩類交互存在本質上的差別。智能系統的這些新特征可以促進人機交互的有效性,并形成人機協同合作。但是,智能系統的這些新特征也帶來了不同于傳統人機交互的一系列新問題,需要我們采用新思維和新方法來優化人與智能系統之間的交互和協同合作。

2.2 AI 帶來的新型人機關系———人智組隊

歷史上,人機關系的演變一直由技術驅動,而人機關系的演變則推動了人因科學(包括人因工程、人機交互、工程心理學等)的發展。如圖 2.1 所示,人機關系從第二次世界大戰前的“人適應機器”范式(人機關系的優化主要依賴于對操作員的培訓)演變為戰后的“機器適應人”范式(人機關系的優化可以通過對機械式機器的人機界面設計來實現),并且完成了從“以機器為中心”理念到“以人為中心”理念的轉換。在計算機時代,人機關系繼續演變為“人機交互”,即人機關系的優化可以通過對計算機系統的人機界面設計、用戶培訓等雙向方法實現。在人機交互中,非智能計算系統主要承擔支持人類作業的輔助工具的作用。

進入智能時代,在智能化人機操作環境中,隨著 AI 技術的發展,除了傳統的人機交互式人機關系外,智能系統中擁有自主化特征的智能體有可能從一種支持人類操作的輔助工具的角色發展成與人類操作員共同合作的隊友,由此,智能技術催生了一種新的人機關系形態,即人與機器(智能系統)可以成為一個合作團隊的隊友,形成一種“人智組隊”(human-AIteaming )式合作的新型人機關系(Brill , Cummings , etal., 2018 ;Shively , Lachter , etal., 2018 ;許為,葛列眾,2020 )。因此,智能時代的人機關系可以用“人機交互 + 人智組隊”來表征,即智能系統不僅可以作為一種輔助工具,還可以成為人類的合作隊友,扮演“輔助工具 + 合作隊友”的雙重角色(許為,葛列眾,2020 )。

智能時代的這種新型人機關系意味著,人與機器之間的關系并非一種機器作為工具式的人機關系,也不是一種競爭或者機器取代人的人機關系,而是一種人機智能互補和協同合作的關系。同時,如第 1 章所述,“以人為中心”的理念在智能時代進一步提升為“以人為中心 AI ”的理念,從而能夠更加有效地、有針對性地解決 AI 技術帶來的一些新問題。

目前,人智組隊正在成為開發 AI 技術的一種新范式( NAS , 2021 ),詳細內容請見本書第 11 章。在最新發布的《美國國家 AI 研究和戰略計劃 2023 更新》中,該計劃特別提出了需要開展針對人智組隊和合作方面的研究( NITRD , 2023 )。基于人智組隊的人智交互既擁有類似于人 - 人之間協同合作的特征,也擁有人智協同合作的一些新特征,這將促進針對人智雙向情景意識、人智互信、人智決策和控制共享、人智社會交互、人智情感交互等方面的建模、設計、技術、用戶驗證等方面的研究。

盡管當前的 AI 技術遠未達到有效隊友的標準,但是隨著 AI 技術的進步,人類和 AI 的合作將越來越密切。因此,從長遠角度看,將 AI 視為與人合作的團隊隊友會促進 AI 技術的發展。基于人智組隊的智能系統的整體績效不僅僅取決于系統內單個成員的績效,還取決于人機智能互補和協同合作。這種互補和協同合作可以克服每個成員的局限性,并且借助人機混合(融合)智能等技術和方法最大限度地提升整體系統績效( Xu & Gao ,2023 )。有研究者擔心人智組隊這種設計新隱喻有可能違背HCAI 理念( Shneiderman , 2021 ),可能會導致人類在組隊操作中喪失對 AI 的控制。因此,基于人智組隊的智能系統研發必須遵循 HCAI 理念,保證人類對智能系統的最終決控權( Xu& Gao , 2023 )。

2.3 ?跨學科協同合作的必然性

技術發展的一個基本動力來自跨學科的交叉融合, AI 技術本身的發展也得益于與其他學科的交叉融合,例如,基于認知神經科學的人類神經網絡機制。為順應學科的交叉發展趨勢,國家自然科學基金委員會已經于 2020 年成立了交叉科學部。如前所述, AI 技術帶來了不同于傳統計算技術的新特征,給人 - 智能系統交互帶來了不同于傳統人 - 非人工智能系統交互的一系列新特征,由此,也給我們提出了應該采用何種方式來有效地應對這些新特征的問題。

為找到針對這些新特征的有效解決方案,我們比較了 AI 學科與人因科學(包括人因工程、人機交互、工程心理學等)的優勢和不足之處。針對人 - 智能系統交互帶來的一系列變革性特征,表 2.2 概括比較了這兩類學科在實現 HCAI 理念上的優劣勢( Xu& Dainoff ,2022 ; Xu , Dainoff , Ge , & Gao , 2023 )。如表 2.2 所示, AI 技術帶來的一系列變革性新特征給實現 HCAI 理念帶來了挑戰。重要的是,雖然 AI 類學科與人因科學的方法各有優勢和不足之處,但是它們之間具有互補性,這種互補性說明了跨學科合作的必要性,跨學科合作將有助于更加有效地開發以人為中心的智能系統。同時,針對人 - 智能系統交互研究和應用的跨學科合作是廣泛的,人因科學只是 AI 學科需要協同合作的學科之一。

?