?以人工智能為代表的科學技術正在深入地塑造和改變著人類的社會、文化和經濟等,在“無所不在的算法與智能”的時代,了解智能機器的行為對于設計智能行為并使其造福于人類,對于智能機器的設計者、開發者和使用者,都具有重要意義。機器行為研究從學科交叉的視角,將智能機器行為置于由“人-自然-人造物”的整合系統中,將智能機器視為一系列“具有自身行為模式及生態反應”的個體,從人與社會的角度對智能機器行為的相關問題進行討論,在人智交互行為方面通過多個設計案例進行說明，最后提出有效管理機器行為的指導原則與設計指南。
?01、引言
“機器”的發明和存在貫穿于人類歷史的全過程,雖然近代真正意義上的機器(機械)是工業革命以后逐步發展起來的,但正在“顛覆”機器概念的是更加近代的智能機器。本節重點討論一個新興的概念和研究領域,即智能系統的機器行為。為了更好地了解和研究人工智能技術帶來的變化,首先需要對智能系統的機器行為與非智能系統的機器行為進行區分。對于傳統的非智能機器行為而言,它通常按照預期的規則和指令運行,常用的有辦公軟件、計算器、電梯等,輸出確定且可預測,作為人類的輔助工具進行工作。對于智能機器行為,則可以被開發和展示出獨特的機器行為,具有學習和進化能力,可與人類協同工作,例如智能汽車、智慧家居系統等,諸如此類的智能機器可以在復雜且不斷變化的環境中進行自主操作,或者采用智能行為的計算模型來解決人類無法解決的復雜問題( Wienrich& Latoschik , 2021 )。與傳統的非人工智能系統的機器行為(系統輸出)不同,人工智能系統的行為結果可能是不確定和不可預測的。在此背景下,產生了許多區別于傳統計算機時代的新型人機交互問題。人機交互指的是人與系統之間的交互,在不同的科技發展時代中,系統是不斷進化的,機械化時代是各種操作機器,計算機時代更多的是軟硬件系統,智能化時代則是各種智能組合形式的系統(陳善廣,李志忠等,2021 )。
智能機器行為的研究是解決問題的基礎,而人智交互研究和應用又將人工智能帶入了良性發展的軌道,有效地控制了智能機器可能產生的不良后果,從而避免可能給人類帶來的不可預知的風險。
基于此,以人為中心的人工智能的理念是區別于傳統的以人為中心的進一步版本。兩者交互的主要對象不同,前者主要面向的是 AI 系統,即智能機器,后者主要面向的是非智能機器,這兩種理念也有助于強調智能機器行為和非智能機器行為之間的根本差異。因此,研究和了解 AI 系統的機器行為有助于相關的專業人員采取新的設計思維與策略,了解人智交互研究與應用的邊界和重點,從而更有效地解決 AI 系統的挑戰。
02、從人的行為到 AI 系統機器行為
隨著人工智能和機器學習技術的迅猛發展, AI 系統的機器行為研究成為了一個關鍵領域,它研究關注機器如何理解、響應和適應“人的目的和意圖”,以及與其交互的人、社會、文化的環境。在日常生活中,我們與越來越多的機器進行互動,機器行為研究也可以應用到人工智能與人相關的幾乎所有領域。具有代表性的領域包括大眾健康、自動駕駛、智能家居、社交媒體等,這些應用領域又同時為機器行為的研究提供了問題的來源與驗證情境。因此,研究和設計機器行為變得尤為重要。
AI 系統的機器行為從本質上看是關于“行為”( behaviour )的研究。行為的概念在不同的學科領域都有不同的意義。一般認為,“行為”是一個與“生物、生命”相關的概念,因此與行為科學有密切的關系。同時,由于機器行為研究的對象是機器這一人類行為的產物,所以機器行為研究又與創造 AI系統的智能科學和工程(設計)科學密不可分,必須整合來自多學科的知識( Rahwanetal. , 2019 )。
2. 1 ?行為科學與機器行為
心理學是最經典的“研究人的行為的科學”。但是,心理學又不僅僅是關于行為(action )的科學,還包含對人的心理活動( mentalactivity )的研究。 Sternberg (1996 )指出:心理學是“理解人們如何進行思考、學習、接受、感覺、行動和其他人交往,乃至對自身的理解”。從這樣的觀點來看,機器行為的研究可以借鑒心理學的研究范式和方法來研究機器行為,即將機器行為視為具有生命和環境適應的活動。作為心理學重要組成部分的認知心理學對于人的心理過程的描述非常接近于一臺計算機,認為可以將認知過程描述為一個信息處理的機制。例如著名心理學家 Wickens ( 2020 )提出的人的認知過程模型(圖 15.1)就是把人的認知過程模擬為計算機:短時記憶類似內存,長時記憶類似硬盤,思維與決策類似中央處理器等。從這個角度看,認知心理學的感知、注意、推理等概念也是機器行為的重要概念。在認知心理學的基礎上,紐維爾( A.Newell )和西蒙等提出“通用問題求解模型”(generalproblemsolver ),即用計算機和人工智能的“符號主義”思想去研究智能體與人類的思維過程(圖 15.2 ),例如記憶的組織、信息加工模型、思維環境記憶、類比問題求解等( Newell& Simon , 1959 )。除此以外,心理學的很多理論都和機器行為有密切關系。發展心理學中的認知發展和社會性發展與機器行為的發展密切相關。因此,心理學是機器行為研究的重要學科基礎。
?
雖然心理學也包含研究群體行為和心理的社會心理學,但是,系統地研究社會行為與人類群體屬于“社會學”(sociology )領域。 1838 年,法國科學哲學家孔德(I.M.A.F.X.Comte )正式確立了“社會學”一詞(Lévi-Strauss , 1945 )。 1895 年,杜爾凱姆( E.Durkheim )在法國波爾多大學創立了歐洲首個社會學系,并出版了影響后世的重要著作《社會學方法的規則》( Durkheim , 2014 ),為社會學確立了有別于其他社會科學學科的獨立研究對象,即社會事實。社會學家對社會的研究包括一系列的從宏觀結構到微觀行為的研究,包括對從種族、民族、階級和性別,到細如家庭結構、個人社會關系模式的研究,對機器行為具有重要啟示。例如,機器行為研究的一個重要任務是建立一個人機和諧的社會生態系統。社會學關于群體、組織的研究就具有非常重要的作用。組織的社會功能、組織的機制、組織的結構原則、組織的運行與調節、組織中人和機器的行為與角色都是共同關注的話題。與機器行為研究關系較為密切的社會學分支是自 20 世紀末起的興起的“計算社會學”( Edelmannetal. , 2020 )。計算社會學利用收集和分析數據的能力,在不同的廣度和深度大規模收集數據,提供了個人和群體全面的信息,以過去幾乎無法想象的方式探查智能機器、算法等對人類生活、組織和社會的理解。
除了心理學和社會學,行為科學的一個獨特領域———動物行為學(ethology )也與機器行為密切相關。動物行為學特別注重從系統發生和遺傳學的角度研究包含人類的動物的行為,從而形成動物行為學下的一個分支———人類行為學(humanethology )。一般認為,動物行為學的歷史淵源起源于達爾文( C.R.Darwin )的《物種起源》(達爾文等,2010 )。在動物行為學理論中,所有動物行為都可以用因果關系、生態功能、分體發生和遺傳進化這四方面來解釋。因此,動物行為學家從行為的功能、機制、發展和進化歷史四個維度來研究動物行為,并構建了一個研究動物行為的基本框架。從動物行為學的角度去研究機器行為的一個突出的好處是:研究者可以更加遠離“人”本身的屬性,而把人放在整個動物界和自然界的角度開展研究。特別是動物行為學關于“適應”的概念,與人為事物和機器的功能及其環境適應性具有密切的關系,可以為機器行為研究提供心理學和社會學所不具備的知識與方法支撐。雖然機器行為和動物行為很多本質的差別,但是,在方法上,動物行為學的很多工具和方法都可以運用到機器行為研究中,特別是其建立起來的一套行為描述的科學體系,對機器行為研究中行為的分類、編碼等具有重要的指導意義。在內容上,智能機器和動物一樣,有其行為產生、發展和進化的內在機制。機器在和環境的整合中獲取信息,產生特定的功能,并從過去的環境和人類不斷的決策中得到進化。這種基于進化的思想是動物行為學對于機器行為研究最大的啟示之一(尚玉昌,2005 )。
?
