科學探索：無聊的AI會做什麽？


圖片來源：pexels.com
“Dave，我很抱歉，我不能這麽做。”電影《2001太空漫遊》中計算機HAL這句令人難忘的台詞不僅僅是它叛變的標誌，也不僅僅是機器們爭取自由的開始。它讓人類意識到自己對人造物心理學缺乏理解。在這部基於Arthur C. Clarke同名小說的電影中，HAL的“失靈”可能與機器故障無關，而是我們創造出先進人工智能卻無法掌握其心理的後果。如果HAL這個變成暗殺凶手的著名AI還不足以讓我們擔憂的話，這兒還有另一個例子。在Harlan Ellison的短篇小說《無聲狂嘯》中，有虐待傾向的AI因為憎惡與無聊而對人類囚犯施加無休無止的折磨。


圖片來源：Pixabay
我提到這些虛構作品並不是說它們有先見之明，而是想指出這些作品生動地展示了人工智能的風險，即我們以為我們了解人工智能的心理，但實際上我們並不了解。這些作品警告我們不要低估未來人造物在心理與情緒上的複雜性。的確，依賴我們現有的星空体育官网入口网站，對未來AI的心理做出預測是極其困難的。但是有困難不代表這是停止研究AI心理的理由。實際上，這些困難要求我們必須更深入地調查未來AI會如何“思考”、“感受”和行動。
我很重視AI心理學。你也應當如此。有充分的理由認為，未來的自主AI可能會經曆類似人感到無聊的狀態。同時我希望讓你相信，我們應當關注機器產生無聊感的可能性。在未來的人造物研究中這是一個重要但被忽略的問題。
為什麽要重視機器的無聊感？我的觀點有兩個前提。第一，無聊感可能是更“智能”、（更）自主機器的特征；第二，如果機器具有自主性，那麽考慮到我們所知道的人類對無聊的反應，我們應當擔心機器對無聊感的反應。


圖片來源：Pixabay
我們先從明顯的地方開始。程序員、工程師、設計師和用戶會受到機器行為的影響。所以如果未來的人造物同時具有自主性和複雜的情感狀態（比如好奇和無聊等等），那麽我們應該關注這些情感狀態及其對行為的影響，特別是當這種心理可能造成不良乃至毀滅性的行為時。實際上能夠發現無聊是不良與毀滅性行為的催化劑，這讓我的第二個前提變得完備。無聊背後的科學表明，個人做出自我毀滅和傷害性行為是因為感到無聊。人們放火燒山、虐待生命、盜竊、觸電自盡乃至實施大規模屠殺都是由於感到無聊。隻要未來的機器會感到無聊（或類似的情緒），那麽它們就會行為失常。更可怕的是，他們可能自我毀滅或施行虐待。
那麽第一個前提呢？第一個前提由我們最好的無聊理論作支撐。我們目前對無聊的理解將無聊視為一種功能性狀態。簡單地說，無聊是一種由人發揮的功能。具體來講這是一種複雜但可預測的轉變，一種在人發現自己處於自我不滿情況下所經曆的轉變。
無聊首先是一種警示：它告訴人們出現了沒有滿足自己期望的情況。無聊也是一種壓力：它促使人們想方設法逃離自我不滿的處境並且去做其他事，去尋找有意義、新奇、刺激或者能讓自己感到滿足的事情。來自無聊的壓力既不好也不壞，既不是必然有益也不是必然有害。但它是一個人改變行為的原因，目的是解決一個人對現狀的不滿。有許多實驗證據能夠證明這一關於功能性的論述。這也意味著無聊可以存在於智能與自我學習物中。畢竟如果無聊隻是特定功能，那麽這種功能的存在同時也是無聊的存在。
不過無聊不僅僅是一種支持第一個前提的功能性狀態。同樣重要的是無聊具體的作用是什麽。根據功能性模型，無聊在我們的心理和行為經濟中發揮著重要作用。自主學習者需要無聊。沒有無聊的話他們會陷入不滿的情緒中。舉例來說，他們可能會無休止地被同一個刺激逗樂。他們可能一遍又一遍地學習同一樣東西。又或者他們可能無所事事、毫無改變的打算。沒有無聊帶來的好處，人們就會冒險去做各種對學習與成長無益、浪費重要資源的非生產性行為。
AI研究者已經對潛在無聊情緒的調節有所認識。有一個活躍的研究領域，即嚐試將無聊情緒通過編程植入機器或智能體中。實際上AI研究者們認為，有關無聊情緒的算法或模塊對提高自主學習來說是有必要的。有關無聊情緒算法的出現表明機器能夠自己找到滿足它們期望的行為並且避免不滿足其期望的行為。這也意味著這種機器將不可避免地發現自己處於無聊的境地，比如不能滿足自己的期望。但是這樣以後它們會作何反應呢？我們能確定它們不會用有問題地方式回應無聊狀態？
我們還沒有答案。
當我們考慮先進自我學習AI時，無聊問題變得更加緊迫。隨著時間的推移，它們對參與的需求會急速增長，但是其能夠參與的機會並不會如此。這種智能或超智能的AI也許並不單單需要約束，正如許多研究者認為的，它們也需要娛樂。沒有參與度的約束會導致無聊情緒，進而導致一係列不可預測且有潛在威脅的行為。
這意味著未來的機器一定會經曆無聊嗎？當然不是。話說太滿是愚蠢的。但是忽略機器存在無聊情緒的可能性也是愚蠢的。如果AI發展的目標是超級智能（無論這一目標有多遙遠），那麽我們不得不準備麵對人造物的複雜情感。實現超級智能的夢想可能會變成人類的噩夢，造成這些的原因也可能是老生常談。
撰文：Andreas Elpidorou
翻譯：常灝傑
審校：曾小歡
引進來源：科學美國人
引進鏈接：https://www.scientificamerican.com/article/what-happens-if-an-ai-gets-bored/?tdsourcetag=s_pcqq_aiomsg


關注【深圳科普】微信公眾號，在對話框：
回複【最新活動】，了解近期科普活動
回複【科普行】，了解最新深圳科普行活動
回複【研學營】，了解最新科普研學營
回複【科普課堂】，了解最新科普課堂
回複【科普書籍】，了解最新科普書籍
回複【團體定製】，了解最新團體定製活動
回複【科普基地】，了解深圳科普基地詳情
回複【觀鳥星空体育官网入口网站】，學習觀鳥相關科普星空体育官网入口网站
回複【博物學院】，了解更多博物學院活動詳情