知名AI專家約舒亞·本祖：人工智能可能「與人類反目」
#專家稱人工智能可能與人類反目#【知名AI專家約舒亞·本祖：人工智能可能「與人類反目」】據美國消費者新聞與商業頻道網站11月21日報導，著名計算機科學家約舒亞·本祖——人工智能先驅——發出警告，提醒謹防這項新興技術對社會的潛在負面影響，並呼籲深入研究，降低風險。
本祖是蒙特利爾大學教授、蒙特利爾學習算法研究所所長，因在深度學習領域的研究多次獲獎。深度學習是人工智能的一個子集，它試圖模仿人類大腦活動，學習如何識別數據的複雜模式。
可能造成動盪
但是，本祖為這項技術感到擔憂，並提醒謹防一些擁有「強大權力的」人甚至可能希望看到人類被機器替代。
在蒙特利爾舉行的世界青年領袖峰會上，本祖告訴消費者新聞與商業頻道記者塔妮婭·巴里亞：「展望我們未來面臨很多方面與自己一樣聰明的機器的情景及其那對社會意味著什麼，這確實很重要。」
他說，機器可能很快具備人類的大部分認知能力；通用人工智能(AGI)是一項旨在達到或超越人類智力的人工智能技術。
他說：「智慧賦予力量。那麼，誰將控制那種力量？讓知識量超過大部分人類的系統落入壞人之手，可能帶來危險，並在地緣政治或恐怖主義層面造成更大動盪。」
本祖認為，能夠負擔得起製造強大的人工智能機器的組織或政府數量是有限的，而且人工智能系統規模越大，其智能程度越高。
他說：「你知道，建造和訓練這些機器需要巨額成本，只有極少數組織機構和國家有能力完成。現在已然如此。」
「會出現力量集中：可能對市場不利的經濟實力集中，以及對我們這個星球的地緣政治穩定不利的軍事實力集中。因此，我們需要盡快仔細研究並開始緩解大量有待解決的問題。」
他說，幾十年內就可能出現這種結果。
他還說：「但是，如果是五年，那麼我們還沒準備好……因為我們沒辦法保證這些系統不傷人或是與人類反目……我們不知道如何保證。」
本祖說，有觀點認為目前正在訓練的人工智能機器「將產生與人類反目的系統」。
製定防護措施
他說：「此外，有人可能想濫用那種力量，也有人可能樂於看到人類被機器替代。我的意思是，這是少數人，但是這些人可能把持很大權力，而且如果我們不立即製定適當的防護措施，他們就能做到(濫用)。」
本祖為6月份的一封題為《關於對尖端人工智能提出警告的權利》的公開信簽名背書。這封信得到了開放人工智能研究中心(OpenAI)現任和前任僱員的簽名支持。
公開信就人工智能進步帶來的「重大風險」提出警告，呼籲科學家、決策者和公眾製定指導意見以降低風險。過去幾個月，OpenAI一直受日益嚴重的安全擔憂的困擾，今年10月解散了「通用人工智能準備就緒」團隊。
本祖告訴消費者新聞與商業頻道記者：「政府要做的第一件事就是製定規章，強製(公司)在建造此類最大的、需要數以億計美元進行訓練的前沿系統時必須註冊登記。政府應當知道它們在哪兒，知道這些系統的詳情。」
本祖說，隨著人工智能如此迅速地發展，政府必須「要有一點創造性」，製定能夠適應技術變化的立法。
這位計算機科學家認為，研發人工智能的公司還必須對其行為擔責。
他說：「擔責也是強製(公司)規範行為的另一個工具，因為……如果涉及公司的錢財，擔心受到起訴——那會促使它們朝著保護公眾的方向行事。如果它們知道自己不會被起訴，因為眼下那就是某種灰色地帶，那麼它們就不一定會表現良好。(公司之間)互相競爭，而且它們認為率先實現通用人工智能的公司將佔據主導。因此，這是一場競賽，而且是一場危險競賽。」
本祖說，保證人工智能安全的立法程序將類似於其他技術製定規則的流程，比如飛機或汽車。他說：「為了享受人工智能的有益之處，我們必須製定規則。我們必須設置防護欄。我們必須就如何發展這項技術實行民主監督。」
降低潛在風險
隨著人工智能的發展，虛假信息，尤其是關於選舉的虛假信息成為日益嚴重的關切。今年10月，OpenAI說，它干擾了「世界各地20多次試圖利用我們的模型開展的活動和欺詐性網絡」，包括美國和盧旺達選舉前出現的虛假帳號在社交媒體上發的帖子。
本祖說：「一個短期而言最嚴重、但是會隨著我們朝著功能更強大的系統發展而日益嚴重的擔心就是虛假信息、錯誤信息、人工智能影響政治與輿論的能力。隨著我們向前發展，我們會擁有能夠產生更逼真的圖像、聽起來更逼真的聲音模仿、更逼真的影片的機器。」
本祖說，這種影響或許會延伸到與聊天機器人的互動。他指的是意大利和瑞士研究人員發表的一項研究報告。該報告顯示，OpenAI的大語言模型GPT-4可能會比真人更能說服人們改變主意。
本祖說，「最困難的問題」是，「如果我們創造了比我們還要聰明並擁有自身目標的實體，那對人類意味著什麼？我們身處危險之中嗎？」
本祖說：「這些都是非常棘手且重要的問題，而我們沒有答案。我們需要加強研究與預警，降低潛在的風險。」
他說：「現在就引導社會和人類朝著積極有益的方向發展還不算太晚。」本祖說：「但是，為此，我們需要有足夠多的人理解其優勢與風險，我們需要足夠多的人探索解決方案，它可以是技術上的，可以是政治……政策，但是我們必須立即朝那些方向付出足夠的努力。」
