由清華大學(xué)戰(zhàn)略與安全研究中心承辦的2019世界和平論壇分會場之“人工智能：技術(shù)與治理”，于7月9日在京舉行。論壇就人工智能給人類帶來的影響、人工智能的發(fā)展方向、潛在風(fēng)險和挑戰(zhàn)以及人工智能治理等議題進行了研討。

　　會議由清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩主持，多位國際國內(nèi)知名專家和企業(yè)領(lǐng)袖出席論壇并發(fā)言。會上還發(fā)布了戰(zhàn)略與安全研究中心人工智能項目組的最新社會調(diào)研報告《中國青年視角下的人工智能風(fēng)險與治理》。

　　(傅瑩主持分論壇)

　　近年來，人工智能逐漸成為國際社會廣泛關(guān)注的話題，人工智能技術(shù)的研發(fā)和應(yīng)用帶來的機遇與挑戰(zhàn)、倫理與法規(guī)等問題，在不同領(lǐng)域和學(xué)科引發(fā)了熱烈的討論。傅瑩說，每一次科技的重大突破性發(fā)展，都會帶來潛在的風(fēng)險與挑戰(zhàn)，人工智能被視為可能會影響人類未來的顛覆性技術(shù)，同時，制定相應(yīng)規(guī)范的緊迫感也在上升。“中國在這一領(lǐng)域已經(jīng)走在世界前列，剛剛發(fā)布了《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，”傅瑩說：“但人工智能技術(shù)的影響不是局限在一國境內(nèi)的，風(fēng)險和挑戰(zhàn)也往往是跨境和跨界的，是世界性的，因此，國際社會需要通過對話和努力，共同探尋人工智能國際治理的路徑?！?/p>

　　中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在演中談到人工智能的兩類安全挑戰(zhàn)：一類是由人工智能本身技術(shù)不夠成熟引發(fā)的問題;另一類是人工智能作為一項新技術(shù)的“雙刃劍”特點帶來的。他認為，需要從人的自律、規(guī)章制度、安全技術(shù)三個角度來思考應(yīng)對措施。同時，他期待看到不同國家、不同學(xué)科、科研機構(gòu)與行業(yè)之間的協(xié)同合作，以防止人工智能的濫用，使其最大程度服務(wù)于人類社會的福祉。

　　(中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸發(fā)表主旨講話)

　　電氣與電子工程師協(xié)會(IEEE)的約翰·哈文斯(John C. Havens)強調(diào)了制定人工智能領(lǐng)域“標(biāo)準(zhǔn)”的重要性。作為IEEE全球自動化及智能系統(tǒng)倫理倡議執(zhí)行主任，他表示，好的標(biāo)準(zhǔn)應(yīng)該容納廣泛參與，由各行各業(yè)的專家和從業(yè)人員、更多的年輕人以及不同國家和文化的人來共同制定。在約翰·哈文斯的論述的基礎(chǔ)上，黑斯廷斯中心顧問，耶魯大學(xué)生物倫理學(xué)跨學(xué)科中心科技與倫理學(xué)科主任溫德爾·瓦拉赫(Wendell Wallach)補充討論了如何將標(biāo)準(zhǔn)、規(guī)范和建議，真正落實到社會生產(chǎn)和生活中。

　　中國學(xué)者們在演講中回應(yīng)了不久前發(fā)布的《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，他們十分關(guān)注中國在該領(lǐng)域與國際社會的互動。

　　“美國、歐洲、日本這些世界主要的經(jīng)濟體都出臺了自己的人工智能的戰(zhàn)略?！敝袊娮有畔a(chǎn)業(yè)發(fā)展研究院(賽迪研究院)政策法規(guī)所所長欒群說：“但我相信我們也需要立足于中國文化的背景原則和規(guī)則?！弊鳛椤缎乱淮斯ぶ悄苤卫碓瓌t》的主要設(shè)計者之一，中國科學(xué)院自動化研究所的類腦智能研究中心副主任曾毅表示，AI的全球治理原則，其宗旨歸根結(jié)底是以人為核心?！拔覀冃枰环N戰(zhàn)略性的設(shè)計來指導(dǎo)人工智能在未來30-40年的發(fā)展，”曾毅說：“我們需要將中國自身的哲學(xué)、思維和理念與世界分享，共同打造一個共享的未來?！?/p>

　　與曾毅所說的中國傳統(tǒng)哲學(xué)中的“和諧”觀念相呼應(yīng)，香港中文大學(xué)系統(tǒng)工程與工程管理學(xué)系教授蒙美玲(Helen Meng)認為，“人類和人工智能可以實現(xiàn)一種‘共生’的關(guān)系，就像小丑魚和?？粯?，他們互相依賴、互相保護?！被谌斯ぶ悄芘c語言認知相關(guān)的項目研究，蒙美玲表達了人類可以通過AI打造“最優(yōu)工具”，進而服務(wù)于社會福祉的積極展望。

　　會議進行了兩輪的小組座談，國際國內(nèi)各行業(yè)共16位專家學(xué)者作為嘉賓，圍繞“人工智能”與“國際治理”展開了討論，并于與會的媒體、觀察員、學(xué)生和聽眾們進行了活躍的互動。

　　(格雷戈里·艾倫談如何讓人工智能朝著“安全”的方向發(fā)展)

　　對于人工智能技術(shù)本身的發(fā)展，各國專家學(xué)者提出了豐富多樣的觀點。新美國安全中心兼職高級研究員格雷戈里·艾倫(Gregory Allen)打了個比方，他說，電剛投入使用時，出現(xiàn)過許多問題，包括大量的事故和失火，人類不斷完善技術(shù)，尤其對電的安全給予了高度的重視和投入，現(xiàn)在電已經(jīng)是非常安全的技術(shù)。因此，人們需要更多思考如何讓人工智能朝著“安全”的方向發(fā)展。馬孔·福斯特(Malcolm Forster)是復(fù)旦大學(xué)哲學(xué)學(xué)院特聘教授，他認為，描述人工智能技術(shù)本身的概念和語言，解釋這個技術(shù)的方式，應(yīng)該便于人們獲取和理解。他相信在“理解”的基礎(chǔ)上才能制定更好的政策，實現(xiàn)更好的治理。清華大學(xué)人工智能研究院常務(wù)副院長孫茂松教授則表示，人工智能并不是“無所不能”的，“AlphaGo”也是在特定的條件，明確的邊界和單一的任務(wù)下才表現(xiàn)出優(yōu)勢。他說，正如機器翻譯可以用在旅游中卻很少用于外交場合，《孫子兵法》的出其不意只能教給人卻無法教給機器，有很多事是人工智能做不到的。孫茂松認為，人工智能相關(guān)的討論很有價值，但政策和規(guī)范不宜超前。

　　人工智能與軍事相結(jié)合的問題也得到關(guān)注。斯德哥爾摩國際和平研究所的高級研究員司樂如(Lora Saalman)表示，人工智能的軍事化運用也是“雙刃劍”。它擁有的“機器學(xué)習(xí)”和“自主能力”既可以增加預(yù)警、防御、偵查、模擬能力，增強穩(wěn)定性，也可以改善非戰(zhàn)略核武器和導(dǎo)彈系統(tǒng)，推動軍備競賽，加劇不對稱性，從而帶來不穩(wěn)定性。布魯金斯學(xué)會外交政策項目客座研究員湯姆·斯特凡尼克(Tom Stefanick)則認為，現(xiàn)代AI并不大可能在可預(yù)見的未來改變大多數(shù)軍事系統(tǒng)，隨著持續(xù)性的在基礎(chǔ)人工智能、算法研究等方面的國際合作，AI的發(fā)展也不會帶來軍事方面的巨大差距。新美國安全中心高級研究員兼主任保羅·斯査瑞(Paul Scharre)則強調(diào)了“人”的重要性。他認為人類的大腦是最好、最先進的認知系統(tǒng)，在軍事決策中，人類應(yīng)當(dāng)保持對人工智能的控制，由人類而不是機器做決策。

　　網(wǎng)絡(luò)安全也是人們關(guān)注的問題。北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括談到，新技術(shù)攻擊、新內(nèi)容攻擊、新內(nèi)容犯罪將是人工智能帶來的網(wǎng)絡(luò)安全挑戰(zhàn)。蘭德公司副首席技術(shù)官蘭德·沃茲曼(Rand Waltzman)則表達了對“黑客”問題的擔(dān)憂。他表示在AI領(lǐng)域三十多年的從業(yè)經(jīng)驗體會是，最大的問題是防范AI黑客行為，這一話題雖然較少出現(xiàn)在相關(guān)討論中，但其風(fēng)巨大，不可忽視。

　　結(jié)合企業(yè)創(chuàng)新經(jīng)驗，地平線創(chuàng)始人兼 CEO余凱，以及騰訊信息安全執(zhí)行委員會主任楊鵬，也分別以“計算的趨勢”和“科技向善”為關(guān)鍵詞進行了分享，表達了企業(yè)與研究機構(gòu)共同努力，打造更加安全、可靠的人工智能技術(shù)的決心和希望。

　　(地平線CEO余凱介紹“計算的趨勢”)

　　會議還為青年提供了發(fā)聲的舞臺。在清華大學(xué)交叉信息研究院助理教授于洋的帶領(lǐng)下，清華大學(xué)電子工程系大三年級的騰龍和蔣建平兩位同學(xué)，發(fā)布了戰(zhàn)略與安全研究中心人工智能項目組的最新社會調(diào)研報告《中國青年視角下的人工智能風(fēng)險與治理》。他們表示，相比較專家學(xué)者們對AI在政治、軍事、安全等領(lǐng)域的關(guān)注，青年群體更加關(guān)注AI對經(jīng)濟和社會的影響。在他們的調(diào)查中，青年群體對人工智能與就業(yè)、消費、個人信息安全等問題有較高的關(guān)注。

　　(《中國青年視角下的人工智能風(fēng)險與治理》社會調(diào)研報告發(fā)布)

　　在場的嘉賓、觀察員和聽眾也和發(fā)言的專家學(xué)者們進行了熱烈的討論，話題涵蓋與AI相關(guān)的政策、教育、環(huán)境等各個方面。會議主持人傅瑩感謝了所有參與會議與討論的來賓，以及投入該領(lǐng)域的青年人們，希望大家的研究和討論不斷深入?！扒迦A大學(xué)主辦的這個論壇叫世界和平論壇，”傅瑩說，“盡管形勢波云詭譎，只要我們都相信和平，我們就有理由繼續(xù)努力前行。”