8月2日-3日，首屆全球數(shù)字經(jīng)濟(jì)大會(huì)在北京召開(kāi)。其中，人工智能產(chǎn)業(yè)治理論壇作為大會(huì)的平行論壇之一備受關(guān)注。8月3日，來(lái)自我國(guó)人工智能領(lǐng)域的頂尖科學(xué)家、學(xué)者以及知名企業(yè)家匯聚這場(chǎng)盛會(huì)，圍繞主題“探索創(chuàng)新、共舉擔(dān)當(dāng)”展開(kāi)前沿對(duì)話，共同發(fā)布首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》。

中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸，北京市海淀區(qū)區(qū)委副書(shū)記、區(qū)長(zhǎng)王合生，北京市大數(shù)據(jù)中心黨總支書(shū)記、副主任唐建國(guó)，中關(guān)村科學(xué)城管委會(huì)專職副主任、海淀區(qū)科信局局長(zhǎng)舒畢磊，中國(guó)信息通信研究院副總工程師王愛(ài)華，北京智源人工智能研究院執(zhí)行副院長(zhǎng)曹崗出席論壇。

人工智能創(chuàng)新發(fā)展，與安全治理深度協(xié)同

作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會(huì)建設(shè)和經(jīng)濟(jì)發(fā)展帶來(lái)了重大而深遠(yuǎn)的影響。人工智能在純技術(shù)層面是價(jià)值中立的，但在實(shí)際應(yīng)用中，兼具創(chuàng)造性和破壞性。數(shù)據(jù)隱私、算法偏見(jiàn)、技術(shù)濫用等安全問(wèn)題正給社會(huì)公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來(lái)嚴(yán)峻挑戰(zhàn)。

“人工智能與信息系統(tǒng)在安全性上有著顯著區(qū)別。信息系統(tǒng)安全性問(wèn)題主要是軟件設(shè)計(jì)中的漏洞，容易被解決。而第二代人工智能的安全性問(wèn)題主要來(lái)自深度學(xué)習(xí)算法本身的不安全，更加本質(zhì)、更難克服。”中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、瑞萊智慧首席科學(xué)家張鈸在主旨演講中率先破題。他指出，對(duì)人工智能進(jìn)行治理，防止它被誤用、制止它被濫用，一方面需要從法律法規(guī)、倫理規(guī)范、行業(yè)共識(shí)等不同層面去“治標(biāo)”，還應(yīng)從技術(shù)創(chuàng)新層面發(fā)力去“治本”。張鈸院士提出發(fā)展第三代人工智能技術(shù)，即融合了第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。

中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家曾毅認(rèn)為，人工智能的治理并不存在“發(fā)展優(yōu)先還是治理先行”的矛盾，人工智能穩(wěn)健發(fā)展的兩大前提是可持續(xù)發(fā)展和人工智能的善治，兩者深度協(xié)同。如何實(shí)現(xiàn)人工智能的可持續(xù)發(fā)展?曾毅提出了具體建議，即在人工智能產(chǎn)品設(shè)計(jì)、研究、開(kāi)發(fā)、部署、使用全生命周期嵌入倫理與治理，并形成政府、學(xué)術(shù)界、企業(yè)、公民社會(huì)、媒體、用戶、服務(wù)提供商等多方主動(dòng)共治的良性生態(tài)，使穩(wěn)健發(fā)展的人工智能賦能全球可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。曾毅教授表示，本次宣言的發(fā)布對(duì)企業(yè)具有重要參考作用并具初步的實(shí)操建議，將推動(dòng)政產(chǎn)學(xué)研各界加快形成多方共治體系，穩(wěn)步推進(jìn)構(gòu)建“負(fù)責(zé)任、可持續(xù)”的人工智能生態(tài)，賦能人類與生態(tài)的可持續(xù)發(fā)展。

中國(guó)社科院科技哲學(xué)研究室主任、科學(xué)技術(shù)和社會(huì)研究中心主任段偉文在演講中重點(diǎn)談到了數(shù)字時(shí)代的社會(huì)信任危機(jī)與重建。他說(shuō)，數(shù)字技術(shù)與人工智能產(chǎn)業(yè)發(fā)展的倫理風(fēng)險(xiǎn)帶來(lái)了諸多社會(huì)信任問(wèn)題，面對(duì)既防患未然也溯及既往的數(shù)字治理趨勢(shì)，人工智能企業(yè)應(yīng)直面社會(huì)許可的挑戰(zhàn)，認(rèn)真感知公眾對(duì)科技企業(yè)的認(rèn)知和評(píng)價(jià)。他建議人工智能企業(yè)不應(yīng)回避社會(huì)監(jiān)督，而是不斷思考、重塑科技的社會(huì)印象，技術(shù)改進(jìn)和倫理設(shè)計(jì)要齊頭并進(jìn)，攜手走向共建性的人工智能倫理治理。

中倫律師事務(wù)所合伙人陳際紅結(jié)合9月1日起即將施行的《中華人民共和國(guó)數(shù)據(jù)安全法》進(jìn)行了分享。人工智能治理的實(shí)現(xiàn)，需要多方參與、多元路徑。為人工智能的發(fā)展設(shè)定規(guī)則就是路徑之一，而法律就是制定硬規(guī)則。人工智能企業(yè)要遵守《數(shù)據(jù)安全法》開(kāi)展數(shù)據(jù)處理，達(dá)到的合規(guī)標(biāo)準(zhǔn)。

獨(dú)行快，眾行遠(yuǎn)。在主旨演講環(huán)節(jié)，嘉賓們?cè)诜窒碇羞_(dá)成共識(shí)：在推動(dòng)人工智能創(chuàng)新發(fā)展的道路上，只有從技術(shù)、倫理、法律三個(gè)維度“三管齊下”，才能實(shí)現(xiàn)安全治理的高效能。只有創(chuàng)新發(fā)展與安全治理深度協(xié)同，人工智能才能真正成為社會(huì)發(fā)展的有力工具，增進(jìn)人類福祉。

共擔(dān)科技使命，首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》發(fā)布

為了更好地推動(dòng)人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)穩(wěn)健發(fā)展，形成更完備規(guī)范的創(chuàng)新體系和產(chǎn)業(yè)生態(tài)，《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》在本次論壇上正式對(duì)外發(fā)布。

宣言由北京智源人工智能研究院、瑞萊智慧聯(lián)合發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)、愛(ài)筆科技、第四范式、出門(mén)問(wèn)問(wèn)等人工智能行業(yè)的核心骨干企業(yè)、學(xué)術(shù)研究機(jī)構(gòu)共同參與。

宣言包含五項(xiàng)倡議，首先強(qiáng)調(diào)，人工智能系統(tǒng)的設(shè)計(jì)、研發(fā)、實(shí)施和推廣應(yīng)符合可持續(xù)發(fā)展理念，以促進(jìn)社會(huì)安全和福祉為目標(biāo)，以尊重人類尊嚴(yán)和權(quán)益為前提。其次在技術(shù)能力方面，提出要最大限度確保人工智能系統(tǒng)安全可信，提高魯棒性及抗干擾性，要增強(qiáng)算法透明性和可解釋性，同時(shí)保障各方權(quán)利和隱私，對(duì)用戶數(shù)據(jù)提供充分的安全保障。

在行業(yè)踐行方面，宣言也給出了具體實(shí)現(xiàn)路徑，倡導(dǎo)企業(yè)積極參與探索和構(gòu)建開(kāi)源開(kāi)放協(xié)作共享機(jī)制和平臺(tái)，建立深度合作伙伴關(guān)系，推動(dòng)良好的產(chǎn)業(yè)生態(tài)形成。此外，企業(yè)還應(yīng)采取成立人工智能治理委員會(huì)或工作組、設(shè)立倫理研究院崗位或通過(guò)外部技術(shù)支持等多種方式極履行責(zé)任，從業(yè)者要具有高度社會(huì)責(zé)任感和自律意識(shí)，將人工智能倫理與治理原則、實(shí)踐貫穿于產(chǎn)品和服務(wù)的全生命周期。

北京瑞萊智慧科技有限公司CEO田天作為論壇承辦方與宣言核心參與方率先表示，讓人工智能更好地服務(wù)于人類，是行業(yè)共同的目標(biāo)，當(dāng)整個(gè)社會(huì)重新審視技術(shù)的價(jià)值，科技從業(yè)者更應(yīng)感受到科技治理的緊迫性和使命感，應(yīng)當(dāng)積極主動(dòng)開(kāi)展自治工作，同時(shí)開(kāi)放共享，共舉科技擔(dān)當(dāng)，將科技力量打造成為人工智能創(chuàng)新治理體系中的核心支撐。

多方積極響應(yīng)，探索科技治理新路徑

當(dāng)下正值經(jīng)濟(jì)深度智能化的發(fā)展階段，人工智能產(chǎn)業(yè)化已經(jīng)從點(diǎn)到面，滲透到更多行業(yè)特定場(chǎng)景，這也為相應(yīng)的風(fēng)險(xiǎn)治理和安全能力建設(shè)提出了新的要求。在科技向善的共同愿景下，眾多人工智能企業(yè)也在積極探索科技治理的新路徑。

百度技術(shù)委員會(huì)理事長(zhǎng)陳尚義在論壇上表示，人工智能科技治理既防范潛在風(fēng)險(xiǎn)，也要關(guān)注正向社會(huì)價(jià)值，這些社會(huì)價(jià)值與人民的美好生活、經(jīng)濟(jì)高質(zhì)量發(fā)展息息相關(guān)。百度秉持科技為更好地可持續(xù)發(fā)展理念，依托領(lǐng)先的人工智能技術(shù)能力和豐富產(chǎn)業(yè)的實(shí)踐經(jīng)驗(yàn)，不僅要達(dá)成自身的碳中和目標(biāo)，更要通過(guò)技術(shù)助力全社會(huì)節(jié)能減排。

安全能力的建設(shè)也要求核心技術(shù)的自主可控，出門(mén)問(wèn)問(wèn)創(chuàng)始人、CEO李志飛就以語(yǔ)音交互技術(shù)在智能車載場(chǎng)景應(yīng)用為例談到，車載作為與“安全”聯(lián)系密切相關(guān)的場(chǎng)景，創(chuàng)建自主可控的語(yǔ)音開(kāi)源工具，構(gòu)建可信賴的車載智能語(yǔ)音系統(tǒng)成為可控發(fā)展的關(guān)鍵。

這也是目前眾多企業(yè)積極探索的方向。第四范式聯(lián)合創(chuàng)始人、首席研究科學(xué)家陳雨強(qiáng)重點(diǎn)分享了人工智能在企業(yè)界和工業(yè)界應(yīng)用的觀察。他認(rèn)為通過(guò)解決數(shù)據(jù)使用形式，解決數(shù)據(jù)安全流通問(wèn)題，將使得人工智能達(dá)到全新的能力緯度。目前，第四范式也在積極推廣人工智能技術(shù)過(guò)程中的隱私保護(hù)工作。

阿里巴巴人工智能治理與可持續(xù)發(fā)展實(shí)驗(yàn)室首席科學(xué)家李朝說(shuō)，作為最大的數(shù)字經(jīng)濟(jì)平臺(tái)，發(fā)展可持續(xù)性人工智能技術(shù)，是阿里巴巴義不容辭的責(zé)任。而可持續(xù)性要更多的體現(xiàn)公平性，包容性以及更廣的可適用性，并積極探索一個(gè)可預(yù)測(cè)、可控、可協(xié)作，也更加個(gè)性化的治理模式。

輕舟智航聯(lián)合創(chuàng)始人、首席科學(xué)家大方介紹說(shuō)，輕舟智航注重傳統(tǒng)機(jī)器人技術(shù)與深度技術(shù)學(xué)習(xí)相結(jié)合，關(guān)注產(chǎn)品的價(jià)值觀，“我們希望所打造的人工智能技術(shù)能夠有所為也有所不為，能夠在安全、效率、環(huán)保這幾個(gè)方面大有所為。”

京東探索研究院算法科學(xué)家何鳳翔則表示，該院將一直對(duì)AI治理保持高度關(guān)注并展開(kāi)具有建設(shè)性的討論，對(duì)數(shù)據(jù)安全、隱私保護(hù)、道德倫理等重點(diǎn)議題進(jìn)行深度研究，推動(dòng)AI治理在社會(huì)運(yùn)轉(zhuǎn)和企業(yè)經(jīng)營(yíng)中落到實(shí)處。

本屆論壇，是促進(jìn)和加強(qiáng)可信AI建設(shè)的交流合作、共同致力于推動(dòng)人工智能產(chǎn)業(yè)良性發(fā)展、建設(shè)可信的未來(lái)智能社會(huì)的一次成功實(shí)踐。通過(guò)論壇交流互動(dòng)，深入探討了國(guó)內(nèi)各領(lǐng)域關(guān)于人工智能應(yīng)用安全方面的理念、方法和技術(shù)路徑，將有助于行業(yè)間增進(jìn)了解、加強(qiáng)合作、彼此借鑒，拓寬發(fā)展思路。在以安全為本的新格局下，發(fā)展的新舊動(dòng)能強(qiáng)勁轉(zhuǎn)換，隨著AI生態(tài)的逐步完善和發(fā)展，創(chuàng)新的邊界將會(huì)進(jìn)一步被打破，更多的技術(shù)融合也會(huì)不斷發(fā)生，構(gòu)筑安全可靠，可信賴的AI新核心，為企業(yè)智能化轉(zhuǎn)型夯實(shí)安全底座，助力企業(yè)核心應(yīng)用實(shí)現(xiàn)“質(zhì)”躍遷。

標(biāo)簽： 人工智能 產(chǎn)業(yè)治理論壇 科技治理 智能社會(huì)