網(wǎng)絡(luò)安全技術(shù)高峰論壇觀察：大咖聚首共話人工智能

11日下午，2023國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇——網(wǎng)絡(luò)安全技術(shù)高峰論壇在榕舉辦，黨政機(jī)關(guān)、高等院校、科研機(jī)構(gòu)、知名企業(yè)代表等，圍繞“人工智能發(fā)展與治理”主題，聚焦新技術(shù)、新應(yīng)用、新情況、新問題，分享研究成果，碰撞智慧火花，助力網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)。

大模型催生“效率革命”

重塑智能應(yīng)用

論壇現(xiàn)場(chǎng)，大模型成為嘉賓們關(guān)注的焦點(diǎn)。所謂大模型，即指以ChatGPT為代表的各類基于大量數(shù)據(jù)生成的預(yù)訓(xùn)練模型，這些模型也被視為開啟人工智能時(shí)代的“金鑰匙”。

粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長(zhǎng)沈向洋分享了大模型的五點(diǎn)思考和五個(gè)問題。“人人都離不開大模型，不同的應(yīng)用場(chǎng)景需要不同的大模型，懂語言者得天下，包括文字語言、數(shù)學(xué)語言、編程語言、低代碼語言和提示語言。”沈向洋認(rèn)為，大模型將橫掃垂直行業(yè)，對(duì)所有行業(yè)產(chǎn)生重要影響。怎樣才能建造大模型？他給出的答案是創(chuàng)新主體和創(chuàng)新環(huán)境，“算力是關(guān)鍵”。

騰訊云副總裁、騰訊優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲認(rèn)為，國(guó)內(nèi)大模型“百花齊放”，產(chǎn)業(yè)落地已過“嘗鮮期”，產(chǎn)業(yè)實(shí)踐成為衡量這些模型價(jià)值的重要標(biāo)準(zhǔn)。“大模型催生‘效率革命’，為產(chǎn)業(yè)提質(zhì)增效，可以通過‘兩心兩力’（好奇心、同理心、表達(dá)力、判斷力）打造更和諧的人機(jī)協(xié)同，通過科技向善，建設(shè)塑造負(fù)責(zé)任的人工智能生態(tài)。”

當(dāng)大語言模型與哲學(xué)相遇，會(huì)碰撞出怎樣的火花？復(fù)旦大學(xué)哲學(xué)學(xué)院教授、博士生導(dǎo)師徐英瑾，將AI應(yīng)用比作“缺乏現(xiàn)代科技知識(shí)的部落酋長(zhǎng)”，雖然在看完來自文明世界的游客將一堆零件拼接成摩托車后，酋長(zhǎng)也貌似成功拼出來一輛，但徐英瑾認(rèn)為，“他只是記住了次序，而沒有理解摩托車內(nèi)部的機(jī)理，這種‘機(jī)理’就是一種知識(shí)圖譜。”

“在‘思維鏈’技術(shù)的加持下，ChatGPT可能依托人類既有知識(shí)圖譜給出正確答案，但是它能否真正幫助機(jī)器把握相關(guān)的知識(shí)圖譜呢？”徐英瑾拋出的這一問題引人深思。

國(guó)產(chǎn)AI大模型產(chǎn)品

開始造福于民

文心一言、百川大模型……繼ChatGPT之后，國(guó)產(chǎn)AI市場(chǎng)風(fēng)起云涌，全國(guó)11家通過《生成式人工智能服務(wù)管理暫行辦法》備案的AI大模型產(chǎn)品將陸續(xù)上線，面向全社會(huì)開放，這意味著大眾能夠使用我國(guó)自主研發(fā)的AI產(chǎn)品，自由從事對(duì)話、創(chuàng)意寫作、代碼生成、虛擬對(duì)話等多項(xiàng)人工智能服務(wù)。

論壇現(xiàn)場(chǎng)，北京百川智能科技有限公司創(chuàng)始人王小川展示了一首由百川大模型寫出來的詩(shī)詞。“基于大模型，智能時(shí)代將把信息時(shí)代的‘工具’化為‘伙伴’，信息連接將轉(zhuǎn)變?yōu)?lsquo;陪伴、知識(shí)、經(jīng)驗(yàn)與服務(wù)’。”展望中國(guó)通用人工智能發(fā)展的未來，王小川如是說。

人工智能在人類社會(huì)的應(yīng)用遠(yuǎn)不只有“寫詩(shī)”創(chuàng)作，如今AI醫(yī)療也能“看病”。

“讓一名醫(yī)生從上萬張圖像中找到一個(gè)癌癥病灶和標(biāo)志，無異于大海撈針，但是在腦轉(zhuǎn)移瘤AI檢測(cè)系統(tǒng)的幫助下，檢測(cè)敏感度與閱讀時(shí)間將大為減少，打破轉(zhuǎn)移瘤的‘影像迷宮’。”上海聯(lián)影智能醫(yī)療科技有限公司研發(fā)副總經(jīng)理、首席架構(gòu)師沈振輝說，憑借“文本+影像”大模型的開發(fā)應(yīng)用，未來，AI將在影像中心、手術(shù)室、病房更多醫(yī)療場(chǎng)景中得到廣泛應(yīng)用，真正造福于民。

加強(qiáng)治理

探索人工智能更多可能

AI在為大眾帶來諸多便利與變革的同時(shí)，也帶來“一本正經(jīng)的胡說八道”“不完美的數(shù)據(jù)源”“更難被察覺的AI謠言”等困惑，如何讓這把“雙刃劍”更好地服務(wù)人類？

清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍認(rèn)為，面對(duì)挑戰(zhàn)，我國(guó)已經(jīng)開展了相關(guān)探索，加強(qiáng)技術(shù)理論研究，提高內(nèi)生產(chǎn)安全水平，持續(xù)構(gòu)建第三代人工智能，加強(qiáng)技術(shù)手段建設(shè)，提升訓(xùn)練數(shù)據(jù)質(zhì)量和安全評(píng)測(cè)能力，并在人臉AI安全防火墻、人工智能安全靶場(chǎng)等方面取得實(shí)踐成果。

如何解決大模型基于海量非中文數(shù)據(jù)產(chǎn)生的“英文思維”？北京大學(xué)人工智能研究院副院長(zhǎng)、北京智源人工智能研究院院長(zhǎng)黃鐵軍建議，建設(shè)高質(zhì)量中文數(shù)據(jù)集。他希望，各方共建大規(guī)模高質(zhì)量中文數(shù)據(jù)庫(kù)，促進(jìn)中文網(wǎng)頁(yè)數(shù)據(jù)匯聚、處理及開放，相關(guān)政府部門出臺(tái)書籍、期刊論文等版權(quán)數(shù)據(jù)用于大模型訓(xùn)練的相關(guān)政策及規(guī)范，盤活我國(guó)高質(zhì)量中文數(shù)據(jù)資源，加快數(shù)據(jù)處理相關(guān)標(biāo)準(zhǔn)、技術(shù)、工具和支撐平臺(tái)研發(fā)，提高數(shù)據(jù)處理效率。

“在發(fā)展中治理，在治理中發(fā)展。”華為云首席技術(shù)官?gòu)堄铌空J(rèn)為，可通過打造多角色協(xié)同的治理體系、基于應(yīng)用場(chǎng)景風(fēng)險(xiǎn)分級(jí)的治理、建立卓越的標(biāo)準(zhǔn)和測(cè)試認(rèn)證能力、構(gòu)建包含的國(guó)際多邊治理機(jī)制，攜手共建負(fù)責(zé)任、可信賴的人工智能治理體系。

“我們可以利用人工智能的最新技術(shù)，提出更加高效安全的解決方案。”福建師范大學(xué)計(jì)算機(jī)與網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)許力現(xiàn)場(chǎng)分享了人工智能在移動(dòng)社會(huì)網(wǎng)絡(luò)安全的應(yīng)用，展示了團(tuán)隊(duì)圍繞隱私保護(hù)、可控傳播和異常檢測(cè)等三方面開展的系列研究成果，讓現(xiàn)場(chǎng)觀眾受益匪淺。（記者 王玉萍 沐方婷）