新聞中心news 
CQ9電子官網(wǎng)“接管數字世界”的AI需要適配怎樣的監管框架
2024-09-28 08:13:42
瀏覽次數：
次
返回列表
CQ9電子官網(wǎng)“接管數字世界”的AI需要適配怎樣的監管框架“生成式AI最大的想象力，絕不是在手機屏幕上做一兩個(gè)新的超級APP，而是接管數字世界，改變物理世界?！?/p>
這是阿里巴巴集團CEO吳泳銘在2024云棲大會(huì )上發(fā)表的觀(guān)點(diǎn)，也展示了業(yè)界對未來(lái)人工智能應用圖景的設想：在應用范圍上，AI將涵蓋數字世界、物理世界的方方面面；在應用深度上，大模型在內容轉化與生成、輔助人類(lèi)工作等現有職能外會(huì )被賦予更多主動(dòng)性，以至能夠“接管、改變世界”。
這種設想一方面展現了人工智能未來(lái)的發(fā)展潛力與應用方向，另一方面也隱約帶來(lái)了技術(shù)高速發(fā)展下的安全憂(yōu)慮——對于目前應用尚窄且功能有限的大模型，如何保證其內容輸出和行為邏輯安全可控已難點(diǎn)重重。而一個(gè)能夠接管、改變世界的超級人工智能，必然會(huì )涉及更廣泛的社會(huì )安全與利益，如何在A(yíng)I技術(shù)演進(jìn)的過(guò)程中逐步完善對AI的監督、控制能力，將是在大模型廣泛應用過(guò)程中需要同步關(guān)注的重點(diǎn)問(wèn)題。
在本屆云棲大會(huì )同步舉辦的“數智未來(lái)，責任同行：AI倫理與安全”分論壇上，來(lái)自法學(xué)、計算機、產(chǎn)業(yè)、監管等多領(lǐng)域的專(zhuān)家針對AI發(fā)展的現狀和前景，展開(kāi)了進(jìn)一步的交流與討論。
就目前大模型發(fā)展過(guò)程中出現的典型問(wèn)題來(lái)看，數據、算法與內容是安全威脅頻發(fā)的關(guān)鍵環(huán)節，這一方面是由于其直接與人工智能的輸入輸出環(huán)節相關(guān)聯(lián)，另一方面也直接作用于人類(lèi)社會(huì )，對人們的生產(chǎn)生活產(chǎn)生影響。
在數據領(lǐng)域，據媒體報道，三星電子在引入ChatGPT不到20天后，便被爆出機密資料外泄的意外事件，涉及半導體設備測量資料、產(chǎn)品良率等內容，傳已經(jīng)被存入ChatGPT的數據庫中；在內容安全方面，近日國內多個(gè)品牌兒童手表安裝的大模型應用被有毒數據污染，導致其搜索出歧視中國人內容的問(wèn)題亦受到廣泛重視。
北京大學(xué)教授，法制與發(fā)展研究院執行院長(cháng)王錫鋅在論壇發(fā)言中表示，由于法律等并非與技術(shù)研發(fā)直接相關(guān)的研究領(lǐng)域，往往難以在其發(fā)展的第一時(shí)間就對其充分了解和介入，因而在對人工智能的管理中往往存在各類(lèi)過(guò)期的安全觀(guān)。
例如，歐盟在立法過(guò)程中，從GDPR到數字市場(chǎng)法再到近期的人工智能法案，都有很明顯的以為中心的導向，但其也存在超出產(chǎn)業(yè)發(fā)展階段的“價(jià)值迷信”問(wèn)題，容易導致產(chǎn)業(yè)空心化的布魯塞爾效應；再如，對于人工智能這樣不斷迭代發(fā)展的技術(shù)，法律規則的設計面臨著(zhù)極高難度，要警惕在此過(guò)程中的“立法迷信”，避免法律出臺的滯后。
他進(jìn)一步表示，對于前者，價(jià)值在本質(zhì)上需要可落地、可實(shí)現，要考慮其技術(shù)可行性及成本；對于后者，可以在立法路徑上將“硬法”與“軟法”相結合，“硬法”緩行，“軟法”先行?？傮w而言，要在治理框架上統籌安全與發(fā)展。
從立法進(jìn)度來(lái)看，國內的監管框架建設基本也與產(chǎn)業(yè)發(fā)展實(shí)際相同步CQ9電子平臺。近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內容標識辦法（征求意見(jiàn)稿）》，為AI生成內容標識提供了規范標準，主要是對當前已在社會(huì )中廣泛應用的大模型內容輸出應用進(jìn)行管理。
中國信通院安全所副總工楊劍鋒在論壇發(fā)言中表示，就目前的產(chǎn)業(yè)實(shí)踐而言，目前主要集中于對模型內部的安全檢測，其方法也較為成熟，但對于近期興起的多模態(tài)大模型，例如今年OpenAI推出的視頻生成模型Sora，其在不同應用場(chǎng)景下的測評標準和安全措施尚在起步摸索階段。
在治理思路明確的同時(shí)，哪些主體、采用何種手段、以怎樣的形式切入大模型研發(fā)應用的過(guò)程，亦是各類(lèi)監管標準落地面臨的實(shí)際問(wèn)題。從大模型公司、行業(yè)機構和監管部門(mén)目前的實(shí)踐經(jīng)驗來(lái)看，其正在各索不同的方法與路徑。
浙江大學(xué)計算機學(xué)院院長(cháng)、區塊鏈與數據安全全國重點(diǎn)實(shí)驗室常務(wù)副主任任奎在論壇發(fā)言中表示，大模型在訓練、開(kāi)發(fā)、部署和維護等不同階段面臨不同的安全威脅，需要分階段分步分層次對其進(jìn)行衡量與評測。
他以浙大網(wǎng)安在人工智能安全評測、深度合成檢測、合成內容標識三方面研發(fā)的安全技術(shù)平臺為例，指出相關(guān)的技術(shù)平臺需要在間接信任的框架下，兼顧評測覆蓋面、評測效率、可解釋性等多個(gè)維度。
而在第三方研究機構之外，作為大模型產(chǎn)業(yè)開(kāi)發(fā)的直接參與者，業(yè)界對技術(shù)進(jìn)展中產(chǎn)生問(wèn)題的感知要更為敏銳，對于如何在高頻更新的項目研發(fā)和商業(yè)應用過(guò)程中，同時(shí)保證用戶(hù)的使用安全和大模型本身的安全，頭部廠(chǎng)商的經(jīng)驗做法提供了重要的行業(yè)參考。
通義實(shí)驗室安全負責人張榮在本次論壇發(fā)言中表示，安全、可靠、可信賴(lài)、可用是通義大模型治理的基本目標。其中，安全需要多方協(xié)同共治共同參與，可靠則意味著(zhù)大模型輸出的結果需要是穩定的而非脆弱的，可信則要保證大模型的決策是能夠被觀(guān)測和理解的，可用則是在上述條件被滿(mǎn)足后產(chǎn)品能夠適用于各類(lèi)場(chǎng)景。
同時(shí)他也強調，作為服務(wù)提供商，一方面需要積極引入國家的強制性標準，推動(dòng)落地方案，另一方面也要保持與業(yè)界的廣泛溝通聯(lián)動(dòng)，用模型開(kāi)源等方式提升其透明度與可信度。
“廠(chǎng)商發(fā)布的內容不追求所有技術(shù)小白都能看懂，但是要保證業(yè)界能夠理解我們做內審安全的方式，以及安全測試的結果，從而快速驗證某一類(lèi)方法的安全性，在此基礎上加以完善?！?張榮表示。
