今年7月，中央政治局召開(kāi)會(huì)議，分析研究當(dāng)前經(jīng)濟(jì)形勢(shì)，部署下半年經(jīng)濟(jì)工作。會(huì)議強(qiáng)調(diào)，要推動(dòng)數(shù)字經(jīng)濟(jì)與先進(jìn)制造業(yè)、現(xiàn)代服務(wù)業(yè)深度融合，促進(jìn)人工智能安全發(fā)展。圍繞人工智能安全發(fā)展的一系列問(wèn)題，學(xué)習(xí)時(shí)報(bào)高端智庫(kù)版組織了此次三方筆談。 

 

做好人工智能發(fā)展的風(fēng)險(xiǎn)防范

中國(guó)科學(xué)技術(shù)信息研究所黨委書(shū)記、所長(zhǎng) 科技部新一代人工智能發(fā)展研究中心主任 趙志耘

 

　　當(dāng)前，ChatGPT類(lèi)大模型加速了數(shù)字世界和物理世界的深度融合，引領(lǐng)人工智能進(jìn)入新的發(fā)展階段。與此同時(shí)，人工智能固有的不確定性、不透明性、難以解釋、事實(shí)性錯(cuò)誤等能力局限，對(duì)經(jīng)濟(jì)發(fā)展、國(guó)際政治和全球治理等方面帶來(lái)深遠(yuǎn)影響，引發(fā)了全球?qū)Υ竽Ｐ蛷V泛應(yīng)用安全風(fēng)險(xiǎn)的熱議。如何應(yīng)對(duì)人工智能風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動(dòng)，有效保障國(guó)家安全，已成為我國(guó)國(guó)家安全治理的重要議題。

 

　　大模型技術(shù)引發(fā)新的安全風(fēng)險(xiǎn)和治理挑戰(zhàn)。隨著技術(shù)的更新迭代，人工智能的應(yīng)用門(mén)檻持續(xù)降低，伴隨著誤用濫用情況的增加，經(jīng)濟(jì)社會(huì)領(lǐng)域的多重安全風(fēng)險(xiǎn)也在交織疊加。

 

　　一是放大隱私信息泄露風(fēng)險(xiǎn)。當(dāng)前，人工智能開(kāi)發(fā)者和服務(wù)提供者可能利用用戶(hù)數(shù)據(jù)進(jìn)行優(yōu)化訓(xùn)練，但相關(guān)服務(wù)條款卻并未對(duì)數(shù)據(jù)使用做出解釋說(shuō)明，可能涉及在用戶(hù)不知情情況下收集個(gè)人信息、商業(yè)秘密等，安全風(fēng)險(xiǎn)較為突出。為保護(hù)個(gè)人信息安全，部分歐洲國(guó)家對(duì)大模型進(jìn)行了嚴(yán)格監(jiān)管和審查，甚至考慮禁止ChatGPT等人工智能應(yīng)用。

 

　　二是輿論引導(dǎo)與文化滲透風(fēng)險(xiǎn)。在輿論和文化領(lǐng)域，人工智能技術(shù)可被用于算法引導(dǎo)、平臺(tái)滲透、網(wǎng)絡(luò)監(jiān)控、內(nèi)容生成等信息處理環(huán)節(jié)，由大模型驅(qū)動(dòng)的文本創(chuàng)作工具可能產(chǎn)生頗具影響力或說(shuō)服力的信息，使得虛假信息不易被識(shí)破，負(fù)面輿情傳播速度加快，進(jìn)而導(dǎo)致侵犯他人合法權(quán)益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序，甚至危害國(guó)家安全和社會(huì)公共利益。

 

　　三是情報(bào)軍事領(lǐng)域應(yīng)用的新威脅。人工智能的自動(dòng)生成代碼功能使黑客技術(shù)的習(xí)得過(guò)程更為容易，使網(wǎng)絡(luò)攻防的更新頻率大幅提升。利用ChatGPT類(lèi)大模型可以幫助機(jī)器學(xué)習(xí)識(shí)別更加復(fù)雜的文本及實(shí)體，或?qū)U(kuò)大無(wú)人軍用智能無(wú)人裝備的應(yīng)用，增大軍事對(duì)峙摩擦，對(duì)國(guó)家安全帶來(lái)嚴(yán)峻挑戰(zhàn)。

 

　　加快推進(jìn)人工智能安全治理。面對(duì)人工智能技術(shù)快速發(fā)展、風(fēng)險(xiǎn)持續(xù)蔓延的形勢(shì)，增強(qiáng)人工智能的安全性成為國(guó)際組織、各國(guó)政府及產(chǎn)業(yè)界等共同關(guān)注的議題。

 

　　我國(guó)高度重視人工智能安全問(wèn)題，不斷加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，建立健全人工智能安全治理體系，對(duì)人工智能技術(shù)本身所致的內(nèi)生安全、人工智能應(yīng)用中的衍生安全以及影響和決定人工智能前景的發(fā)展安全問(wèn)題進(jìn)行系統(tǒng)性治理，確保人工智能安全、可靠、可控。

 

　　2017年，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，對(duì)人工智能治理工作進(jìn)行了專(zhuān)門(mén)部署，并要求建立人工智能安全監(jiān)管和評(píng)估體系。我國(guó)不斷完善數(shù)據(jù)安全、網(wǎng)絡(luò)安全、人工智能等相關(guān)法律制度建設(shè)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)。研究制定算法推薦、深度合成、生成式人工智能等領(lǐng)域的管理規(guī)定，對(duì)人工智能發(fā)展進(jìn)行引導(dǎo)和規(guī)范，保障相關(guān)技術(shù)產(chǎn)品的有序發(fā)展。先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》，為人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用設(shè)定道德約束，促使人工智能更好地服務(wù)于人類(lèi)。此外，我國(guó)也積極參與全球人工智能治理，堅(jiān)持倫理先行、和平利用、安全可控等治理原則，呼吁加強(qiáng)對(duì)人工智能軍事應(yīng)用的監(jiān)管，以負(fù)責(zé)任的態(tài)度促進(jìn)人工智能安全治理。

 

　　推動(dòng)形成人工智能安全治理的強(qiáng)大合力。盡管已開(kāi)展一系列治理行動(dòng)，但人工智能安全治理還面臨諸多全球共性難題。人工智能技術(shù)目前并不具備較強(qiáng)的可解釋性、準(zhǔn)確性和真實(shí)性，難以完全實(shí)現(xiàn)人工智能治理所倡導(dǎo)的透明度、可靠性和安全性。如何在創(chuàng)新發(fā)展和有效監(jiān)管之間取得平衡也是各國(guó)普遍面臨的問(wèn)題。既要避免過(guò)度監(jiān)管阻礙技術(shù)發(fā)展，也要防止管理力度不夠而引發(fā)嚴(yán)重問(wèn)題。

 

　　當(dāng)前，人工智能影響下的國(guó)際科技、經(jīng)濟(jì)及政治領(lǐng)域發(fā)生沖突的可能性日益增大。我國(guó)正處在人工智能技術(shù)快速發(fā)展的階段，必須堅(jiān)持貫徹總體國(guó)家安全觀，構(gòu)建多元參與、協(xié)同共治的人工智能治理機(jī)制，調(diào)動(dòng)各主體參與治理的積極性，促進(jìn)人工智能與經(jīng)濟(jì)社會(huì)健康有序融合，以高水平科技安全保障國(guó)家總體安全。一是建立健全人工智能安全治理機(jī)制。堅(jiān)持審慎監(jiān)管、開(kāi)放包容原則，強(qiáng)化風(fēng)險(xiǎn)研判和監(jiān)測(cè)預(yù)警，完善科技倫理審查和監(jiān)管制度。二是增強(qiáng)法治保障能力。加快推進(jìn)人工智能立法，開(kāi)展生成式人工智能、信息安全利用等法律問(wèn)題研究，建立追溯和問(wèn)責(zé)機(jī)制，清晰界定人工智能相關(guān)主體權(quán)利、義務(wù)及責(zé)任邊界，從而保障各類(lèi)群體的合法權(quán)益。三是增強(qiáng)人工智能技術(shù)治理能力。強(qiáng)化人工智能數(shù)據(jù)安全、隱私保護(hù)等技術(shù)研發(fā)，強(qiáng)化對(duì)人工智能算法和模型的審計(jì)監(jiān)管和對(duì)人工智能系統(tǒng)安全性測(cè)試評(píng)估，增強(qiáng)抗系統(tǒng)性風(fēng)險(xiǎn)能力。四是增強(qiáng)國(guó)際安全合作能力。倡導(dǎo)以人為本、智能向善理念，在《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》等基礎(chǔ)上，發(fā)揮聯(lián)合國(guó)、G20、上合組織等多邊機(jī)制的作用，拓展人工智能安全共識(shí)，避免人工智能濫用帶來(lái)的安全風(fēng)險(xiǎn)。

 

推進(jìn)大模型賦能數(shù)智化應(yīng)用健康發(fā)展

中國(guó)科學(xué)院自動(dòng)化研究所副所長(zhǎng) 曾大軍

 

　　近年來(lái)，大模型技術(shù)飛速發(fā)展，極大提升了全球人工智能技術(shù)發(fā)展和應(yīng)用迭代速度，被認(rèn)為是“邁向通用人工智能的里程碑技術(shù)”。面對(duì)新一輪大模型引領(lǐng)的人工智能變革，加快推進(jìn)大模型賦能數(shù)智化應(yīng)用健康發(fā)展具有重要意義。

作為最成功的一類(lèi)大模型，大語(yǔ)言模型是一種包含大規(guī)模參數(shù)、使用大量文本數(shù)據(jù)訓(xùn)練出來(lái)的深度學(xué)習(xí)模型，展現(xiàn)了大模型的能力和基本技術(shù)框架。目前，這一技術(shù)思路和框架已被用來(lái)處理圖像、視頻等多模態(tài)數(shù)據(jù)，并被推廣應(yīng)用于機(jī)器人控制與智能決策等場(chǎng)景。各類(lèi)大模型正處于迅猛發(fā)展之中，眾多高科技企業(yè)紛紛投身大模型建設(shè)，圍繞大模型已經(jīng)形成相對(duì)成熟的技術(shù)框架，但產(chǎn)品和生態(tài)尚在發(fā)展形成之中?？傮w而言，大模型的技術(shù)發(fā)展歷程相比以往任何人工智能技術(shù)都更迅猛，其影響力也是史無(wú)前例的。

 

　　大模型的“大”主要體現(xiàn)在3個(gè)方面，即模型參數(shù)規(guī)模大、訓(xùn)練數(shù)據(jù)規(guī)模大和算力消耗需求大。模型參數(shù)方面，當(dāng)前主流大模型的參數(shù)規(guī)模通常在千億甚至萬(wàn)億級(jí)別，遠(yuǎn)遠(yuǎn)大于以往的各類(lèi)深度學(xué)習(xí)模型。訓(xùn)練數(shù)據(jù)方面，大模型在前期訓(xùn)練階段和后期調(diào)優(yōu)階段都需要海量的數(shù)據(jù)支撐，例如引爆大模型范式的聊天機(jī)器人ChatGPT，預(yù)訓(xùn)練數(shù)據(jù)量達(dá)到了45TB，其研發(fā)公司還在拉丁美洲等地區(qū)招募了約1000名員工，專(zhuān)門(mén)從事與大模型相關(guān)的訓(xùn)練數(shù)據(jù)標(biāo)注工作。算力需求方面，根據(jù)有關(guān)市場(chǎng)調(diào)查機(jī)構(gòu)估計(jì)，ChatGPT的運(yùn)行需要上萬(wàn)片最先進(jìn)的圖形處理芯片同時(shí)工作，耗電量巨大。

 

　　大模型已經(jīng)展現(xiàn)出驚人的能力，基于大語(yǔ)言模型的聊天機(jī)器人是以人機(jī)對(duì)話(huà)為接口的高效信息獲取、智能處理和內(nèi)容生成工具，能夠?qū)崿F(xiàn)高質(zhì)量的信息整合、翻譯和簡(jiǎn)單的問(wèn)題求解與規(guī)劃。其受到全社會(huì)廣泛關(guān)注，主要是它已經(jīng)初步具備通用人工智能的部分特性，包括通順的自然語(yǔ)言生成、全領(lǐng)域的知識(shí)體系覆蓋、跨任務(wù)場(chǎng)景的通用處理模型、通暢的人機(jī)交互接口。當(dāng)然，聊天機(jī)器人只是大模型的起點(diǎn)，大模型未來(lái)的發(fā)展趨勢(shì)也已初見(jiàn)端倪。

 

　　第一，大模型有望引領(lǐng)諸多行業(yè)的數(shù)智化創(chuàng)新發(fā)展。大模型的學(xué)習(xí)模式類(lèi)似人類(lèi)大腦，通過(guò)學(xué)習(xí)不同的數(shù)據(jù)，能夠形成多樣化的能力，不需要按照任務(wù)開(kāi)發(fā)定制化的算法。通過(guò)自然的人機(jī)交互，智能化地解決復(fù)雜問(wèn)題和實(shí)現(xiàn)輔助決策，推動(dòng)各行業(yè)體系變革和生態(tài)發(fā)展。例如，未來(lái)的信息系統(tǒng)可以由領(lǐng)域用戶(hù)通過(guò)與大模型的交互直接搭建和維護(hù)，“用戶(hù)即程序員”，顛覆信息系統(tǒng)研發(fā)和應(yīng)用范式。

 

　　第二，領(lǐng)域?qū)Ｓ煤洼p量化大模型是當(dāng)前技術(shù)研究的重點(diǎn)。大模型雖然已經(jīng)展現(xiàn)出諸多優(yōu)勢(shì)，但依然存在可靠性差、訓(xùn)練數(shù)據(jù)依賴(lài)、因果推理能力弱、搭建成本高等短板，在部分領(lǐng)域深度應(yīng)用上的表現(xiàn)弱于專(zhuān)用小模型。為了更充分地發(fā)揮大模型優(yōu)勢(shì)，金融、教育、醫(yī)療等領(lǐng)域?qū)Ｓ么竽Ｐ鸵讶〉昧穗A段性成果，有望促進(jìn)各項(xiàng)專(zhuān)業(yè)能力的涌現(xiàn)。

 

　　第三，大模型有望發(fā)展成為更加通用的人工智能。大模型起步于文本信息處理，現(xiàn)已涵蓋圖片、音視頻等多模態(tài)數(shù)據(jù)。在不久的將來(lái)，大模型將超越信息域，結(jié)合硬件設(shè)施，發(fā)展成為與物理和人類(lèi)世界互動(dòng)的具象智能，逐步縮小與真正的“通用人工智能”的差距。

 

　　雖然大模型展現(xiàn)的能力已經(jīng)讓全社會(huì)看到了通用人工智能的曙光，但當(dāng)前大模型也有一定的局限性。一方面，由于大模型自身結(jié)構(gòu)和機(jī)制漏洞，有被惡意攻擊的風(fēng)險(xiǎn)；另一方面，大模型自身的知識(shí)表達(dá)和學(xué)習(xí)模式還存在缺陷，導(dǎo)致其回答中經(jīng)常出現(xiàn)“幻覺(jué)”，如常識(shí)性錯(cuò)誤、杜撰內(nèi)容等。

 

　　推進(jìn)大模型賦能數(shù)智化應(yīng)用健康發(fā)展，應(yīng)堅(jiān)持規(guī)劃引領(lǐng)、需求帶動(dòng)、應(yīng)用導(dǎo)向、安全為基，引導(dǎo)、扶持和監(jiān)督大模型在更廣泛的領(lǐng)域應(yīng)用中長(zhǎng)計(jì)遠(yuǎn)慮、扎實(shí)落地、穩(wěn)步推進(jìn)。

 

　　首先，掌握技術(shù)主動(dòng)權(quán)，加快自主可控的國(guó)產(chǎn)大模型全鏈條建設(shè)。依托我國(guó)現(xiàn)有的人工智能人才基礎(chǔ)，構(gòu)建面向大模型與通用人工智能技術(shù)的平臺(tái)和隊(duì)伍。加大芯片、大數(shù)據(jù)、人工智能等產(chǎn)業(yè)的投入與整合力度，保障“海量數(shù)據(jù)”“頂尖人才”“算力支撐”的落地，推進(jìn)我國(guó)全階段自主可控大模型建設(shè)，掌握大模型技術(shù)發(fā)展的主動(dòng)權(quán)和話(huà)語(yǔ)權(quán)。大力支持國(guó)產(chǎn)大模型的下游技術(shù)攻關(guān)和產(chǎn)品推廣，促進(jìn)國(guó)產(chǎn)大模型產(chǎn)品的應(yīng)用落地和迭代升級(jí)。

 

　　其次，深化大模型應(yīng)用生態(tài)建設(shè)，構(gòu)建“通用大模型+專(zhuān)用小模型”的成熟應(yīng)用生態(tài)。早在大模型產(chǎn)生之前，基于領(lǐng)域經(jīng)驗(yàn)歸納和業(yè)務(wù)知識(shí)構(gòu)建的“小模型”已經(jīng)廣泛應(yīng)用于各行業(yè)。應(yīng)充分認(rèn)識(shí)并應(yīng)用好大模型和傳統(tǒng)小模型各自的特性，在推廣大模型產(chǎn)品的同時(shí)進(jìn)一步推進(jìn)小模型技術(shù)的升級(jí)和應(yīng)用，發(fā)揮好小模型輕量級(jí)、高效率、善于解決特定問(wèn)題的優(yōu)勢(shì)，逐步推進(jìn)大小模型融合的應(yīng)用生態(tài)。

 

　　最后，建立健全大模型安全審查制度與法律體系，從源頭規(guī)避大模型發(fā)展風(fēng)險(xiǎn)。推動(dòng)建立行之有效的數(shù)據(jù)審查機(jī)制和接入許可規(guī)范，從源頭把控大模型內(nèi)容安全性，并主動(dòng)參與全球人工智能模型使用規(guī)范的標(biāo)準(zhǔn)制定。同時(shí)，對(duì)于大模型可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行合理評(píng)估與審核，如歧視、仇恨言論、私人信息泄露、虛假信息、協(xié)助犯罪等。

 

鍛長(zhǎng)補(bǔ)短 打造人工智能產(chǎn)業(yè)新優(yōu)勢(shì)

安徽省合肥市人大常委會(huì)副主任，合肥高新區(qū)黨工委書(shū)記、管委會(huì)主任 宋道軍

 

　　隨著國(guó)內(nèi)外大模型相繼發(fā)布，全球掀起了人工智能發(fā)展新浪潮，開(kāi)啟了通用人工智能賦能千行百業(yè)的路徑，引領(lǐng)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展。我國(guó)人工智能發(fā)展在產(chǎn)業(yè)規(guī)模、應(yīng)用場(chǎng)景等方面具有一定競(jìng)爭(zhēng)優(yōu)勢(shì)，但算法、算力、數(shù)據(jù)和安全方面存在明顯短板。

近年來(lái)，合肥充分發(fā)揮人才、科創(chuàng)和產(chǎn)業(yè)融合發(fā)展優(yōu)勢(shì)，堅(jiān)持創(chuàng)新驅(qū)動(dòng)、平臺(tái)支撐、開(kāi)放共享、生態(tài)賦能，人工智能創(chuàng)新能力領(lǐng)先、產(chǎn)業(yè)聚鏈成群、綜合實(shí)力躋身全國(guó)前列。接下來(lái)，推進(jìn)人工智能安全發(fā)展，將以創(chuàng)新引領(lǐng)、鍛長(zhǎng)補(bǔ)短為主線(xiàn)，全力打造國(guó)內(nèi)領(lǐng)先、國(guó)際一流的人工智能創(chuàng)新策源、要素供給、場(chǎng)景應(yīng)用和安全治理高地。

 

　　打造創(chuàng)新策源高地，迸發(fā)產(chǎn)業(yè)動(dòng)能。我國(guó)人工智能領(lǐng)域核心技術(shù)創(chuàng)新較少，大模型研發(fā)所用的算法及相關(guān)核心技術(shù)絕大部分仍來(lái)自國(guó)外，國(guó)內(nèi)自研訓(xùn)練工具與國(guó)際主流相比仍存在一定差距，需在技術(shù)創(chuàng)新上取得新突破，打造產(chǎn)業(yè)發(fā)展核心動(dòng)力和競(jìng)爭(zhēng)力。一是不斷集聚和依托來(lái)自中國(guó)科大、國(guó)家實(shí)驗(yàn)室、綜合性國(guó)家科學(xué)中心等戰(zhàn)略科技力量的人工智能高能級(jí)創(chuàng)新平臺(tái)和高層次領(lǐng)軍人才團(tuán)隊(duì)，聚焦基礎(chǔ)理論研究、關(guān)鍵核心技術(shù)、核心支撐部件等領(lǐng)域，推動(dòng)核心算法、GPU芯片、云計(jì)算等關(guān)鍵技術(shù)突破，構(gòu)建自主可控大模型技術(shù)體系。二是推動(dòng)類(lèi)腦智能技術(shù)突破，研究神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)、知識(shí)推理等創(chuàng)新計(jì)算模型和方法，構(gòu)建新的通用人工智能發(fā)展路徑。三是推動(dòng)量子計(jì)算技術(shù)研發(fā)，突破量子比特操控、量子模擬加速、量子編譯等核心技術(shù)，推動(dòng)量子計(jì)算商用進(jìn)程。

 

　　打造要素供給高地，強(qiáng)化產(chǎn)業(yè)支撐。我國(guó)智能算力基礎(chǔ)薄弱，GPU芯片面臨“卡脖子”難題，可用于人工智能計(jì)算的智能算力嚴(yán)重不足，分布分散且異構(gòu)嚴(yán)重，統(tǒng)一調(diào)度難度大，缺乏大規(guī)模公益性開(kāi)放算力平臺(tái)；訓(xùn)練數(shù)據(jù)供給不足，中文語(yǔ)音、詞匯和語(yǔ)法多樣復(fù)雜，數(shù)據(jù)量雖大但數(shù)據(jù)質(zhì)量參差不齊，數(shù)據(jù)清洗和數(shù)據(jù)標(biāo)注難度較高，需在算力和數(shù)據(jù)支撐上開(kāi)展統(tǒng)籌建設(shè)和有效積累。一是支持相關(guān)龍頭企業(yè)聯(lián)合攻關(guān)，構(gòu)建千P智能算力集群，實(shí)現(xiàn)國(guó)產(chǎn)算力訓(xùn)練性能完全對(duì)標(biāo)國(guó)際領(lǐng)先企業(yè)，突破大模型訓(xùn)練算力底座的“卡脖子”難題。二是推動(dòng)大規(guī)模高質(zhì)量多渠道數(shù)據(jù)資源獲取、無(wú)監(jiān)督預(yù)訓(xùn)練數(shù)據(jù)清洗、人機(jī)協(xié)同的多模態(tài)眾包數(shù)據(jù)標(biāo)注平臺(tái)研發(fā)，構(gòu)建100TB以上超大規(guī)模多模態(tài)多語(yǔ)種數(shù)據(jù)資源，爭(zhēng)創(chuàng)國(guó)家級(jí)數(shù)據(jù)訓(xùn)練基地。三是推動(dòng)國(guó)產(chǎn)GPU、自然語(yǔ)言處理、數(shù)據(jù)挖掘、深度學(xué)習(xí)等領(lǐng)域企業(yè)集聚，構(gòu)建自主可控產(chǎn)業(yè)鏈體系。

 

　　打造場(chǎng)景應(yīng)用高地，提升產(chǎn)業(yè)能級(jí)。龐大人口基數(shù)產(chǎn)生的海量數(shù)據(jù)和背后的巨大市場(chǎng)需求，是我國(guó)人工智能產(chǎn)業(yè)發(fā)展得天獨(dú)厚的優(yōu)勢(shì)，需加速全時(shí)全域場(chǎng)景探索應(yīng)用。一是推動(dòng)“科研探索+”應(yīng)用示范，充分發(fā)揮人工智能技術(shù)在文獻(xiàn)數(shù)據(jù)獲取、實(shí)驗(yàn)預(yù)測(cè)、結(jié)果分析等方面的作用，支持域內(nèi)高校院所與人工智能企業(yè)聯(lián)合設(shè)立科研合作專(zhuān)項(xiàng)，研發(fā)科學(xué)智能計(jì)算模型，充分挖掘分析實(shí)驗(yàn)數(shù)據(jù)，學(xué)習(xí)、模擬、預(yù)測(cè)和發(fā)現(xiàn)各種現(xiàn)象與科學(xué)規(guī)律，爭(zhēng)取在量子信息、可控核聚變、深空探測(cè)等領(lǐng)域?qū)崿F(xiàn)創(chuàng)新突破。二是推動(dòng)“千行百業(yè)+”應(yīng)用示范，推動(dòng)國(guó)產(chǎn)大模型賦能地域聚力發(fā)展的產(chǎn)業(yè)地標(biāo)，在相關(guān)重點(diǎn)產(chǎn)業(yè)開(kāi)展大模型應(yīng)用示范，推出新能源和智能網(wǎng)聯(lián)汽車(chē)、工業(yè)互聯(lián)網(wǎng)、智能家居等行業(yè)大模型，并形成一批可復(fù)制推廣的細(xì)分領(lǐng)域應(yīng)用解決方案和標(biāo)桿型示范應(yīng)用案例。

 

　　打造安全治理高地，優(yōu)化產(chǎn)業(yè)環(huán)境。當(dāng)前，我國(guó)人工智能安全監(jiān)管面臨一些挑戰(zhàn)。數(shù)據(jù)保護(hù)方面，用戶(hù)信息泄露和濫用涉及的網(wǎng)絡(luò)和數(shù)據(jù)安全技術(shù)有待突破，數(shù)據(jù)保護(hù)相關(guān)法律制度不完善；算法安全方面，對(duì)算法偏見(jiàn)、算法設(shè)計(jì)公正性和普適性的監(jiān)管仍存在不足，需堅(jiān)持統(tǒng)籌發(fā)展和安全，加強(qiáng)風(fēng)險(xiǎn)防控。一是高水平、高標(biāo)準(zhǔn)建設(shè)“中國(guó)（合肥）安全谷”，爭(zhēng)取在AI大模型網(wǎng)絡(luò)、數(shù)據(jù)安全、算法安全、云安全等關(guān)鍵技術(shù)領(lǐng)域取得重大突破，形成一批具有全國(guó)競(jìng)爭(zhēng)力的網(wǎng)絡(luò)與數(shù)據(jù)安全核心產(chǎn)品和解決方案，全面提升網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)能力。二是完善風(fēng)險(xiǎn)防控和處置機(jī)制，遵守人工智能發(fā)展有關(guān)法律法規(guī)、倫理規(guī)范和技術(shù)標(biāo)準(zhǔn)，實(shí)行設(shè)計(jì)問(wèn)責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，防范和打擊數(shù)據(jù)濫用、侵犯用戶(hù)隱私等行為。

 

　　總之，打造人工智能產(chǎn)業(yè)新優(yōu)勢(shì)，需在技術(shù)、要素、場(chǎng)景和安全等多方面充分整合調(diào)度資源，各方合力推進(jìn)。國(guó)家層面應(yīng)重點(diǎn)支持大模型領(lǐng)域重大研發(fā)攻關(guān)項(xiàng)目，適度超前布局綠色智能的多層次算力設(shè)施體系，加強(qiáng)數(shù)據(jù)標(biāo)準(zhǔn)體系建設(shè)和完善數(shù)據(jù)交易機(jī)制，加快制定人工智能安全領(lǐng)域標(biāo)準(zhǔn)規(guī)范，鼓勵(lì)地方和企業(yè)積極探索創(chuàng)新通用人工智能場(chǎng)景應(yīng)用，推動(dòng)我國(guó)人工智能產(chǎn)業(yè)發(fā)展形成新優(yōu)勢(shì)、取得新進(jìn)步。

 

原標(biāo)題：人工智能如何發(fā)展更安全
學(xué)習(xí)時(shí)報(bào)
責(zé)任編輯：鄭繼民
頁(yè)面編輯：蘇偉