向上向善！專家學(xué)者廈門共探算法治理的生態(tài)路徑

論壇現(xiàn)場。東南網(wǎng)記者 盧金福 攝

論壇現(xiàn)場。東南網(wǎng)記者 盧金福 攝

東南網(wǎng)7月19日報道（本網(wǎng)記者 盧金福）2023年中國網(wǎng)絡(luò)文明大會算法治理論壇昨日在廈門舉辦。論壇以“算法治理向上向善 網(wǎng)絡(luò)文明共建共享”為主題展開探討，來自算法領(lǐng)域的專家學(xué)者和企業(yè)代表通過主題演講等形式，聚焦人工智能技術(shù)發(fā)展的重點難點，立足算法綜合治理在新形勢下的迫切需求，共同探討人工智能技術(shù)創(chuàng)新發(fā)展新路徑、算法綜合治理新方法。

算法是數(shù)字社會、數(shù)字經(jīng)濟(jì)的重要基礎(chǔ)，在社交媒體、電子商務(wù)、信息平臺等多領(lǐng)域被廣泛應(yīng)用。在主題演講環(huán)節(jié)，6位嘉賓分別圍繞“通用人工智能的應(yīng)用與治理”“AIGC時代全媒體傳播體系面臨的挑戰(zhàn)及對策建議”“AI大模型應(yīng)用下的算法治理挑戰(zhàn)與應(yīng)對”“智能算法安全現(xiàn)狀與綜合治理實踐”“總臺算法——大模型價值認(rèn)知”等不同角度展望算法治理未來方向，共同尋求合理有效的算法治理路徑。

AI應(yīng)用不斷推陳出新

AI變革的時代，隨著算力不斷發(fā)展，數(shù)據(jù)的膨脹，算法的創(chuàng)新和迭代，業(yè)界已經(jīng)涌現(xiàn)出各種各樣的模型，能夠把人工智能的能力發(fā)揮出來，影響各行各業(yè)。近日，阿里云宣布AI繪畫創(chuàng)作大模型“通義萬相”開啟定向邀測，這是繼大語言模型“通義千問”、聚焦音視頻內(nèi)容的“通義聽悟”之后，阿里云通義大模型家族的又一位新成員。“如果要將大模型算法這一技術(shù)推廣、運(yùn)用到生產(chǎn)和科研中去，它的成本一定要降低，才可能被更多人使用，而這也是我們集團(tuán)當(dāng)前的發(fā)展思路。”阿里云智能集團(tuán)副總裁朱冉說。

百度自 2019 年開始大模型的研發(fā)工作，先后發(fā)布知識增強(qiáng)文心系列模型。前不久，百度正式發(fā)布文心大模型 3．5 版本，進(jìn)一步在基礎(chǔ)模型、知識增強(qiáng)、檢索增強(qiáng)等多項核心技術(shù)上取得創(chuàng)新。百度集團(tuán)人工智能算法委員會主席、集團(tuán)副總裁吳甜表示，大模型還面臨著不少的挑戰(zhàn)，大模型建設(shè)非常復(fù)雜，難度高、成本高，在算力、數(shù)據(jù)、算法三個層面要有深厚的積累。應(yīng)用場景雖然現(xiàn)在很豐富，但大量的場景在引入大模型技術(shù)解決問題的同時，也遇到各種各樣的問題，包括穩(wěn)定性和可控性等。

算法治理面臨不少挑戰(zhàn)

“算法缺陷導(dǎo)致智能系統(tǒng)存在崩潰隱患，如自動駕駛事故、金融市場閃崩、地區(qū)大停電等等。”中國科學(xué)院計算技術(shù)研究所副所長程學(xué)旗提到算法治理面臨著不少的挑戰(zhàn)，算法濫用導(dǎo)致社會不公和群體極化，危害社會穩(wěn)定，如派單算法霸凌、算法誘使沉迷、大數(shù)據(jù)殺熟，推薦算法引發(fā)信息繭房和社會偏見等。他認(rèn)為，算法治理要擁抱“技術(shù)治理”主義，要利用風(fēng)險監(jiān)測系統(tǒng)開展算法風(fēng)險自動巡查，構(gòu)建算法評估體系支撐，常態(tài)化算法安全評估。加快建設(shè)和出臺系列算法合規(guī)標(biāo)準(zhǔn)，形成監(jiān)測、研判、評估的算法治理閉環(huán)體系，各方共同協(xié)作，構(gòu)建一個良性的可持續(xù)發(fā)展的生態(tài)。

要大力推進(jìn)發(fā)展更要全流程管理

人民網(wǎng)董事長、總裁，傳播內(nèi)容認(rèn)知全國重點實驗室主任葉蓁蓁表示，未來只能用AI治理AI，統(tǒng)籌發(fā)展與安全，首先要大力推進(jìn)發(fā)展，不發(fā)展或者發(fā)展慢，將是最大的不安全。

新華社媒體融合生產(chǎn)技術(shù)與系統(tǒng)國家重點實驗室常務(wù)副主任賀大為表示，從算法的訓(xùn)練模型，以及它的應(yīng)用，全流程都應(yīng)該進(jìn)行相應(yīng)的管理。“而這個管理的過程，應(yīng)該是各部門乃至全社會形成合力。”