算法自律——智能化時(shí)代的創(chuàng)新治理探索

　　人工智能是引領(lǐng)新一輪科技變革的顛覆性技術(shù)，伴隨其向社會(huì)各領(lǐng)域的滲透融合，在倫理、安全、隱私、公平等方面，也帶來了新的挑戰(zhàn)和問題。11月19日，在首屆中國網(wǎng)絡(luò)文明大會(huì)數(shù)據(jù)與算法論壇中，中國網(wǎng)絡(luò)社會(huì)組織聯(lián)合會(huì)發(fā)起了《互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用自律公約》（以下簡稱《公約》），旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)行業(yè)自律，引導(dǎo)平臺(tái)及企業(yè)擔(dān)當(dāng)社會(huì)責(zé)任，促進(jìn)算法應(yīng)用向上向善，強(qiáng)化算法應(yīng)用示范引領(lǐng)，推動(dòng)用主流價(jià)值導(dǎo)向駕馭“算法”，助力共建算法良好生態(tài)。

　　智能算法使機(jī)器擁有了分析、預(yù)測、優(yōu)化甚至決策的能力，智能算法的自主性和決策能力成為智能化變革的核心要素。在加快推進(jìn)人工智能技術(shù)研發(fā)和產(chǎn)業(yè)應(yīng)用的同時(shí)，需要同步跟進(jìn)適應(yīng)智能化變革的制度調(diào)整和技術(shù)治理。隨著數(shù)據(jù)的積累和算法技術(shù)的發(fā)展，算法應(yīng)用已經(jīng)滲透到人們生活的方方面面，同時(shí)也滋生了“過度推薦”“流量造假”“大數(shù)據(jù)殺熟”及“深度偽造”等損害公眾利益、破壞正當(dāng)競爭、擾亂社會(huì)秩序的行為。算法治理跟不上，就會(huì)反過來制約技術(shù)的應(yīng)用和發(fā)展。

　　對(duì)于算法應(yīng)用，應(yīng)該充分重視其技術(shù)屬性和社會(huì)屬性并重的特征，樹立“負(fù)責(zé)任創(chuàng)新”的價(jià)值觀，避免技術(shù)創(chuàng)新被引入濫用的歧途。一方面，需要通過政策法規(guī)來規(guī)范算法技術(shù)的應(yīng)用，保證技術(shù)的創(chuàng)新應(yīng)用和安全可控協(xié)調(diào)發(fā)展。另一方面，也需要通過行業(yè)自律等方式規(guī)范企業(yè)行為，將政策法規(guī)精神落到實(shí)處。此次發(fā)布的《公約》，是互聯(lián)網(wǎng)信息服務(wù)行業(yè)落實(shí)算法應(yīng)用治理的積極嘗試和探索，有助于企業(yè)切實(shí)承擔(dān)互聯(lián)網(wǎng)信息服務(wù)算法治理社會(huì)責(zé)任，加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)行業(yè)自律，推動(dòng)行業(yè)健康有序發(fā)展。

　　《公約》首先強(qiáng)調(diào)了合規(guī)底線，強(qiáng)調(diào)依法依規(guī)開展算法應(yīng)用，加強(qiáng)行業(yè)自律，積極踐行社會(huì)主義核心價(jià)值觀，尊重社會(huì)公序良俗，恪守商業(yè)道德。在此基礎(chǔ)上，進(jìn)一步落實(shí)主體責(zé)任，明確要求相關(guān)單位和企業(yè)履行算法治理義務(wù)，承擔(dān)算法治理責(zé)任；設(shè)立算法治理組織機(jī)構(gòu)，持續(xù)完善算法治理制度，建立健全算法安全應(yīng)急管理預(yù)案；開展算法倫理審查，開展算法安全風(fēng)險(xiǎn)監(jiān)測、評(píng)估和防控。從治理機(jī)制和措施方面，明確了責(zé)任和義務(wù)，有助于政策的實(shí)施。

　　《公約》中“維護(hù)網(wǎng)民權(quán)益”“筑牢安全防線”“促進(jìn)算法公平”等內(nèi)容，呼應(yīng)了國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布的《新一代人工智能倫理規(guī)范》中“促進(jìn)公平公正”“保護(hù)隱私安全”“確�？煽乜尚拧钡然�本倫理規(guī)范，并在研發(fā)、供應(yīng)、使用等各個(gè)環(huán)節(jié)提出了相應(yīng)的管理規(guī)范。落實(shí)算法應(yīng)用治理，就必須保障用戶的知情權(quán)、選擇權(quán)等合法權(quán)益，并保證算法在分析、決策和優(yōu)化等具體應(yīng)用任務(wù)的公平性，不能基于數(shù)據(jù)和算法優(yōu)勢(shì)對(duì)用戶不正當(dāng)?shù)剡M(jìn)行差別對(duì)待。在安全保障方面，需要防范應(yīng)用、內(nèi)容和數(shù)據(jù)的安全風(fēng)險(xiǎn)，提高算法風(fēng)險(xiǎn)監(jiān)測、預(yù)警和處置能力。

　　《公約》最后提出，要推動(dòng)設(shè)計(jì)研發(fā)創(chuàng)新，持續(xù)開展算法研發(fā)，主動(dòng)掌握關(guān)鍵核心技術(shù)，融入全球科技創(chuàng)新整體格局。對(duì)于智能算法的治理問題，不僅要從現(xiàn)有技術(shù)角度出發(fā)，也要從發(fā)展的角度提出前瞻性的預(yù)判和要求。這也是張鈸院士提出“第三代人工智能”的初衷，希望通過融合第一代知識(shí)驅(qū)動(dòng)和第二代數(shù)據(jù)驅(qū)動(dòng)的人工智能，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。當(dāng)前以深度學(xué)習(xí)為代表的人工智能算法，本質(zhì)上是“黑盒”，在可靠性、可解釋性、安全性等方面存在缺陷，發(fā)展第三代人工智能技術(shù)能夠克服深度學(xué)習(xí)這些缺陷，有利于推動(dòng)人工智能創(chuàng)新發(fā)展。對(duì)于算法治理的要求，也會(huì)對(duì)人工智能技術(shù)的創(chuàng)新發(fā)展起到有益的促進(jìn)作用。

　　作者：特約評(píng)論員 朱軍（清華大學(xué)人工智能研究院基礎(chǔ)理論中心主任）