ChatGPT的熱浪席卷全球，當(dāng)人們?cè)谟懻揂I有多強(qiáng)大的同時(shí)，也會(huì)關(guān)注AI的“可怕之處”——一方面源于技術(shù)本身，人工智能會(huì)出現(xiàn)“幻覺”，就是我們所說的“一本正經(jīng)的胡說八道”。另外一方面，源于人類的“濫用”——侵犯知識(shí)產(chǎn)權(quán)、傳播虛假信息、違規(guī)使用數(shù)據(jù)等等。如何讓人類與AI更和諧美好地共處，是擺在我們面前越來(lái)越嚴(yán)峻且復(fù)雜的問題。本期為《AIGC未來(lái)指北》系列內(nèi)容第三期，我們和清華的教授聊了將近4個(gè)小時(shí)，請(qǐng)他分享了人工智能治理中，關(guān)于弱勢(shì)群體保護(hù)、知識(shí)產(chǎn)權(quán)、及數(shù)據(jù)治理等最受關(guān)注的幾個(gè)問題，下文為對(duì)話精華內(nèi)容整理。

劃重點(diǎn)

● 保護(hù)自身辨別能力不足的弱勢(shì)群體，研發(fā)AI產(chǎn)品的平臺(tái)要做好“守門人”的工作，一方面在產(chǎn)品上標(biāo)注“識(shí)別標(biāo)記”，如數(shù)字水印等，另外一方面，要讓產(chǎn)品使用軌跡可追溯，責(zé)任能落實(shí)到人。

(資料圖片僅供參考)

●對(duì)待新技術(shù)的發(fā)展，敏捷治理的思路是，在可控范圍內(nèi)容讓“領(lǐng)先用戶”先順暢地進(jìn)來(lái)，去體驗(yàn)；同時(shí)在公測(cè)階段就考慮到“治理的邊界性問題”。

●近日，美歐達(dá)成了“人工智能促進(jìn)公共利益行政協(xié)議”，值得注意的是，美歐雙方此次在AI領(lǐng)域的合作并不以數(shù)據(jù)共享為前提，雙方在數(shù)據(jù)流通上仍有所保留?！皵?shù)據(jù)不動(dòng)，聯(lián)合建模”，有可能成為未來(lái)各國(guó)在數(shù)據(jù)領(lǐng)域合作的新范式。

01 破解“克林格里奇困境”，要靠更敏捷的治理思路

Q1：如何降低利用 AI 傳播虛假信息和敏感信息的風(fēng)險(xiǎn)?一旦出現(xiàn)虛假信息如何鑒別，并降低對(duì)大眾的影響?

梁正：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已經(jīng)2022年11月3日國(guó)家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會(huì)議審議通過，并自2023年1月10日起施行。另外，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已經(jīng)2021年11月16日國(guó)家互聯(lián)網(wǎng)信息辦公室2021年第20次室務(wù)會(huì)議審議通過，并自2022年3月1日起施行。當(dāng)前國(guó)內(nèi)算法治理的框架已較為清晰，[1]但人工智能產(chǎn)業(yè)發(fā)展尚在早期，相關(guān)規(guī)定怎樣去落實(shí)，也還有很多問題需要解決。在人工智能，特別是機(jī)器學(xué)習(xí)領(lǐng)域，最典型的特征是不存在放之四海而皆準(zhǔn)的通用解決方案。針對(duì)AI傳播虛假信息這件事，要分層來(lái)看：

①目前ChatGPT只是在公測(cè)階段，大家使用它，大部分也都是娛樂性的聊天，它的回應(yīng)到底有多靠譜，可能并沒有太多人去認(rèn)真追究，頂多會(huì)調(diào)侃一句”它在一本正經(jīng)地胡說八道“。

②未來(lái)，當(dāng)ChatGPT真正被使用到專用場(chǎng)景的時(shí)候，比如法律服務(wù)、金融服務(wù)的時(shí)候，真實(shí)性、嚴(yán)謹(jǐn)性問題就變得特別重要。

③但是，往往在非專用場(chǎng)景下，大家不太關(guān)注它的嚴(yán)謹(jǐn)性和真實(shí)性，警惕性放松，更容易被AI迷惑。這時(shí)候怎么辦？我認(rèn)為還是要把責(zé)任歸因到具體的人。首先是使用者，使用了AI的人，應(yīng)該選擇標(biāo)識(shí)出來(lái)，這樣，看到AI生成內(nèi)容的人，就可以選擇相信或者不相信。

另外，對(duì)一些老年人、未成年人，自身的辨別能力不足，這時(shí)候，不僅僅是使用者，也要對(duì)服務(wù)的提供方（平臺(tái)方），提出具體的要求，從我的平臺(tái)生成的內(nèi)容，是需要有明確的標(biāo)識(shí)的，平臺(tái)要做好“守門人”的工作。就好像現(xiàn)在的互聯(lián)網(wǎng)電商平臺(tái)，我們把“打假”的責(zé)任也給到了平臺(tái)方，指望用戶去打假是不現(xiàn)實(shí)的。

既然平臺(tái)提供了自動(dòng)化的服務(wù)，就有義務(wù)去幫助用戶鑒別和防范。之前網(wǎng)信辦強(qiáng)調(diào)“要壓實(shí)互聯(lián)網(wǎng)主體責(zé)任”，這句話落實(shí)的一個(gè)點(diǎn)就是，當(dāng)大平臺(tái)“手中有矛”的時(shí)候，更要落實(shí)自己的責(zé)任。我們看到國(guó)外大公司對(duì)這點(diǎn)十分看重，我們能注意到，當(dāng)有新的技術(shù)誕生的時(shí)候，其實(shí)并不需要出臺(tái)一個(gè)專門的規(guī)定去約束這種新技術(shù)或新產(chǎn)品。因?yàn)閲?guó)外的法律體系中，如果某個(gè)公司的產(chǎn)品出現(xiàn)問題，這個(gè)公司肯定是第一責(zé)任人。

Q2：從AI公司的角度來(lái)講，如何把好第一道關(guān)？

梁正：對(duì)公司來(lái)講，最佳解決方案是在產(chǎn)品上標(biāo)注“識(shí)別標(biāo)記”，數(shù)字水印可能是其中一個(gè)解決方案，還可以有其它的辦法，核心是對(duì)平臺(tái)產(chǎn)生的內(nèi)容做標(biāo)注：首先可以識(shí)別這條內(nèi)容是AI生成的、并不是人類創(chuàng)作的；另外，可以識(shí)別這條內(nèi)容是在哪個(gè)平臺(tái)生成的，由哪個(gè)用戶生成并傳播出去的。這樣，有清晰的追溯鏈條，就能更清晰地定義責(zé)任人。我們看到OpenAI實(shí)際上已經(jīng)在這樣做了，推出了AI識(shí)別的工具，所謂的“用魔法打敗魔法”。

OpenAI針對(duì)內(nèi)容的識(shí)別并作出判斷，圖源：網(wǎng)絡(luò)

Q3、新技術(shù)發(fā)展初期，如何破解“科林格里奇困境”?監(jiān)管政策如何在確保新技術(shù)發(fā)展空間的同時(shí)，有效降低風(fēng)險(xiǎn)?

梁正：科林格里奇困境是指，在新技術(shù)發(fā)展的初期，當(dāng)問題還沒出現(xiàn)時(shí)，你無(wú)法預(yù)見它會(huì)帶來(lái)怎樣的問題，但是問題出現(xiàn)以后再去解決又太晚。歷次我們經(jīng)歷新技術(shù)的爆發(fā)，都會(huì)碰到這個(gè)問題。

我們現(xiàn)在的解決辦法應(yīng)該聚焦在“對(duì)新技術(shù)有沒有更敏捷的治理思路”？新技術(shù)在實(shí)驗(yàn)和推廣過程中，可以先控制在可控的范圍內(nèi)，不要一下子大范圍鋪開，比如金融領(lǐng)域已經(jīng)在采用的沙箱監(jiān)管、自動(dòng)駕駛領(lǐng)域的先行實(shí)驗(yàn)區(qū)。以前我們很少首先考慮到商業(yè)價(jià)值，一般更先講到“新技術(shù)到底有什么危害”。但敏捷治理的思路是，應(yīng)該讓所謂的“領(lǐng)先用戶”先順暢地進(jìn)來(lái)，去體驗(yàn)和探索，然后不斷迭代。就像小米剛剛開始推MIUI的時(shí)候，也是先有一批種子用戶，讓用戶參與到產(chǎn)品開發(fā)設(shè)計(jì)中來(lái)，這個(gè)思路可以被推廣到新興技術(shù)的治理上，也就是國(guó)外現(xiàn)在講到的負(fù)責(zé)任的創(chuàng)新。

其次，之前的所謂的公測(cè)階段，更多是從產(chǎn)品體驗(yàn)、底層代碼等角度考慮，其實(shí)應(yīng)該在公測(cè)階段就加入“治理的邊界性問題”，也就是同時(shí)進(jìn)行治理規(guī)則的實(shí)驗(yàn)，這種治理不應(yīng)該只是自上而下的，而是更大程度上是由業(yè)界首先意識(shí)到，并提出治理的需求和方案，后來(lái)才有監(jiān)管者監(jiān)督。業(yè)界要有主動(dòng)治理的意識(shí)，變成企業(yè)社會(huì)責(zé)任的一部分。

現(xiàn)在我們又處于一輪新技術(shù)發(fā)展的初期階段，產(chǎn)品設(shè)計(jì)上要有價(jià)值觀的嵌入，如果不考慮這個(gè)因素，它帶來(lái)的問題可能很大程度上要靠事后的規(guī)制，這是很難從根本上解決問題的。因?yàn)橐?guī)則不是從某個(gè)個(gè)體的角度就能識(shí)別出來(lái)，必須在應(yīng)用的過程中才能識(shí)別出來(lái)，應(yīng)當(dāng)盡量避免造成大面積的傷害之后才能定位到相關(guān)問題上。

Q4：在新技術(shù)誕生之時(shí)，國(guó)外有沒有成熟的治理經(jīng)驗(yàn)可以借鑒？

梁正：由于法律體系的不同，在英美法系國(guó)家，不需要法律有具體的規(guī)定，法官的判例就可以作為判罰依據(jù)，特別是在新興領(lǐng)域，大量的法律積累就是來(lái)源于新的問題出現(xiàn)之后，法官怎么判，宣判以后又可以作為其他法官來(lái)判刑的依據(jù)。最終積累很多案例之后，會(huì)找到一個(gè)共識(shí)，那么就會(huì)寫入法條，甚至最后形成法典。我們國(guó)家是大陸法系，采用的是成文法，習(xí)慣在法律規(guī)定中窮盡可能的情境，這其實(shí)在新興技術(shù)治理上很難做到。對(duì)新技術(shù)領(lǐng)域用判例去解決，更加敏捷靈活。在美國(guó)，如果有用戶認(rèn)為自己的利益受損，就有權(quán)基于相關(guān)法律、包括憲法賦予的權(quán)利去起訴。所以美國(guó)的公司，對(duì)于推出新的技術(shù)、產(chǎn)品十分謹(jǐn)慎，因?yàn)橐坏┏霈F(xiàn)重大失誤，即使沒有相關(guān)的法律法規(guī)推出，只要基于憲法去提起訴訟，最終這家公司因?yàn)橥瞥鲂庐a(chǎn)品不謹(jǐn)慎而犯下的某個(gè)失誤，就有可能給自己造成滅頂之災(zāi)。

02 AIGC內(nèi)容的知識(shí)產(chǎn)權(quán)之爭(zhēng)

Q5：利用AI生成內(nèi)容是“高科技剽竊”嗎？

梁正：圍繞AIGC的版權(quán)界定問題，一直是爭(zhēng)論焦點(diǎn)，目前業(yè)界也很難有清晰的答案。本質(zhì)上來(lái)講，界定是不是剽竊的唯一標(biāo)準(zhǔn)應(yīng)當(dāng)是生成新內(nèi)容后新信息的含量。不同國(guó)家關(guān)于著作權(quán)的法律規(guī)定當(dāng)中，新穎性、創(chuàng)造性都是構(gòu)成實(shí)體要求的基本條件。目前來(lái)看AIGC只能發(fā)現(xiàn)關(guān)聯(lián)性，并不能發(fā)現(xiàn)因果性，所以可能并不能無(wú)中生有，創(chuàng)造嚴(yán)格意義上的新內(nèi)容。但是未來(lái)是否量變會(huì)引起更大的質(zhì)變，目前尚很難判定。

引發(fā)爭(zhēng)議的AIGC作品，《太空歌劇院》圖源：網(wǎng)絡(luò)

從產(chǎn)業(yè)發(fā)展的角度來(lái)看，如果把AI生成內(nèi)容的著作權(quán)給了使用者，有利于使用者創(chuàng)作優(yōu)質(zhì)內(nèi)容，比如新聞、文學(xué)藝術(shù)創(chuàng)作，可以繁榮創(chuàng)意和創(chuàng)作，激勵(lì)創(chuàng)作者，這個(gè)創(chuàng)作者是人，基本假定人是創(chuàng)意的來(lái)源。但如果大量?jī)?nèi)容都界定給使用者，對(duì)于優(yōu)質(zhì)工具的提供者而言激勵(lì)不足，也會(huì)影響到此類工具開發(fā)者的積極性。

雖然目前在立法上，還沒有明文規(guī)定，但是業(yè)界還是有一定的共識(shí)：比如，在科學(xué)研究領(lǐng)域，本來(lái)研究成果是為了人類共享，所以對(duì)于之前研究的引用，即使是借用了AI，一般標(biāo)明署名和出處，可追溯就好；而基于商業(yè)目的的創(chuàng)作，把別人的作品打散重組，比如說小說、文學(xué)作品，肯定是不受歡迎的，如果沒有標(biāo)注或聲明，是有侵權(quán)嫌疑的。

03 探索人工智能領(lǐng)域“數(shù)據(jù)合作”新范式

Q6：隨著AI產(chǎn)業(yè)的發(fā)展，數(shù)據(jù)資源變得無(wú)比重要，近日，美國(guó)與歐盟達(dá)成了一項(xiàng)號(hào)稱“關(guān)乎互聯(lián)網(wǎng)未來(lái)”的人工智能合作協(xié)議，這對(duì)我們的數(shù)據(jù)治理有什么啟示？

梁正：2023年2月，美歐達(dá)成了“人工智能促進(jìn)公共利益行政協(xié)議”，擬在預(yù)測(cè)極端天氣和應(yīng)對(duì)氣候變化、應(yīng)急響應(yīng)、醫(yī)保事業(yè)、電網(wǎng)運(yùn)行，以及農(nóng)業(yè)發(fā)展等五大重點(diǎn)領(lǐng)域帶來(lái)公共利益。值得注意的是，美歐雙方此次在AI領(lǐng)域的合作并不以數(shù)據(jù)共享為前提，雙方在數(shù)據(jù)流通上仍有所保留。

這件事涉及的領(lǐng)域更大一些，我們一直討論的ChatGPT所使用的底層數(shù)據(jù)，其實(shí)更多的是互聯(lián)網(wǎng)領(lǐng)域公共、公開的數(shù)據(jù)。而美國(guó)與歐美達(dá)成合作協(xié)議所講的數(shù)據(jù)，則可能來(lái)源于公共部門和社會(huì)領(lǐng)域，涉及到公共安全、個(gè)人隱私等，它與公開數(shù)據(jù)不同，但這個(gè)合作模式對(duì)未來(lái)的數(shù)據(jù)治理提供了很大的啟示。

關(guān)于數(shù)據(jù)的流動(dòng)，從技術(shù)發(fā)展的角度來(lái)講，大家最希望能有一個(gè)共享的數(shù)據(jù)池，在上面去做訓(xùn)練肯定效果最好，但是這里涉及到數(shù)據(jù)安全、隱私、版權(quán)、產(chǎn)權(quán)等各種復(fù)雜的問題。即使美歐在數(shù)據(jù)問題上經(jīng)過這么長(zhǎng)時(shí)間談判，也并不能做到“共享數(shù)據(jù)池”

美歐現(xiàn)在達(dá)成的“聯(lián)合建?！蹦Ｊ娇赡苁俏磥?lái)的可以考慮的解決方式之一。過去大家的想法是要“讓數(shù)據(jù)動(dòng)”，但數(shù)據(jù)一動(dòng)就會(huì)帶來(lái)一系列問題，如匿名化的問題、數(shù)據(jù)安全的問題等等。其實(shí)從公司的角度來(lái)講，真正要做到匿名化是做不到的，怎么辦？現(xiàn)在的方向就是往多方可信安全計(jì)算、聯(lián)邦學(xué)習(xí)等方向去做。聯(lián)邦學(xué)習(xí)的模式，可以讓數(shù)據(jù)不動(dòng)，只要最后共同建模，得到分析結(jié)果，就能解決很大的問題。比如在自動(dòng)駕駛領(lǐng)域，各個(gè)國(guó)家都很難去分享交通數(shù)據(jù)，但是中國(guó)的自動(dòng)駕駛汽車，如何在美國(guó)、歐洲安全地行駛？如果用這個(gè)模式，不必非要拿到數(shù)據(jù)，而是通過建模拿到分析結(jié)果就可以使用。

當(dāng)然，目前這只是一個(gè)可能方向，也涉及到技術(shù)實(shí)現(xiàn)的問題，比如數(shù)據(jù)量超級(jí)巨大，模型如何部署，這方面也需要逐漸達(dá)成共識(shí)。歐洲目前在推工業(yè)數(shù)據(jù)空間，有100多個(gè)相關(guān)的公司企業(yè)參與其中，比如西門子這樣的企業(yè)。歐洲的思路是建立一個(gè)沒有流動(dòng)障礙的統(tǒng)一的、安全的數(shù)據(jù)空間，大家都可以把自己的數(shù)據(jù)放到數(shù)據(jù)空間中，有點(diǎn)類似于數(shù)字銀行，也是思路之一。

這個(gè)思路在工業(yè)領(lǐng)域?qū)嵤┫鄬?duì)更容易，雖然也有類似于產(chǎn)業(yè)安全等敏感問題，但個(gè)人隱私等方面涉及相對(duì)較少。在工業(yè)領(lǐng)域，主要關(guān)心的是誰(shuí)用了我的數(shù)據(jù)，怎么使用的，這個(gè)要可追溯，放到數(shù)據(jù)空間中，意味著數(shù)據(jù)可以放心流動(dòng)和使用，后臺(tái)都會(huì)有軌跡記錄。

美國(guó)的解決思路類似于基礎(chǔ)公共設(shè)施的分層，美國(guó)政府開放了大概2000多個(gè)高質(zhì)量數(shù)據(jù)集，都是基于政府掌握的公共數(shù)據(jù)。這些數(shù)據(jù)都是清洗好后再向社會(huì)去開放。所以現(xiàn)在去回溯ChatGPT的高質(zhì)量數(shù)據(jù)基礎(chǔ)，肯定也是基于這樣一個(gè)更堅(jiān)實(shí)的數(shù)據(jù)資源。

我國(guó)近年來(lái)一直在推廣數(shù)據(jù)交易所，這種思路可能更適合大宗、同質(zhì)化的交易。是不是也可以嘗試一下，和數(shù)字協(xié)議、區(qū)塊鏈等新技術(shù)相結(jié)合，借鑒歐美等國(guó)家數(shù)據(jù)治理的經(jīng)驗(yàn)，獲得一些啟發(fā)？比如上述合作模式完全有可能成為未來(lái)的數(shù)據(jù)合作新范式，現(xiàn)在有一種觀點(diǎn)，人工智能到了ChatGPT的出現(xiàn)，才真正進(jìn)入大規(guī)模產(chǎn)業(yè)化、工程化實(shí)施的階段。這個(gè)時(shí)候一定會(huì)有專業(yè)的數(shù)據(jù)服務(wù)商出現(xiàn)，不再是以場(chǎng)內(nèi)交易方式出現(xiàn)，而更多是提供專業(yè)化的服務(wù)。

Q7：中國(guó)發(fā)展自己的AI產(chǎn)業(yè)，對(duì)數(shù)據(jù)的需求也會(huì)日益增加，如何應(yīng)對(duì)國(guó)際的競(jìng)爭(zhēng)與合作？

梁正：中國(guó)也有自己的大模型，雖然現(xiàn)在表現(xiàn)還沒那么優(yōu)異。大模型的訓(xùn)練目前確實(shí)面臨著數(shù)據(jù)共享、數(shù)據(jù)安全、隱私保護(hù)等各種難題。從大環(huán)境來(lái)看，也迫切要求我國(guó)在國(guó)際合作中進(jìn)行一系列思路上的轉(zhuǎn)變。一方面，我國(guó)的數(shù)字平臺(tái)企業(yè)要爭(zhēng)取走向國(guó)際，拓展出更加廣闊的發(fā)展空間；另一方面，從國(guó)家的層面而言，仍然要探討如何融入全球創(chuàng)新網(wǎng)絡(luò)，以更加開放的態(tài)度尋求國(guó)際間的科技合作與交流。而美歐此次合作恰恰提供了數(shù)字領(lǐng)域國(guó)際合作的一種可參考方案——在各國(guó)強(qiáng)調(diào)數(shù)字主權(quán)的大背景下，在數(shù)據(jù)不流動(dòng)的前提下通過多方可信安全計(jì)算、聯(lián)邦學(xué)習(xí)等方式實(shí)現(xiàn)對(duì)數(shù)據(jù)價(jià)值的共同發(fā)掘和利用。

關(guān)鍵詞：