最近產(chǎn)品經(jīng)理的朋友圈又被ChatGPT刷屏了。

(資料圖)

因?yàn)?.0支持多態(tài)模型，以及圖片查閱，從以前聽得見到現(xiàn)在看得見，能力升級(jí)后大火，同時(shí)在第二天百度的文心一言也發(fā)布。

雖然在發(fā)布會(huì)上李彥宏的中國(guó)版ChatGPT被吐槽說是用錄播視頻來展示效果甚至是叫做Chat PPT，但是作為中國(guó)的科技公司，第一次向美國(guó)的Chat GPT對(duì)標(biāo)，無論如何這也是中國(guó)發(fā)起的"科技戰(zhàn)"第一步。

今天這篇文章，我不是去吐槽或者嘲笑國(guó)內(nèi)版本的chat GPT，反而是作為產(chǎn)品經(jīng)理，我們會(huì)更加對(duì)產(chǎn)品背后的數(shù)據(jù)安全有更加敏銳的判斷能力。

那么在使用Chat GPT類產(chǎn)品，背后會(huì)帶來什么樣的數(shù)據(jù)與信息安全問題呢？

我做3點(diǎn)分享

1.現(xiàn)在的ChatGPT類產(chǎn)品就像在做黑盒測(cè)試

有過測(cè)試經(jīng)驗(yàn)的產(chǎn)品經(jīng)理應(yīng)該知道，我們產(chǎn)品上線前會(huì)經(jīng)歷白盒測(cè)試和黑盒測(cè)試，通過Chat GPT我得到了兩者的區(qū)別和應(yīng)用場(chǎng)景?????????????????

"白盒測(cè)試是指測(cè)試人員了解軟件的內(nèi)部結(jié)構(gòu)和實(shí)現(xiàn)細(xì)節(jié)，包括源代碼、算法和數(shù)據(jù)結(jié)構(gòu)等。測(cè)試人員使用這些知識(shí)來設(shè)計(jì)和執(zhí)行測(cè)試用例，以測(cè)試軟件在不同條件下的行為和功能是否符合預(yù)期。

相比之下，黑盒測(cè)試則是不考慮軟件內(nèi)部結(jié)構(gòu)和實(shí)現(xiàn)細(xì)節(jié)，只關(guān)注軟件的功能和用戶界面等外部特征。測(cè)試人員基于軟件規(guī)格說明書、用戶手冊(cè)和其他文檔來設(shè)計(jì)和執(zhí)行測(cè)試用例，以驗(yàn)證軟件是否滿足規(guī)格說明書中的需求和功能。

因此，白盒測(cè)試適用于對(duì)復(fù)雜的軟件進(jìn)行全面測(cè)試，能夠發(fā)現(xiàn)潛在的代碼錯(cuò)誤、邏輯錯(cuò)誤和性能問題等。而黑盒測(cè)試則更側(cè)重于測(cè)試軟件的功能和用戶體驗(yàn)，適用于對(duì)軟件外部特征進(jìn)行測(cè)試。

需要注意的是，白盒測(cè)試和黑盒測(cè)試并不是互相排斥的，它們可以相互補(bǔ)充，共同構(gòu)成一套完整的測(cè)試方案。"

-----本介紹由ChatGPT生成

而現(xiàn)在使用Chat GPT類的產(chǎn)品，就相當(dāng)于是在一個(gè)黑盒場(chǎng)景里，用戶只管輸入自己的提問或內(nèi)容，馬上可以得到結(jié)果。但是卻不知道這些結(jié)果來自于哪里還是原版生成的。???????????????

2.Chat GPT 創(chuàng)新的交互方式????????????

在一次直播訪談里，360的CEO周鴻祎提到：????????????????????????????

"再牛的技術(shù)一定要有個(gè)貼切的場(chǎng)景。ChatGPT這次火起來，很重要的一點(diǎn)是找到了一種非常簡(jiǎn)單的交流方式，就像當(dāng)年Google把復(fù)雜的搜索引擎藏在一個(gè)簡(jiǎn)潔的搜索框一樣，ChatGPT今天把復(fù)雜的人工智能變成了云服務(wù)。"

現(xiàn)在我們說市面上的各種AI能力有多么強(qiáng)大，但是用戶很難感受到，如何讓用戶使用起來方便，快速感知。這是AI開發(fā)者也困擾的最大問題。

對(duì)于用戶來說，他們不需要知道這復(fù)雜的代碼和功能邏輯，她只需要可以直接使用，快速提升他的工作效率，就可以了。這就是非常強(qiáng)大的AI。

所以在這一點(diǎn)上，ChatGPT的產(chǎn)品經(jīng)理事非常優(yōu)秀的

3.用戶使用Chat GPT的"黑盒測(cè)試"????????

我身邊日常使用Chat GPT的同學(xué)，經(jīng)常會(huì)說："我還要花時(shí)間去驗(yàn)證ChatGPT給的答案是不是正確，這個(gè)真累死我了"????????

因?yàn)镃hat GPT會(huì)一本正經(jīng)的說錯(cuò)誤答案，如果你對(duì)你提的問題完全不會(huì)，那么你幾乎不會(huì)發(fā)現(xiàn)它在胡亂說話。????????????????????

正式這種交互方式，讓用戶不知道Chat GPT說的答案是正確還是錯(cuò)誤的。即使是錯(cuò)誤的，也不知道是哪里錯(cuò)了，錯(cuò)了多少。??????????????

相信用它來寫論文、做作業(yè)的同學(xué)，會(huì)非常擔(dān)心ChatGPT所帶來的答案是否有查重率較高的情況，因?yàn)楝F(xiàn)在的ChatGPT并不能告訴你，自己的回答有多少重復(fù)率，所以學(xué)者用戶在使用上需要步步小心。

4.在Newbing上的進(jìn)一步優(yōu)化???????

在new bing上，融入ChatGPT后可以給出related searches，以及通過信息流的形式展示出搜索引擎的答案，讓用戶可以不僅是通過ChatGPT獲得結(jié)果，還能夠篩選信息獲得，這樣的就會(huì)避免直接使用錯(cuò)誤信息的情況。

但即使這樣，ChatGPT也仍然有信息安全的問題。比如是否會(huì)有某類信息不準(zhǔn)展示，某類信息過于胡編亂造。???????????????????????????????????????????????

5.開發(fā)者自行干預(yù)，導(dǎo)致ChatGPT類應(yīng)用的結(jié)果有偏向性???????

開放的ChatGPT接口能力，開發(fā)者可以通過調(diào)用后融入在自己的應(yīng)用程序里，但我相信許多開發(fā)者會(huì)以固定關(guān)鍵詞、標(biāo)簽甚至是算法植入的方式，將ChatGPT的應(yīng)用返回結(jié)果根據(jù)自己的場(chǎng)景進(jìn)行修改等干預(yù)，所以我也不免擔(dān)心這類應(yīng)用是否會(huì)像百度SEO一樣，大量的投放廣告會(huì)充斥在百度的搜索結(jié)果里，就像下圖搜索"預(yù)防脫發(fā)"的排序，充值付費(fèi)后就可以得到大量的排名在前????????????????????????

用戶在瀏覽結(jié)果信息需要區(qū)分"廣告"關(guān)鍵詞，否則就容易進(jìn)?錯(cuò)結(jié)果。?????

而Chat GPT在產(chǎn)品設(shè)計(jì)上，因?yàn)槭?黑箱測(cè)試"。這類廣告的引導(dǎo)一旦植入后，轉(zhuǎn)化率將大大提高，因?yàn)橛脩魶]有其他信息篩選。

但相信官方也會(huì)提供接口能力，允許開發(fā)者標(biāo)注，否則就會(huì)大大降低點(diǎn)擊率，會(huì)造成ChatGPT的口碑，商業(yè)化收益降低等影響。???????

不過最近有新聞提出，open AI的充值入口已經(jīng)爆滿，大家都在爭(zhēng)先前后的排隊(duì)使用，所以到底是面向開發(fā)者收費(fèi)，還是直接給企業(yè)做投放，商業(yè)模式的策略會(huì)影響產(chǎn)品形態(tài)。

???????????若加入有類似排名競(jìng)價(jià)的方式，勢(shì)必會(huì)對(duì)chat GPT的回復(fù)結(jié)果與信息，帶來較大的干擾。若再加上政治等其他影響，勢(shì)必可能會(huì)影響一些用戶的價(jià)值觀。????????????

而這種價(jià)值觀的影響，隨著Chat GPT的使用時(shí)間越多，粘性越強(qiáng)，會(huì)不會(huì)造成文化侵入呢？我想結(jié)果是肯定的。

或者數(shù)據(jù)泄漏呢？?

假如有保密人員提問，或者對(duì)相關(guān)保密的商業(yè)模式、或者國(guó)家安全機(jī)密的問題，這類問題是否會(huì)被泄漏呢？?????????

就像你在百度或者谷歌的搜索引擎一言一行是否會(huì)被監(jiān)控呢？??

所以站在信息安全與數(shù)據(jù)隱患上，或多或少使用國(guó)產(chǎn)的ChatGPT類產(chǎn)品會(huì)更加安全。你認(rèn)為呢？??????????????????????????????????

今天的分享就在這兒。?

關(guān)鍵詞：