文/李林 問(wèn)耕 （編譯整理）
量子位 出品 | 公眾號(hào) QbitAI
無(wú)論是中國(guó)還是美國(guó)，很多人在選擇餐館或者酒店的時(shí)候，主要依靠網(wǎng)上的點(diǎn)評(píng)，比喻說(shuō)大眾點(diǎn)評(píng)或者Yelp等等。
某種程度上，口碑已經(jīng)成為不少企業(yè)的命脈，釀成辦事和產(chǎn)品質(zhì)量的永久記錄。與此同時(shí)，不公平或者虛假的點(diǎn)評(píng)也讓企業(yè)憂心忡忡，這些有可能來(lái)自憤怒的顧客，也有可能來(lái)自競(jìng)爭(zhēng)對(duì)手。
水軍，在全球都是一個(gè)讓人頭疼的問(wèn)題，以后可能會(huì)更疼了：
人工智能（AI）已經(jīng)學(xué)會(huì)自動(dòng)編寫(xiě)虛假點(diǎn)評(píng)了。
整個(gè)點(diǎn)評(píng)口碑界正面臨潛在卻是嚴(yán)重的沖擊。如果AI創(chuàng)造的虛假點(diǎn)評(píng)泛濫，最終將導(dǎo)致全部點(diǎn)評(píng)信息可信度急劇下降。技術(shù)進(jìn)步，這一次又給社會(huì)帶來(lái)了（令人擔(dān)憂的）影響。
不知道許知遠(yuǎn)會(huì)不會(huì)更焦慮了。
“這對(duì)整個(gè)社會(huì)是一個(gè)巨大的威脅，不單會(huì)讓依靠點(diǎn)評(píng)信息的用戶失望，并且會(huì)擺蕩人類對(duì)于真實(shí)和虛假的信念，我認(rèn)為后者更讓人擔(dān)心”，芝加哥大學(xué)計(jì)算機(jī)科學(xué)教授趙燕斌（Ben Y． Zhao）說(shuō)。
以假亂真
《在線點(diǎn)評(píng)系統(tǒng)中的自動(dòng)眾包攻擊和防御》是趙燕斌等芝加哥大學(xué)研究人員發(fā)布的一篇論文。他們的研究說(shuō)明，，人工智能可以被用來(lái)生成復(fù)雜的點(diǎn)評(píng)信息。這些虛假的點(diǎn)評(píng)不但機(jī)器無(wú)法檢測(cè)出來(lái)，就連人類讀者也分辨不出來(lái)。
這篇論文本年晚些時(shí)候會(huì)在計(jì)算機(jī)安適頂級(jí)會(huì)議ACM CCS上展示。
所謂復(fù)雜的點(diǎn)評(píng)信息，大概是這個(gè)樣子：“我喜歡這個(gè)地方。我跟我哥一起去的，我們點(diǎn)了素食意大利面，很好吃。啤酒不錯(cuò)，辦事也很棒。保舉這個(gè)地方，是個(gè)吃早餐的好去處。地兒小但是買賣大”。
乍一看這個(gè)點(diǎn)評(píng)沒(méi)有什么奇怪的，里面包羅一些具體的建議和可信的描述，雖然最后一句有點(diǎn)奇怪，但整體仍然是一段說(shuō)人話的表達(dá)。
實(shí)際上，這句話是一種稱為RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）的深度學(xué)習(xí)技術(shù)生成的。這個(gè)RNN網(wǎng)絡(luò)使用了上千條真實(shí)在線點(diǎn)評(píng)訓(xùn)練而成。
研究人員體現(xiàn)，AI生成的點(diǎn)評(píng)已經(jīng)做到了“以假亂真”，有 600 個(gè)用戶參與的調(diào)查顯示，這些虛假的點(diǎn)評(píng)不但能逃過(guò)人類的法眼，并且還被用戶認(rèn)為“有用”。
“有用”是更可怕的事情：這表白虛假點(diǎn)評(píng)已經(jīng)可以對(duì)人類造成影響。
反抄襲軟件也對(duì)這些虛假點(diǎn)評(píng)無(wú)能為力，因?yàn)檫@些點(diǎn)評(píng)是逐字生成的，而不是簡(jiǎn)單的替換已有點(diǎn)評(píng)中的用詞。如果使用反抄襲軟件檢測(cè)，不單很難檢測(cè)出虛假點(diǎn)評(píng)，并且會(huì)“誤傷”一大批真實(shí)的點(diǎn)評(píng)。RNN可不但僅是對(duì)現(xiàn)有點(diǎn)評(píng)的復(fù)制。
人類水軍面臨下崗
人類手寫(xiě)的虛假點(diǎn)評(píng)，已經(jīng)是一個(gè)興盛的地下行業(yè)。只要有錢，你就能找到人幫你的產(chǎn)品寫(xiě)下正面的點(diǎn)評(píng)，后者給對(duì)手寫(xiě)下負(fù)面的評(píng)價(jià)。
現(xiàn)在，傳統(tǒng)水軍行業(yè)未來(lái)可能也要被AI取代了。
美國(guó)市場(chǎng)上，一段質(zhì)量較高的Yelp點(diǎn)評(píng)，可能價(jià)格能到 10 美元。不過(guò)一旦有了AI的幫手，君心叵測(cè)的人可以一分錢不消就生成上千條點(diǎn)評(píng)，并且一起放出以免引起懷疑。
好消息是，現(xiàn)在還沒(méi)有AI在現(xiàn)實(shí)世界中生成惡意虛假點(diǎn)評(píng)的案例。
壞消息是，構(gòu)建一個(gè)這樣的人工智能系統(tǒng)，并不需要太長(zhǎng)的時(shí)間，所需硬件市面上都能買到，所需的點(diǎn)評(píng)數(shù)據(jù)庫(kù)可以在網(wǎng)上輕易獲得。
仍有對(duì)策
如果有人開(kāi)始大規(guī)模生產(chǎn)這種假點(diǎn)評(píng)，大眾點(diǎn)評(píng)、Yelp這樣的網(wǎng)站恐怕就沒(méi)有好日子過(guò)了，終究，它們的招牌就是來(lái)自用戶的真實(shí)點(diǎn)評(píng)，如果每一條都可能是假的，誰(shuí)又會(huì)繼續(xù)相信它們呢？
接下來(lái)淪陷的，會(huì)是淘寶京東亞馬遜之類的電商，雖然趙燕斌說(shuō)至少它們還能限制只有買過(guò)該商品的用戶才能點(diǎn)評(píng)，但情況也不容樂(lè)不雅觀。
不過(guò)，也有好消息。
