文/李林 問耕 （編譯整理）

　　量子位 出品 | 公眾號 QbitAI 

　　無論是中國還是美國，很多人在選擇餐館或者酒店的時候，主要依靠網上的點評，比喻說大眾點評或者Yelp等等。

　　某種程度上，口碑已經成為不少企業的命脈，釀成辦事和產品質量的永久記錄。與此同時，不公平或者虛假的點評也讓企業憂心忡忡，這些有可能來自憤怒的顧客，也有可能來自競爭對手。

　　水軍，在全球都是一個讓人頭疼的問題，以后可能會更疼了：

　　人工智能（AI）已經學會自動編寫虛假點評了。

　　整個點評口碑界正面臨潛在卻是嚴重的沖擊。如果AI創造的虛假點評泛濫，最終將導致全部點評信息可信度急劇下降。技術進步，這一次又給社會帶來了（令人擔憂的）影響。

　　不知道許知遠會不會更焦慮了。

　　“這對整個社會是一個巨大的威脅，不單會讓依靠點評信息的用戶失望，并且會擺蕩人類對于真實和虛假的信念，我認為后者更讓人擔心”，芝加哥大學計算機科學教授趙燕斌（Ben Y． Zhao）說。

　　以假亂真

　　《在線點評系統中的自動眾包攻擊和防御》是趙燕斌等芝加哥大學研究人員發布的一篇論文。他們的研究說明，，人工智能可以被用來生成復雜的點評信息。這些虛假的點評不但機器無法檢測出來，就連人類讀者也分辨不出來。

　　這篇論文本年晚些時候會在計算機安適頂級會議ACM CCS上展示。

　　所謂復雜的點評信息，大概是這個樣子：“我喜歡這個地方。我跟我哥一起去的，我們點了素食意大利面，很好吃。啤酒不錯，辦事也很棒。保舉這個地方，是個吃早餐的好去處。地兒小但是買賣大”。

　　乍一看這個點評沒有什么奇怪的，里面包羅一些具體的建議和可信的描述，雖然最后一句有點奇怪，但整體仍然是一段說人話的表達。

　　實際上，這句話是一種稱為RNN（循環神經網絡）的深度學習技術生成的。這個RNN網絡使用了上千條真實在線點評訓練而成。

　　研究人員體現，AI生成的點評已經做到了“以假亂真”，有 600 個用戶參與的調查顯示，這些虛假的點評不但能逃過人類的法眼，并且還被用戶認為“有用”。

　　“有用”是更可怕的事情：這表白虛假點評已經可以對人類造成影響。

　　反抄襲軟件也對這些虛假點評無能為力，因為這些點評是逐字生成的，而不是簡單的替換已有點評中的用詞。如果使用反抄襲軟件檢測，不單很難檢測出虛假點評，并且會“誤傷”一大批真實的點評。RNN可不但僅是對現有點評的復制。

　　人類水軍面臨下崗

　　人類手寫的虛假點評，已經是一個興盛的地下行業。只要有錢，你就能找到人幫你的產品寫下正面的點評，后者給對手寫下負面的評價。

　　現在，傳統水軍行業未來可能也要被AI取代了。

　　美國市場上，一段質量較高的Yelp點評，可能價格能到 10 美元。不過一旦有了AI的幫手，君心叵測的人可以一分錢不消就生成上千條點評，并且一起放出以免引起懷疑。

　　好消息是，現在還沒有AI在現實世界中生成惡意虛假點評的案例。

　　壞消息是，構建一個這樣的人工智能系統，并不需要太長的時間，所需硬件市面上都能買到，所需的點評數據庫可以在網上輕易獲得。

　　仍有對策

　　如果有人開始大規模生產這種假點評，大眾點評、Yelp這樣的網站恐怕就沒有好日子過了，終究，它們的招牌就是來自用戶的真實點評，如果每一條都可能是假的，誰又會繼續相信它們呢？

　　接下來淪陷的，會是淘寶京東亞馬遜之類的電商，雖然趙燕斌說至少它們還能限制只有買過該商品的用戶才能點評，但情況也不容樂不雅觀。

　　不過，也有好消息。