從人工智能變成“人工智障” 聊天機(jī)器人殤在哪？

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

來源|智能相對論

【摘要：2018年，F(xiàn)acebook關(guān)閉虛擬助手「M」，亞馬遜Alexa產(chǎn)品發(fā)出怪笑，聊天機(jī)器人市場“事故頻發(fā)”，究竟是誰扼殺了聊天機(jī)器人?】

試想一下，一個靜謐的午夜，你和家人正在熟睡，家中突然響起毛骨悚然的笑聲，時遠(yuǎn)時近，這困擾了大人，驚嚇了孩子。而這一切的怪笑，都是由Alexa發(fā)出的。作為Amazon的主推產(chǎn)品，Alexa這一動作讓許多用戶陷入恐慌之中。

目前，亞馬遜方面并沒有對此次Alexa出現(xiàn)故障的原因進(jìn)行詳盡解釋，并且它強(qiáng)調(diào)這是在“極少數(shù)情況”下才會發(fā)生的，盡管網(wǎng)上反映的問題代表不了Echo的數(shù)千萬用戶，但可以看出亞馬遜對此事的態(tài)度其實不以為意。

類似的情況，在聊天機(jī)器人身上已經(jīng)不是第一次發(fā)生。兩年前，微軟Twitter平臺的聊天機(jī)器人Tay變成了“種族主義者”，不到一年，它的后續(xù)產(chǎn)品Zo又再次出現(xiàn)問題。Zo將古蘭經(jīng)稱作“非常暴力”，并且它認(rèn)為抓住本·拉登“不止一個政府多年情報收集”的結(jié)果。

 

 

Zo發(fā)表的不宜言論

之前，F(xiàn)acebook關(guān)閉了虛擬助理「M」，團(tuán)隊相關(guān)成員分散到其他部門任職。聊天機(jī)器人的發(fā)展，道阻且長。

智能機(jī)器人變成“人工智障”?

「我們可能都希望能生活在這樣的世界里：和機(jī)器人有著最自然的對話，它將一切任務(wù)都執(zhí)行得完美無瑕。這一路走來確實不容易，而且說實話我們已經(jīng)發(fā)展得很快了。」Politibot的Suárez認(rèn)為：「但不幸的是，我們還沒有到那個理想的生活狀態(tài)，還要好幾年，機(jī)器人才能好到普羅大眾都能接受?！?/p>

然而，現(xiàn)實卻遠(yuǎn)不及Suárez的預(yù)期，聊天機(jī)器人依然存在著眾多問題。2016年，F(xiàn)acebook Messenger開放其程序接口后，收到的用戶反饋卻遠(yuǎn)不及預(yù)期。眾多機(jī)構(gòu)確實可以在短時間內(nèi)擁有自己的智能聊天機(jī)器人，但當(dāng)此類機(jī)器人無人類干預(yù)時，這些機(jī)器人的應(yīng)答失敗率高達(dá)70%，用戶體驗更是相當(dāng)糟糕。

從“圖靈測試”到Eliza的精神治療，聊天機(jī)器人發(fā)展至今已經(jīng)走過了近70年，在漫長的發(fā)展歷程中，聊天機(jī)器人并未得到真正的普及，現(xiàn)今依然存在著諸多弊病。

是誰讓聊天機(jī)器人變成了這樣?智能相對論認(rèn)為，是人類，更是機(jī)器本身。部分核心技術(shù)及適配性問題，依然是聊天機(jī)器人的阿喀琉斯之踵：

1.復(fù)雜語言識別困難

現(xiàn)代化聊天機(jī)器人的對話界面主要依賴于語音識別，從而根據(jù)用戶命令做出便捷迅速的反應(yīng)，比如“下午三點去參加會議”、“今天的天氣怎樣”等。

語言作為一種主觀性較強(qiáng)的表達(dá)方式，人們說話的規(guī)則具有一定的變化性。這和電腦程序不同，人們表達(dá)不會完全受制于規(guī)則，能夠自由的遣詞造句，并以此來傳遞信息。除了地方方言外，每個人也會有自己的表達(dá)方式，例如心照不宣的“暗語”，或者某些特定的“梗”。這就需要聊天機(jī)器人“去陌生化”，僅僅完美keyword/keyword地理keyword/keyword解結(jié)構(gòu)化語言的系統(tǒng)將難以滿足大量用戶的需求，這對聊天機(jī)器人的系統(tǒng)提出了更高的要求。

以Richard S.Wallac設(shè)計的Alice聊天機(jī)器人為例，其在中文處理問題上，就存在一些問題。這是因為漢語不像英語等語言，用空格或其他標(biāo)記分詞，這就加大了ALICE對中文支持的難度。此外，其對于漢語分詞采用的一般匹配法、詞頻統(tǒng)計法、同義句的處理等方面也存在著許多技術(shù)難題。

 

 

“人工智障”般的聊天機(jī)器人

2.個性化適配之痛

個性化適配的問題體現(xiàn)在兩個方面，一方面人機(jī)信任是聊天機(jī)器人個性化發(fā)展的一個重點攻堅點。調(diào)查顯示，許多公司領(lǐng)導(dǎo)對于聊天機(jī)器人處理待辦事項是并不看好的，聊天機(jī)器人程式化的語言會讓許多人覺得“乏味”、“沒有人氣”，這也是公司助理一職并未被取代的原因。

另一方面，聊天機(jī)器人很容易對人的需求產(chǎn)生誤讀。比如對Siri發(fā)出“區(qū)塊鏈”的指示，Siri提供的是關(guān)于區(qū)塊鏈的百度百科，這與用戶想要了解區(qū)塊鏈的最新發(fā)展動態(tài)的初衷大相徑庭。

目前聊天機(jī)器人語音識別主要基于語音識別的基本架構(gòu)、聲學(xué)模型、語言模型并進(jìn)行解碼，而真正通過用戶畫像來實現(xiàn)個性化適配的聊天機(jī)器人少之又少。其實，不同用戶的性格、特點、知識層次都不相同，如果有預(yù)設(shè)的用戶畫像，那出現(xiàn)適配失誤的可能性也會大大減小。

 

 

當(dāng)前語音識別的通常模式

縱觀歷史上機(jī)器學(xué)習(xí)能夠做到的事情，都是一些字符識別(OCR)，語音識別，人臉識別一類的，這些稱之為“識別系統(tǒng)”。這些系統(tǒng)存在的問題在于難以變通，簡單的語音識別難以真正為用戶較為復(fù)雜的工作助力，線性的識別方式也難以適用于更開放式的應(yīng)用場景。

3.隱私安全終成隱憂

Facebook爆史上最大數(shù)據(jù)泄露案，特朗普被指利用AI競選成功，這也讓更多的聊天機(jī)器人用戶對自身的隱私感到隱憂。“Alexa發(fā)笑”事件中亞馬遜公司對于事件原因的閃爍其詞，似乎用戶數(shù)據(jù)已經(jīng)進(jìn)入了一個“圍墻花園”的模式。語音分析和人工智能軟件存在于一個黑匣子中，而這些軟件只有硅谷的開發(fā)人員才能真正理解。很難想象，如果你將一切的智能家居與聊天機(jī)器人連接起來時，這一切都在一個你無法擁有也無法控制的計算機(jī)上控制著你的生活以及你的家。

作為語音識別領(lǐng)域的領(lǐng)軍人物，微軟于2016年也僅僅將錯誤率控制在5.8%左右?？墒请S著人工智能進(jìn)一步拓展到金融、醫(yī)療等領(lǐng)域，1%的錯誤率導(dǎo)致的可能是財產(chǎn)的損失和生命的安全。

 

 

微軟語音識別錯誤率(2016年)

此外，配套設(shè)施的不完善難以讓聊天機(jī)器人發(fā)展成了一個嚴(yán)密的體系，這使得初次試水的用戶對此頗有微詞。聊天機(jī)器人何時能夠完善到能夠大范圍普及，這也是產(chǎn)品長足發(fā)展需要認(rèn)真思考的問題。

死地而后生，聊天機(jī)器人或許需要“洗心革面”

曾經(jīng)火遍全球的索菲婭機(jī)器人最近攤上大事了。Yan LeCun(機(jī)器人專家)指責(zé)索菲婭與人類堪稱完美的聊天是一場徹頭徹尾的騙局，以目前人工智能的技術(shù)來看，此種對話是不可能達(dá)到的。然而能像人那樣自然地聊天的機(jī)器人一直以來都是機(jī)器人學(xué)者所追求的目標(biāo)之一，這是一個漫長的過程。

而在2018年年初，F(xiàn)acebook關(guān)閉了虛擬助理「M」，這像是壓死駱駝的最后一根稻草，許多品牌對聊天機(jī)器人已經(jīng)不再感興趣，聊天機(jī)器人的發(fā)展走進(jìn)了一個死胡同。曾經(jīng)熱極一時的聊天機(jī)器人似乎遭遇了滑鐵盧，死地而后生，智能相對論(ID:aixdlun)認(rèn)為，可以從三個方面“洗心革面”。

1. 塑造聊天機(jī)器人的“獨(dú)立三觀”

能夠獨(dú)立表達(dá)喜歡、不喜歡和偏好怎樣的人類性格，在聊天的過程中展示出誠實和值得信任等可貴品質(zhì)是塑造聊天機(jī)器人“獨(dú)立三觀”的重要體現(xiàn)。正如聊天機(jī)器人被引入日常生活，我們還能訓(xùn)練機(jī)器人去識別我們的語言，挖掘我們的喜好，甚至還能分析我們的口音，推測我們的情緒。

通過自然語言和情感分析，Quartz公司嘗試著讓Quartzy來指導(dǎo)特定用戶做面包。Quartzy會以一種友好且有趣的方式和用戶聊聊「怎么做一個免揉面包」，這項體驗會持續(xù)兩天，一旦用戶完成了第一個步驟，Quartzy會在大概12小時后，用Facebook Messenger給你「叮」一個通知，提醒你完成后續(xù)的步驟。這是機(jī)器人獨(dú)立三觀的一個體現(xiàn)，當(dāng)然希望以后這樣的嘗試會更加普及。

2.從“鸚鵡學(xué)舌”到“烏鴉喝水”

“鸚鵡學(xué)舌”是借由人類語言的模仿行為，其類似于當(dāng)前由數(shù)據(jù)驅(qū)動的機(jī)器人。“烏鴉喝水”則是一個完全的自主行為，其含括了感知、認(rèn)知、推理、學(xué)習(xí)、和執(zhí)行，這是聊天機(jī)器人朝想象力、創(chuàng)造力更高層次的進(jìn)階。目前，要真正實現(xiàn)聊天機(jī)器人的“烏鴉喝水”模式主要從兩個方面努力：

一方面，讓人工智能在自動學(xué)習(xí)中“更聰明”。 伊恩·古德費(fèi)洛用兩個神經(jīng)網(wǎng)絡(luò),進(jìn)行數(shù)字版的“貓鼠游戲”——一個負(fù)責(zé)“造假”,一個負(fù)責(zé)“驗真”,從而在對抗中不斷提高。首先，依據(jù)“見過”的圖片生成新圖片，需要機(jī)器人總結(jié)規(guī)律、發(fā)揮想象力和創(chuàng)造力;其次，判別某張圖片是否是真實事物，這需要它憑訓(xùn)練積累的“經(jīng)驗”。

另一方面，建立更加廣博的知識圖譜。知識圖譜的建立需要從靜態(tài)和動態(tài)兩個方面出發(fā)，真正將目前聊天機(jī)器人聊天對話場景從垂直領(lǐng)域拓展到開放領(lǐng)域。同時，構(gòu)建知識圖譜的重點在于語義理解、知識表示、QA、智能對話和用戶建模。

3.學(xué)會更快更多元的賺錢

聊天機(jī)器人作為一個虛擬助理，其最終目的是為了簡便工作方式或者直接盈利。目前的聊天機(jī)器人主要分為兩種：單純聊天的機(jī)器人以及垂直領(lǐng)域的定制機(jī)器人，如小i機(jī)器人就衍生出了全渠道跨領(lǐng)域智能客服機(jī)器人、智能呼叫中心解決方案、智能營銷解決方案、智能語音交互解決方案等多個發(fā)展方向。就當(dāng)下來看，聊天機(jī)器人主要利用于內(nèi)置商業(yè)場景中，如用機(jī)器客服代替人工客服。

事實上，聊天機(jī)器人盈利方式的開發(fā)還遠(yuǎn)遠(yuǎn)不夠。作為人工智能類產(chǎn)品的重要代表，其在聊天機(jī)器人+原生內(nèi)容、利用聊天機(jī)器人做聯(lián)盟網(wǎng)絡(luò)營銷、用聊天機(jī)器人做用戶調(diào)研等方面是大有可為的。

這顯然不是聊天機(jī)器人自己的任務(wù)，也是整個行業(yè)的工作。

智能相對論：深挖人工智能這口井，評出咸淡，講出黑白，道出深淺。重點關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機(jī)交互等。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！