首頁» 新聞網» 媒體北理» 媒體理工

情話APP說胡話,誰來管住它的嘴


原文標題:情話APP說胡話,誰來管住它的嘴

原文鏈接://digitalpaper.stdaily.com/http_www.kjrb.com/kjrb/html/2019-11/20/content_435163.htm?div=-1

  “你今天怪怪的?!?/p>

  “哪里怪?”

  “怪可愛的?!?/p>

  當你捧著手機與追求者或網友聊天時,會不會被這樣的話“撩”到?但在屏幕那一頭的,或許不是滿懷真情的他或她,而是一個戀愛話術APP。

  近日,聲稱“幫你談戀愛”的戀愛話術APP引發公眾熱議。不論是在開場、初聊階段,還是在感情升溫、邀約見面階段,只要輸入一方說的話,這類軟件都可以把相應的回答選項奉上。然而,科技日報記者在試用了其中一款下載量較高的軟件后發現,有些答語驢唇不對馬嘴,甚至帶有歧視、侮辱的意味。

  那么,這類軟件究竟是怎樣被“煉”成的?為何會出現這些“跑偏”的答語?科技日報記者帶著這些問題,采訪了北京理工大學網絡攻防對抗技術研究所所長閆懷志。

  聊天機器人在戀愛場景的應用

  “其實,戀愛話術APP就是聊天機器人技術在這種APP所營造的‘戀愛場景’的應用?!便蘋持頸硎?,聊天機器人是目前常見的用來模擬人類對話或聊天的程序。本質上來說,這種戀愛話術APP,是大數據及人工智能技術的一種應用,類似的應用還有各種商務平臺的客服機器人。

  閆懷志介紹道,當前,此類程序多是通過線下搜集大量特定主題的聊天數據,后借助大數據分析處理算法,從海量數據中抽取對話要素,再設置對話場景,同時通過自然語言語義分析來判斷用戶意圖,最后從數據庫中找到最適合的語句去匹配回復。

  也就是說,研發聊天機器人,首先要搜集大量的人類對話內容,將其整理成數據庫,當用戶使用時,軟件再通過分析算法,把“候選答案”從庫中“拎”出來。

  “聊天機器人還擁有豐富的對話上下文場景庫和強大的自我學習能力,基于與使用者的實時互動,習得新的對話和語境?!便蘋持舅?。

  戀愛話術APP的研制也采用了上述方法,只不過因其應用為戀愛交友,所以可能還會加上戀愛場景特定的話語體系以及大量的網絡流行語等。

  記者了解到,戀愛話術軟件可提供兩大類服務:既可充當“替身”,直接替代使用者與對方聊天;也可做“助理”,向使用者推薦若干答語選項,供其選擇回復。

  APP上架審核尚處監管灰色地帶

  既然有強大的技術作支撐,為何此類軟件還會說胡話呢?

  “判斷一個聊天機器人是否合格的標準之一,就是看其能否通過圖靈測試?!便蘋持窘饈偷?,簡單來說,圖靈測試就是讓機器人和人類分別回答測試者提出的問題,若機器人給出的30%以上的答案,讓測試者無法判斷這是機器還是人類給出的回答,那么就判定該機器人通過了圖靈測試、其具有了人類智能。

  顯然,在當前豐富的語料庫、強大的算法的支持下,戀愛話術APP通過圖靈測試的難度并不大?!暗蛋笆魽PP等聊天機器人的智能程度,不僅取決于語料庫豐富與否、算法強大與否,它還與聊天場景、大數據分析處理準確度及效率、人工智能推薦算法等多種因素有關?!便蘋持舅?。

  在他看來,人類交流對話是一個相當復雜的信息感知與智能處理過程,而聊天機器人大多是簡單地采用語言類型配對的技巧,缺乏人類邏輯推理與適時反應等能力。所以,該類APP給出的有些回答會驢唇不對馬嘴。

  此外,部分該類APP為營造戀愛聊天的特殊氛圍,會預設一些比較曖昧甚至是輕浮的聊天語境或答復語句,這樣不僅可能會造成答非所問,甚至可能會出現侮辱性的話語,給聊天對象造成心理傷害。

  那么,針對該類APP出現的問題,目前我國是否出臺了相關審核標準以規范手機APP上架?

  “目前,我國只出臺了一些原則性的規定,總體來看,手機APP上架審核還處于法律監管的灰色地帶?!便蘋持舅?。

  現階段,大部分APP應用商店設置了開發資質認證審核、APP上架審核等基本審核規則,而且大都強制APP提供者承諾不違反現行政策、法律法規,并且要求APP提供者承擔相應的法律責任,APP應用商店對此免責?!耙蛭喙夭棵琶揮型瞥雒魅返墓娑?,大多只能靠APP提供者自覺,這就造成了上架的APP質量良莠不齊?!便蘋持舅?。

  當然,如果某款APP確實存在明顯違反法律、道德的問題,即便是通過了上架審核,推廣應用后也會遭到投訴,因此下架退市的案例也并不鮮見?!澳殼襖純?,營造良好的APP開發運行環境,需要APP開發者、APP商店平臺、APP使用者和監管部門等各方面共同努力,減少不良APP對用戶和社會造成的危害?!便蘋持舅?。

分享到: