3月27日，今天的標題產(chǎn)生了一個名為“灰狗”的微信小程序，正式結(jié)束了為期兩個月的內(nèi)部測試期。 “灰狗”本周正式推出，這是中國第一個反庸俗信息小程序。

這個小程序誕生于今天的標題反庸俗算法模型，用于識別粗俗信息。用戶可以將文本或文章鏈接放入搜索框以查詢消息的健康狀況。

但是，在文本檢測方面，“灰狗”團隊規(guī)定，用戶輸入的單詞數(shù)量必須超過10個單詞才能進行測試。

為此，“灰狗”團隊給出了一個解釋：用戶的背景，背景等越充分，機器判斷的準確性就越高。

一些參與內(nèi)部測試的用戶曾在“灰狗”上測試過“你餓了，我給你以下”字樣。數(shù)據(jù)顯示內(nèi)容健康指數(shù)為51％。昨天，Hedgehog再次測試了該指數(shù)的含量為56％。

“戈爾曼”團隊沈陽app開發(fā)

解釋說，與色情文學不同，處理粗俗信息的困難之一是人們對庸俗判斷標準具有一定的主觀性。色情信息很簡單，粗俗的信息有偏見，對于像“狗”這樣的機器來說更難。

今天的標題方法是將粗俗標準分為兩個層次：幾乎每個人似乎都同意的標準底線，以及因人而異的主觀判斷。

那么，在算法機制背后，“精神之犬”如何判斷一段文字或鏈接到一個網(wǎng)站作為粗俗？

“雕文”團隊給出的解釋是算法模型處理粗俗內(nèi)容并且具有最常見的路徑之一：“收集數(shù)據(jù) - 標記樣本 - 訓練模型”。

對于用戶輸入的文本或鏈接，“灰狗”將首先提取，分段和語義識別，然后根據(jù)設定的規(guī)則輸出相應的分數(shù)，等級和結(jié)論。

但是，當測試人員用圖像和視頻測試鏈接時，測試結(jié)果不是很好。

“雕文”團隊給出的解釋是，由于圖像和視頻提取需要很長時間，因此返回結(jié)果很慢。考慮到該工具的即時性，暫時不支持檢測。

“灰狗”的誕生將包含在今天的標題內(nèi)容審查系統(tǒng)中。它與今天的標題內(nèi)容審查機制有關，如“狗”和“工作犬單位”。可以理解，“精神狗”是標題審查機制的反粗俗部分的簡化版本。

據(jù)了解，就內(nèi)容審查而言，今天的頭條新聞目前正在投資4,000多名專業(yè)審計團隊。

“灰狗”團隊表示，這是中國最大的審計團隊，并建立了180多個色情，粗俗，頭銜，虛假信息和低質(zhì)量模型。結(jié)合手工和技術手段，有效提高了內(nèi)容審查的效率和準確性。學位。

事實上，今天的頭條新聞計劃去年這件事。今年1月底，“灰狗”團隊為全社會招募了反庸俗的測試人員，最終從包括政府在內(nèi)的5000多名注冊用戶中選出了30名代表。部門工作人員，媒體記者，編輯，大學教授，學生，互聯(lián)網(wǎng)公司產(chǎn)品經(jīng)理和技術人員，自我媒體人員等。

在內(nèi)部測試階段，“灰狗”團隊根據(jù)測試人員的反饋添加了大量手動策略，以幫助改進“靈魂犬”小程序。增加的策略包括：對于權(quán)威媒體報道和詩歌內(nèi)容，建議傾斜算法;對于政府和其他機器難以直接處理的內(nèi)容，必須通過人工審核來判斷。