Alphabet 以機器學習對抗不當留言
Jigsaw 的 Perspective 能辨認不好的用字,網站就能更好的管理留言。
不管是在 YouTube、Facebook、Twitter 或是其他能留言回應的新聞網站(像我們家般),都總會發現有出現用字不當的留言,有意無意地攻擊到別人。今天,Alphabet 子公司之一的 Jigsaw 就發表了他們利用機器學習來辨識不當留言的工具 — Perspective。出版機構隨後能透過存取 API 來管理讀者留言。
為了訓練 Perspective,Jigsaw 找來了數百萬計,已經被人類評審辨識為不當留言的內容,給機器學習運算法為基礎,然後再讓它自行評估和比較其他留言的類比度。也一如其他的機器學習系統,Perspective 會隨著每次的手動調整而變得更聰明、更準確。
除了自己家裡的閉門測試,Jigsaw 也有與紐約時報合作測試。現時 NYT 會在每段留言貼出前,先以人手檢閱 — 有關團隊每天需要檢閱約 11,000 則留言。不過這樣的留言審查機制只有在他們其中 10% 的文章中應用到,如果得到了 Perspective 的加入,NYT 就能加速,甚至把機制推廣至所有的文章留言。
Jigsaw 並非只有 Perspective 一個保持互聯網和諧的工具,他們之前已有開放予其他新聞機構參與 Project Shield 的計劃,防止網站遭受 DDoS 的攻擊。
來源: Google Blog
經由: Engadget