2017年，英國少女Molly Russell結束自己的生命。她家境富裕，與父母溝通沒有問題，但為何選擇走上絕路？經過5年調查，官方認為Molly Russell的自殺與她在社群媒體上瀏覽了2,000多則自殺、自殘、憂鬱症內容有關，家屬直批這是社群媒體的「演算法殺人」。

Molly Russell案是全球第一例政府認定的兒少因社群媒體輕生事件，這件事也敲響了資訊界的警鐘——如果網路內容損害人們的身心健康，那麼，誰該為此負責？

法國新創企業Bodyguard.ai注意到這個趨勢，也為此提出了解方。

AI技術加持 分析語境擋霸凌
Bodyguard.ai成立於2018年，點入官網，首頁就大大地寫著公司使命：「保護人們與企業免受網路有毒言論的影響」，而且特別的是，創辦人Charles Cohen在年僅21歲時就創立了這家公司。

Charles Cohen是名符其實的電腦天才，當其他孩子還在玩樂高積木時，10歲的他已開始學習程式設計。

Charles Cohen坦言自己未曾受過網路霸凌，但身為網路世代的他卻在使用網路的過程中，看見仇恨語言所造成的傷害。「網路霸凌限制了言論自由，這就是為什麼我從不敢在網路放上個人資料或暴露自己——我害怕會被欺負。」Charles Cohen說。

無法忍受人們在網路上遭受謾罵、威脅，Charles Cohen決定要為負面的網路生態做些事。

2017年，Charles Cohen與一群語言學家合作，發展出一種能在網路上識別有毒內容的技術。Bodyguard.ai透過AI人工智慧，以上下文語境為判斷基礎，複製人類版主刪除負面資訊的各個步驟：發現有問題的詞組、分析使用環境、確認審核規則，最後再決定是否刪除資訊。

千分之一秒  可過濾百萬訊息
利用這項技術，Bodyguard.ai在一年內分析了1,200個品牌的1.7億則評論後發現，其中900萬則內容含有不當用語，其中約28％有仇恨性，1％屬於實質威脅，20多萬則內容帶有歧視，另外還有許多垃圾郵件、詐騙等看似不嚴重其實有害的資訊。

平均而言，網路使用者所發表的言論當中有4％至10％內容不當，而Bodyguard.ai可以在千分之一秒內過濾數百萬條評論，揪出不當用字與訊息，準確率高達90％到95％，超越許多社群媒體演算法的表現。截至2022年，Bodyguard.ai的服務已保護全球7億多人免受性騷擾、種族主義威脅等各式各樣有毒言論「污染」。

Bodyguard.ai一推出就受到市場關注，並在2020年成功募得250萬歐元資金（約合新台幣8,200萬元），推出B2B（企業對企業）產品。如今，Bodyguard.ai在尼斯、巴黎、馬賽等地擁有49名員工，合作企業包括1,200多個社交網路與50多個線上平台，跨足遊戲、體育、媒體及品牌領域。2022年，Bodyguard.ai再獲得900萬歐元資金，預計今（2023年）將發展出6種語言版本，保護世界上更多網路使用者。

找到使用者痛點  並以創新技術解決
深入分析Bodyguard.ai成功之處，關鍵有二：發現使用者痛點與創新技術。

前者，正如法國第一夫人Brigitte Macron所說：「社群網路是孩子的日常交流工具，但父母似乎忘了在網路上教導孩子，在現實生活中我們會幫助他們做的事：避開危險。」

面對無垠網海，現代父母很難確切掌握孩子在網路上遭遇什麼困難、需要何種協助，Bodyguard.ai補足這塊缺失，透過簡單易上手的App一舉解決父母所面臨的網路棘手問題，而這正是市場的急迫需求。

後者，有別於一般社群媒體的傳統關鍵字圍堵做法，Bodyguard.ai使用AI技術判斷上下文，不僅提高準確率與效率，還能在孩子接觸到有毒言論之前就先加以防堵，阻止傷害發生。

勞動力發展署多元培力計畫審查委員劉子琦分析，Bodyguard運用AI技術分析網路發文使用者的上下文語境，依據規則直接攔阻刪除霸凌、仇恨、歧視、侮辱、威脅、詐騙、騷擾、虛假與垃圾言語的負面發言。效用已經擴及運動、遊戲、品牌商家與媒體等擁有大量留言的領域。將科技用之於善，提升善的循環，守護網路安全，回歸善言本意，是Bodyguard的價值所在。

今日，網路霸凌已是聯合國兒童基金會（UNICEF）認定高度威脅全球身心安全的行為之一。目前在台灣，也有社會企業試圖防止網路霸凌，例如台灣社企教育單位「玩轉學校」選擇從教育下手，推出反霸凌遊戲教材，透過遊戲方式提供青少年學用合一的體驗，讓孩子「玩」出反霸凌的能力。但綜觀整體台灣市場，目前針對網路霸凌仍多以宣導、教育與輔導的方式為主，少了類似Bodyguard.ai這種以科技為本、主動出擊式的反霸凌作為。

網路時代，人們隱身在暗處，光靠鍵盤就能殺人於無形。霸凌議題永遠不會消失，但反過來思考，這也表示市場商機將持續存在。目前在國外，除了透過演算法過濾訊息之外，也有許多APP如「ReThink」文字偵測、「BullyBox」匿名舉報系統等，嘗試透過各種科技方式解決問題。在台灣，若能針對霸凌議題思考特別的切入點，再輔以新興科技開發市場，就有機會兼顧社企理念與商機，在商業市場開發出一片新藍海，而這也將是未來青年創業的一個理想新領域。
Bodyguard.ai 臉書官網
 

▲商模圖

▲Bodyguard.ai的技術可以在千分之一秒內過濾數百萬條網路評論，避免孩子接觸到有毒訊息。（達志影像）

▲網路時代，霸凌問題隱身螢幕後，更難防範，現代父母其實很難確切知道孩子在網路上遇到什麼問題。（達志影像）

▲從個人到企業，從臉書、推特到各式網路平台，只要一鍵按下，Bodyguard.ai就能過濾排除有害言論，封鎖網路霸凌行為。（達志影像）

國外社會創新案例故事
撰文：黃雅蘭

本著作係採用創用 CC 姓名標示-禁止改作 3.0 台灣 授權條款授權.

姓名標示為「勞動部勞動力發展署」