某徵婚交友平臺運營者實施演算法時認定使用者李某為“殺豬盤”，並對其進行風控，導致李某被好友誤認為騙子。李某一氣之下將平臺訴至法院，要求道歉並賠償2萬元。

11月10日，北京青年報記者從北京網際網路法院獲悉，該院審結了首例涉及演算法風控系統引發人身權益侵權糾紛的案件。法院判決平臺並無主觀過錯，不構成侵權，駁回了李某的訴訟請求。

金融人士被演算法誤認為“殺豬盤”遭封號 平臺：短期內多次提及所涉高頻詞

據瞭解，李某為某金融公司員工，註冊了某徵婚交友平臺，提交了真實照片作為頭像以及實名認證手機號。在李某正常使用平臺期間，徵婚平臺對其賬戶進行了封號處理，並向其他網友提示稱“賬號可能存在異常”“不要與之發生金錢來往”等。該情況導致李某多位朋友誤認為其是騙子，造成李某名譽受損。

李某訴至法院，認為平臺運營的演算法技術造成誤判侵犯其名譽權，請求法院判令徵婚平臺公開向其道歉予以澄清，並賠償損失2萬元。

徵婚平臺辯稱，按照法律法規的規定，運營者對使用者在平臺的行為進行監管，履行平臺主體責任。李某為其運營平臺註冊使用者，在與平臺其他使用者聊天過程中，短期內多次被檢測到出現“金融”“基金”“加微信”等“殺豬盤”詐騙案件所涉高頻詞彙，因此自動觸發了平臺風控系統的稽核規則，經李某致電客服反映情況，平臺的人工核實後對該賬戶進行解封。

平臺認為，自己的行為僅是為公共利益依法履行主體監管責任，系統自動判定原告賬戶為風險賬號，不存在侵權行為。

法院：平臺採取演算法風控行為並無主觀過錯不構成侵權

該案訴訟過程中，平臺還提交了《關於涉案軟體風控稽核系統的情況說明》及相關證據，向法庭說明其“預防性風控系統”演算法邏輯機理，盡到了相應的演算法披露義務。結合雙方訴辯意見，該案中主要爭議點為，平臺採取涉案演算法風控行為是否存在主觀過錯。

北京網際網路法院經審理認為，平臺根據涉案“預防性風控系統”針對的詞彙和行為可見，該系統設定目的確係為預防“殺豬盤”等網路詐騙行為，係為實現法律要求的監管義務和公共利益，具有正當性。

同時演算法設定需在現有技術條件下合理、合比例，不得存在演算法歧視、演算法濫用等侵害他人合法權益的非法手段，根據已查明的事實及被告披露演算法邏輯過程，涉案演算法設定系基於特定詞彙和使用者行為的自動化反應機制，並不存在對某類使用者的不當歧視。

另外，鑑於涉案平臺為陌生人網路交友戀愛類平臺，在目前社會背景下加強“殺豬盤”等網路詐騙犯罪的篩查力度，於平臺服務型別來說具有一定合理性。

而平臺在發現誤封后，確按照其承諾的人工稽核方式，在宣告的期限核心查誤判並解除賬戶封禁和風險提示，盡到了與涉案演算法風險相匹配的注意義務。

綜上，平臺基於法律監管要求和公共利益保護的目的，設定“預防性風控系統”演算法應用，對使用者行為進行中立、無差別的風險篩查，雖因技術水平所限造成系統誤判，但盡到了與涉案演算法風險相匹配的注意義務，並採取了合理的預防侵權措施，並無主觀過錯，不構成侵權。

法院判決駁回李某的訴訟請求。一審宣判後，雙方均未上訴，該案判決已生效。

該案系全國首次涉及演算法風控系統引發人身權益侵權糾紛進行的審理

據北京網際網路法院介紹，該案是全國首次涉及演算法風控系統引發人身權益侵權糾紛進行的審理。針對該領域，2022年《網際網路資訊服務演算法推薦管理規定》和《反電信網路詐騙法》均規定了網路服務提供者需履行涉電信網路詐騙資訊監測、識別和處置的義務。在此背景下，網路服務提供者透過技術手段，強化對高危風險賬戶的監測和預防功能，具有演算法技術運用的正當性。基於演算法技術特點和現有行業發展水平，對於關鍵詞和使用者行為的命中，可實現對海量資訊的自動化篩查，提高監測和採取措施的效率，但同時也不可避免產生系統誤判，命中有類似特點的合法行為。由於演算法技術尚處於發展階段，相關行業規範尚未成熟，應鼓勵演算法技術創新和正向發展，合理確定注意義務，促使企業利用演算法加大正向價值傳播，阻斷違法和不良資訊傳播，讓網路發展成果惠及廣大人民群眾。

中國社會科學院大學網際網路法治研究中心執行主任劉曉春表示，數字經濟時代，演算法成為網路平臺進行資訊交換、資源調配、內部治理的重要途徑，對於演算法的治理和規範是建構網路空間綜合治理秩序的重要組成部分，與此同時，平臺積極運用演算法參與綜合治理，也需要對其行為的合理邊界和注意義務給出標準和指引。本案中，法院一方面承認了使用者權益在平臺經濟中應當受到充分保護，另一方面也認定了網路平臺依據法律要求、履行打擊電信詐騙等治理義務的行為存在合法性基礎，當兩者出現一定程度的利益衝突時，本案判決為平臺確立了合理的注意義務標準及具體認定因素，在個體使用者權益保護和實現社會治理功能之間尋求精準的平衡點，探索並確立了判斷平臺治理合理邊界的法律適用標準，在確認平臺可以繼續採取有效措施防範“殺豬盤”等電信詐騙風險的同時，又確保被演算法“誤傷”的個體權益可獲得救濟途徑，從而實現更大範圍內切實保護人民群眾切身利益的目標，為構建協同共治的網路空間治理秩序提供法治保障。

文/北京青年報記者 王浩雄

編輯/王朝

TAG: 演算法平臺李某控系統法院