不公平算法應用具隱蔽性消費者面臨維權舉證難題
算法應用不公該如何規(guī)制
● 網絡游戲抽獎概率不明、網絡消費促銷規(guī)則繁復、網絡搜索競價排名推薦、刷好評隱差評使評價結果呈現失真、平臺采用算法限制交易等侵害消費者權益的行為屢禁不絕、備受詬病
● 一些常見的網絡消費領域不公平算法應用具有技術性和隱蔽性，潛移默化地影響著消費者的購買決策，消費者很難通過個體力量與之抗衡
● 應加強算法應用的有效規(guī)制，一方面加強機構設立和立法規(guī)制；另一方面加強監(jiān)管協作和機制建設
□ 本報記者 侯建斌
隨著平臺經濟快速發(fā)展，網絡購物、交通出行、旅游住宿、訂餐外賣、網絡游戲等網絡平臺逐步興起，這些網絡平臺通過大數據、人工智能等手段為消費者提供了更豐富的產品或服務，與此同時，一些侵害消費者權益的行為如影隨形。
大數據“殺熟”，也只是冰山一角。近幾年，網絡游戲抽獎概率不明、網絡消費促銷規(guī)則繁復、網絡搜索競價排名推薦、網絡直播推送違反法律規(guī)定和公序良俗、刷好評隱差評使評價結果呈現失真、平臺采用算法限制交易等侵害消費者權益的行為屢禁不絕、備受詬病。
“這些問題的背后，核心是互聯網平臺對算法技術的應用�！敝袊M者協會近日召開網絡消費領域算法規(guī)制與消費者保護座談會，中國消費者協會秘書長朱劍橋坦言，技術進步和應用總體上有利于增進人類福利，同時也會造成新的困擾和傷害。在網絡消費領域，可能會減少消費者選擇的時間成本，但是也會讓消費者面臨信息安全、歧視對待等消費風險。
“流量至上”“利潤至上”的算法應用，可能會使經營者行為有悖法律、有失道德、有違倫理�！熬W絡經營者應當嚴格遵守法律規(guī)定，誠信應用算法，反對利用技術手段，欺騙、隱瞞真實情況，欺凌消費者�！敝邢麉f呼吁，在算法應用中，網絡經營者應當加強自律，守法經營，承擔應盡義務和責任，同時，各行業(yè)組織應加強引領和督導，使網絡經營者合理合規(guī)地應用算法，凈化行業(yè)風氣，促進良性發(fā)展，有效維護消費者合法權益。
此外，應加強算法應用的有效規(guī)制。中消協建議，有關行政部門加強相互協調，細化監(jiān)管職責；完善執(zhí)法依據，做好規(guī)章廢改銜接；加強對算法應用的分級標識和分類管理，對涉及公共利益、生命健康、財產權利等的算法應用強化監(jiān)管，對具有市場支配地位的平臺經營者的算法應用強化監(jiān)管，對涉及價值觀、道德觀特別是未成年人教育的算法應用強化監(jiān)管。
大數據殺熟維權難
集體救濟機制待建
2019年3月，北京市消協發(fā)布的《大數據“殺熟”問題調查報告》(以下簡稱《報告》)顯示，88.32%的被調查者認為大數據“殺熟”現象普遍或很普遍，沒有被調查者認為大數據“殺熟”現象不存在。有56.92%的被調查者表示有過被大數據“殺熟”的經歷。
其中，被調查者在購物類、在線旅游類和打車類App或網站經歷大數據“殺熟”最為常見，其他依次為外賣類、視頻類和電影類App或網站。其中，經歷過前三類App或網站大數據“殺熟”的被調查者分別達到44.14%、39.5%和37.17%。
北京市消協副秘書長陳鳳翔指出，表面上是通過數據，針對消費者推送服務，但從深層次看，大數據“殺熟”的本質是部分經營者對消費者個人信息過度采集和隨意使用，使消費者的知情權、選擇權、公平交易權以及個人信息保護權利未得到充分尊重和保證。
短期來看，大數據“殺熟”或許能給企業(yè)賺取更多利潤，但從長遠來看卻透支消費者對品牌的信任。專家認為，大數據“殺熟”背離最基本商業(yè)倫理和企業(yè)價值，違背誠信經營原則。
究其原因，陳鳳翔分析說，一方面是算法本質是互聯網的一個編程技術，這種編程技術由人為參與和輸入，有的編程者并不懂得法律，編制過程中會觸及消費者的底線，或者侵害消費者權利。
另一方面，技術演算出來造成消費者的傷害。這種傷害可能是初期算法的歧視，或者算法在計算機背后所產生的副作用。
《報告》顯示，遭遇大數據“殺熟”后，26.72%的被調查者選擇向消協或市場監(jiān)管部門投訴，25.56%的被調查者選擇不再去這個商家消費，17.43%的被調查者選擇忍氣吞聲、自認倒霉，11.71%的被調查者選擇與商家理論并要求賠償，10.46%的被調查者選擇卸載商家App或刪除網址，8.13%的被調查者選擇在社交網站或向媒體曝光。
大數據“殺熟”具有隱蔽性，維權往往難以舉證。陳鳳翔建議，通過公益訴訟方式，推動社會各界協同共治。
中國政法大學副校長時建中同樣認為，大數據“殺熟”是商家濫用數據優(yōu)勢的一種典型行為。商家是數據絕對優(yōu)勢占有者，濫用數據絕對優(yōu)勢，損害消費者利益的行為并不鮮見。大數據一旦“殺熟”，針對的是該種消費模式的所有消費者，而非具體消費者。
解決大數據“殺熟”需要建立集體救濟機制。時建中坦言，對于個體消費者而言，不一定能夠發(fā)現“殺熟”，而且發(fā)現之后不一定能夠保存證據，即便保存之后也不一定會尋求救濟，因為救濟成本太高。
大數據“殺熟”是價格歧視的一種。中消協披露，有些經營者利用算法進行的價格歧視還包括對不同地區(qū)的消費者制定不同價格；多次瀏覽頁面的用戶面臨價格上漲；利用繁復促銷規(guī)則和算法，實行價格混淆設置，吸引計算真實價格困難的消費者。
不公平算法很隱蔽
消費者容易被壓榨
算法本身是一種技術手段，經營者可以利用算法提升經營效率，為消費者提供更豐富、更優(yōu)良的產品和服務。
“算法從技術角度來說，的確對于互聯網經濟的發(fā)展有很大的貢獻�！睂ν饨涃Q大學法學院教授蘇號朋認為，要客觀認識到的是，算法對于商家來說，是一種重要的營銷或者銷售工具；對消費者來說，亦不能否認算法，尤其是推薦算法給消費者帶來的便利。
在蘇號朋看來，算法的正面意義在于，一是降低復雜定價成本；二是降低頻繁改價的成本；三是顯著提高定價決策的質量。
當然，商家也可以利用算法鉆法律的漏洞，實施違法違規(guī)行為，侵害消費者的合法權益。由于商家存在對算法權利的壟斷，如果這種算法壟斷被濫用，消費者基本無能為力，因為無論是取證本身，還是舉證，以及證據被相關執(zhí)法機構采納的可能性，目前都存在巨大難度。
“商家借助算法這種技術手段，擴大了商家和消費者之間的技術鴻溝�！碧K號朋坦言，不公平的算法對消費者所造成的侵害，不僅損害消費者的公平交易權，而且侵害了自主選擇權和知情權。
中消協此前根據消費者投訴、有關調查和相關報道，梳理出網絡領域涉及消費者權益的算法應用問題包括推薦算法、評價算法、排名算法等不公問題。
比如，通過監(jiān)測分析消費者的消費行蹤軌跡，如瀏覽過的頁面、廣告、商品服務、話題等，有針對性地對消費者進行商業(yè)營銷。朱劍橋坦言，這類推薦算法利用消費者的數據畫像，實施所謂的精準推送。許多消費者誤以為自己看到的與旁人無異，導致知情、選擇不足。有些經營者通過算法應用推送的商品、服務內容，甚至違背法律和公序良俗。
還有部分平臺及平臺內經營者為獲得好評，運用刷單等方式，編造虛假高分評價，或者隱匿中評、差評，使真實評價無法顯現。“虛假評價、評價失實呈現，不僅破壞經營者之間的公平競爭，也對消費者購買決策產生誤導�！敝靹蛘J為。
此外，平臺經營者制定各類排名榜，聲稱基于消費者好評率、銷量等，對各行業(yè)或商品服務類別進行排序，引導消費者選擇，但具體如何計算得出的難以知曉。
一些線上經營者開展有獎銷售、抽獎兌換，特別是部分網絡游戲公司經常推送游戲道具抽獎活動，雖然公示中獎(掉落)概率，但是其算法程序不透明，實際中獎概率缺乏管控，屢遭消費者詬�。贿�有一些平臺利用所處優(yōu)勢地位通過算法在流量分配、搜索排名等方面設置障礙和限制，控制平臺內經營者開展交易，影響公平競爭和消費者選擇。
“一些常見的網絡消費領域不公平算法應用，具有技術性和隱蔽性，潛移默化地影響著消費者的購買決策，消費者很難通過個體力量與之抗衡�！敝靹蛑赋�，如果任其無序發(fā)展，一方面不利于市場經濟的公平有序競爭，不利于經濟可持續(xù)發(fā)展；另一方面也會使消費者面臨數據算法壓榨，成為技術欺凌的對象，甚至被算法扭曲價值取向和道德觀念，淪為平臺經營者的掌中“玩物”。
不斷加強監(jiān)管協作
有效規(guī)制算法應用
中消協認為，互聯網條件下，由于信息占有、技術應用等原因，網絡經營者處于更為強勢的地位。在算法應用中，網絡經營者應當加強自律，守法經營，承擔應盡義務和責任，維護消費者的合法權益。
時建中認為，算法公平監(jiān)管或者公平治理，必須要解決誠信、透明和公平問題。此外，除對應用算法的企業(yè)所實施行為進行道德評價、法治評價外，強化企業(yè)社會責任的評價也是一個重要路徑。
清華大學法學院副院長程嘯指出，算法問題可以通過技術解決。比如，鼓勵針對市場有壟斷地位企業(yè)的算法采取反制措施的算法研究，用算法針對算法，讓算法之間形成競爭關系，從而重塑市場競爭機制。
中消協建議，加強算法應用的有效規(guī)制，并呼吁社會各界通過力所能及的方式，共同做好社會監(jiān)督，促進算法應用的公平、合理，防止經營者利用算法作惡。一方面，加強機構設立和立法規(guī)制。在個人信息保護法、反壟斷法、反不正當競爭法、價格法等相關法律中，增加算法應用的相關規(guī)定。
一是國家設立算法倫理專門機構，負責算法應用倫理、規(guī)則、標準制定，不公平算法應用調查、處理等，并指定相關政府部門負責，加強對算法應用的有效監(jiān)管。
二是明確算法應用結果一致性要求。規(guī)定算法搜索結果應同時呈現公共選項，即所有用戶運用同樣的搜索方式，應可得到相同的結果。且相關結果應作為優(yōu)先選項推送，保障消費者有效便捷獲取。
三是保障算法應用的透明、公平、誠信。明確經營者使用算法應做到可知、可查、可逆。發(fā)生爭議，負有向有關行政部門、司法機關、第三方機構提供算法、后臺數據、相關資料及進行說明的義務。做到算法應用的可驗證、可解釋、可追責。
四是明確舉證責任倒置規(guī)定，強化算法實施方的舉證責任，明確其偽造、篡改證據的責任和后果，解決消費者舉證難、鑒定難的問題。
另一方面，加強監(jiān)管協作和機制建設。朱劍橋說，互聯網領域算法應用十分廣泛，建議有關行政部門加強相互協調，細化監(jiān)管職責；完善執(zhí)法依據，做好規(guī)章廢改銜接；加強對算法應用的分級標識和分類管理，對涉及公共利益、生命健康、財產權利等的算法應用強化監(jiān)管，對具有市場支配地位的平臺經營者的算法應用強化監(jiān)管，對涉及價值觀、道德觀特別是未成年人教育的算法應用強化監(jiān)管。
朱劍橋指出，要加強對算法的事前、事中、事后監(jiān)管，通過對算法應用進行必要的目的審核、法律審核、道德審核，以及建立黑名單制度等措施進行有效管理；建立算法投訴審評機制，保障消費者和社會各界的投訴、監(jiān)督權；培育第三方技術鑒定機構，強化對算法應用的技術審核力量；保障互聯網經濟持續(xù)健康發(fā)展，有力維護消費者合法權益。
與此同時，朱劍橋建議，有關司法機關加強對算法應用案件的分析研究，推動出臺有關司法解釋，充分發(fā)揮司法機關的審判和監(jiān)督作用，強化經營者舉證責任，加強對算法應用問題的實質審查，通過司法判例弘揚公平正義，強化對消費者權益的保護。
