《意見稿》指出，算法推薦服務提供者應當堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。
8月27日，國家互聯網信息辦公室發布《互聯網信息服務算法推薦管理規定（征求意見稿）》（以下簡稱《意見稿》）并公開征求意見。
《意見稿》對具有輿論屬性或社會動員能力的算法推薦服務提供者進行重點規則，從內容推薦要求堅持主流價值導向，到不得實施流量造假、控制熱搜等影響網絡輿論，劍指微博、今日頭條、百度、快手、抖音等資訊信息及短視頻平臺。
對于平臺用工權益及消費者權利的保障，《意見稿》要求，外賣及網約車平臺對勞動者、消費者的雙重算法需規范，保證勞動者算法的公正透明，抵制算法對消費者“大數據殺熟”。
如何平衡平臺對算法使用及用戶權利保障？多位專家向21世紀經濟報道記者表示，企業合規應注意《意見稿》所提出的技術、管理和內容價值層面的多層次要求。
堅持主流價值導向，算法向上向善
網絡信息內容生態治理，是我國近年來互聯網治理重點。
2019年12月，國家網信辦公布《網絡信息內容生態治理規定》，標志著我國建立了完整的網絡信息內容生態治理框架。今年1月，國家網信辦就《互聯網信息服務管理辦法（修訂草案征求意見稿）》公開征求意見，進一步規定信息傳播的各項要求。國家網信辦、全國掃黃打非辦等部門也多次對平臺內容進行整頓。
然而，網絡生態治理目前仍然存在難題。中國政法大學網絡法學研究所副所長商希雪介紹，一方面，淫穢色情、賭博詐騙以及負能量內容充斥網絡空間；另一方面，在“流量為王”的畸形觀念下，平臺利用算法模型通過熱搜、超話、炒作、聚集等信息推送方式投放給用戶“刺激”的話題和“熱點”的信息，大眾在被動“吃瓜”時也會感到精神的不適。
《意見稿》指出，算法推薦服務提供者應當堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。
第九條從手段方面規范內容服務平臺的信息推送行為，要求加強信息內容管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序。發現未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續傳輸。
內容本身的治理固然必要，但在海量的內容中，良性內容常常被埋沒，低俗吸睛的內容卻更容易被“刷”出，陷入了“劣幣驅逐良幣”的窘境中。
《意見稿》第十一條強調“建立完善人工干預和用戶自主選擇機制”，也即不僅依賴算法進行內容推薦，還需要增加人工識別及篩選的過程，“在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息內容。”
“相當于在平臺夯實主體責任的過程中，除對謠言及其他不法信息的治理外，還多加了一道對算法決策的抓手。”中國政法大學傳播法研究中心副主任朱巍表示，平臺通過何種算法和邏輯使用數據，是互聯網監管的關鍵。
對于未成年人的保護，《意見稿》第十六條特別提出“通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息內容。”
《意見稿》公布當日，網信辦發布加強“飯圈”亂象治理的通知，提出“取消明星藝人榜單”“優化調整排行規則”等10條工作措施。網信辦指出，在音樂作品、影視作品等排行中，降低簽到、點贊、評論等指標權重，增加作品導向及專業性評價等指標權重。不得設置誘導粉絲打榜的相關功能，引導粉絲更多關注文化產品質量。
不得控制熱搜，影響網絡輿論
熱搜榜單是注意力經濟最集中的體現，是新媒體時代議程設置最典型的樣本。
《意見稿》多項內容規制排序精選類平臺，如資訊類的今日頭條與百度、短視頻類的快手與抖音、綜合類的微博與知乎等，劍指熱搜榜單這項功能服務。
關于熱搜排序、流量造假等問題，監管部門此前曾多次出手，對平臺的監管趨嚴。
2020年6月，國家網信辦指導北京市互聯網信息辦公室約談新浪微博負責人，針對微博在蔣某輿論事件中干擾網上傳播秩序，以及傳播違法違規信息等問題，責令整改，暫停更新微博熱搜榜一周，嚴肅處理相關責任人并從嚴予以罰款的行政處罰。
《意見稿》對算法推薦服務提供者在算法規則及公示方面進行要求。第十二條提到，應綜合運用內容去重、打散干預等策略，并優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性。第十四條規定，應以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。
今年8月23日，微博曾回應“花錢買熱搜”“花錢壓熱搜”等質疑，首次公布熱搜產品規則和管理細則。微博表示，熱搜根據微博用戶的真實行為進行計算，并根據搜索量、發博量、互動量等數據指標，形成實時榜單。榜單算法中包含了嚴格的排水軍和反垃圾機制，以確保公正客觀。
對于平臺在影響輿論及社會動員方面的規制，《意見稿》第十三條要求，不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉發、網頁導航等，實施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施自我優待、不正當競爭、影響網絡輿論或者規避監管。
同時，《意見稿》要求賦予用戶選擇權。第十五條提到，算法推薦服務提供者應向用戶提供不針對其個人特征的選項，或向用戶提供便捷關閉算法推薦服務的選項。用戶選擇關閉的，應立即停止提供相關服務。這與8月20日出臺的《個人信息保護法》中，關于個人信息權及撤回同意的相關內容一脈相承。
網約車、外賣平臺雙重算法受監管
近年來，外賣小哥、網約車司機等新就業形態勞動者隊伍不斷壯大。2019年，餐飲外賣員總數已突破700萬人。全國網約車監管信息交互平臺統計顯示，截至2021年7月31日，全國共有241家平臺取得網約車經營許可，各地共發放網約車駕駛員證351萬本。
《意見稿》對于網約車、外賣等調度決策類等平臺的算法也作出規制，從勞動者及消費者的雙重算法進行約束。
針對勞動者，《意見稿》要求算法公正透明。第十七條提出，算法推薦服務提供者向勞動者提供工作調度服務的，應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法，履行勞動者權益保障義務。
今年5月，交通部、市場監管總局等八部門聯合約談滴滴出行、曹操出行、高德、貨拉拉等10家平臺。約談要求，平臺應主動公開定價機制和計價規則，持續優化派單機制。曹操、滴滴等平臺已提出推進抽成公開。曹操出行表示，已通過司機端展示等方式對現行分成比例公開。滴滴則在5月宣布將推進公開訂單抽成，推動司機賬單透明化。
7月，人社部等八部門和市場監管總局等七部門先后發布了《關于維護新就業形態勞動者勞動保障權益的指導意見》和《關于落實網絡餐飲平臺責任切實維護外賣送餐員權益的指導意見》，督促企業合理制定訂單分配、計件單價、抽成比例、報酬構成及支付、工作時間、獎懲等制度規則和平臺算法，提出通過“算法取中”等方式，替代“最嚴算法”的考核要求。
針對消費者，算法則需限制“大數據殺熟”。《意見稿》第十八條規定，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者合法權益，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。
中國政法大學網絡法學研究所副所長商希雪分析，當前商業應用場景中自動化決策算法愈加頻繁，引發威脅用戶正當權益的社會風險。
關于“大數據殺熟”，《網絡交易監督管理辦法》《電子商務法》《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》，以及將于今年11月1日起施行的《個人信息保護法》等多部法律法規中都有明確規定，要求不得在交易中對個人實施“差別待遇”。
平衡算法使用與用戶權利保障
算法規則的背后是商業利益，面對算法推薦技術的各項要求，企業應如何平衡算法的使用與保障用戶權利？
北京師范大學網絡法治國際中心執行主任吳沈括建議，企業合規應注意《意見稿》所提出的技術、管理和內容價值層面的多層次要求。
具體而言，包括三個方面：在技術層面，產品自研發階段就要關注算法可能帶來的風險，尤其是歧視、虛假和與正能量不符的內容傾向；在組織管理層面，需要構建從用戶注冊、管理到風險評估等的全生命周期的組織管理制度，全面落實從制度到人的治理；在算法應用過程中，注意內容本身的價值倫理要求跟社會主義價值觀相符合，與正能量傳播要求的相匹配。
“從狹義的用戶權利保護角度來看，數據安全、個人信息保護，需要在現有的法律頂層設計下，做到制度間的交叉匹配，實現用戶的自主權利以及其他安全利益的綜合全面保護。”吳沈括說。
自動化決策是算法監管之重。“平臺根據用戶的興趣愛好、消費習慣等特征向其提供商品或者服務的搜索結果時，應當同時提供不針對其個人特征的選項。”商希雪表示，一方面，在遵守法律規定的前提下，企業應當遵循公開、公平、公正的原則設計算法模型與制定自動化決策規則，不得對用戶提供歧視性的差異化待遇；另一方面，在履行“告知-同意”的義務前提下，企業應當保障用戶對算法設計與自動化決策的同意權、規則解釋權和選擇權。
借助外部力量，或許能讓企業從更客觀的角度解決問題。上海大邦律師事務所高級合伙人游云庭認為，企業可以通過組建第三方的算法監管委員會，例如第三方機構、用戶代表、行業協會人員等，均可定期對企業內部的算法倫理落實情況，輔助企業內部的自查自糾和審計，由外部人士提出中肯建議，能有效減少算法風險。
（作者：張雅婷,郭美婷 編輯：張星）
最新評論