人工智能是新一輪科技革命和產業變革的重要驅動力量，為促進人工智能健康發展，我國相繼發布《新一代人工智能治理原則》《新一代人工智能倫理規范》等文件，明確提出發展負責任的人工智能。企業作為技術創新應用的關鍵主體，將負責任理念融入人工智能基礎研發到應用的全生命周期，既是人工智能企業樹立“科技向善”理念、實現可持續發展的重要表現，更是構建多元共治的人工智能治理體系的需要。
今天，曠視聯合中國科學技術信息研究所（簡稱：“中信所”）發布了《企業負責任的人工智能實踐》報告。經過近一年的研究，雙方從國內外企業負責任的人工智能實踐現狀出發，探索企業開展人工智能治理應具備的責任框架和行動路徑，推動企業自覺踐行負責任的人工智能理念，使之成為企業、行業和經濟社會可持續發展的內生動力。
企業負責任的人工智能概念和框架構建
負責任的人工智能屬于人工智能倫理治理的重要內容，要求人工智能活動不僅滿足法律規范的底線，也要符合社會的倫理期待。它是一種在管理、研發、供應、使用人工智能時綜合考慮倫理、法律、文化和社會經濟等影響的動態治理框架，包含可信、公平、非歧視、決策自主等多種倫理原則，在實踐中根據政府、企業、研究機構等不同主體的目標定位而采用不同的實施機制。
企業負責任的人工智能治理理念與企業社會責任密切相關。環境、社會及公司治理（ESG）不僅能展現企業履行社會責任的情況，也是衡量企業負責任的人工智能實踐狀況的重要標準。“AI+ESG”使得負責任的人工智能由外在要求轉化為企業治理內生動力。企業負責任的人工智能具有雙重目標，一方面以合法合規經營為基礎，防范人工智能研發應用風險，促進企業自身發展；另一方面，推動環境、社會和經濟的可持續發展，增進人類福祉。
以我國相關政策文件、國際組織發布的共識性規范文件為依托，以實現企業自身發展與增進社會福祉為目標，企業負責任的人工智能實踐框架可從三個層次進行設計。一是人工智能全生命周期的ESG理念，在人工智能全生命周期活動中融合環境保護、社會責任及公司治理三大維度協同增效。二是企業內部多層治理設計，包括綠色化的基礎設施、負責任的數據使用、負責任的模型設計、負責任的開發部署、負責任的倫理審查以及問責制等。三是內外雙循環的治理網絡，除了企業內部治理多層設計之外，還需推動形成“政府監管—行業服務—企業自律—公眾參與”的協同治理網絡。
企業負責任的人工智能實踐框架
實踐路徑：承擔共同但有區別的治理責任
在國家人工智能治理原則宏觀指導下，企業踐行負責任的人工智能既存在普適性、共識性的框架，也受企業具體業務類型、規模大小、治理能力等因素影響，不同企業踐行負責任的人工智能的能力和具體路徑存在一定差異，承擔“共同但有區別的治理責任”。
從人工智能產業鏈環節看。基礎層人工智能企業注重數據收集處理、計算基礎設施應用等方面的倫理治理。技術層人工智能企業主要圍繞技術研發開展，重點關注研發端強化負責任實踐。應用層人工智能企業的業務開展同時聚焦產品的研發和市場化兩大階段，除關注研發端的治理外，還應強化在應用端貫徹負責任理念。
從人工智能全生命周期環節看。研發端企業關注重點包括：（1）數據處理的脫敏機制、被遺忘機制等；（2）算法模型的可解釋性、算法影響評估、算法安全測試、算法適用邊界、監督審查算法實現過程和結果；（3）建立數據集選擇、算法選取等關鍵決策的記錄和回溯機制。人工智能產品生產商關注重點包括：（1）為用戶提供解釋算法結果的服務，針對不同背景知識和要求的用戶提供常識性與個性化定制相結合的解釋；（2）針對人工智能產品或服務的使用建立日常監測機制。使用人工智能產品和服務的企業，主要從以下四方面開展治理：（1）堅持決策自主可控，不盲目依賴算法決策結果；（2）堅持善意使用相關產品及服務，不違規惡用；（3）主動反饋使用人工智能產品與服務過程中發現的技術安全漏洞、倫理風險等問題；（4）積極學習人工智能相關知識，提高使用能力。
從企業規模大小和資源能力水平看。人工智能領軍企業、中小企業和初創企業可以采取“規定動作”（在遵守法律法規、監管政策、行業自律規范等基礎上，開展治理實踐）與“自選動作”（重構一套完整的負責任治理戰略和組織架構，或采用漸進式治理模式，以將倫理原則納入商業倫理制度和日常運營）相結合的方式開展負責任的治理。
企業踐行負責任的人工智能的一般路徑
曠視致力于發展負責任的人工智能，堅持人工智能向善向上
目前，國內外人工智能企業紛紛圍繞負責任的人工智能開展治理實踐。一直以來，曠視致力于發展負責任的人工智能，以“長期主義的態度、理性的關注、深度的研究、建設性的討論和堅持不懈的行動”為指引，務實推動負責任的人工智能治理落地，促進企業及行業可持續發展。一是建立組織管理架構。曠視搭建了以人工智能道德委員會和人工智能治理研究院為核心，研發學術、產品工程、客戶渠道、公司運營共同參與的組織結構，推動人工智能治理在公司落地。二是制定制度規范。2019年曠視在業界率先公布基于企業自身管理標準的《人工智能應用準則》，從正當性、人的監督、技術可靠性和安全性、公平和多樣性、問責和及時修正、數據安全與隱私保護六個維度，對人工智能正向有序發展作出明確規范。三是注重全流程治理�；谌斯ぶ悄苤卫硖攸c，優化產研集成產品開發流程，在多個關鍵階段嵌入倫理風險、個人信息影響評估，并開發了面向產品人員、技術人員、客戶等不同角色的治理評估工具。搭建與客戶充分交流的“Know-Your-Customer”客戶管理流程，在合同簽訂、產品運維等過程中向客戶和合作伙伴積極倡導《正確使用人工智能產品倡議書》《人工智能技術合規應用指引》等文件。四是開展治理技術研究和落地。曠視自主研發的前端圖像脫敏方案，是業內率先實現在采集端完成圖像的不可逆脫敏，且脫敏數據仍可用于算法調優升級的創新技術方案，從數據源頭消除個人信息泄露風險。五是參與行業共治。曠視作為主要單位參與《網絡安全標準實踐指南——人工智能倫理安全風險防范指引》《生物特征識別信息保護基本要求》《機器學習算法安全評估規范》等多項國家和行業標準規范的制定。連續三年在全網發起“全球十大人工智能治理事件”評選，共同探討人工智能治理實踐方向。
曠視負責任的人工智能治理實踐
負責任的人工智能：企業發展的內在動力和行業可持續發展的共同愿景
發展負責任的人工智能作為世界主要人工智能國家和國際組織共同的治理愿景，越來越受到重視。未來，企業負責任的人工智能將呈現出五大趨勢：一是負責任的人工智能治理將與ESG進一步融合。將人工智能系統的透明度、可解釋性等數據、算法治理指標納入ESG評價體系中，能夠建立負責任的人工智能客觀衡量標準，更好地建立用戶信任，推動企業可持續發展。二是以技治技的源頭治理將進一步強化。加強人工智能安全可信、隱私保護等技術研發，做好技術檢測與故障應對，是進一步強化人工智能倫理治理和風險防范的技術支撐，實現源頭治理的重要舉措。三是全生命周期交叉治理將進一步完善。隨著技術的發展，企業內部和產業鏈各環節之間的聯系將更加密切，以完備的組織架構、人員、流程及工具形成人工智能技術全生命周期的一體化治理。四是領軍企業治理將進一步帶動行業實踐。通過領軍企業先行探索，帶動眾多缺乏治理體系和治理能力的人工智能初創企業、中小企業進行負責任的人工智能治理實踐，最終實現整個行業的健康發展。五是負責任的人工智能生態將進一步塑造。企業實現負責任的人工智能目標需要多方協同共治，政府、行業、智庫、公眾等多主體將結合自身發展，運用政策法規、倫理規范、技術標準手段等多種方式，對人工智能進行積極引導、風險控制和源頭治理。
【免責聲明】本文僅代表第三方觀點，不代表和訊網立場。投資者據此操作，風險請自擔。
最新評論