揭开“算法的面纱”：关于构建算法解释框架的思考
网络安全与数据治理 10期
刘 烨
（同济大学法学院，上海200092）
摘要： 如何解决算法可解释性问题是算法治理中的一个重要法律议题，囿于算法使用者与受众之间不断扩大的“解释鸿沟”，现阶段算法解释困境存在于算法运行、决策形成到应用的过程之中，具体体现在数据识别的失衡、证明依据的不足和损害结果的泛化三方面。考虑到不同算法运用场域之下解释需求的差异，借助体系思维构建起算法解释框架，或将成为解决可解释性问题的突破口。以解释对象为逻辑起点将解释方法划分为定向告知、公开披露和行政报备三种模式，并基于“场景公正”理念将其应用于医疗、信息推荐、金融等领域，针对不同业务和场景区分可解释性程度和标准，以期实现算法可解释。
中圖分類號：D922.14
文獻標識碼：A
DOI:10.19358/j.issn.2097-1788.2023.10.012
引用格式：劉燁.揭開“算法的面紗”：關于構建算法解釋框架的思考［J］.網絡安全與數據治理，2023，42（10）：72-78.
文獻標識碼：A
DOI:10.19358/j.issn.2097-1788.2023.10.012
引用格式：劉燁.揭開“算法的面紗”：關于構建算法解釋框架的思考［J］.網絡安全與數據治理，2023，42（10）：72-78.
Unveiling the "algorithmic veil"： reflection on building an algorithmic interpretation framework
Liu Ye
(School of Law, Tongji University, Shanghai 200092, China）
Abstract： A proper solution of the problem on the explainability of algorithm is an important legal issue in algorithm governance, limited by the expanding "explanation gap" between algorithm users and audiences. However, at this stage, the dilemma of the explainability of algorithm exists in the process of algorithm operation, decisionmaking formation and application, which is embodied in three aspects: imbalance of data identification, insufficient proof basis and generalization of damage results. Combined with the differences in interpretation requirements, explanation methods and criteria of different application fields, building an algorithm interpretation framework with the help of systematic thinking may become a breakthrough to solve the problem on the explainability of algorithm. Taking the object as the logical jumpingoff point, the explainability method is divided into three modes: directional notification, public disclosure and administrative reporting. This method can be applied to medical, information recommendation, finance and other fields based on the concept of "scene justice", and the degree of explainability and criteria are distinguished for different businesses and scenarios, so as to realize the explainability of algorithm.
Key words : algorithm governance; automated decisionmaking; explainability; criteria for explainability
0 引言
在人工智能領域，算法得以持續運作、生成決策的前提在于算法可解釋。可解釋性是保障算法可被信賴的安全特征，連通著算法自動化決策與法律規制。近年來，算法模型復雜度的大幅提升，算法使用者與決策最終受眾之間的“解釋鴻溝”也隨之擴大。而就算法這種尚未能夠為人們所充分理解與把握的事物而言，出于對法律規范的可預測性和可接受性的考量，立法者需要謹慎考慮是否作出法律上的要求或安排。因此，如何有效解釋算法，成為解決治理問題的重要環節。
在如何更好地解釋算法本身及其自動化決策，尤其在如何讓用戶有效理解算法的基本原理和運行機制方面仍待進一步完善?；诖?，本文試圖以“場景化分析”為切入口，梳理算法可解釋性在算法治理中的現實困境，思考在具體場景之下的優化方案。
本文詳細內容請下載：http://www.tom3567.com/resource/share/2000005742
作者信息：
劉燁
（同濟大學法學院，上海200092）
此內容為AET網站原創，未經授權禁止轉載。