算法治理的理论分野与融合框架

    摘要：算法作为数字智能经济时代下的基础性技术元素，对经济运行效率以及企业生产方式产生颠覆性的变化，但也引发了系列负外部性问题。本文认为算法作为一种企业技术元素的治理需要回归企业本位，其涉入企业价值链与创新链之中，具备高度的社会嵌入性、技术的非价值中立性以及权力集中性等特征，面向算法技术的治理包括对人、对算法技术本身的标准治理以及企业的算法责任治理与算法技术涉入社会的治理等多重治理维度。面向企业算法治理的理论视野包括技术治理观、责任式创新与治理观以及企业社会责任治理观等多重理论流派，进而形成差异性的治理焦点议题与治理机制设计。而融合多重算法治理的理论分野需要回归企业价值链与创新链，从价值链治理与创新链视角的双重视角融合技术治理、责任式创新与企业社会责任治理的多重理论基础，实现算法技术实现可持续创新、可持续赋能社会以及可持续创造综合价值。
    关键词：算法；算法治理；创新链；价值链；企业社会责任
    基金：国家社会科学基金重大项目“智能制造关键核心技术国产替代战略与政策研究”（21&ZD132）；国家社会科学基金重大项目“贸易壁垒下突破性创新政策体系建构研究”（20&ZD108）。
    一、引言
    新一轮技术革命包括以人工智能、区块链、云计算、大数据、边缘计算、联邦学习、图计算（简称“ABCDEFG”）为代表技术深入演化，催生了全新的数字智能经济。就人工智能而言，算法是人工智能经济领域下的核心技术或者核心要素，算法、算力和数据是构成人工智能驱动的数字智能经济与数字创新的关键基本要素[1]。区别于算力和数据，算法具备人的创造性以及可编程性，数字智能时代下的数字经济一定程度上被算法所设计以及影响，算法在提高生产效率、助力企业决策活动的过程中也产生了诸多的社会伦理隐忧与负面社会问题，算法设计失当与算法使用失当并存引发了诸多算法污染问题，触动着社会公众的神经并影响着社会正常生产与生活秩序，产生了多次合法性挑战，亟待学界重新审视算法技术的特殊性以及治理的全新理论基础。
    从算法治理的研究来看，算法治理属于一个全新的研究领域，涵盖了法学、经济学、管理学、社会学、新闻学以及技术哲学等多学科领域的综合研究。学界围绕算法治理的研究主要包括四个层面，第一个层面是算法治理的主要议题研究，包括算法黑箱、算法歧视、算法共谋和算法操纵等[2，3，4，5，6]，围绕上述议题开展针对性的治理机制设计与相应的规制政策设计等开展研究。第二个层面是算法治理与公共规制的基本范式、主要模式以及相应实现路径的研究[7，8]。第三个层面是将算法作为企业的一种全新的企业责任引发算法责任的相关研究，包括算法责任的主体、责任对象、责任内容与责任程度与责任机制等方面的研究，围绕算法责任治理为中心开展相应的治理机制设计与治理范式选择[9，10]。第四个层面是将算法技术作为企业社会责任治理中的新的治理维度，纳入到企业社会责任治理的内容框架[11]。总体而言，目前学界依然未能澄清算法技术作为治理议题的特殊性的前置性逻辑起点，即需要明晰算法作为一种技术元素或者决策系统其技术的特殊性问题，也未能搭建面向算法技术治理的综合性理论框架，难以为算法治理提供前置性的理论基础遵循，进一步导致算法治理目前处于一个多学科的杂交状态，难以寻求算法治理的理论主线。
    基于此，本文重点研究算法作为企业的一种技术要素其特殊性问题，进而明晰以企业为算法技术开发与应用的算法治理的基本内涵与内容维度，在此基础上理清多理论视野下算法技术治理的治理焦点与内在过程，并从企业价值链与创新链的视角提出多理论视角的融合框架，最终为算法技术治理寻求企业层面的综合性解决思路。本文的研究贡献在于在理论层面突破了算法治理的多重迷雾，从企业层面为算法技术治理提供了基础性的理论框架，在实践层面为企业与相关公共部门设计相应的算法治理政策规制提供相应的政策参考。
    二、算法技术的特殊性以及算法治理的理论逻辑
    （一）算法技术及其特殊性
    算法（Algorithms）是数字经济时代下的基本技术元素以及技术基础，也是数智智能社会的基础语言。目前学界对算法的定义尚未统一。其中较为广泛认知的狭义概念是算法作为一种数学模型的程序性表达，通过计算语言的设计实现特定输出结果的自动输出，从这个意义上，算法是数学模型的系统性程序设计与计算系统。但广义的算法超越了数学或者计算机范畴，在企业决策领域，算法涉入决策过程之中主要是对传统理性人决策的替代或者辅助，算法扮演了企业决策的“智能机器人”角色，其理性程度取决于算法开发设计者的理性程度以及算法模型训练以及学习过程中的可控程度。从这个意义上，算法不仅仅是一种技术元素或者计算系统，更是承担企业决策的“代理人”，在数智化时代能够实现自我决策、自我评估以及自我分类等系列过程，算法技术也不仅仅是作为一种传统硬科技，而是作为一种人机交互意义的独立技术系统而存在。从决策视角来看，OECD对人工智能算法进行了分类[12]，提出监控型算法（Monitoring Algorithms）、并行算法（Parallel Algorithms）、信号算法（Signalling Algorithms）以及自我学习算法（Self-learning Algorithms）。四类算法自身拥有的决策权逐步扩大，人的控制程度以及赋能程度逐步降低[13]。从涉入企业决策的主要算法类型来看，主要包括定价决策类算法、推广营销类算法、排序类算法、搜索类算法、机器学习类算法、路径规划类算法、辅助决策类算法等多种类型，不同类型算法在不同的商业场景之中具有不同程度的体现。
    算法技术不同于一般性技术，其涉入企业技术系统之中存在一定的特殊性，其主要包括三个方面。第一，算法技术的社会嵌入性，不同于工业时代或者农业时代的技术，算法技术表现为工具理性特征，但是具备高度的社会道德与伦理属性，表现出与人的交互项以及主体性，在强人工智能时代能够单独作为独立意义上的决策人而存在，即以算法技术独立嵌入社会并影响社会[14]，表现出强社会嵌入性（阳镇，陈劲，2021）。第二，算法技术决策结果的非价值中立性或者技术非中性。算法技术不同于一般性技术或者其它关键核心技术，算法技术具备人的道德、情感以及认知的嵌入性，能够形成一定程度的价值观，表现为算法决策过程中的参数判断、决策结果呈现的自主性，算法技术参与企业决策会形成预期和非预期的意外后果。尤其是机器学习型算法具备自我强化与学习属性，在不可预见性的环境下其决策结果具有较大程度的不确定性。因此，算法技术并非完全中立的技术系统，具备一定的工具理性以及价值理性，二者之间的相互博弈会产生意外后果甚至社会风险问题。第三，算法技术的权力属性。区别于传统技术，算法技术具备了一定程度上的社会权力，原因在于算法参与社会建构以及影响社会，包括影响社会的治理规制、治理系统以及参与国家治理等，尤其是在算法技术超越单一辅助决策的“代理人”属性走向“自能体”属性时（肖红军，2022），算法技术在社会中的支配权力越来越大，当算法技术从技术走向权力系统时，治理算法也成为国家治理的重要议题，形成面向算法权力的存在场域、权力范围与边界以及权力影响程度的治理。
    （二）算法治理的基本内涵与主要治理维度
    算法治理是以算法技术为治理对象，通过相应的治理主体开展对算法技术参与决策过程以及算法技术外部性的治理，其目的在于提高算法技术决策的公开性与透明性以及可靠性，促进算法技术产生持续的正外部性。但是算法技术治理其由于融合了人的因素形成“人-算法技术决策系统”，因此算法治理不仅仅是面向技术的治理，包括面向算法技术开发与使用的主体人以及其它社会性主体的治理。
    正因为算法技术的特殊性以及治理议题的多元复杂性，算法治理的内容维度也具备多重性，其至少包括四个治理维度。第一是算法技术开发中人的治理，由于算法开发与使用本质上属于人的行为，人的价值导向以及观念无形之中注入到算法运用过程之中，因此，算法治理的第一重维度是对人的治理，要求算法开发与设计者融合相应的技术工具理性与人的价值理性，确保算法运用过程不涉及争议性伦理场景或者违背社会伦理道德，确保算法开发设计与应用过程中的不违背人的社会存在属性以及社会伦理道德规范。第二是算法技术本身的标准治理。算法技术的形成并非一蹴而就，体现为多种技术的集合特征，包括数据标记、数据处理、数据分类以及机器学习等多种技术参数标准，任何元素或者参数的技术失范都会到算法技术产生系统性影响，导致算法参与决策结果的有效性。因此，算法治理的第二重维度是对算法技术的缺陷治理，即确保算法设计与运行的任何环节皆符合社会道德与伦理规范，符合技术创新的基本规律以及满足效率逻辑与价值逻辑的多元折中。
    第三是算法技术涉入企业的算法责任治理。此时算法技术已经成为企业的一种基础性技术元素或者技术系统，成为企业影响利益相关方以及影响社会的重要工具，甚至替代企业独立开展企业意义上的管理决策，此时会衍生类似人决策意义上的算法责任问题，算法责任也成为企业社会责任中的全新内容维度[9]。因此，算法治理的第三重维度是企业的算法责任治理，包括面向算法开发与应用的人工智能企业与数字企业，确保企业开展算法开发与应用能够为企业利益相关方创造正外部性，实现企业嵌入算法的良性技术系统构建。第四是算法技术涉入社会的治理，此时算法技术表现为社会技术系统，能够成为社会中的权力主体而存在，具备一定的社会意义与社会功能，因此算法治理的重要议题是确保算法权力的崛起不对人的主体性与权力性的破坏或者削弱，形成面向算法技术权力的社会治理。
    三、多重理论视角下的算法治理：理论分流与焦点议题
    （一）技术治理视角下的算法治理
    技术治理理论起源于西方，西方思想家培根对技术治理思想进行了探索，认为技术专家能够参与国家治理，随着技术的发展技术专家的影响力越来越大，技术能够有效参与到现代国家建构以及社会治理之中，这一过程需要对技术的应用范畴、边界以及价值目标进行治理[16]。从新兴技术的视角来看，新兴技术的产业与发展存在系统性以及不确定性的风险，其中一个重要的风险便是社会道德伦理以及技术负外部性问题，技术的进步存在两面性问题，即尽管可能带来经济效应与社会治理效率的改善，但是其本质上依然存在一定的技术负面效应[17]。因此，技术治理强调的是对技术负外部性的反思以及治理，且治理的逻辑起点是善治，即构建一种和谐有序的社会关系与生产关系[18]。当技术嵌入国家、嵌入社会以及嵌入企业生产的过程中，如何驱动技术与国家治理、社会治理以及企业治理同频共振显得尤为重要。
    在技术治理视角下，算法技术本质上属于新兴技术治理的范畴。算法技术是第三次工业革命下计算机技术与互联网技术深化发展的创新结果。在技术治理范畴下，算法治理的主体至少包括三个层面，第一个层面是以政府为中心对算法这一新兴技术的治理，其关注的主要议题是算法作为一种新兴技术可能产生的公共负外部性进行治理与监管。且算法技术目标主要应用在算法应用的核心场域即平台经济场域之中，平台企业是政府开展算法治理过程中重要的监管对象[19]，即重点关注平台企业的算法技术应用对消费者福利、对社会整体福利以及公共外部性的影响。第二个层面是以社会媒体与社会公众为中心对算法技术开展社会治理，社会治理其主要的机制是通过社会舆论效应以及评价引导效应引导技术应用的相关主体重视技术本身的社会伦理属性。在社会媒体与社会公众为中心的算法技术治理其焦点议题主要是技术的伦理性与道德性，比如自动驾驶汽车其算法自动驾驶是否对人的生命安全以及社会伦理产生相应的技术风险等开展媒体舆论引导以及社会评价。第三个层面是以企业为中心的技术治理，此时技术治理主要是表现为企业对技术中心论的治理，包括技术竞争中立、技术功能中立、技术责任中立以及技术价值中立等系统性治理，确保技术开发与应用过程能够满足工具性的同时具备社会价值维度。相应地，企业为中心的技术治理视角下关注算法技术在技术竞争与技术应用责任等方面的负面后果[20]。
    （二）责任式创新视角下的算法治理
    责任式创新理论在21世纪被欧洲学者所提出，其理论的逻辑起点在于围绕创新而非围绕技术，技术的产生与迭代属于创新的过程，但是创新的过程始终围绕并深刻嵌套于经济转型与社会发展过程之中[21]。创新不仅仅面临市场失败，即所谓的“死亡之谷”，也面临社会失败，即创新过程中的负外部性问题，引起社会公众对技术创新的强烈质疑与社会合法性挑战。从责任式创新的理论维度来看，国内外学者对责任式创新的维度莫衷一是，包括Stilgoe（2013）提出的预期（预测）、反思、包容与响应的四维度框架[22]、Stahl（2013）提出行为主体——活动——规范构成的责任式创新三度空间框架[23]、Sutcliffe（2011）提出的创新的效益、创新的过程开放度与透明度、创新评价的社会合法性等维度[24]、梅亮和陈劲（2015）提出的预测性、响应性、自省性以及包容性的五要素内容框架[25]。总体而言，责任式创新本质上关注的是创新的过程以及创新的结果，期望创新的过程能够实现高度的开放透明以及利益相关方者参与，尤其是对于一些具有潜在社会风险与社会伦理道德隐患的技术创新更需要引入更多的利益相关方参与集体评估。
    相应地，在责任式创新视角下，算法技术治理主要是表现为算法技术创新过程与结果的系统性治理[26]，对于算法技术创新的治理主体主要是政府与企业以及其它利益相关者，其中不同治理主体在算法技术创新过程中的所关注的治理议题具有较大程度的差异性，具体来看：以政府为中心的责任式创新治理主要表现对算法技术创新过程中的数据标准、训练标准以及决策影响评估的多维治理，协调技术参与者、技术专家以及专业性社会组织开展面向算法技术创新过程中的重大社会风险与社会伦理道德评估，通过制定统一的技术标准与治理准则等，推动开展算法技术创新的各类企业以及研究机构实施责任式算法技术创新，更好地提高算法技术创新过程的预见性、社会响应性以及结果评估的社会合法性。而以企业为中心的责任式创新治理本质上属于对算法技术创新的自我治理，属于创新过程中的自我道德觉醒以及创新行为纠偏，其立足的主要机制是市场合法性与社会合法性的多重合法性倒逼机制，关注的议题主要是算法技术创新过程中的可能负外部性，通过增强算法决策结果的预见性逆向提升算法源头创新过程中的社会伦理属性以及责任属性，确保算法技术创新过程对利益相关方者真正负责任。
    （三）企业社会责任治理视角下的算法治理
    企业社会责任的逻辑起点是回归企业的社会价值本位或者综合价值本位，将企业看作是社会的细胞以及社会资源配置基础设施，通过企业自我社会责任认知以及外部企业社会责任舆论引导推动企业开展社会责任管理以及议题实践[27，28]。然而，企业开展社会责任实践并不是持续存在，在市场逻辑本位下存在企业社会责任的断点效应、抛锚效应以及不连续效应。基于此，企业社会责任治理是通过相关正式制度与非正式制度安排，系统推进企业开展社会责任管理与实践，最大程度地增进企业履行社会责任的意愿与动力以及最大程度地降低企业机会主义倾向，避免企业社会责任缺失与异化行为，提高企业社会责任的正外部性功能实现企业社会责任的可持续性[29，30]。从这个意义上，企业社会责任治理在算法技术应用的情境下产生了全新的企业责任即算法责任[15]。算法责任包括算法技术作为企业决策直接执行者的责任、作为辅助决策者的算法责任以及作为主要决策者的算法责任，以及在强人工智能时代作为完全决策者或者独立决策者的算法责任，在不同层次算法责任其体现的责任主体、责任对象、责任内容以及责任程度具有较大的差异性。
    综合来看，企业社会责任治理下的算法治理的核心过程表现为其以企业为中心或者企业利益相关者为中心开展对算法责任的纠偏、引导以及评价等系列功能，引导企业面向不同算法决策程度开展相应的算法责任治理活动，包括对算法决策引起的决策缺陷、系统失误、人的决策价值偏差等活动开展算法责任治理。因此，企业社会责任治理视角下，算法责任治理作为企业社会责任治理的全新内容维度，也是数字经济时代数字企业社会责任的重点议题，需要通过企业社会责任融入机制、负责任算法开发与设计机制、算法决策过程的敏捷性治理机制以及算法决策影响的评估与问责机制等多重治理机制开展算法技术治理，实现“算法—社会”以及“企业—算法—社会”的多重嵌入社会责任的路径构建。
    四、算法治理的多理论融合框架：基于创新链与价值链的双重视角
    当算法成为数字经济时代下企业的一种基础性技术元素，算法必然作为技术要素或者基础性生产要素涉入到企业的价值链与创新链之中，这意味着算法技术治理需要将治理层次从技术本身转换到企业层面的价值链与创新链之中，更好地透视算法技术在企业层面的价值流动过程与影响范围，评估算法对企业与利益相关方的价值影响。
    （一）基于创新链视角下的算法技术治理
    企业创新链是描述企业技术如何产生以及实现商业化的基本过程，具体包括企业研发设计、概念测试、生产制造以及产品化与产业化等多个阶段，创新链各个环节的传导本质上从创意想法到原型设计，最终实现技术商业化的过程，且技术商业化的载体是嵌入相应技术的产品或者其它服务等[31]。从这个意义上，算法技术开发与算法技术创新过程本质上需要回归企业的创新链，从创新链的基本传导流程与基础环节重新思考企业与各类创新主体之间的关系以及企业创新的意义与价值。相应地，创新链下的算法技术治理在于融合技术创新过程论以及企业技术创新使命论等多理论视角，对算法技术创新的意义与使命、算法技术创新的基本过程以及算法技术应用与产品服务的价值等多维度开展全方位的治理。具体来看，从算法技术创新的意义与使命来看，算法技术的开发与涉及需要遵循意义引领下的创新范式，引导算法开发与设计人员（科学家、研究人员以及企业技术人员）明晰算法技术对社会、对企业以及对国家与人民的重大意义，避免算法技术创新使命导向偏离人本意义、偏离社会发展与进步以及偏离国家创新能力提升。因此，聚焦意义与使命的算法技术创新链治理主要是对算法设计与开发的源头（科学家、技术人员与企业）的多重主体开展使命治理。
    从算法技术创新的基本过程来看，其主要是涉及到算法技术开发的数据收集与分类标记、算法模型的迭代与训练以及算法技术嵌入的产品与服务等技术创新过程开展系统性治理，尤其是在算法技术创新的基础数据方面需要强化数据收集、数据标记以及数据分类的技术标准与社会伦理规范，提升算法技术创新过程中技术向善属性以及技术开发透明度属性，在技术创新过程中引入相应的利益相关方参与机制提升算法技术创新过程的透明度，在部分可透明领域打开算法技术创新“黑箱”，以责任式创新视野下的责任式创新治理以及企业社会责任治理视野下的算法责任治理重塑算法技术创新过程；在算法技术应用与产品服务的价值维（产品化与商业化阶段），算法技术治理的重点是产品对企业价值、产业发展、社会伦理、社会福利等的具体影响，强化算法技术创新最终的产品化的社会影响评估，即确保算法技术创新不涉及或者违背伦理场域与破坏社会整体福利。
    
    图1 “创新链”视角下的算法技术治理的三维框架
    （二）基于价值链视角下的算法技术治理
    企业价值链是描述企业价值如何产生的系列过程，具体包括企业生产活动、销售活动、管理活动以及研发活动，其主要满足市场目标进行的内部价值传导活动，包括基本活动与支持活动等[32]。当算法技术涉入到企业的价值链之中，意味着算法技术能够改变企业价值创造的基本范式，比如算法技术涉入生产过程，意味着具备智能意义上的智能制造范式对传统大规模流水线或者温特制的替代，其立足智能感知、智能交互以及智能生产等与企业的销售端、设计端产生敏捷感知与数据传输，实现智能化时代的大规模定制与个性化定制等多种生产方式并存。理解价值链视角下的算法技术治理需要回归企业价值创造的基本范畴，即明晰企业为谁创造价值、创造何种价值、如何创造价值、等基本问题的回答。在价值链视角下，算法治理的具体维度包括起点维、过程维以及结果维三个维度。具体来看，首先，算法技术治理的逻辑起点维是确保算法技术涉入价值链过程中的综合价值最大化而非经济价值最大化，算法技术涉入尽管是企业市场逻辑下的技术选择或者技术扩散行为。但其应用到企业价值链过程之中本质上属于为企业价值创造服务，其最终目标是对企业价值创造的迭代与创新。在综合价值创造导向下，算法技术开发与应用需要服从于综合价值最大化的基本目标，比如面向互联网平台企业的定价类算法尽最大程度地降低“杀熟”倾向与可能性，避免消费者剩余被最大程度剥削，尽可能地减少剥削型的定价算法在消费者决策领域的开发应用。
    其次，算法技术治理的过程维是面向企业价值创造链条的各类场景与业务的综合治理，即面向价值创造场景与细分业务为算法技术治理的治理情境，构建面向不同场景下的算法技术治理的综合治理方案。其原因在于算法技术在不同的价值创造场景以及细分业务领域中算法技术涉入的程度、算法技术应用的主要类型与对相应利益相关方的影响具有差异性，构建面向价值创造场景的差异化治理方案需要合理评估算法技术其在价值创造场景之中扮演的主要角色（决策主体还是辅助体）、主要功能（定价、优化、预测、计算、追踪、分类等）、主要利益相关方以及相应的影响程度（负外部性高、中、低）等，进而构建面向企业价值创造场景的算法治理框架。最后，算法技术治理的结果维主要是面向算法技术涉入价值链相应价值环节的具体影响，包括对人的影响（人的自主性与创新性）、对组织的整体影响（组织声誉、组织绩效等）以及对社会的影响（社会福利与社会评价），避免算法技术产生对生产环节的劳动过程过度压榨与控制、对销售服务环节的消费者剩余的剥削以及对组织管理活动中人的自主性的剥夺等负面影响。
    
    图2 “价值链”视角下的算法技术治理的三维框架
    参考文献
    [1]陈劲,李佳雪.数字科技下的创新范式[J].信息与管理研究,2020,5(Z1):1-9.Chen J,Li J X.Innovation paradigm under digital technology[J].Journal of Information and Management,2020,5(Z1):1-9
    [2]Beer,D.Power through the Algorithm?Participatory Web Cultures and the Technological Unconscious[J].New Media&Society,2009,11(6):985-1002.
    [3]崔靖梓.算法歧视挑战下平等权保护的危机与应对[J].法律科学(西北政法大学学报),2019,37(3):29-42.Cui J Z.Crisis and response of equal rights protection under the challenge of algorithmic discrimination[J].Science of Law(Journal of Northwest University of Political Science and Law),2019,37(3):29-42
    [4]张凌寒.算法权力的兴起、异化及法律规制[J].法商研究，2019（4）：63-75.Zhang L H.The rise,alienation and legal regulation of algorithmic power[J]Studies in Law and Business,2019,(4):63-75
    [5]刘友华.算法偏见及其规制路径研究[J].法学杂志,2019,40(6):55-66.Liu Y H.Research on algorithm bias and its regulatory path[J].Law Science Magazine,2019,40(6):55-66
    [6]时建中.共同市场支配地位制度拓展适用于算法默示共谋研究[J].中国法学，2020，（2）：89-107.
    [7]Saurwein,F.,Just,N.,and M.Latzer.Governance of Algorithms:Options and Limitations[J].Info,2015,17(6):35-49.
    [8]丁晓东.论算法的法律规制[J].中国社会科学，2020，（12）：138-159.Ding X D.On the legal regulation of algorithms[J].Social Sciences in China,2020,(12):138-159
    [9]肖红军.算法责任：理论证成、全景画像与治理范式[J].管理世界,2022,38(4):200-226.Xiao H J.Algorithm responsibility:theoretical proof,panoramic portrait and governance paradigm[J].Management World,2022,38(4):200-226
    [10]浮婷.算法“黑箱”与算法责任机制研究[D].北京：中国社会科学院大学（研究生院）博士论文，2020.Fu T.Research on algorithm"black box"and algorithm responsibility mechanism[D].Beijing:doctoral thesis of the University of the Chinese Academy of Social Sciences(Graduate School),2020
    [11]肖红军.构建负责任的平台算法[J].西安交通大学学报（社会科学版）,2022,42(1):120-130.Xiao H J.Building a responsible platform algorithm[J].Journal of Xi'an Jiaotong University(SOCIAL SCIENCE EDITION),2022,42(1):120-130
    [12]OECD.Algorithms and Collusion-Background Note by the Secretariat[W].DAF/COMP(2017),2017.
    [13]Berberich,N.,and K.,Diepold.The Virtuous Machine-Old Ethics for New Technology?[J].Computer Science,2018,6:1-25.
    [14]Gal,M.S.,Algorithms as Illegal Agreements[J].Berkeley Technology Law Journal,2019,34(1):67-118.
    [15]阳镇,陈劲.数智化时代下的算法治理——基于企业社会责任治理的重新审视[J].经济社会体制比较,2021(2):12-21.Yang Z,Chen J.Algorithmic governance in the era of digital intelligence：a re-examination based on the perspective of corporate social responsibility governance[J].Comparison of economic and social systems,2021(2):12-21
    [16]刘永谋.技术治理的逻辑[J].中国人民大学学报,2016,30(6):118-127.Liu Y M.The logic of Technology Governance[J].Journal of Renmin University of China,2016,30(6):118-127
    [17]程海东,王以梁,侯沐辰.人工智能的不确定性及其治理探究[J].自然辩证法研究,2020,36(2):36-41.Cheng H D,Wang Y L,Hou M C.Uncertainty of artificial intelligence and Its Governance[J].Studies in Dialectics of Nature,2020,36(2):36-41
    [18]俞可平.治理和善治:一种新的政治分析框架[J].南京社会科学,2001(9):40-44.
    [19]阳镇.平台型企业社会责任:边界、治理与评价[J].经济学家,2018(5):79-88.
    [20]阳镇,陈劲.算法治理：成为责任型数智企业[J].清华管理评论,2021(4):85-94.Yang Z,Chen J.Algorithm Governance:becoming a responsible digital intelligence enterprise[J].Tsinghua management review,2021(4):85-94
    [21]Schumpeter J A.Business cycles[M].New York:McGraw-Hill,1939.
    [22]Stilgoe J,Owen R,Macnaghten P.Developing a framework for responsible innovation[J].Research Policy,2013,42(9):1568-1580.
    [23]Stahl B C.Responsible research and innovation:The role of privacy in an emerging framework[J].Science and Public Policy,2013,40(6):708-716.
    [24]Sutcliffe H,Director M.A report on responsible research&innovation[C].DG research and innovation of the European Commission.Located at http://ec.europa.eu/research/sciencesociety/document_library/pdf_06/rri-report-hilarysutcliffe_en.pdf,2011.
    [25]梅亮,陈劲.创新范式转移——责任式创新的研究兴起[J].科学与管理,2014,34(3):3-11.Mei L,Chen J.Innovation paradigm shift--the rise of research on responsible innovation[J].Science and management,2014,34(3):3-11
    [26]Owen R,Macnaghten P,Stilgoe J.Responsible research and innovation:From science in society to science for society,with society[J].Science and Public Policy,2012,39(6):751-760.
    [27]Freeman E.Strategic management:A stakeholder approach[M].Pitman Press,Boston，1984.
    [28]肖红军,阳镇.共益企业:社会责任实践的合意性组织范式[J].中国工业经济,2018(7):174-192.Xiao H J,Yang Z.Benefit corporations:a desirable organizational paradigm for social responsibility practice[J].China Industrial Economics,2018(7):174-192
    [29]阳镇,许英杰.企业社会责任治理:成因、模式与机制[J].南大商学评论,2017,14(4):145-174.Yang Z,Xu Y J.Corporate social responsibility Governance:causes,models and mechanisms[J].Nantah business review,2017,14(4):145-174.
    [30]肖红军,阳镇.平台型企业社会责任治理:理论分野与研究展望[J].西安交通大学学报(社会科学版),2020,40(1):57-68.Xiao H J,Yang Z.Platform based corporate social responsibility Governance:theoretical division and research prospect[J].Journal of Xi'an Jiaotong University(SOCIAL SCIENCE EDITION),2020,40(1):57-68.
    [31]陈劲,阳镇.融通创新视角下关键核心技术的突破：理论框架与实现路径[J].社会科学,2021(5):58-69.Chen J,Yang Z.Breakthroughs in key core technologies from the perspective of financing innovation:theoretical framework and implementation path[J].Social Sciences,2021(5):58-69.
    [32]Porter.M.,Clusters and the New Economics of Competition,Harvard Business Review,1998:76(6):77-90.
    阳镇，通讯作者，博士，中国社会科学院工业经济研究所助理研究员，清华大学技术创新研究中心兼职副研究员，研究方向为企业技术创新与可持续发展。
    陈劲，清华大学经济管理学院，清华大学技术创新研究中心，教授、博士生导师，博士，研究方向为技术创新管理与政策。
    阳镇,陈劲.算法治理的理论分野与融合框架[J/OL].科学学研究:1-10[2022-10-17].DOI:10.16192/j.cnki.1003-2053.20220930.001.