【作者】 楼秋然
【作者简介】法学博士,对外经济贸易大学法学院副教授。 本文系国家社会科学基金重大项目“数字社会的法律治理体系与立法变革研究”的研究成果,项目编号:20&ZD177。
【摘要】人工智能的不断发展,对以人类智能为构建基础的法律体系产生了巨大的冲击。伴随人工智能参与公司治理的事例不断涌现、参与程度日渐加深,公司法尤其是公司治理规则必须尽早对之作出适应性甚至重构性的变革。就宏观的法律主体资格问题而言,包括我国在内的许多法域的公司法都已经为完全由人工智能掌控的算法公司、人工智能董事(会)预留了充分的空间;即便人类在今天进入超级人工智能时代,公司法也只需要进行些许的适应性变革就足以容纳科技需求。而在人工智能以不同方式进入董事会参与公司治理的问题上,目前的公司法仍需要结合人工智能不受限于人类智能缺陷的现实、人工智能迥异于人类的责任承担逻辑、人工智能可能引发的公司治理紊乱等问题,作出或者适应性或者重构性的规则更替。而在具体问题之外,未来的公司治理监管还应当通过更加关注科技公司的治理完善、公司治理的数据治理面向来完成关注点和功能的转型,并在监管手段上更多采取信息披露和伦理审查的方案,以实现扬长避短的目的。
【关键词】人工智能 公司治理 董事会 监管转型 数据治理
一、引言
在过去漫长的法律生成史中,科学技术的发展使公司法受益良多。然而,科学技术的最新发展可能改变这一状况,从而彻底重塑公司法特别是其中的公司治理规则。其原因在于,人工智能的出现将彻底改变公司法的调整对象,从而需要改写几乎全部的公司法规则。这种颠覆效应,可以从两个维度加以阐释。一方面,未来可能出现完全由人工智能控制、没有任何人类介入的所谓“算法实体”。就这种算法实体而言,由于人工智能具有远超人类的信息收集和分析能力,其内部无须建立基于决策效率而搭建的“分权结构”。由此,为解决两权分离问题而产生的公司治理规则,将会失去用武之地。另一方面,人工智能可能不仅满足于辅助人类决策者,而是与后者共存于董事会甚至完全取而代之。在“取而代之”的情形中,由于人工智能没有自利倾向且拥有极为强大的运算能力,独立董事、激励薪酬、商业判断规则等治理机制的证立基础也可能消失。若此,人工智能时代的公司治理必须回答如下两大问题。第一,公司法是否已经为算法实体、人工智能董事的出现预留了空间。对这一“事实”问题的回答,不仅有助于我们决定在人工智能充分实现其潜能的未来阶段,公司法规则是否需要在“纸面”上有所修改;而且,通过对这一空间之有无的历史和法理审视,还可以反向推动我们对其他“规范性”问题的解答。第二,假设人工智能能够实现其全部潜力,公司治理规则将会面临何种规范性问题、需要作出何种重构。即便人工智能再次进入寒冬、保持现有水平或者无法实现其理想潜能,公司治理规则也必须与不同水平的人工智能共处。若此,公司治理规则又需要进行何种适应性变迁同样需要我们的回答。对以上问题的回答,有些已经具有现实的急迫性,而有些或许仍然算得上“远景规划”。然而,科学技术的突然加速实现,会让缺乏提前部署的立法成为社会经济发展的拖累。有鉴于此,本文将对以上问题一并进行探究。
二、公司法为算法实体与人工智能董事预留的空间
(一)设立算法公司的现实可行性
1.比较法借鉴。在美国,程序员张三可以借助LLC[1]这一组织形态设立算法公司。从学者对相关法案的解释来看,算法LLC可以通过较为简洁的路径进行设立。[2]根据《修订统一有限责任公司法案》(RULLCA)的规定,LLC可以仅由一名发起人投资设立。虽然RULLCA对发起人的资格要求进行了宽松处理,在自然人和法人之外,合伙也可以成为LLC的唯一发起人;但是,缺乏法律主体地位的算法,无论如何不可能单独直接设立LLC。现在假设,程序员张三作为唯一发起人设立了一个LLC。在LLC的内部管理问题上,RULLCA允许LLC由成员进行自我管理而不必聘请职业经理人。若此,张三可以自行签署一份管理协议,其中规定:LLC的全部运作都交由Cloud/VEM算法进行决策。随后,张三退出LLC。此时,出现了仅由人工智能控制,而无人类介入的无成员实体。按照RULLCA的规定,在无成员的情况下,LLC应当在90日内进行清算以取消其公司资格。这一规定,在不同的解释方案下,为算法LLC的存续留下了或宽或窄的空间。第一种解释方案是,由于90日内清算的规定并未被RULLCA的专门章节列举为“强制性”法条,张三可以事前在管理协议中对之加以排除,从而使算法LLC不必清算而永续存在。第二种解释方案是,算法LLC应当在90日内清算,但是其至少可以在法律上合法有效地存续90日;在没有任何人对之诉讼的情况下,其可以在事实上永续存在。当然,对于第二种解释方案可能出现的90日内清算问题,还可以通过一种较为繁复的路径加以“规避”。首先,张三单独发起设立一个由成员进行自我管理、管理交由算法决策的A LLC。其次,张三与A LLC一起再发起设立一个由成员进行自我管理、管理交由算法决策的B LLC。再次,B LLC从张三手中买入其所持有的A LLC的全部权益份额。最后,张三再将其持有的全部B LLC的权益份额转让给A LLC。此时,两个LLC都将因为存在至少一个成员而无须办理清算。注意,由于此时的成员已经与人类毫无关系,而使存续的两个LLC仍然属于纯粹的算法实体。
在德国,程序员张三有可能通过有限责任公司这一组织形态设立算法公司。由于被“赋予了很大的设计构建自由”,除非涉及员工共同参与的情形,德国有限责任公司只需要设立“业务执行人”和“股东会”两个机关;而在内部关系上,股东不仅可以通过公司合同的方式保留包括业务执行方面的广泛职权,还可以通过公司合同或者股东决议的方式在具体业务中对业务执行人进行指示;这些规定,主要是为了实现股东会“最高机关”的地位及其被法律赋予的“明确的优先性”。[3]尽管在基本法律框架上,德国的有限责任公司和美国的LLC具有高度的可类比性;但是,在德国设立所谓的算法有限责任公司,还必须回答至少三个方面的问题:[4]第一,有限责任公司是否允许没有成员。尽管部分学者认为没有成员将会根本性地违反公司的社团属性,但是由于一些实用性因素的存在,现在的通说认为,失去最后一名成员,只是将导致公司应在一定时间内办理清算而已。第二,随之而来的问题是,这种清算是否是强制性的。目前稍微占据上风的观点是,一旦失去最后一名成员,公司将立即、自动地进入清算程序。然而,如LLC的清算问题一样,在无人起诉或说强制启动程序的情况下,算法公司事实上将继续存在下去。第三,尽管业务执行人的权力可以被公司合同提前收回、公司合同可以将决策寄托于精心设计的算法之上;业务执行人仍然是必需的,且只能由自然人担任。这就导致以有限责任公司形态搭建的算法公司,在德国不可能完全摆脱人类的介入。但是,这里存在两个方面的发展可能性。一方面,只有自然人可以担任业务执行人的规定,已经因为涉嫌违宪而受到质疑。另一方面,在公司合同进行大幅度权力收回的情况下,业务执行人只是因为需要对外代表公司才必须存在。当算法公司在区块链上通过数字化方式进行运作时,是否还需要对外代表公司的业务执行人恐怕将成为疑问。当然,就现阶段而言,德国有关有限责任公司的法律及其学理,已经为算法公司预留了不小的空间。
2.中国法律土壤。就前文针对美国LLC和德国有限责任公司的论述来看,算法公司如欲在既存的公司法律中谋求空间,立法至少需要在三个方面具有适当的弹性:一是公司法对股权回购未做过于严苛的限制,从而使公司可能掌握其自身的全部股权。二是公司法并未强制性地要求失去最后一名股东的公司立即解散,或者并不因此而直接认定公司失去法律人格。三是公司法不要求必须存在业务执行机关,或者业务执行机关的权力可以通过章程或者股东协议被“架空”。下文将以此三项标准衡量中国《公司法》为算法公司预留的空间。[5]首先,尽管《公司法》第八十九条仅列举了四种公司可以回购股权的情形,但是公司显然可以通过作出减资决议的方式来实现回购股权。然而,这里将会遇到的难题在于,公司是否可以回购全部股权。抛开公司是否可以无成员的问题(留待第二点讨论),这里主要涉及公司是否可以“无资本”的事项。尽管2013年修改时,《公司法》已经废除了最低注册资本的要求;但是,《公司法》仍然要求公司设立需要有“认缴的出资额”。从字面含义来看,既然要求“有认缴的出资”,认缴的出资就不能为0;否则,就是没有认缴的出资。然而,如果考虑到“1元公司”[6]与“0元公司”本质上并无区别、资本信用为资产信用取代的立法大趋势,[7]未来立法应该承认无资本公司。当然,仅就现行法而言,只要不损害债权人利益,公司就可以回购几乎全部的股权,但是仍要为人类预留“1元”或者“1分”的介入空间。其次,也许正是由于公司不可能回购股东的全部股权,所以《公司法》第二百二十九条并未规定公司失去最后一名股东时应当解散。由此,就为算法公司的存在留下了极大的空间。其原因在于:尽管公司不能回购全部股权,但是股东可以自行放弃全部股权,或者将全部股权赠予公司,从而彻底退出公司。此时,公司已经失去其股东,却不必解散清算。最后,从《公司法》的规定来看,有限公司必须设置董事会或者执行董事来进行业务执行。但是,考虑到股东会的权力机关属性、类比全国人大和常委会的职权设置、股东会和董事会的委托关系定性通说、有关职权划分的法规制定动态,似乎可以得出股东会可以将全部职权收回自己行使的结论。[8]若此,有限公司完全可以通过章程或者股东协议的方式,将公司的全部运作交给算法决策。由此可见,中国《公司法》为算法公司预留的空间甚至比美国的LLC立法更大。
(二)关于人工智能担任董事的事实与价值判断
1.人工智能担任董事的法律依据。对于这一问题的回答,将因为不同法域中法律规定的不同而有所差异。首先,就前文提及的美国和德国而言,二者都要求董事会由“自然人”担任。这一明确的法律要求,可以说是直接堵住了人工智能在这两个法域充任董事的可能性。值得注意的是,有关董事只能由自然人担任的法律规定似乎正在成为一种立法潮流。究其原因,或许可以被归结为以下两点:(1)如果由法人充当董事,将会使股东选举董事的权力受到削弱。其原因在于,假设董事可以由法人充当,且A公司当选为B公司的董事;由于A公司不可能自己行使董事职权、履行信义义务,所以它必须指派特定的自然人代替行权履职;此时,A公司究竟指派何人行权履职便超越于B公司股东的控制范围之外,B公司股东选择董事的权力也就被大大削弱。(2)如果可以由法人充当董事,则会产生如下问题:A公司当选为B公司的董事,并且指派自己的董事C行权履职;此时,董事C就会出现履职困境,其究竟应当最大化B公司还是A公司的利益;若其为最大化B公司的利益而对A公司有所损害,是否需要承担赔偿责任?
相较于前述法域,董事是否只能由自然人担任的问题在我国《公司法》下就模糊得多。就《公司法》的直接规定来看,并不能得出董事只能由自然人担任的结论;若此,根据私法“法不禁止即自由”的精神,法人就可以担任公司董事。然而,从《公司法》内部及外部体系的角度观察,似乎又可以作只能由自然人担任的解释。一方面,尽管《公司法》没有对董事的任职资格进行积极的规定,但是第一百七十八条第一款所列举的5项不得任职的消极条件却全部指向自然人。《上市公司章程指引》第九十五条第一款,也仅仅针对自然人规定了不得任职的消极条件。另一方面,《关于在上市公司建立独立董事制度的指导意见》有关独立董事的独立性规定,也显然是以自然人董事作为原型的。由于目前尚无相关的明确法律规定、司法判决,董事是否可以由法人担任的问题便具有了一定的开放性,也使我国《公司法》在人工智能董事的事项上具有了一定弹性。其原因在于:如果法人可以担任公司董事,则人工智能便可以通过控制算法公司的方式,以算法公司的身份被选入董事会行权履职。
2.人工智能担任董事的法理支撑。事实上,无论法律本身是否允许人工智能直接担任公司董事,人工智能都可以通过简单的法律安排行使董事职权。[9]这一“事实”,也将促使我们反向思考与人工智能董事相关的规范性命题。人工智能在事实上行使董事职权,可以至少通过以下方式加以实现。董事C从程序员张三处购买一套为B公司量身定做的决策算法,并且完全按照算法的运算结果进行投票;为防止自己承担任何法律责任,董事C购买了相应的商业保险或者B公司在章程中事先免除了相应的法律责任;由此,人工智能而非董事C在事实上行使着职权。这一实现路径,被学者归纳为“算法—协议等效原则”,可用于在不同领域为人工智能赋能。[10]
除去在事实上行使董事职权之外,由于其他两项理由的存在,也使公司法为人工智能董事预留空间具有更强的正当性。首先,受时间约束、信息不对称、未必具有专才和激励不恰当等问题的困扰,自然人董事始终无法很好地履行其职责;自然人董事将自己的工作“外包”给外部机构完成的情况日渐增多,如财务审计和交易审查;公司法强制要求董事由自然人担任的规定,其实完全不具有经济合理性。[11]其次,在自然人之外承认人工智能担任董事的资格,不会产生前文所述的法人董事困境。其原因在于:股东仍然可以选择特定的人工智能,不会出现选择权被削弱的情况;人工智能将忠实地执行代码规则,而不会出现信义义务的承担对象选择困难。
倘若人工智能可以通过类似“稻草人交易”的方式进入董事会,现行公司法规则不如直接解除只能由自然人担任董事的禁令,甚至在《民法典》这样的基础性法律中承认人工智能的法律主体地位,对人工智能董事作出应有的规制。
三、微观公司治理的适应性变革
(一)公司治理规则对辅助或增效式参与的回应
尽管目前人工智能的发展仍处于“窄人工智能”的阶段,但是这并不意味着人工智能不能为人类赋能。即便是“窄”或说“弱”人工智能,也已经在许多“特定”的方面超越了人类智能。这尤其体现在人工智能对于信息的收集、存储和分析的能力之上。与之相反,人类却深受信息收集、存储和分析能力有限的困扰;而现阶段的众多公司治理规则,本质上可以被划分为“解决困扰”的工具和“向困扰妥协”的产物两类。(1)解决困扰的工具。(1.1)现代公司的“两权分离”或说“委托—代理”结构,就是为降低信息成本而形成的。其原因在于:相较于将公司决策权托付给缺乏专才的股东进行“一致商议”,转而在公司内部设置一个专门的“权威决策”机关,以减少因信息传播、信息的个别处理与反馈所造成的成本增加、时间延宕。(1.2)在董事会的主要职能从战略决策向监督转变之后,公司法开始特别强调董事在公司内部建立和维持一个运行顺畅的信息传递系统的重要性。[12]其主旨在于:当向下赋权不可避免时,通过信息传递系统的建立和维持来确保顶层设计者不至于无法收集到真实有效的信息。(1.3)虽然公司被科斯描述为“权威指挥”系统,但是董事会却必须通过“会议”的方式进行“共识”决议。其理据在于:通过会商,董事会决策可以避免因个人信息收集、存储和分析能力有限带来的可能误差和偏见。(2)向困扰妥协的产物。(2.1)尽管对于商业判断规则的证立往往是从“法官并不擅长商业判断”和“避免寒蝉效应”两个角度实现,[13]但是商业判断规则的内核确实与人类智能的固有缺陷紧密相连。正是由于深受有限理性困扰的人类,不得不在信息不充分、情景错综复杂的商业活动中作出决策;立法者和法官才“动了恻隐之心”,将审查范围限缩在程序正义的维度之上。(2.2)也正是由于认识到人类董事的信息收集、存储和分析能力有限,公司法允许本该自己履责的董事,寻求包括会计师、审计师、投资顾问、律师等在内的各种外部专家的帮助。若非如此,董事或者将会因为必须具备全才而索要天价薪酬,或者因为惧怕承担法律责任而不愿履职。
人工智能当然可以通过辅助或说增效的方式进入董事会,从而在极大程度上帮助人类弥补在信息收集、存储和分析上的能力缺陷。但与此同时,公司法或说公司治理规则必须回答这样一个问题,即我们应当如何正确激励董事使用人工智能。(1)从正面的角度来看,公司法需要对董事使用、依靠人工智能作出的决策进行保护。按照既存的公司法规则,只要董事善意地相信待决事项属于外部专家的专长范围、亲自且仔细地阅读了专家提供的建议报告、没有合理理由怀疑专家的建议存在问题,董事信赖专家意见而作出的决策将受到商业判断规则的保护。这一规则,可以在大体上被沿用至人工智能的场景;但是,需要因应科技因素进行适应性修改。相较于人类专家所提供的可解释的建议,人工智能由于存在“算法黑箱”问题,董事很难通过阅读其建议来判断其合理性。因此,这就需要董事积极参与算法的事前开发、使用自身的商业判断和社会常识检验人工智能提供的建议、持续监督人工智能的后续运作并随时准备在事后纠正其偏差。简言之,公司法需要从科技的角度进一步充实既有规则的内容,以实现“可信赖人工智能”的目标。(2)从反面的角度来看,公司法需要对董事背离或说不使用人工智能所提供的建议的决策提供保护。这一点具有两个方面的重要性。一方面,如果不对董事背离人工智能建议的决策提供保护或者苛加不适当的责任,将会导致董事对人工智能的过度依赖,反而加剧人工智能的不可信赖性。另一方面,只有对董事背离人工智能建议的决策提供保护,董事才可能于事前更多地使用人工智能以辅助其工作。对于这一点,可以通过对商业判断规则进行适应性修改加以实现:(2.1)除涉及利益冲突或者不善意的情况外,董事是否遵从人工智能提供的建议应当属于一项商业判断;(2.2)只要董事背离人工智能建议的决策,能够立基于包括数据缺失、程序漏洞、不符合商业常识、有违社会伦理等在内的任何正当理由之上,就受商业判断规则保护而免于承担责任。[14]
(二)公司治理规则对人工智能与人类董事混同式参与的回应
暂且抛开人工智能的法律主体问题不谈,假若人工智能迈入“泛人工智能”甚至“超级人工智能”时代,人工智能就可能不再仅仅担任辅助或说增效的角色,而可能直接以董事身份与人类董事共同行使公司决策权。这一愿景的实现,对于解决当下董事会所面临的诸多问题极富意义。(1)董事会的多样性不足问题。增加包括性别、种族、文化背景等方面的多样性,已经成为有关董事会的公司法改革的大势所趋。一方面,缺乏多样性,被认为是造成董事会“群体思维”问题[15]的主要原因。另一方面,实证研究表明,增加多样性可以显著提升公司的运营效率。[16]而人工智能加入董事会或许可以显著地增加董事会的多样性:通过向人工智能输入与性别、种族、文化背景等相关的变量信息,其有可能以一种客观、中立而不偏狭的方式作出决策。(2)董事会的缺乏专才问题。就现代社会的公司而言,其董事会所需具备的专业技能可以说是包罗万象:从会计审计、法律合规到多业务的战略决策。尽管晚近公司实践的发展,已经使董事会的功能从战略决策向监督转型;但是,由于监督者本身必须熟悉作为监督对象的决策事项,董事的专才要求并未因此而减轻。正因为如此,董事会往往通过“外包”方式寻求外部专家帮助。而可以通过深度学习快速掌握特定技能的泛人工智能甚至超级人工智能有望缓解这一问题。(3)董事缺乏时间和精力的问题。缺乏时间和精力是董事会尤其是独立董事履职所面临的一大阻碍。一方面,无论是执行董事还是独立董事都是人类,必然具有人类自身时间、精力有限的约束;另一方面,起主要监督作用的独立董事,往往只是兼职参与公司治理,仅能分配少量的时间和精力于特定公司,从而导致监督效用大为下降。而在泛/超级人工智能加入董事会之后,其可以凭借全年无休的优势,帮助董事会在相当程度上克服时间和精力有限的问题。
然而,尽管泛/超级人工智能担任董事具有显见的优势,公司法应该在法律主体问题上做好允许其担任董事的准备;但是与此同时,公司法也必须至少对以下两个问题加以关注,并作出适应性或者重构性的变革。
一是科学技术本身不能确保多样性、不能自动产生无偏狭的运算结果。目前针对人工智能的研究已经对这一问题有了较为清晰的认识,并将之概称为“算法歧视”现象。事实上,以算法为基础的人工智能终究是人的产物;其“智能”系以人类预置的条件约束为前提、通过处理由人类筛选后输入的海量数据,借助算法改进得以生成。可见,人工智能的多样性和无偏狭性,首先取决于其条件约束和被输入数据的多样性和无偏狭性。有鉴于此,若需要为人工智能担任董事预留空间,公司法必须在董事任职资格上进行重构。以我国《公司法》为例:现阶段,有关董事的任职资格,《公司法》等法规是以自然人为原型加以构建的;且任职资格仅包括“消极条件”和独立董事的“独立性”要求构成;在未来《公司法》等法规应当在关注人类董事的多样性时,一并关注公司所使用的人工智能董事本身预置的多样性。事实上,即便法律尚未承认人工智能的主体资格,但是考虑到“算法—协议等效原则”和“借道算法公司当选法人董事”这两条事实途径的存在,《公司法》等法规也应当提前关注人工智能自身的多样性问题。二是人工智能董事和人类董事的责任承担逻辑的差异。就法律而言,对违法者施加人身和财产上的责任,是促使行为人在事先优化行为方式的传统规制手段。然而,单纯依靠施加法律责任并不能达成欲规制行为的最优化。例如,在公司法领域,仅仅对董事违反信义义务的行为“威胁”施加法律责任可能并无作用;其原因在于:公司法通过商业判断规则已经极大地屏蔽了法院的可能审查、董事责任保险和章程中预先设定的免责条款,都使董事几乎不可能在事后被追究责任。此时,真正促使董事行为最优化或说负责任的,反而是法律之外的伦理和声誉因素。一方面,过度牺牲其他利益群体以追求经济效益的行为,会因为羞耻心和公平感等伦理原因而被人类董事放弃;另一方面,为防止声誉资本受损,影响其在经理人市场上的竞争力,人类董事在作出具体决策时不会过于极端,而更可能妥当地平衡各方利益。与之相反,人工智能董事不会受伦理和声誉因素的困扰;这将导致,现有的、主要依托市场机制对董事行为进行约束的公司治理理念发生崩塌。因此,通过对人工智能的开发者/使用者施加伦理、声誉约束,将是公司治理的下一个关注重点。[17]
(三)公司治理规则对取代人类董事式参与的回应
事实上,当人工智能被赋予法律主体资格,或者通过“算法—协议等效原则”“借道算法公司当选法人董事”等方式可以担任董事之后,人工智能完全取代人类董事、单独控制董事会便不再仅仅是理论假想。而这种“人工智能董事会”的出现,当然也有助于解决公司治理规则目前所面对的几大难题。(1)由于董事会中不再存在人类董事,公司治理规则不必再面对人类董事不可避免的自利倾向,也就不必再劳民伤财地设置包括独立董事、监事会和激励薪酬在内的各种约束和激励措施。(2)由于人工智能董事具有超强的信息收集、储存和分析能力,不受时间和精力问题的约束,公司治理规则也不必再要求业务执行机关以“会议”方式行权,也不必为董事每年开会的最少次数、可以兼职公司的最大数量等细节问题纠结。(3)由于人工智能董事自身不存在可能影响其判断的经济和社会关系(如亲属),公司治理规则也无须再就独立董事的独立性、独立董事的真实意义进行规范、深究。(4)与此同时,由于董事会收集、存储、分析信息能力加强,公司治理结构将会进一步扁平化;许多处于中间层级的经理、业务部门将会取消,公司的代理链条减少,代理成本也将随之降低。[18]
由于取代人类董事式的参与是对与人类董事混同式参与的更进一步,其必然包含了后者对公司治理规则所提出的挑战、公司治理规则应当进行的回应。当然,也正是由于前者是“更进一步”,即彻底失去了其他人类董事的约束和监督;取代人类董事式的参与也带来了更大的挑战,这些挑战主要是与公司治理的宏观问题相关。就现阶段的人工智能发展水平而言,人工智能虽然已经在许多方面展现出超越人类的能力。但是,这种超越仍然局限在完成带有特定、明确目的的领域之内,如国际象棋和电子竞技。在这些领域之外,一旦出现规则不明确、奖惩情况不能通过函数提前设定的情形,人工智能便很难开展深度学习。就公司治理而言,这主要涉及公司目的的实现。或许有人认为,从技术层面来看这不算一个问题。因为,只要将公司所欲实现的目的按照一定的权重编写为代码,就可以交由人工智能轻松实现。然而,考虑到公司目的的实现复杂性,这种科技乐观主义可能并不足取。其原因在于:仅就经济利益至上而言,公司获取经济利益存在各种不同的手段和时间表;有时特定行为看似有损经济利益却有利于长期利润实现、有时公司需要经历漫长的亏损方能营利;公司能否盈利又取决于其他竞争者和一些宏观经济因素的偶然影响;以上种种复杂内容,恐怕很难在作为人工智能的算法之中进行精确、合理的函数化设计。因此,一种可能的结果是,算法所依托的函数会偏向僵化地实现目的,而缺乏人类决策者可能的迂回和平衡处理。若此,公司治理规则就需要更多地对人工智能所依托的算法本身的设计进行监管。而在未来人工智能进入泛/超级阶段之后,公司法就更加需要注意对人工智能董事会所依托的算法的监管,并注意是否提前在代码中设置了可能的纠正安排。
四、宏观公司治理的关注点和功能转型
(一)重点关注科技公司的治理
就非金融机构的公司治理而言,现阶段的法律监管主要是从“闭锁”公司和“公开”公司的二分入手的。这种二分带来的监管差异是显著而清晰的:针对闭锁公司,立法在力求少数股东不受压迫的前提下,对其内部治理采取“去监管”的立场;针对公开公司,立法则在寻求外部市场力量助力的基础上,就其内部治理进行“层层加码”的约束。结合21世纪以来各国公司法律的立法动态来看,现阶段有关公司治理的法律监管都是以公开公司,尤其是上市公司作为重点关注对象的。然而,伴随科学技术的逐步发展和公司治理日渐进入人工智能时代,当下有关非金融机构的法律监管还应当增加一类二分法,即科技公司和非科技公司,并对科技公司的公司治理予以更多关注。
其原因,至少可以被归纳为以下两点。(1)就当下而言,科技公司是人工智能的主要使用者或者提供者。如前所述,人工智能参与公司治理虽然具有解决众多公司治理难题的优势,但是却也带来包括算法黑箱、算法歧视、僵化实现公司目的以及责任承担逻辑差异等困境。而这些困境的解决,显然需要从完善科技公司自身的公司治理入手。以算法歧视为例:无论是辅助/增效式参与还是与人类董事混同式参与,人工智能进入董事会都被认为可以有效缓释现在董事会所面临的多样化不足问题;然而,如果人工智能的开发者本身就受到多样化不足的困扰,其所提供的(作为人工智能之基础的)算法也就很可能带有偏见甚至歧视,反而会加剧董事会的多样化不足问题;因此,仅就算法歧视问题一点而言,未来公司治理就需要对科技公司的治理问题予以更多关注。(2)人工智能具有显著的“规模经济”和“网络效应”特征,使科技公司受到的外部市场力量监督相对较弱,需要更多法律监管。除需要大量数据用于训练和改进算法之外,人工智能开发还需要巨额的资本投入。因此,越是技术的先行者、越是能够掌握更多数据和资本的公司,越是能够吸引用户使用和购买其人工智能产品,而这又会反向使其获得更多数据和资本。在市场壁垒的保护之下、在技术人才紧缺的背景之下,包括资本市场、产品市场、经理人市场等在内的市场力量将会失灵,法律监管也就变得越发重要。
从问题出发,未来针对科技公司的治理监管应当至少从以下两个方面入手。一方面,特别强调科技公司从董事会、经理层直至单项产品开发小组的成员多样性问题。如前所述,科技本身不能确保无偏狭的运算结果出现,而歧视性的运算结果的出现也不是科技本身的问题;与之相反,现阶段科技发展所产生的负外部性其实都与其背后的人直接相关。因此,为避免这些问题,董事会的多样性不足首先需要在科技公司中得以解决。许多学者都认为,为白人男性所主导的董事会缺乏多样性是21世纪以来美国公司治理失败的重要肇因;而这种多样性的缺乏,在科技公司中更加凸显。因此,未来的公司治理监管应当在普遍要求董事会提升多样性的基础上,特别强调科技公司董事会的多样性。但是,考虑到“好的公司治理因公司而异”的基本常识,未来有关科技公司董事会多样性提升的法律监管应该采用“遵守或者解释”规则。[19]另一方面,典型外部市场监督力量的减弱,叠加人工智能责任承担逻辑差异之后,呼唤科技公司层面和具体产品层面的“评级制度”的建立。前文论述“与人类董事混同式参与”时提及,人工智能无须承担伦理和声誉责任;这种差异,使公司法将更多“实质判断”交给市场,而自己原则上仅关注“程序正义”的监管逻辑出现缺漏。在正视“现阶段科技发展所产生的负外部性其实都与其背后的人直接相关”的原则之上,实有必要通过对人工智能开发者施加伦理、声誉责任的方式来弥补缺漏。一种简洁明了的方式在于:由监管者自己或者行业协议或者私人公司,提供对参与公司治理的人工智能的评级打分工作;这项评级打分工作,不仅需要针对具体的人工智能产品,也应当涵盖提供人工智能产品的科技公司,并最终将这一评级打分计入相关的科技公司董事会、经理层和产品开发小组成员名下。
(二)以数据治理为核心的公司治理
在科技公司之外,非科技公司的治理监管也需要因应人工智能时代的需求而有所改变。(1)尽管人工智能服务主要由科技公司提供,但是非科技公司也可以自行研发人工智能。此时,从监管策略上看,完全可以对之适用与科技公司监管相同的规则。(2)即便董事会中的人工智能服务系从科技公司处购买获得,训练和改进该人工智能及其算法的数据仍然需要由非科技公司提供。此时,就需要有关公司治理的法律监管,确保这些数据的收集和提供是无偏狭、非扭曲的。否则,即便开发者是可信赖的,作为最终产品的人工智能仍然可能是不可信赖的。(3)人工智能的开发、操作和后期改进,都有购买该服务的非科技公司的决定性参与。人工智能在初期开发时,需要首先由购买方确定其目的;开发后的人工智能在运行阶段,需要购买方持续输入数据以使其对之加以分析、得出结论;人工智能在运行中是否出现问题、出现了何种问题、需要作何种改进,也需要购买方加以判断并提供新的数据,以便于开发者对人工智能进行完善。由此可见,在人工智能时代,非科技公司董事会也并非只能消极、被动地运用人工智能;与之相反,其可以也应当积极介入人工智能的运作,当然,这其中也必然会出现滥用情形。
从这一现实出发,未来的法律监管应该更多关注公司治理的“数据治理”面向。而这种关注,至少可以通过以下两个方面加以实现。(1)由于作为人工智能服务购买方的非科技公司对人工智能的目的、被输入的数据束和后期改进具有决定作用,其董事会成员构成也应当具备充分的多样性。否则,购买方董事会的多样性缺失也可能导致包括算法歧视在内的问题出现。(2)董事会下设“科技委员会”的必要性。现阶段的公司法,已经充分认识到董事会成员因时间、精力和专长缺失而面临的决策困境。为解决这一困境,公司治理提供了一种解决路径,即董事会下设委员会。但是,现在主流公司法一般仅强制性要求董事会设置“审计”、“提名”和“薪酬”三大委员会。强制要求设立以上三大委员会,自然有其充分的正当性基础。然而,在人工智能时代,仅仅要求强制设立以上三大委员会就存在监管不足的问题。一种可能的监管如下:至少应当缺省性地要求上市公司设立科技委员会,不设立的强制要求其说明理由。据实证研究显示:[20]美国、加拿大、德国、西班牙、比利时、瑞典、丹麦和瑞士等国家的上市公司,开始越来越多地在董事会下设立科技委员会;但是,从整体上看,这些已经设立的科技委员会,普遍存在“功能偏重策略和监督而非科技与创新”“成员多样性不足”“成员年龄较大”“成员所兼职的科技委员会数量过多”等问题。对于这些问题,未来的公司治理监管,应当强制性地要求科技委员会将自己的功能范围明确界定为科技和数据治理,并对成员可以兼职的公司数量作出上限规定;但是对于多样性和年龄等问题,则仍然应当采用遵守或者解释规则以满足公司的个性化需求、照顾科技人才市场的实际情况。
(三)侧重信息披露和伦理审查的监管手段
科学技术的逐步发展、人工智能参与公司治理的程度日渐加深,对公司法、公司治理规则带来了众多挑战。这些挑战或者属于宏观的结构性事项,或者属于微观的细节行为要求。前文也分别从宏观的关注重点转移、治理功能转换和微观的具体规则设计,对这些挑战的因应之道进行了论述。而在这一部分的最后,本文将结合人工智能时代公司法所面临的挑战的特征、法律监管本身的局限性所在,对未来公司治理监管应该主要侧重的手段进行阐释。
就人工智能所提出的挑战而言,公司治理监管应当始终坚持以下判断:(1)现阶段科技发展所产生的负外部性其实都与其背后的人直接相关,公司治理监管需要应当注重对“人”而非“科技”的调整。(2)人工智能与人类的根本差异,在于前者无须承担伦理责任,公司治理监管必须为伦理的复位提供机制。
就法律监管本身的局限性而言,未来的监管设计应当始终对以下问题保持警觉:(1)无论立法者还是司法者都并非科学家,都将在科技发展的问题上存在知识上的结构性缺陷;在过去,由于立法者和司法者不是商人,法律设置了商业判断规则;在科技的问题上,除非存在充分且正当的理由,立法者和司法者也应当保持克制,避免对人工智能参与公司治理设置强制性规定。(2)科技发展日新月异,人类随时可能迎来人工智能的“奇点”;立法者和司法者在创设规则、解释规则的过程中,应当保持适度的前瞻性和回应性,确保法律监管始终在扬长避短。
遵循以上判断和警觉,未来的公司治理监管应该更加侧重使用“信息披露”和“伦理审查”这两项手段。
就保持监管的回应性和适度性、防止立法者和司法者过度介入科技发展的角度而言,强调信息披露确实是一个最佳的选择。事实上,前文在部分公司治理问题上推荐使用的“遵守或者解释”规则,本质上也属于信息披露这一监管策略。就具体设计而言,未来有关人工智能参与公司治理的信息披露,应当至少包括以下内容:(1)公司应当披露其使用人工智能参与公司治理的方式;(2)公司董事会成员中拥有“科技创新”背景的董事比例、董事会是否下设了科技委员会、科技委员会的成员构成、科技委员会是否遵守了监管对于多样性的缺省性的要求;(3)公司为防止使用人工智能出现算法歧视等问题,采取了何种保障措施、效果如何;(4)公司董事会所使用的人工智能服务由谁提供、设定的目的约束为何、为人工智能所提供的数据束是否可以确保客观中立、是否设置有后续监督改进机制。
立法者应当对人工智能在董事会中的应用,设置最低程度的伦理要求;司法者则应当根据立法者的要求,结合科学技术的发展、社会伦理观念的变迁,对人工智能的设计、运作和后续改进的合伦理性进行审查。与此同时,立法者还可以在公司治理的监管要求中,规定科技委员会应当在(上市)公司每年进行的“人工智能专项信息披露”中,对董事会所使用的人工智能服务的合伦理性进行审查,并且就其合伦理性签字背书。这种监管策略的好处在于:(1)立法者和司法者不会对人工智能服务本身的设计、运作等进行事前审查,从而可以最大限度地鼓励科技创新;(2)当人工智能服务出现问题时,司法者也是在进行其最为擅长的合伦理性审查,不至于出现外行评价内行的情况;(3)要求科技委员会进行自查并且完成披露,可以有效地在监管者和公司之间构建信息传递的桥梁,有助于回应性监管的形成。
五、结语
现代社会正在进入或者说已经处于人工智能时代,过去建立在人类智能之上,以弥补其内在缺陷为己任、因其缺陷无法解决而不得已生成的各种法律规则,正在面临被重写的命运。而公司法尤其是公司治理规则,自然也不可能在这场浪潮中独善其身。就科技界对人工智能所进行划分来看,现在人工智能的发展尚且处在“窄”或“弱”人工智能的阶段;囿于法律规定的限制和人工智能本身有限的发展水平,人工智能参与公司治理的程度尚且无法达到完全取代人类的高度。但是人工智能参与公司治理的实例的不断涌现、立法为算法公司和人工智能董事所预留的巨大空间、算法—协议等效原则所揭示的科技发展后门,都促使我们必须正视人工智能对公司治理规则带来的冲击,并积极地提前加以部署。否则,公司法尤其是公司治理规则有可能成为社会经济发展的拖累。需要提醒注意的是:尽管人工智能尚未被赋予法律主体资格,但是由于算法—协议等效原则、借道算法公司担任法人董事等路径的存在,即便是现阶段的“窄”人工智能也有可能在事实上/法律上担任董事。考虑到包括我国《公司法》在内的许多法域允许仅设置“执行董事”,完全由人工智能掌控的董事会也已经可以成为现实。因此,本文前述有关人工智能的种种讨论都绝非仅仅是理论上的一种假想。
注释:
[1]本文不使用“有限责任公司”的翻译,而直接使用”LLC”的称谓,以避免与德国和我国法上的有限责任公司相混淆。
[2]以下论述,参见Shawn Bayern, The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems, 2 European Journal of Risk Regulation 297, 2016, pp. 302-304。
[3][德]格茨·怀克,克里斯蒂娜·温德比西勒:《德国公司法》(第21版),殷盛译,法律出版社2010年版,第329-334页。
[4]以下论述,参见Shawn Bayern, Thomas Burri, Thomas D. Grant, Daniel M. Häusermann, Florian Möslein, Richard Williams, Company Law and Autonomous Systems: Blueprint for Lawyers, Entrepreneurs, and Regulators, 9 Hastings Science and Technology Law Journal 135,2017, pp. 139-143。
[5]考虑到股份公司尤其是上市公司所受法律监管的严苛性、文章的篇幅限制,本文将仅讨论中国法中有关有限责任公司的规定。
[6]例如,在2014年3月31日广东全省全面实施注册资本认缴登记制以来,新登记注册资本“1元”公司“91户”,参见《我省“一元公司”4个月增至91家》,资料来源:http://news.sina.com.cn/c/2014-08-16/083930694674.shtml,2023年11月5日访问。
[7]赵旭东:《从资本信用到资产信用》,载《法学研究》2003年第5期。
[8]参见楼秋然:《股东至上主义批判——兼论控制权分享型公司法的构建》,社会科学文献出版社2020年版,第12-18页。
[9]有关人工智能是否可以充任法律主体的更为宽泛的法理讨论已有学者进行梳理,本文不再赘述,参见林少伟:《人工智能法律主体资格实现路径:以商事主体为视角》,载《中国政法大学学报》2021年第3期。此处仅针对与公司法有关的核心问题展开讨论。
[10]Shawn Bayern, Of Bitcoins, Independently Wealthy Software, and the Zero-Member LLC, 108 Northwestern University Law Review 1485, 2014, pp. 1495-1500.
[11]Stephen M. Bainbridge, M. Todd Henderson, Boards-R-Us: Reconceptualizing Corporate Boards, 66 Stanford Law Review 1051, 2014, pp. 1051-1120.
[12]See OECD, G20/OECD Principles of Corporate Governance, 47-50, 2015, https://www.oecd.org/daf/ca/Corporate-Governance-Principles-ENG.pdf, accessed on July 20th, 2021.
[13][美]弗兰克·伊斯特布鲁克、丹尼尔·费希尔著:《公司法的经济结构》(第二版),张建伟、罗培新译,北京大学出版社2014年版,第94页。
[14]在人工智能进行辅助或者增效式参与的情境中,还另外存在董事是否有启用人工智能的义务的问题,对该问题已有学者进行了深入讨论,参见林少伟:《人工智能对公司法的影响:挑战与应对》,载《华东政法大学学报》2018年第3期。本文认为,这认为应当属于一项商业判断,需要视情形而定。
[15]楼秋然:《股东至上主义批判——兼论控制权分享型公司法的构建》,社会科学文献出版社2020年版,第215-218页。
[16]曾斌、林蔚然等:《资本治理的逻辑》,中国法制出版社2020年版,第32-33页。
[17]鉴于文章结构考虑,对该问题将在第四部分进行详述。
[18]Chiara Picciau, The (Un)Predictable Impact of Technology on Corporate Governance, 17 Hastings Business Law Journal 67, 2021, pp. 67-136.
[19]楼秋然:《上市公司治理的监管模式选择——向“遵守或者解释”规则转变》,载《证券市场导报》2017年第1期。
[20]Maria Lilla Montagnani, Maria Lucia Passador, AI Governance and Tech Committees: An Empirical Analysis in Europe and North America, January 9, 2021. Bocconi Legal Studies Research Paper No. 3728946, https://ssrn.com/abstract="3728946," accessed on July 21th, 2021.