ChatGPT重大技术漏洞引人后怕！AI或将带来这5大会计伦理问题→
财会智能化
编者按：据BBC报道，2023年3月23日，最近爆火的ChatGPT出现严重技术漏洞，用户在社交媒体上表示看到了其他人的历史搜索记录标题。OpenAI不久后宣布修复程序已验证完成，但仍称对此“感觉十分糟糕”。
OpenAI首席执行官Sam Altman则在接受ABC新闻采访时表示，他对人工智能技术以及它如何影响劳动力、虚假信息的传播有些“害怕”。他在访谈中表示：“AI技术无疑是人类迄今为止发展出的最伟大技术，它将重塑社会——但同时，AI也会带来危险，可我们的社会却没有太多时间去思考如何监管、如何处理这类事情。”
以ChatGPT等为代表的AI技术应用所带来的风险，体现在各个领域、各个方面，其中在财会领域所引发的一系列会计伦理问题尤为值得关注。众所周知，算力、模型和数据是人工智能的三个要素。而数据，又往往是AI应用的核心。而财务部门作为企业数据中心，掌握着企业大量的财务和业务信息，与会计相关的数据隐私、信息安全、替代威胁等相关会计伦理话题，时常引起人们的讨论。
智能技术发展，会给会计行业带来哪些伦理问题？我们该提出哪些有效的规避和防范策略，以促进智能技术与伦理道德的相互统一，减少人们对AI技术的担忧，使得AI更好地服务企业管理创新？
通常而言，由智能系统产生的伦理问题主要包括五个道德维度：财产的权利和义务、信息的权利和义务、责任和控制、系统质量、生活质量。我们应在信息技术可以触及的领域内竭力维护这五个道德维度所包含的内容，从而确保智能系统能发挥最大的优势。
其中，道义论形成于人类及社会对道德义务和道德权利的界定，表明各个主体的行为或多或少都隐藏着一定的隐性动机，或者说存在各自有意无意的行为选择，于是就导致了伦理问题的出现。但众所周知，个人利益势必要在有着道义规范的社会共同体中实现，这样人的自然性使道义具有了现实可能性，人的社会性又使道义具有了存在必要性。
由此可见，智能技术应用带来的伦理问题不仅仅出现在个人层面，也会给社会或组织层面带来冲击，并且，伦理常常是一个潜移默化的隐性动机，作为企业和财务人员在财务实践中的行为指导，在适当的时候防止对他人、组织和社会造成伤害。
在会计伦理方面，目前会计伦理通常强调会计主体在进行会计行为时应该保持道德和价值判断，要求会计从业人员遵守职业道德和法律法规，强化自身会计伦理素质，提升职业道德素养。会计伦理可以作为会计人员行为处事的立身规范，揭示和解决会计处理中存在的伦理困境，指导会计行为规范实施，增强社会福祉。
智能技术的应用可能缺乏主观情感认知技能，同时，系统或算法自身存在的偏见，也在冲击着人们的伦理标准和社会公平正义。接下来，我们将从数据隐私、信息安全、责任归属、路径依赖和替代威胁五个伦理维度，对以AI为代表的智能技术在会计领域应用带来的风险进行剖析。
随着会计信息化和智能化技术推广，隐私问题也随着网络的快捷方便而凸显出来，个人和企业隐私正在陷入被暴露的危机之中。智能系统是一个黑箱，一旦获得授权，就相当于获得了开启保险箱的钥匙，这种信任将会使我们隐私信息被大量获取，而这些信息随着智能系统所有权和使用权的转移，将会传播到各个地方，一旦被有心人利用，将会带来灭顶之灾。
隐私泄露的深层次原因在于数据的使用主体为了获取经济利益而引起的伦理失范。2022年，闪捷信息安全与战略研究中心的调查结果表明（见图1），以获利为目的的数据隐私泄露事件占据了近80%之多。利益驱使数据获得者通过泄露数据隐私来牟取私利，而在缺少有效监督和管理的情况下，智能技术的出现使得不法分子获取企业数据的手段更加多样，且又极其隐蔽，难以被执法机关及信息主体发现，极大降低了违法风险和违法成本。
于社会而言，倘若企业商业秘密受到长期侵犯，在一定程度上可能影响社会生活的正常运行，久而久之将会造成社会秩序紊乱，从而阻碍了中国依法治国的持续推进，且随着信息泄露的不断加剧，企业经营秘密很容易顺着信息交流和网络流通进入国外，由此对我国政治、经济等国家层面的安全造成不可估量的影响。
智能技术的运用在给企业会计带来便利的同时，也会招致许多数据信息的觊觎者。尤其是掌握众多客户信息和商业机密的财务部门，更是众矢之的。2017年，德勤就曾遭遇过黑客攻击，约500万的敏感客户数据和私密电子邮件遭泄露，使得许多银行、跨国公司和政府机构蒙受巨大损失，而安全咨询服务正是德勤的主要业务之一，它甚至在2012年被Gartner评为“全球最佳网络安全顾问”。信息泄露的原因一定程度上可以归结于企业只偏重业务发展，而忽视安全问题，稍有不慎便会使其毁于一旦。
而在未来，随着智能技术的进一步发展和渗透，企业将会有大量终端互联互通，需要留痕的信息越来越多，数据信息库的储存量因此而不断扩大。一旦遭受入侵，大量隐私信息可能就会外泄，造成巨大经济损失，甚至会对人身安全造成重大威胁，这就对信息安全的保护提出了更高的要求。
目前，智能技术的推广尤其是财务机器人的应用会对侵权行为的主体认定造成许多麻烦。在确定侵权时，我们要分析责任主体的伦理目的、行为方式、结果和成因，讨论哪些行为人在哪一个环节应该承担哪些伦理责任。
首先，问题出在侵权主体行为人资格的认定上，财务机器人的出现使得传统意义上需要承担责任的“侵权行为人”变成了各种“机器”，我们不能确定另一端是谁在操控。因此，发生侵权行为时，侵权主体很有可能对此讳莫如深，将责任归咎于智能技术，利用智能机器人的身份伪装以逃脱法律的制裁。究其原因，人工智能使用的机器人虽无生命，不符合我们常规意义上的具有民事行为能力的要求，但也可能成为法律主体，承担法律责任。
其次，在于主体责任的分担问题上，智能技术的使用势必要经过诸多环节，由不同主体经手，这就导致发生侵权关系时，责任主体过多，可以是其使用者或监管者，甚至可以追溯到其开发者，抑或是其他人。总之，哪个人或者哪些人应该对信息保护的侵权行为承担相关责任，每个人又该承担多少份额的赔偿，是执法机关不可避免的头疼问题。
再次，既然存在多主体，必然也会存在无行为主体的情况。目前，我们正在将财务机器人和人工智能相结合，创造更加智能的自动化机器人，而加之其自主学习能力，很容易引起混乱。因为迄今为止尚不存在机器自主生成知识引起的法律认定问题。如果确定是智能机器人造成的侵权行为，我们既无相关法律予以定论，又无法对人工智能进行相关处罚，侵权后果无人承担，侵权行为不了了之。
尽管智能技术的出现极大地提高了会计工作的效率，增加了企业的收益，但是，我们应站在发展的角度去看待问题。如果会计领域过度依赖智能系统对基础工作的处理功能，就有可能会使财务工作人员对基础工作逐渐生疏。长此以往，这种情况愈发普遍，就可能会降低会计人员的专业能力和判断力。
同时，智能系统也有可能会出错，其自身是没有思考能力的，它不像人类具有创造性和变通力，智能系统只能根据其已有信息对新事物进行判断，而这种判断往往带有制造者倾向和算法偏差，譬如机器学习技术，连算法设计者都不知会在哪个环节出现偏差。而一旦我们只关注系统显示的异常和风险，减少对未知和潜在危险的认知，就可能带来其他风险，甚至产生信息茧房。
更令人担忧的是，当未来智能机器人模拟行为在人类生活中占据较大份量时，人类是否会产生惰性，会沉迷于智能技术所营造的虚拟环境之中，和其他利益相关者之间的关系也会受到影响，人与人之间的隔阂也会越来越大，而到那时人类生存和发展的意义可能也将不复存在。
智能技术的出现一定程度上会对现有会计人员造成冲击。会计日常工作中的一些基础性工作，例如数据输入、账目统计等，不仅耗时耗力，还会对企业管理带来困难，而智能技术的出现使得这些工作可以在短时间内被完成，极大地提高了效率。但这样一来，相应的岗位就会被减少，使得一部分人面临下岗的危险。
除此之外，智能技术具有自我学习的能力，它能通过人类对现有数据进行整合使用的过程以及新数据的生成自我分析出经验，进行自主学习决策，而这一过程，并不在人类的操纵和掌控之中。一旦超出我们的控制，潜在风险就会加大，后果可能是人类无法预料的。
面对新技术给会计行业所带来的种种隐患，我们需要从法律制度完善、健全监管机制、强化利益相关者素质和伦理意识等多个方面采取措施，以减少人们对AI技术的担忧，使得AI更好地服务人类社会。
目前，我国的数据立法相比于国外较为滞后，互联网法律的完善程度远远赶不上互联网的发展速度。尽管我国正在加快制定数据信息保护相关法律法规，于2021年相继颁布了《数据安全法》和《个人信息保护法》，且已经取得了一定成效，但针对通过智能技术获取数据信息的保护过于分散化，无法构成一个系统的、有条理的的体系，难以有效执行，给了利欲熏心的不法分子钻空子的机会。因此，完善数据保护相关法律迫在眉睫。
除此之外，国家也应该建立专门的智能管理部门，设立针对智能系统危害企业信息安全的应急机制，配合企业迅速响应，最大程度降低损失，甚至随着智能技术逐渐普及，我们可以考虑为智能技术应用管理编制一套专有法律，来更加全面细致地对其加以约束。
在完善相关法律法规和政策指引时，我们还应该明确界定人工智能对数据信息的使用方式，拓宽侵权责任承担的情形规定等，并且在确定智能技术侵犯信息的保护机制时，我们也要充分考虑智能技术变革和发展速度，不能仅仅局限于当前的法律框架和已知问题。
从员工行为的角度来看，企业可以建立内部数据运营平台，该平台不仅能够提供大量内部信息，还可以跟踪每位员工在网络上的操作轨迹，并根据职位不同设立不同授权等级。如果某位员工在授权没有发生变化的情况下，自主改变了日常操作，比如更高频地访问敏感数据、更大量地下载敏感数据，那么数据运营平台就能“感知”到可能存在敏感数据泄露风险及违规滥用风险，从而在后台发出警报，并同时切断该员工的使用权限进行拦截。
从数据流通的角度来看，企业还可以运用区块链技术，为敏感信息设计一个“防火墙”，对数据的流动过程进行全程追踪。在发生数据泄露问题时，就可以追根溯源，最快时间明确造成安全风险的数据的出现节点，以此来帮助阻止敏感数据的外泄，让数据安全地创造价值。
企业的财务信息安全是企业持续经营的根本，一旦信息遭到泄露，后果不堪设想。智能技术的运用增加了信息与外界的流通，使得数据外泄变得更加容易，也极大降低了违法风险，使得越来越多的人铤而走险。因此，企业要正确认识智能技术的利与弊，可以选择设立独立的信息安全部门以积极应对新技术带来的挑战，也可以与第三方机构加强合作，研制出符合自己公司要求的财务软件，顺应时代技术发展。
智能技术在会计领域的发展应用，对现阶段会计人员的知识技能和专业素养提出了更高的要求。因此，为了应对日新月异的数据变化，对相关会计人员的培训必不可少。一方面，企业应该对会计从业人员进行信息技术知识方面的培训，帮助他们更好地适应智能时代下的会计节奏和市场需求。另一方面，各高校也应该注重培养具备综合素质的复合型会计人才，锻炼他们的数据挖掘和数据分析能力，为其未来进入社会提供知识保障。
同时，会计人员还应该对智能技术应用抱有一颗平常心，一味地担心和忧虑并不能解决问题，积极提高自身综合素质才是关键。利用新技术的便利，化而用之，让技术成为人类的辅助品而非替代品。同时，为了避免过于依赖智能技术的情形出现，会计人员还必须保持审慎态度，合理使用人工智能技术的数据获取和分析能力，在提高工作效率的同时，确保财务数据信息的安全性。
我们也希望，在智能系统决策和行动时，能和真实人类一样，符合社会的各项道德和行为准则。因此，我们需要在智能系统设计阶段就建立一个伦理准则底线，人工智能的任何行为不能越出底线，不得依靠自身智能信息优势实施违法行为。同时，应该对人工智能技术研发进行道德风险评估，让其更加规范合理，更加符合社会伦理道德标准。
随着会计智能化的发展，会计人员对于被机器人替代的担心日益严重，但会计人员也应清楚地认识到，尽管部分规律性很强的工作会被机器取代，但人类在认知智能和知识创新方面仍具有不可撼动的绝对优势，未来仍有许多新的职业等待会计人员去开拓和创新，这是危机，同样也是机遇。因此，会计人员转型不失为明智之举，譬如，可以选择为企业提供智能财务咨询服务的智能财务师、对智能系统产生的数据进行分析的大数据分析师、制定和执行数字化战略转型的财务战略分析师，等等。智能技术的出现正给会计人员转型提供了一个绝妙的契机。
同时，我们需要认识到，机器和人其实各具优势。机器的体积笨重、运算速度快，适合复杂的、重复不断地工作，而人创造力强、思维灵活，适合创造性强的、充满设计感的工作，二者并不冲突，甚至相辅相成。因此未来，企业可以研发人机协同共生智能系统，由人和机器通过密切协作来解决各类复杂问题，进行合理分工，发挥各自优势。
人机协同智能财务管理系统示意如图2所示。我们可以以现有智能化信息系统为平台，将整个企业网络进行打通和关联，依据管理需求对数据进行整合，并通过人类专家分析推理得出决策，利用人机交互接口将其传输到计算机系统之中，再在系统内部通过已有算法和知识库对其进行标准化的甄别和提炼，将推理后的结果反馈给人类专家，帮助其更加灵活快捷地进行决策，帮助企业应对各种不确定性，为财务管理活动的开展提供理论依据，最终实现“协同共生、管理赋能”。
本文摘编于《管理会计研究》2023年01期 总第28期
原文标题：智能技术应用给会计领域带来的伦理问题及防范研究
财会智能化
专注企业财务工作智能化
