人工智能技术的风险防范策略研究

　　■  冯一帆

　　数字经济时代，数字技术在生产、生活领域得以广泛运用。而人工智能作为数字技术的核心技术，其快速发展和大范围运用是数字产业化和产业数字化发展的必然趋势。由此便产生了平衡人工智能技术的创新与风险防范之间的矛盾：一方面，法律要积极推动数字技术的发展，促进数字技术的创新，利用数字技术提高生产生活效率。另一方面，法律要及时应对并妥善处理复杂多变的数字技术风险，以确保数字社会的和谐稳定。正如相关学者所提出的，“在确定性需求与灵活性需求的不断碰撞和妥协中，人类社会的法律制度中普遍形成了一种可以应对社会生活复杂性与变化性的适应性机制”。在当前人工智能技术飞速发展的时代背景下，针对人工智能技术革新与革新带来的风险规避之间产生的矛盾，尤其需要这种平衡来予以应对。

　　人工智能技术产生的风险

　　数字经济时代，人工智能技术得以迅速发展，然而任何一种新兴技术的发展都呈现“双刃剑”属性。当人工智能技术在应用层面驶入“快车道”的同时，也不可避免地面临治理困境。

　　信息茧房风险。信息茧房概念由美国学者凯斯·桑斯坦提出，旨在描述人们在获取信息过程中，因被自身兴趣引导，逐渐局限在狭窄的信息环境中，进而减少对多样化信息接触的现象。基于人工智能技术的工具性特征，其已成为信息传输、社会治理的重要辅助工具。数字社会的发展需要政府、平台企业、用户个人共同参与，通过构建多方共治体系妥善应对各类数字风险。但对大多数用户个人而言，其在社交媒体软件上浏览的数据信息，多是网络运营商、互联网平台企业等有计划、有目标营造的数据库。也就是说，用户个人接收的数据通常经过人工智能技术处理即通过收集、分析、整理用户的网页浏览、网络交易、网络社交等行为数据，形成“用户画像”，进而对用户实施精准化、个性化的商品或服务推送。换言之，在人工智能技术创设的网络空间中，用户个人获取的数据信息具有有限性和被动性，这使其个人信息需求与信息选择趋向窄化、封闭化，进而陷入“信息茧房”风险，无法对网络环境形成准确、真实的判断与了解。再加上用户个人存在消费偏好、浏览偏好，用户之间易形成独立甚至对立的信息圈，进而造成人群分化，乃至社会碎裂。

　　技术鸿沟风险。人工智能技术作为一种新型技术，具有其他技术难以比拟的排他属性。基于这一特殊属性，人工智能技术将社会技术生产单元划分为技术持有者与技术缺失者。其中，技术持有者在技术研发、产品生产、效率提升、效益最大化等方面具备优势，因此在市场上占据支配与主导地位。与之相对，技术缺失者因缺乏竞争力处于弱势地位，甚至逐渐被社会淘汰。由此可见，人工智能技术产生的经济效益与社会效益在不同主体间呈现差异化态势，且表现出“强者愈强、弱者愈弱”的局面。也就是说，技术持有者与技术缺失者在分配人工智能技术带来的效益时，呈现非正义状态——掌握庞大资金与技术优势的强势平台企业，可能会侵占中小平台企业的社会红利。即便强势平台企业主观上非故意，其突出的技术优势也会自然诱发技术鸿沟风险，导致数字社会红利在各主体间分配不均，阻碍数字社会的安定有序与高质量发展。

　　人工智能技术风险防范路径

　　需要对人工智能技术分类监管。根据应用场景与行业领域的差异，以风险影响范围、风险危害程度等为标准，对人工智能风险实施等级划分，并采取分类监管措施，以促进人工智能技术监管工作精准、高效开展。值得注意的是，需对司法、金融等重点领域实施特定风险防范，进一步提高监管的精准化与精细化水平。若重点领域发生高风险等级突发事件，应及时对事件的发展动态、风险成因、风险危害程度等进行精准评估与准确研判，及时规避相关风险，防止风险扩大化；同时，需及时向社会发布风险预警信息，实现风险规避主体的多元化。

　　需要对人工智能监管予以健全。一方面，应建立从人工智能研发到应用阶段的全流程闭环式监管。针对人工智能技术领域的监管工作，可成立专业化的人工智能领导小组，对各监管部门的工作进行组织、协调与指导，同时构建“设计问责+应用监督”双层监管机制，落实包容审慎的监管措施。另一方面，应树立“产业界+学术界+监管机构”多元主体共治理念，及时共享人工智能技术及成果，促进人工智能技术监管水平提升。此外，还可采用“监管沙盒”制度推动人工智能监管创新，进而助力数字产业创新与高质量发展。

　　人工智能技术的风险防范是一项复杂而紧迫的系统工程，涉及技术、法律、伦理、社会等多个层面，需要长期持续推进。它要求我们在积极推进技术创新，抢占人工智能发展制高点的同时，必须前瞻性地构建覆盖技术研发、伦理规范、法律监管的多维治理体系，将风险防控贯穿于技术发展的全过程。唯有坚持发展与安全并重，统筹兼顾技术创新与风险防范，通过多学科、多主体的协同努力，才能有效规避人工智能技术产生的信息茧房风险、技术鸿沟风险，减少技术对社会的负面影响；才能引导人工智能技术突破风险桎梏，充分发挥其在促进经济增长、改善民生服务、推动社会进步等方面的积极作用，成为推动社会公平与进步的坚实基础；才能引导人工智能朝着可信、可靠、可控的方向发展，让技术真正服务于人类福祉，最终赋能人类社会实现可持续的美好未来。

　　（作者单位：河南省社会科学院纪检监察研究所）