_($0PXQFQ7Y(P~4838LJ_]L.png

管理培训搜索
18318889481 17875936848

风险
| 警察中心
| 危机管理

价值创造与危机咨询 组织变革与危机管理 冲突管理 刑事危机应对 危机管理

| 金融风险专题

金融风险管理 金融全球化 信贷风险管理 担保风险管控 合同欺诈 非法集资 非法传销 期货风险 股价风险

| 风险管理中心

人工智能风险管理

| 网络安全与隐私保护
| 法律风险

合同风险 刑事风险 法律风险实务 互联网审判

| 企业风险管理

企业风险管理 企业外汇风险 企业法律风险管理 企业财务风险管理 企业战略与风险管理 企业经营风险管理 企业动态风险管理 企业安全风险管理 内部控制缺陷 涉税风险管理 内保外贷风险控制 专利诉讼风险

| 风险控制师事务所

海南风控技术中心 税务风险应对 风险管理服务 风险预警 审计风控

| 国际风险研究

气候与环境风险管理 全球黑灰产业 全球通缉 海外资产风险 大宗商品交易和风险管理 外汇风险管理 外贸风险管理

| 风险管理咨询

信用风险管理 股权风险管理 财务会计风险 刑事风险及规制 风险评估

| 风险中心

工控安全 合规风险 黑恶势力 金融风险 安全风险 税务风险 廉政风险 私募风险 腐败风险

| 黑客中心
| 风控中心
| 操作风险专题

外部金融犯罪风险 内部金融犯罪风险 内部合规风险 外部合规风险 运营风险 财产安全性风险

| 安全中心

治安与社会稳定风险 生物安全 水安全

| 中国式现代化与第四次工业革命:风险和应对当前您所在的位置:首页 > 风险 > 企业风险管理 > 企业安全风险管理

摘要: 中国式现代化需要统筹发展与安全。实现高质量发展和高水平安全之间的动态平衡,需要主动防范化解各类风险隐患。在化解传统风险的同时,我们需要高度关注第四次工业革命带来的新兴风险挑战。在第四次工业革命发展过程中,“机器问题”带来的社会失业风险、技术监管滞后带来的隐私风险、多智能体崛起带来的治理风险、技术异化带来的伦理风险、人类生存意义何在的终极风险等挑战,使社会发展面临很大的不确定性。面对第四次工业革命的新兴风险挑战,我们需要推动劳动力教育培训体系升级,进行负责任的研究与创新,实现数据使用与隐私保护的平衡,实行更加灵活高效的监管,从而对第四次工业革命的风险挑战进行有效治理,不断推进中国式现代化的实践与探索。

关键词: 中国式现代化; 第四次工业革命; 新兴风险; 治理

第一次工业革命开启了现代化历程,并成为人类文明历史的分水岭。前三次工业革命以西方为主导,其现代化理论蕴含着单线进化论的假设,西方现代化模式被有些人奉为圭臬。例如,有西方学者指出,“从历史上看,现代化是一个朝着欧美的社会、经济和政治制度演变的过程”(1)。但是,这种“趋同论”观点已经被实践证明是没有说服力的,“现代化”不是“西方化”的同义语,人类现代化的实践丰富多彩,每个国家都有权利走符合本国国情的现代化道路。在过去的一百多年,中国共产党开启了探索现代化中国方案的历史征程,坚持现代化的主体性,成功推进和拓展了中国式现代化,“中国式现代化为人类实现现代化提供了新的选择”(2)

当前,以人工智能、无人控制技术、量子信息技术、虚拟现实以及生物技术等为驱动力的第四次工业革命,正以前所未有的发展态势席卷全球,世界再次迎来了新一轮现代化浪潮。在2013年德国汉诺威工业博览会上,“第四次工业革命”成为热议话题。在以科技革命为主要内容的第三次工业革命进程中,中国与西方的距离逐渐缩小,中国式现代化的优势逐渐凸显。我国应该争夺第四次工业革命的制高点,并努力成为第四次工业革命的领跑者。第四次工业革命对中国式现代化既带来难得的机遇,也带来严峻的风险挑战。因此,在推进中国式现代化的进程中,在把握第四次工业革命所带来的发展机遇的同时,我们也应充分认识其风险挑战,并采取有效治理措施。本文试对此问题做一探讨。

一、在中国式现代化进程中树立第四次工业革命的风险意识

前三次工业革命分别是以蒸汽机作为动力并广泛使用的机械化时代,以电气工业诞生为标志的电气化时代,以计算机、半导体迅速发展为标志的信息化时代,它们体现了世界范围内从农业社会向工业社会、信息社会转变的现代化进程。21世纪以来,世界上诞生了一些颠覆性的技术。相当多的学者认为,当今世界已进入了全新的发展阶段并称之为“第四次工业革命”。但对何谓第四次工业革命,学界尚未形成统一的内涵界定与时间划分。本文在参照已有研究的基础上(3)(4),总结了四次工业革命的时间、历史意义和主导技术等,如表1所示。对第四次工业革命涉及的技术创新而言,主要包括人工智能、万物互联、大数据分析、无人驾驶、区块链、量子计算、基因测序及编辑技术等21项(5)

表1 四次工业革命的对比

资料来源:作者整理。

从目前的发展现状来看,第四次工业革命仍然是一种以需求为导向、以新技术为手段的市场化过程(6)。与前三次工业革命相比,其共性在于导向和手段,不同之处在于技术的新特性(7)。在第四次工业革命中,技术创新迅速在多个领域展开并取得了多项成果,甚至连技术的更新与运行都可以由技术本身完成,这很可能会带来某些难以预测的结果。

当今世界正经历百年未有之大变局,第四次工业革命给中国带来重大发展机遇。党的二十大报告指出:“从现在起,中国共产党的中心任务就是团结带领全国各族人民全面建成社会主义现代化强国、实现第二个百年奋斗目标,以中国式现代化全面推进中华民族伟大复兴。”(8)推进中国式现代化,要求我们把握住第四次工业革命的重大历史机遇,为2035年基本实现社会主义现代化和21世纪中叶建成社会主义现代化强国提供科技支撑。推进中国式现代化离不开科技支撑。党的二十大报告对科教兴国战略进行了规划部署。同时,我们也要认识到,我国虽然在专利授权数量、论文发表等方面跃居全球首位,但在关键核心技术、基础研究方面与美国等西方发达国家还存在一定差距,与中国式现代化的要求也存在一定差距。例如,在技术创新能力方面,根据2020年世界知识产权组织发布的《全球创新指数报告》显示,中国在131个经济体中位列第14位,在光刻机、芯片、操作系统、航空发动机、触觉传感器等领域的科技创新尚未取得重大突破,还需要“集聚力量进行原创性引领性科技攻关,坚决打赢关键核心技术攻坚战。”(9)因此,在第四次工业革命浪潮中实现第二个百年奋斗目标,就需要充分发挥中国式现代化的制度优势,把科技创新和科技自强作为现代化建设全局的战略支撑。

同时,在高度复杂、迅速变化的技术创新浪潮中保持风险意识,显得尤为重要。我们要认识到,人类现代化与风险相伴而生,不管人类现代化在化解风险威胁的过程中进步到何种程度,新兴风险总是以令人出乎意料的形式挑战人类现代化的进程。工业革命是一把双刃剑。德国社会学家乌尔里希·贝克认为,人类在工业社会后进入了以风险为本质特征的社会。历史上的每一次工业革命和现代化转型经验均表明,科技创新在现代化进程中不可替代,但其中也隐藏着风险与灾难,在利用技术解决问题的同时不可避免地引发了新问题。短时间内,人们可以清晰地感受、信任甚至高估技术创新的价值,却对其在未来的很长一段时间内衍生的风险知之甚少。事实上,技术创新的背后是风险的疯狂生长与蔓延(10)

相比较前三次工业革命,第四次工业革命的形态、速度、广度、深度和复杂程度都有很大不同,其带来的不确定性仍在演化的过程中,它的风险和挑战也在考验着人类的治理能力。有学者在分析风险挑战与现代化之间关系基础上认为,中国在实现工业、农业、国防、科学技术等方面的现代化之外,越来越需要实现“第六种现代化”,可以概括为风险治理的现代化(11)。在第四次工业革命发展过程中,众多颠覆性技术创新在释放能量的同时,亦使社会发展面临着无法完全预测的风险。因此,在推进中国式现代化进程中树立第四次工业革命的风险意识,并采取科学有效的风险治理措施,是在第四次工业革命大潮中推进中国式现代化的必然要求。

二、第四次工业革命的特征及其风险挑战

在推进中国式现代化的进程中,为了有效应对第四次工业革命的风险挑战,我们首先应该对其发展特征有清醒的认识和把握,在此基础上,对其可能产生的主要风险挑战进行梳理,并结合中国式现代化的要求提出应对措施,推进中国式现代化的实践与探索。

(一)第四次工业革命的特征

在总结已有研究的基础上,本文将第四次工业革命的特征概括为以下三点:

1.技术创新的全面渗透性。与前三次工业革命以某项技术或某个产业的创新为标志不同,第四次工业革命不再拘泥于单一领域、单一技术的突破创新,技术创新全面渗透进人类生活的方方面面,并在多个领域集中爆发,技术之间的交叉与融合又催生了新的技术。目前的技术创新,横跨信息、物理和生物三大领域并进行互动,在人工智能、生物技术、新材料和新能源等多类技术群落融合应用,技术的应用场域也在交通、工业制造、生物医疗、商品零售等多个领域全方位展开。

2.后果的难以预测性。第四次工业革命的技术创新渗透到了社会生活的方方面面,这给整个社会体系、人类自身的定位与价值带来的改变都将是难以预测的。这次技术变革给全人类带来了比前三次工业革命更为强烈的危机感。例如,在2017年全球移动互联网大会上,物理学家霍金(Stephen William Hawking)表达了对人工智能发展的担忧,“人工智能也有可能是人类文明史的终结”(12)。而2018年的基因编辑婴儿事件,更是验证了即使是在监管严格的生物技术领域,技术创新也会带来不可预测的后果。在技术创新为人类社会注入无限活力的同时,个人信息和隐私保护、智能创作内容的知识产权保护等问题,尤其是人工智能系统可能存在的歧视和偏见、脑机接口和人机共生的科技伦理等问题,已初现端倪并引起广泛讨论。

3.技术的“自主性”。自主性(autonomy)概念一般应用于人类。康德认为,自主不仅仅意味着自由意志与行动,同时也意味着具备相应的道德(13)。本次工业革命中的技术已可以具备自由意志与行动,其更新与运行可以脱离人类而在技术内部自行完成(14)。以计算机编程为例,以往的编程模式是将复杂问题简单化从而写入代码并且让软件执行编程者所设定的任务。但是,现在的智能算法使机器具有了自由意志与行动,机器自主学习的能力能够直接处理复杂问题,甚至可以理解人类自然语言、识别图像和语音,并提供准确的判断和预测,而非简单罗列搜索或计算得到的结果(15)。目前,技术是否具备道德仍是值得探讨的话题。多位学者已就本次工业革命的技术“道德自主性”问题进行了深入探讨。反对技术“道德自主性”的学者,大多遵从康德学派的理性理论,侧重于对技术滥用的批判,认为技术本身是没有道德的,因而并不具备“自主性”(16)(17)。但也有支持技术“自主性”的伦理个人主义者,他们认为,技术本身可以成为独立的责任承担者,无须在乎技术是否具有道德,因而技术可以具备“自主性”(18)。从技术能不能具备道德入手来解释技术的“自主性”,技术可以具备道德理性的决策方式,因而是可能具备道德的。以人工智能的算法为例,人工智能的算法通过数据间的联系寻找最优解的运算模式,符合人类从经验中总结规律的思考方式;而人工智能的决策也是在理解人类需求的基础上与人类合作,因而也是涉及道德的,如自主驾驶汽车不仅需要避免产生碰撞,也需要在程序设计上考虑人类安全。作为第四次工业革命的核心特征,技术的“自主性”几乎是所有风险产生的根源。无论是自由意志与行动,还是可能存在的道德,都不是完全稳定的。如果不加以适当干预,全面渗透于各个领域的技术“自主性”负外部性会带来难以预测的后果。

(二)第四次工业革命的风险挑战

第四次工业革命在带来颠覆性创新力量的同时,也不可避免地带来系统性的风险挑战,此次工业革命究竟以何种姿态呈现将取决于人类自身。因而,应当对第四次工业革命带来的风险挑战,进行全面的思考与分析。下面,我们以第四次工业革命的代表性产物——人工智能为切入点,分析第四次工业革命带来的风险挑战。人工智能作为第四次工业革命的代表性产物,有着相对于其他技术更加快速、成熟的发展,已渗透到社会生产和人们生活的各个领域,改变着人类的行为方式、治理方式、生活方式和思维方式,带来了诸多风险挑战。

1.“机器问题”带来的社会失业风险。与前三次工业革命相同,“机器问题”(machinery question)同样在本次工业革命中引起了社会失业风险的讨论(19)。本次工业革命中技术本身所特有的“自主性”加快了机器自动化的速率,人工智能的蓬勃发展可能会替代大多数人的工作(20),全世界范围内一半以上的工作会在2055年左右实现完全的自动化(21)。越来越多的研究结论让许多人悲观地对技术创新带来的失业风险表示焦虑,当然,也有乐观者坚信,第四次工业革命将会在取代一些工作岗位的同时创造其他就业机会。他们认为,技术创新背景下特定行业生产率的提高虽然会降低该行业的就业率,但是其所带来的溢出效应又会促使其他行业劳动力需求的增加,从而使得社会总就业率提升(22)。因此,“机器问题”并不必然会降低总体的劳动力需求,它对人类劳动者的影响更多的是结构性变化。

我国人工智能技术对现代化制造业产生了极大影响。机械化、流程化、格式化的传统人工生产方式正转向大数据化与智能化生产模式,劳动者在生产中的地位不断发生变化,劳动分工精细化也加快了劳动力市场的流动速度,中国制造正迈向“中国智造”(23)。而在智能制造迅速发展的态势下,其代替人类劳动者执行生产任务的趋势越来越明显,生产线上的生产方式和相应的劳动分工均发生了重组,失业风险大概率会聚集在拥有较低技能、无法实现自我调节和自我提高的社会底层,这可能会固化原先就存在的社会阶层的不平等,进而造成社会关系的紧张与对抗,不利于社会稳定,亦对包容性增长带来挑战。

2.技术监管滞后带来的隐私风险。我国新一代人工智能技术发展迅速,众多人工智能产业和企业的技术迭代速度远远超越了政府监管水平的适应性,进而出现了隐私风险。作为前一次工业革命中问题的延续,隐私风险在技术“自主性”的自由意志与行动作用下愈演愈烈,而政府监管准则和相关政策规定的发展有特定程序且变化较为缓慢,无法及时提供对私人领域的保护,常常出现“风险在前,规制在后”的时差挑战。目前,政府在虚拟空间中的追踪与监管能力仍然较弱,传统法律、行政法规不仅难以适应复杂多变的市场环境,更难以对技术创新和新兴企业实施有效监管。新兴人工智能技术企业去实体、虚拟化的特点削弱了政府的监管能力,而以算法为基础的区块链系统正在逐步消解政府在知识产权、公证等方面的监管职能(24)

新型人工智能产品和算法在提供极大便利的同时,也使得原本私密的空间和信息不断受到侵蚀。在我国,公民在各类线上平台留下的数字痕迹,被形形色色的平台与企业利用人工智能数据挖掘、过度索要授权等方式收集、分析、共享并形成具体的用户画像及偏好,用以推荐更具有针对性的商品、信息及新闻,从而刺激用户的心理以左右其经济行为,而用户作为数据的主要生产者却对个人信息偏好的二次利用和增值挖掘既不知情也无法自主选择(25)。2020年,工信部通报了131家利用大数据、人工智能等新兴技术侵害公民权益的App企业名单并责令进行整改,但由于缺乏具体操作准则和政策,部分企业在整改过程中仍存在推诿、阻挠、拖延现象。在几乎每一个人都变成“透明人”的数据社会,技术的“自主性”不但使得个人隐私面临着极大的暴露风险,甚至有可能使人类使用者成为技术的奴役。如何平衡数据使用和个人隐私保护二者之间的关系,依然是此次工业革命亟须解决的问题。

3.多智能体崛起带来的治理风险。技术的“自主性”不仅冲击了政府的监管体系,同时也冲击着政府在治理过程中的主导地位。越来越多的非政府智能体依托技术创新崛起,“权力正从国家向非国家行为体转移,从现有的体制向松散的网络转移”(26),政策制定过程不再完全由政府主导,而越来越多地受到新兴技术公司、企业的制约。加速崛起的大型新兴技术公司对政府的治理主体地位形成较大的冲击。新兴技术公司依靠技术壁垒获得了高度的垄断性,并借助大数据等工具成为政府部分职能的承接者与履行者,将自身影响力范围从经济领域延伸至政治领域,挑战政府的治理主体地位。

迫于技术手段和人员的限制,地方政府常常将基础数据的所有权和控制权让渡于新兴技术公司、企业等,合作实施算法流程的开发,并将算法设计、运行和分析交给技术公司来操作。诸多案例显示,控制算法数据及算法分析的新兴技术公司掌握了我国一些地方政府“智慧城市”指挥中心。这也可能直接导致公共利益被私人利益俘获、资本支配公权力等风险的产生。

在这样的情境下,政府不再具有绝对意义上的治理主导地位,政府的职能和权威势必会遭到一定程度的弱化甚至被取代。但在面对此次工业革命带来的诸多风险挑战时,着眼于利润的技术公司并不完全关心技术所涉及的公共利益、公共权力等问题,只有拥有政策制定权的政府才关心并能够有效应对这些风险挑战。在众多有影响力的智能体的崛起与冲击下,政府如何更好地利用第四次工业革命带来的机遇提升自身的治理能力,不仅关乎社会治理水平,也关系着人类的生存与发展。

4.技术异化带来的伦理风险。虽然技术可能具备道德理性,但也面临着无法设置基本道德标准的问题,可能会产生技术异化的结果。技术“自主性”对社会伦理的忽视使其面临着失管与异化的可能性,进而产生了伦理风险(27)。技术开发者们的个体偏见很可能在算法中得到固化并加强,而算法在分析运行海量数据时也常会因技术本身的复杂性带来偏见,技术极有可能异化为不同消极规则、制度和伦理的历史沿袭(28)

在国外,因人工智能算法而导致的雇员性别歧视、智能机器人种族歧视等争议不断发生。在我国,带有歧视与偏见的人工智能算法技术同样引发了社会的担忧。一方面,算法歧视、“大数据杀熟”现象不断涌现,各类软件、App常常采取区分用户、优先级降低、信息差减少用户选择等手段筛选或迫使用户高消费,引起道德伦理争议。如某些网约车平台采取了差别定价手段,对新老用户、高低频用户、不同支付意愿用户、不同价位手机设备用户的打车价格显示和实际支付均有明显差异(29)。此外,大部分搜索引擎以利益为导向的竞价排名规则在真实性和公平性上也饱受诟病,普通公民无法甄别平台的商业服务模式,最终因平台错误引导而导致诸如“魏则西事件”的悲剧,同样伤害了社会伦理道德。

在享受技术创新带来的好处时,更应理性思考如何应对其导致的伦理困境。当技术的开发与使用面临严峻的道德与哲学层面的双重考验时,如何为处于黑箱之中的数据算法与技术使用的范围设置基本的道德标准与规范,并将社会伦理要求内嵌至技术研发与创新的过程中,是此次工业革命中难以忽视的议题。

5.人类生存意义何在的终极风险。随着第四次工业革命向纵深发展,技术的“自主性”已在越来越多的领域证明技术创新不再需要人类的指导与协助。从AlphaGo到AlphaGo Zero,人工智能算法完全不需要使用强制监督学习来复制人类决策,仅仅通过自我博弈的强化学习就能超越自己(30)。技术的“自主性”特征加大了其脱离人类控制的风险,并有可能挑战人类生存的意义与价值。当技术的“自主性”可以完成自我生成、自我维持和自我规制的机制时,则有可能生成“统治”或“奴役”人类的想法或意图。此外,如果开发者将不良动机注入人工智能,甚至利用人工智能去作恶,则更有可能威胁人类。

人工智能和基因编辑不仅是技术革命,同时也是存在论水平上的革命(31)。我国的人工智能伦理学研究,已经开始思考本次工业革命中的人工智能技术是否能通过“自主性”生成德性、意图、意向、情绪等人类心理要素的问题,并试图从心理学和哲学层面给出一些回答和解释(32)。但具体的答案仍然是不明确的,没有人能够准确预测技术创新在未来对人类生存造成何种影响,只能从理论和经验性的层面上给出一些意见,这些意见和想法均表达了对人工智能技术“自主性”的不安。

由此看来,人类的尊严和地位大概率会受到前所未有的威胁性挑战,在未来,人类有可能不再是唯一的决策与创造主体,而人类向来秉持和推崇的人文主义传统也可能因技术的“自主性”而逐渐被颠覆。这些思考对国家和政府规范技术创新的发展方向应有一些启示,政府如何限制技术的无限扩张并防止未来技术扩张后对人类生存领域的侵犯,就显得非常必要。

三、在中国式现代化进程中应对第四次工业革命风险的治理策略

第四次工业革命将带来一个全新的时代,难以预测在这个时代中技术“自主性”带来的创新与破坏哪一个会处于主导地位。技术本身并没有绝对的好坏,其出现与应用是可以引导和控制的,但是政府现行的治理方式是在以往工业革命基础上形成和发展的,随着第四次工业革命风险范畴的不断扩大和影响程度的逐步加深,政府长久以来形成的治理方式和行动基础,遭到技术“自主性”的严重挑战,这使得现有的治理体系在面对“颠覆性力量”时表现迟钝甚至是不适应的,这就需要在研判第四次工业革命带来的风险挑战基础上对其进行有效治理。

(一)推动劳动力教育培训体系升级

第四次工业革命下的人工智能技术,将重新定义多数工作的性质与所需技能,它不仅提升了社会生产效率,同时也可能导致相当数量的劳动力失去工作。目前看来,人工智能技术对机械常规、任务性的制造业、服务业劳动岗位有强替代性,同时又会增加技术性、专业性的技术岗位需求。政府面对的是转换职业或行业的劳动者如何再次就业的问题。政府需要在识别职业被自动化和智能化取代的风险基础上,明确中国式现代化的人才需求,为劳动者提供再次教育与技能培训的机会,积极培养复合型人才和人工智能技术专业人才,提升劳动者对新产业和新技术的适应性,从而推动劳动力教育培训体系升级。

一方面,注重对迫切需要转换职业的劳动力进行生产力的转化与更新。可通过设置相应的政府支持培育项目,依托产学研结合的形式建立劳动力技能提升机制;可以主动出资在所设立的地方公共实训基地开设线上线下相结合的免费技能提升课程,主动邀请具备培训实力和技术的企业、院校、科研机构承担一定的培训任务,对劳动岗位被人工智能技术替代、已经就业但仍需提升技能的劳动力群体进行培训。另一方面,逐步建立人才储备与培育机制,激发人才创新活力,满足未来人才需求。要鼓励各类院校、科研机构围绕人工智能和大数据分析等劳动市场需求,增设相关基础研究专业和应用研究专业,强化技术性和专业性技术人才培养。增强院校、科研机构劳动力技能教育与培训的时代性和实效性,完善专业化的职业教育培训体系,注重培养掌握人工智能相关技术的实干型、复合型技术人才,并在科技成果转化方面给予技术人才相应的激励和保障。注重发挥以政府为主要依托,以企业、院校、科研机构为主体的推动作用,因地制宜地推动劳动力升级改造,为中国式现代化提供人才支撑。

(二)进行负责任的研究与创新

为应对技术的“自主性”所带来的复杂的社会伦理与隐私安全等问题,欧美学界提出了“负责任的研究与创新”(responsible research and innovation)概念,即强调各参与方通过公共协商的方式确定科研创新的目标和价值,充分考虑创新过程及其产品的伦理可接受性,并以此塑造技术创新的路径和方向,力求将技术变革的过程与结果更好地内嵌到社会当中。该概念一经提出便成为科技伦理和科技政策学界的热门话题,我国也应积极倡导在人工智能领域开展伦理教育和伦理审查(33)。因此,政府需要进一步强调技术在研究与创新过程中的多元价值取向,严格要求企业和科研机构将“责任意识”纳入技术研究与创新的过程中,促进科技创新的健康发展,为中国式现代化提供有力的科技支撑。

一方面,政府需要努力平衡科学技术创新的责任与效率之间的关系,保证“负责任的研究与创新”理念成为技术研发的实际遵循。在技术创新的过程中强调“负责任的研究与创新”,有利于抑制技术“自主性”异化所造成的伦理风险,但这并不意味着问题得到了一劳永逸的解决。“责任”的度量仍然是现实存在的问题,过度强调“责任”有可能会限制技术创新的效率,而淡化“责任”则有可能导致技术被出于不正当目的而滥用。这就需要政府将技术至善理念作为技术创新与研究的核心价值取向,整合不同利益主体的需求,平衡公民对技术的需求、技术所服务的利益、伦理规范等之间的关系,实现技术伦理规范对技术创新活动的内嵌,在技术与公民需求、伦理规范的互动中实现技术价值与资源配置的有机统一。另一方面,政府应注重公民对技术的需求,鼓励公民参与技术创新相关的风险评估决策,通过协商、对话等方式确定技术创新的发展目标。政府应基于公众利益需求展开协商,关注公众多方意见,有效地进行风险沟通,为公众提供合理的技术决策,真正地推动落实“负责任的研究与创新”。

(三)实现数据使用与隐私保护的平衡

确立中国特色的数据使用与隐私保护的原则、制度与框架,是国家治理体系和治理能力现代化的必然要求,是推进中国式现代化不容忽视的重要方面。隐私风险的存在客观上要求政府强化对技术的监管,抑制技术“自主性”对个人数据隐私、政府数据的入侵。为了规范个人数据在科技创新方面的使用,2019年,我国发布了《新一代人工智能治理原则》,提出了“尊重隐私”的理念和原则(34)。事实上,仅仅提出尊重隐私的理念是远远不够的,缺乏强制力的规范无法在个人隐私保护方面发挥实质性的作用。政府迫切需要利用具有强制力的法律体系,采取多样化的隐私保护手段和信息披露机制,才能实现数据使用与隐私保护的平衡。

首先,制定系统的个人信息保护法律。在信息披露、用户同意、算法透明度等方面作出更加详细的规定,完善针对数据泄露和滥用的惩戒制度,以回应人工智能技术所带来的隐私风险。要规范用户同意和信息披露机制,由公民决定是否向技术公司披露个人信息。同时,技术公司应向公民告知技术程序对披露信息的处理方式,通过政府与技术公司合作的方式向公众提供特定的算法访问渠道,便于公众了解算法运行逻辑,维护其知情权和监督权。其次,建立个人信息有偿使用机制。人工智能技术的提升离不开公民提供的个人信息,因此,愿意公开个人信息的公民可向技术公司收取适当费用,以达到尊重个人隐私和促进技术进步的双重目标。此外,需要明确禁止技术公司对个人特定的敏感信息的自动化处理,如公民不愿意披露的信息、特定群体(如儿童、残障人士等)的信息,最大限度地减轻信息披露对个人社会生活带来的负面影响。再次,鼓励技术公司使用隐私增强的算法技术和算法设计原则,将信息安全与隐私保护的重点从事后打击移至事前预防,从源头上减少甚至杜绝个人隐私的泄露。利用匿名通讯、“差分隐私”(differential privacy)、同态加密(homomorphic encryption)等算法增强个人信息保护。引导技术公司将隐私保护内嵌到程序设计之中,让公民设计自己的使用偏好,避免个人信息和浏览数据被追踪。

(四)实施更加灵活的监管框架与制度

技术“自主性”使得监管对象日益呈现出隐匿化和虚拟化特征,政府现有的监管框架与制度发展缓慢,难以跟上技术“自主性”的步伐,从而导致技术变革过程中的治理滞后现象。因此,政府要认识到改进监管方式的必要性,采取更加灵活的监管框架,在理念倡导、治理主体等方面进行多维组合,政府既要鼓励技术公司和企业思考如何更好地实现战略目标,也应为监管机构提供更大的灵活性,使其根据技术变革需求进行科学有效的监管,以实现技术创新与社会稳定的平衡,为推进中国式现代化创造稳定的社会环境。

首先,充分发挥现有监管机构的核心作用和技术领军企业的带头作用。利用新一代人工智能治理专业委员会、全国信息安全标准化技术委员会等专业机构,加强对技术“自主性”的监管,及时跟进人工智能技术的变化和发展。其次,鼓励我国人工智能的领军企业主动制定行业规范,依托产业链建立包括大中小微型企业在内的创新联合体,在树立责任企业形象的同时,形成普遍性自我约束。第三,构建多元主体协同治理的模式,增强风险规制力度。针对特定的人工智能技术问题,各级政府部门、行业协会、企业、公民要加强合作,增强多元主体之间的横向、纵向沟通与协作,及时对各类新兴风险予以适当规制。最后,还应注重与国际技术监督机构、领军企业、行业协会的互动,联合成立国际监管机构,实现对技术开发与应用的国际监管(35),在世界第四次工业革命中提升我国话语权。

四、结语

党的二十大对“统筹发展和安全”进行了再次强调。安全问题不仅要关注自然灾害和事故灾难等类型的传统风险,还要关注第四次工业革命带来的新兴风险。因为传统风险在一定程度上是可预防、可控制的,而新兴风险仍在演化发展过程中,人类还没有足够的认知水平来了解其带来的危害和不可预期的变化。中国式现代化致力于“加快实现高水平科技自立自强。以国家战略需求为导向,集聚力量进行原创性引领性科技攻关,坚决打赢关键核心技术攻坚战”(36),通过科技创新实现“领跑”第四次工业革命。但也应看到,第四次工业革命的技术突破、互动与融合正给整个社会带来前所未有的影响,对其带来风险挑战,我们需要以科学方法加以识别并提出应对措施,以适应时代巨变,不断推进中国式现代化。

转创君
企业概况
联系我们
专家顾问
企业文化
党风建设
核心团队
资质荣誉
领导智库
专家库
公司公告
加入转创
战略合作伙伴
质量保证
咨询流程
联系我们
咨询
IPO咨询
中国企业国际化发展战略
投融资规划
企业管理咨询
人力资源管理
风险管理
竞争战略
集团管控
并购重组
家族办公室
资产管理
股权设计
企业管治与内部审计
企业估值
价值办公室
内控咨询
投资银行
管治、内控及合规服务
法律咨询
服务
管理咨询服务
投融资规划
人力资源
资产评估服务
会计服务
科技服务
资质认证
ESG服务
商务咨询
转创法信
内部控制服务
转创投服
金融服务咨询
企业服务
财会服务
翻译服务
财审
金融会计专题
财税中心
国际财务管理
税务师事务所
财税法律服务
会计中心
财务咨询
内部审计专题
审计创新与全球化
代理记账中心
会计师事务所
审计智库
审计中心
审计及鉴证
专项审计
审计工厂
审计咨询服务
金融
纳斯达克
并购交易服务
北交所
IPO咨询
深交所
上交所
直通新三板
董秘工作平台
独立董事事务
SPAC
资本市场服务中心
澳洲上市
加拿大上市
香港联交所
新交所
金融分析师事务所
合规
合规与政府管制
企业合规
网络安全与隐私保护
法证会计与反舞弊
反洗钱与制裁合规
反垄断中心
企业合规管理咨询
合规中心
转创全球企业合规
合规律师事务所
金融安全与合规
海关及全球贸易合规
ESG合规
反欺诈中心
合规中心(产业)
知识产权合规专题
私募股权基金合规
ESG
绿色金融
ESG环境
监督中心
ESG社会
监管中心
全球ESG政策法规
ESG咨询
ESG治理
CRS中心
ESG中心
纪检监察
SDG中心
政府管制
法信
信用中心
知识产权
诚信中心
估值分析
转创信评
资产管理
内控中心
征信中心
转创评值
资产评估事务
金融估值
数据资产评估
信用研究
管理
并购重组
转创国际企业研究所
创新创业
转型升级
投融资规划
管理咨询
企业管理可持续
环境评价与双碳计划
人力资源
咨询与战略
转创产研
法律
刑事法律服务
资本市场法律服务
财税金融法律事务
转创国际合规律师
民商事法律服务
人力资源与劳动法律
公司法律服务
转创法信事务所
科技与知识产权专题
风险
警察中心
危机管理
金融风险专题
风险管理中心
网络安全与隐私保护
法律风险
企业风险管理
风险控制师事务所
国际风险研究
风险管理咨询
风险中心
黑客中心
风控中心
操作风险专题
安全中心
转创
转创深圳(深莞惠)
转创广佛
转创系统
转创梅州
客家经济
转创珠三角
转创潮州
转创网校
转创厦门
转创国际汕头
转创揭阳
转创国际研究院
中国转创科学院
18318889481 17875936848
在线QQ
在线留言
返回首页
返回顶部
留言板
发送