九三读书网

“人工智能＋”的风险管控与伦理规范（第3页）

还有社会稳定问题，比如AI能生成“深度伪造”内容，就是用AI做假视频、假音频，比如把某个人的脸换到另一个人身上，制作出“假新闻”“假绯闻”。如果有人用这个技术造谣、诽谤，比如伪造某个明星的负面视频，或者伪造某个官员的不当言论，很容易引发社会恐慌、破坏社会信任——这时候AI企业就得担起责任，比如开发识别“深度伪造”的技术，阻止假内容传播，而不是放任不管。

所以AI不是“法外之地”，企业用AI赚钱的同时，必须承担起社会责任，比如保护用户隐私、节能减排、阻止AI被用来做坏事。如果企业只讲利益、不讲责任，AI早晚都会被大家反感、抵制。

三、全球伦理治理：各国对AI的“规矩”不一样，得慢慢商量着来

“人工智能+”是全球性的技术，比如你用的AI软件可能是美国公司开发的，你买的AI设备可能是日本生产的，你刷的AI视频可能是印度网友上传的。但不同国家的文化、法律、社会情况不一样，对AI的“规矩”也不一样——比如有的国家允许用AI做自动驾驶，有的国家不允许；有的国家严格限制AI收集人脸信息，有的国家则比较宽松。这就需要各国一起商量，搞“全球伦理治理”，既要尊重各国的差异，又要达成一些共同的“底线”，不然AI在全球范围内用起来就会乱套。这部分主要说两个点：国际共识和区域监管政策的差异。

3.1 国际共识：各国都同意的“AI规矩”，比如不能用AI杀人

虽然各国对AI的监管不一样，但在一些关键问题上，大家还是能达成共识的——简单说就是“有些事AI绝对不能做”，不管哪个国家都得遵守。

最典型的就是“AI不能用于军事危害人类”。比如不能开发“自主杀人机器人”——就是不需要人类控制，自己就能识别目标、开枪杀人的机器人。如果这种AI被用于战争，后果不堪设想，可能会造成大量无辜平民死亡，甚至引发世界大战。所以现在联合国和很多国家都在呼吁“禁止开发自主杀人机器人”，这就是一个重要的国际共识。

再比如“AI不能歧视人类”。不管是哪个国家，都不能用AI搞种族歧视、性别歧视、宗教歧视。比如不能开发“只服务于白人”的AI，不能开发“歧视女性就业”的AI，这也是各国都认可的共识。因为歧视会引发社会矛盾，不管在哪个国家，都不利于社会稳定。

还有“AI要保护用户隐私”。虽然各国对隐私保护的严格程度不一样，但都同意“AI不能随便收集、泄露用户隐私”。比如不能用AI偷偷拍别人的隐私视频，不能把用户的身份证号、银行卡号随便卖给别人，这也是一个基本共识。因为隐私是人类的基本权利，不管在哪个国家，大家都不希望自己的隐私被泄露。

另外，“AI要保证安全可靠”也是一个共识。不管是用AI开车、用AI做手术，还是用AI处理金融业务，都得保证AI不会出故障、不会出错，不然会给人类带来损失。比如自动驾驶汽车必须经过严格的安全测试才能上路，AI手术机器人必须有备用系统，防止突然出故障——这些都是各国都认可的安全底线。

这些国际共识就像“全球通用的AI交通规则”，不管你是哪个国家的AI产品，都得遵守这些规则，不然就会被全世界抵制。现在联合国、欧盟、美国、中国等都在积极参与国际共识的制定，就是为了让AI在全球范围内安全、有序地发展。

3.2 区域监管政策的差异：有的国家管得严，有的国家管得松，各有各的考虑

虽然有国际共识，但不同区域、不同国家的AI监管政策还是有很大差异——这不是因为有的国家“不讲理”，而是因为各国的情况不一样，比如文化传统、法律体系、技术发展水平都不同，所以对AI的监管重点也不一样。咱们主要说说几个有代表性的区域：欧盟、美国、中国，看看它们的监管政策有啥不一样。

3.2.1 欧盟：管得最严，把“伦理”放在第一位

欧盟对AI的监管是出了名的严格，核心思路是“先定规矩，再让AI发展”，尤其看重AI的伦理和安全。2024年欧盟出台了《人工智能法案》，这是全球第一个全面的AI监管法律，里面把AI分成了“四个风险等级”，不同等级的AI管得不一样：

- 最高风险的AI：直接禁止，比如“自主杀人机器人”“用AI操纵人的行为”（比如用AI搞政治洗脑）“用AI歧视特定人群”（比如用AI筛选租客时歧视外国人），这些AI不管有多厉害，都不能在欧盟用。

- 高风险的AI：必须经过严格审核才能用，比如AI医疗设备（比如AI手术机器人）、AI教育软件（比如给学生打分的AI）、AI招聘系统、自动驾驶汽车。这些AI在上市前，必须证明自己“安全、公平、透明”，还要有专门的机构审核，审核通过了才能用。

这章没有结束，请点击下一页继续阅读！