九三读书网

“人工智能＋”的风险管控与伦理规范（第4页）

- 中风险的AI：需要披露信息，比如AI推荐系统（比如视频APP的推荐AI）、AI聊天机器人（比如ChatGPT）。这些AI不需要审核，但必须告诉用户“我是AI”，还要说明推荐逻辑、生成内容的依据，不能让用户误以为是人类做的。

- 低风险的AI：基本不管，比如手机里的智能闹钟、智能计算器，这些AI对人类没什么危害，所以欧盟不怎么管。

欧盟为啥管这么严？因为欧盟特别看重“人权”和“社会公平”，担心AI会侵犯人权（比如隐私、平等权），破坏社会公平。比如之前有欧盟国家发现，有些AI招聘系统歧视女性，所以欧盟就规定AI招聘系统必须经过公平性审核才能用。虽然严，但能最大程度保护用户的权益，不过也有一些AI企业觉得“太麻烦”，不愿意在欧盟开展业务——这就是严监管的两面性。

3.2.2 美国：管得“灵活”，既想保护创新，又想控制风险

美国对AI的监管和欧盟不一样，核心思路是“先让AI发展起来，再根据问题定规矩”，既不想因为监管太严耽误AI创新（毕竟美国有很多大AI公司，比如谷歌、微软、OpenAI），又不想让AI出大问题。

美国没有像欧盟那样出台统一的AI法律，而是让不同的部门根据自己的领域制定监管规则。比如：

- 医疗领域：美国食品药品监督管理局（FDA）会监管AI医疗设备，比如AI诊断软件必须证明自己有效、安全才能上市，和欧盟的高风险AI监管有点像。

- 金融领域：美国证券交易委员会（SEC）会监管AI金融产品，比如AI炒股软件、AI贷款系统，防止这些AI误导用户、引发金融风险。

- 隐私领域：美国各州有自己的隐私法，比如加州的《消费者隐私法案》，规定AI企业收集用户数据必须经过用户同意，不能随便泄露。

另外，美国特别看重“AI的国家安全”，比如禁止美国的AI公司把先进的AI技术卖给其他国家（尤其是可能威胁美国安全的国家），防止这些技术被用来制造武器、破坏美国的网络安全。比如美国之前就对OpenAI、谷歌等AI巨头提出要求，不许向中国等国家出口能用于军事、高端制造的AI模型和技术，担心这些技术被“滥用”。

美国这种“灵活监管”的好处是，AI企业有更多创新空间，不用被太多规则束缚，能快速推出新的AI产品——比如ChatGPT、GPT-4这些爆款AI，都是美国公司先做出来的。但坏处也很明显，因为没有统一的规则，不同部门的监管标准不一样，AI企业可能会“钻空子”，比如在医疗领域遵守FDA的规则，但在其他领域就放松要求，容易出现风险。而且美国对AI伦理的监管相对宽松，比如AI歧视、AI隐私泄露等问题，处理起来没有欧盟那么严格，用户权益可能得不到充分保护。

3.2.3 中国：监管“务实”，既要安全，又要促发展

咱们中国对AI的监管，走的是“务实路线”——既不像欧盟那么“严”到可能限制创新，也不像美国那么“散”到容易出漏洞，核心是“在安全的前提下，推动AI发展”，让AI能真正服务于经济、社会和民生。

这些年中国出台了不少AI监管政策，而且针对性很强，都是围绕大家最关心的领域来定规矩：

- 先说说AI安全，这是中国监管的重点。2024年中国出台了《生成式人工智能服务管理暂行办法》，明确要求生成式AI（比如ChatGPT、文心一言这种能写文案、画画的AI）不能生成“违法违规内容”，比如不能生成谣言、暴力、色情内容，也不能生成危害国家安全的内容。而且AI企业在上线产品前，必须对生成的内容进行审核，要是出了问题，企业得担责任。比如之前有个AI聊天机器人，用户问它“怎么制造危险物品”，它竟然给出了步骤，后来这个AI就被下架整改了——这就是中国对AI安全的严格把控。

- 再说说隐私保护，这也是中国监管的核心。2021年中国出台了《个人信息保护法》，明确规定AI企业收集用户数据必须“合法、正当、必要”，不能随便收集。比如人脸识别AI，只能在需要的场景下用（比如火车站安检、小区门禁），不能在商场、超市等地方随便装人脸识别摄像头；而且收集人脸信息前，必须明确告诉用户“要收集你的人脸，用来做什么”，还要得到用户同意。如果企业偷偷收集人脸信息，会被重罚——之前就有一家连锁超市，在门店装了人脸识别摄像头，没告诉用户，被罚款了50万元。

- 还有AI赋能实体经济，中国监管不仅“管风险”，还“促发展”。比如政府鼓励AI企业把技术用到制造业、农业、医疗、教育等领域，比如用AI优化工厂生产线，提高生产效率；用AI监测农田的病虫害，帮助农民增产；用AI辅助医生诊断，让偏远地区的人也能看上“好医生”。为了支持这些方向，政府还会给AI企业提供补贴、税收优惠，比如有些地方对AI医疗企业，会减免3年的企业所得税，鼓励它们研发更多好产品。