九三读书网

“人工智能＋”的风险管控与伦理规范（第2页）

2.1 公平性：AI不能“欺负人”，得给所有人平等的机会

先说说“公平性”，其实和前面说的“算法偏见”有点像，但范围更广——不只是AI判断的时候不能有偏见，还要保证所有人都能平等地享受AI带来的好处，不能因为性别、年龄、肤色、收入、地区等因素，被AI“区别对待”。

比如现在很多地方用AI做教育辅导，发达地区的孩子能用到先进的AI学习系统，有个性化的学习计划、优质的课程资源；但偏远地区的孩子可能连基本的电脑、网络都没有，更别说用AI辅导学习了——这就是“AI教育公平”问题，相当于发达地区的孩子在学习上多了一个“帮手”，而偏远地区的孩子没有，差距可能会越来越大。

再比如AI医疗，大城市的医院能用AI辅助诊断癌症、糖尿病，通过分析CT影像、血液数据，更早发现病情；但小城市、农村的医院可能没有这样的AI系统，医生只能靠经验诊断，有些早期疾病可能就会被漏诊、误诊——这就是“AI医疗公平”问题，相当于大城市的人能更早得到治疗，而小城市、农村的人可能会耽误病情。

还有AI就业，现在很多行业用AI替代人工，比如工厂里的流水线工人、超市里的收银员、银行里的柜员，这些岗位越来越少，很多人会失业。但这些失业的人里，很多都是学历不高、没有其他技能的人，他们很难再找到新工作；而懂AI、会操作AI的人，却能找到高薪工作——这就是“AI就业公平”问题，AI让一部分人更吃香，却让另一部分人没了饭碗。

所以AI的公平性不是小事，不能让AI只服务于少数人，得想办法让所有人都能用上AI、受益于AI。比如政府可以给偏远地区捐AI学习设备、建网络，让农村孩子也能用上AI辅导；医院可以推广AI诊断系统，让小城市的医生也能借助AI看病；企业可以给失业的人做AI技能培训，帮他们找到新工作。

2.2 透明度：AI做决定得“说清楚”，不能“暗箱操作”

再说说“透明度”，简单说就是“AI为啥做这个决定，得让人看明白”。比如你申请贷款，AI说“你不符合条件，拒绝贷款”，你肯定想知道“为啥拒绝我？是因为我收入低，还是因为我有过逾期记录？”如果AI不告诉你原因，只给一个结果，你就会觉得不公平，甚至怀疑AI是不是有问题——这就是透明度不够的问题。

再比如你用AI推荐视频，AI总给你推同一类内容，比如你看了一个搞笑视频，之后全是搞笑视频，你想知道“AI为啥只给我推这个？能不能给我推点别的？”如果AI不解释推荐逻辑，你就会觉得被“困住”了，看不到其他类型的内容——这也是透明度不够的问题。

还有司法领域，如果AI辅助法官判案，比如给某个案件的被告人打分，判断他“再犯罪的可能性”，如果AI说“可能性很高，建议重判”，法官和被告人都得知道“AI是怎么算出来的？参考了哪些因素？是被告人的年龄、学历，还是之前的犯罪记录？”如果AI不说明白，这个判决就很难让人信服。

为啥AI的透明度这么难实现？因为很多AI模型是“黑箱”——就像一个魔术盒，你把数据放进去，它就会输出结果，但你不知道盒子里到底发生了什么。比如ChatGPT这样的大模型，它的计算过程非常复杂，就算是开发它的程序员，也未必能说清楚它为啥会生成某一句话。

但透明度又很重要，不然大家就会不信任AI。所以现在很多国家都在要求AI企业“打开黑箱”，比如贷款AI得告诉用户拒绝贷款的具体原因，推荐AI得让用户知道推荐逻辑，司法AI得说明判断依据。虽然很难完全做到，但至少得往这个方向努力。

2.3 社会责任：AI不能只“赚钱”，还得“担责任”

最后是“社会责任”，简单说就是AI企业不能只想着用AI赚钱，还得考虑AI对社会的影响，比如AI会不会危害隐私、会不会破坏环境、会不会影响社会稳定。

先说说隐私问题，这是大家最关心的。现在很多AI产品都要收集用户数据，比如人脸识别需要收集人脸信息，智能手表需要收集健康数据，AI推荐需要收集浏览记录。如果企业把这些数据随便存着、或者卖给其他公司，用户的隐私就会被泄露。比如有人用AI摄像头偷偷拍别人的人脸，然后做成“人脸库”卖给诈骗分子；有人把用户的健康数据卖给保险公司，保险公司就会拒绝给身体不好的人投保——这些都是AI企业没尽到社会责任，只想着赚钱，不管用户的隐私安全。

再说说环境问题，AI其实是“耗电大户”。训练一个大模型，比如GPT-3，需要用到很多服务器，这些服务器24小时运转，消耗的电量相当于几百户家庭一年的用电量，还会排放大量二氧化碳，污染环境。如果AI企业只想着把模型做得更大、更厉害，不考虑节能减排，就会给环境带来很大压力——这也是社会责任的一部分，AI发展不能以破坏环境为代价。

这章没有结束，请点击下一页继续阅读！