AI治理的意义:全球AI发展进入新阶段,呈现出了跨界融合、人机协同、群智开放等新的特征,为了更好处理发展与治理的关系,保证AI安全、可靠、可控,从技术研发到应用都合乎伦理,避免误用、禁止滥用,发展负责任的AI。
视频链接:https://ai.worldaic.com.cn/live/?id=90ded90a1f0f4b9ba0961b8f9320dade&m=2
一、上海试验区专委会治理工作组
1. 该工作组2020年重点工作
关注梳理国际AI治理发展新动向,提出上海试验区治理工作方向与目标,国际交流合作
组织开展人工智能数据安全立法调研工作
对接科技部AI治理专业委员会
开展AI治理方面的政策体系、伦理规范和技术标准研究等
与高校、研究院所、企业等联系,形成AI治理网络
2. 协同落实AI治理原则的行动建议
一个平台:全球交流的合作平台
四项工作:标准规范(伦理规范;技术标注;立法实践)、行业自律(伦理承诺和伦理审查制度;企业内伦理委员会;企业自律流程;行业应用规范)、最佳实践(稳妥推广经验;从实践中总结和完善规范;促进操作规则快速迭代)、可信技术(发展可信智能;合伦理评估等关键技术;完善”技术+制度“的综合治理方案;加强合伦理评估关键技术研发与评测数据集建设;开发通用型隐私保护技术)
四个体系:评估体系(研发AI合规的指标体系和测试平台;开展资质评估与分级分类认证等)、监管体系(公开透明的AI监管体系;权责明晰和应用监督并重的监管结构;AI应用全流程监管;加大对数据安全、隐私保护、道德伦理等行为的监管力度等)、人才体系、保障体系(AI相关保险产品;提升不同用户获取AI服务的能力等)
二、AI的风险与问题
论坛中讨论的AI治理问题,可分为AI技术侧的问题与AI引发的社会问题。总结论坛中的来自学术界和工业界的发言,将目前的问题总结如下:
1. 技术侧问题
AI算法性能
可解释性:需要理解AI做决策的原因
鲁棒性:需要在不同场景中稳定应用
可能的错误:如无人驾驶汽车
意外的结果:如AI对马路事故的处理建议是清除马路
AI系统安全:对抗攻击,后门攻击,网络安全
AI生成虚假内容:换脸
2. AI引发的社会问题
算法偏见、歧视与公平:性别、人种、国籍等
就业问题与财富分配:AI取代就业造成的失业问题,AI创造出的财富再分配,以及由此导致可能的国家安全与社会稳定问题
数据问题:
数据权属、数据共享的追责计值、权益分配
用户隐私保护
数据质量造成的模型效果问题
法律主体
正向的知识产权问题:人工智能的产权与归属问题
反向的责任分担问题:如人工智能侵权等事实认定、无人驾驶汽车的事故问题
三、AI治理的方式
1. 国际AI治理的动向
战略规划、制度建设、伦理规范
人工智能发展纳入各国国家战略
AI与科技创新和产业变革紧密相连
完善AI相关法律法规:重点在法律主体、个人信息保护、知识产权
注重AI基本伦理规则建设:人本主义、可信赖性、负责任、包容性、可解释性
2. 我国政府政策
2017《新一代人工智能发展规划》:高度重视可能带来的安全风险挑战
2019《新一代人工智能治理原则——发展负责任的人工智能》
2020两会:
科技部:稳步推进AI伦理治理
全国人大:生物安全法、个人信息保护法、数据安全法
最高人民法院:加强数据权力和个人信息安全保护
2020年5月《中华人民共和国民法典》
3. 技术方面方式
可解释性
建模前的可解释性分析:分析数据属性、数据可视化
构建可解释性的模型:基于规则、特征、实例
建模后的可解释性评估:隐层分析、模拟分析、敏感性分析
隐私保护:面向隐私保护的机器学习新技术,从普通学习器改进为保护策略+隐私保护学习器。
公平建模:建模过程中保证模型本身的公平性,数据与算法交互过程中避免行为偏差、表示偏差、链接偏差、内容偏差,数据到算法解决聚合偏差、时间偏差、群体偏差等。
可信验证:建设可信验证的引擎、手段、工具,算法在不同环境中具有自适应能力,同时要有可信性评分,强调人在回路。
主动防御:建立安全策略库,搜集当前态势,根据安全要素与攻击者建模,实现主动防御。不仅结果安全,过程同样保证安全。
对抗样本生成与防御、后门攻击、换脸视频生成与鉴别相关的科研进展,重点可观看复旦姜教授的分享。
4. 工业企业做法
旷视:成立AI治理研究院,分享案例:
技术方式:数据训练中保障数据安全:国密算法对数据加密,数据不出隔离域,数据可用不可见,无数据沉淀
制度方式:联合客户和合作伙伴发布《正确使用AI产品的倡议书》
IBM
技术方式:科研,包括四个原则,公平性、鲁棒性、可解释、透明性
制度方式:教育和政策,《AI日常伦理》
5. 未来治理建议
加强基础研究降低技术风险
建立多元共治的AI伦理治理体系
明确把数据和算法作为当前重点治理对象:数据隐私、共享等;算法规则透明、可靠、可解释、可验证
结合具体一个用场景规范人工治理伦理
利用技术和规范并行推动提高治理能力
积极参与国际人工智能治理