【会议】2020人工智能大会-AI治理论坛:发展负责任的人工智能

AI治理的意义:全球AI发展进入新阶段,呈现出了跨界融合、人机协同、群智开放等新的特征,为了更好处理发展与治理的关系,保证AI安全、可靠、可控,从技术研发到应用都合乎伦理,避免误用、禁止滥用,发展负责任的AI。

视频链接:https://ai.worldaic.com.cn/live/?id=90ded90a1f0f4b9ba0961b8f9320dade&m=2

一、上海试验区专委会治理工作组

1. 该工作组2020年重点工作

关注梳理国际AI治理发展新动向,提出上海试验区治理工作方向与目标,国际交流合作

组织开展人工智能数据安全立法调研工作

对接科技部AI治理专业委员会

开展AI治理方面的政策体系、伦理规范和技术标准研究等

与高校、研究院所、企业等联系,形成AI治理网络

2. 协同落实AI治理原则的行动建议

一个平台:全球交流的合作平台

四项工作:标准规范(伦理规范;技术标注;立法实践)、行业自律(伦理承诺和伦理审查制度;企业内伦理委员会;企业自律流程;行业应用规范)、最佳实践(稳妥推广经验;从实践中总结和完善规范;促进操作规则快速迭代)、可信技术(发展可信智能;合伦理评估等关键技术;完善”技术+制度“的综合治理方案;加强合伦理评估关键技术研发与评测数据集建设;开发通用型隐私保护技术)

四个体系:评估体系(研发AI合规的指标体系和测试平台;开展资质评估与分级分类认证等)、监管体系(公开透明的AI监管体系;权责明晰和应用监督并重的监管结构;AI应用全流程监管;加大对数据安全、隐私保护、道德伦理等行为的监管力度等)、人才体系、保障体系(AI相关保险产品;提升不同用户获取AI服务的能力等)

二、AI的风险与问题

论坛中讨论的AI治理问题,可分为AI技术侧的问题与AI引发的社会问题。总结论坛中的来自学术界和工业界的发言,将目前的问题总结如下:

1. 技术侧问题

AI算法性能

    可解释性:需要理解AI做决策的原因

    鲁棒性:需要在不同场景中稳定应用

    可能的错误:如无人驾驶汽车

    意外的结果:如AI对马路事故的处理建议是清除马路

AI系统安全:对抗攻击,后门攻击,网络安全

AI生成虚假内容:换脸

2. AI引发的社会问题

算法偏见、歧视与公平:性别、人种、国籍等

就业问题与财富分配:AI取代就业造成的失业问题,AI创造出的财富再分配,以及由此导致可能的国家安全与社会稳定问题

数据问题:

    数据权属、数据共享的追责计值、权益分配

    用户隐私保护

    数据质量造成的模型效果问题

法律主体

    正向的知识产权问题:人工智能的产权与归属问题

    反向的责任分担问题:如人工智能侵权等事实认定、无人驾驶汽车的事故问题

 三、AI治理的方式

1. 国际AI治理的动向

战略规划、制度建设、伦理规范

人工智能发展纳入各国国家战略

AI与科技创新和产业变革紧密相连

完善AI相关法律法规:重点在法律主体、个人信息保护、知识产权

注重AI基本伦理规则建设:人本主义、可信赖性、负责任、包容性、可解释性

2. 我国政府政策

2017《新一代人工智能发展规划》:高度重视可能带来的安全风险挑战

2019《新一代人工智能治理原则——发展负责任的人工智能》

2020两会:

科技部:稳步推进AI伦理治理

全国人大:生物安全法、个人信息保护法、数据安全法

最高人民法院:加强数据权力和个人信息安全保护

2020年5月《中华人民共和国民法典》

3. 技术方面方式

可解释性

    建模前的可解释性分析:分析数据属性、数据可视化

    构建可解释性的模型:基于规则、特征、实例

    建模后的可解释性评估:隐层分析、模拟分析、敏感性分析

隐私保护:面向隐私保护的机器学习新技术,从普通学习器改进为保护策略+隐私保护学习器。

公平建模:建模过程中保证模型本身的公平性,数据与算法交互过程中避免行为偏差、表示偏差、链接偏差、内容偏差,数据到算法解决聚合偏差、时间偏差、群体偏差等。

可信验证:建设可信验证的引擎、手段、工具,算法在不同环境中具有自适应能力,同时要有可信性评分,强调人在回路。

主动防御:建立安全策略库,搜集当前态势,根据安全要素与攻击者建模,实现主动防御。不仅结果安全,过程同样保证安全。

对抗样本生成与防御、后门攻击、换脸视频生成与鉴别相关的科研进展,重点可观看复旦姜教授的分享。

4. 工业企业做法

旷视:成立AI治理研究院,分享案例:

    技术方式:数据训练中保障数据安全:国密算法对数据加密,数据不出隔离域,数据可用不可见,无数据沉淀

     制度方式:联合客户和合作伙伴发布《正确使用AI产品的倡议书》

IBM

    技术方式:科研,包括四个原则,公平性、鲁棒性、可解释、透明性

    制度方式:教育和政策,《AI日常伦理》

5. 未来治理建议

加强基础研究降低技术风险

建立多元共治的AI伦理治理体系

明确把数据和算法作为当前重点治理对象:数据隐私、共享等;算法规则透明、可靠、可解释、可验证

结合具体一个用场景规范人工治理伦理

利用技术和规范并行推动提高治理能力

积极参与国际人工智能治理

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,839评论 6 482
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,543评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 153,116评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,371评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,384评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,111评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,416评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,053评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,558评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,007评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,117评论 1 334
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,756评论 4 324
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,324评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,315评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,539评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,578评论 2 355
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,877评论 2 345