近日，一份由专注于AI领域的公司Gladstone AI撰写的报告披露了人工智能技术对人类的潜在威胁，警告最先进的AI系统可能会对人类物种构成灭绝级的威胁。这份报告基于对200多人的采访得出，采访对象包括来自领先AI公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。美国国务院一名官员向CNN证实，其所在机构委托撰写了这份报告，但报告不代表美国政府的观点。
1. 人工智能技术的双重面向
人工智能技术的发展持续激发投资者和公众的热情，它带来了巨大的经济变革力量，有望攻克疾病、推动科研进步，并解决之前看似无法攻克的难题。然而，随着AI技术的不断进步，其背后潜藏的风险也在逐渐显现出来。
2. 最严峻情况下的AI威胁
根据Gladstone AI的报告，在最严峻的情况下，尖端AI系统可能对人类种族构成“灭绝级威胁”。这一结论是基于对超过200位业界权威人士的深入访谈得出的，包括顶尖AI企业高管、网络安全研究专家、大规模杀伤性武器专家及政府内部的国家安全官员。
Gladstone AI预测，AI和通用人工智能（AGI）技术的崛起或将如同核武器诞生那样颠覆全球安全格局。报告还警示存在AI引发军备竞赛、冲突，以及“与大规模杀伤性武器相当的致命事故”的可能性。
3. 美国政府对AI风险的认识
美国国务院一名官员向CNN确认，国务院确实委托编制此份报告，旨在持续评估AI技术如何与维护美国国内外利益的战略目标相适应。白宫新闻发言人罗宾·帕特森表示，美国总统拜登关于AI的行政命令是“全球任何政府为抓住AI的潜力和管控AI的风险所采取的最重要行动”，美国将继续与国际伙伴合作，并敦促国会通过两党立法来管控风险。
4. 首当其冲的风险：AI系统被军事化
Gladstone AI在报告中指出，首当其冲的风险在于，最高级的AI系统可能被军事化，造成无法逆转的损害。在激烈的市场竞争驱使下，企业急于推进AI技术研发，却可能因此牺牲安全性，使得最尖端的AI系统存在被盗取并转为针对美国的“武器化”风险。
Gladstone AI联合创始人兼首席执行官（CEO）杰雷米•哈里斯12日告诉CNN，AI技术可以帮助人类治愈疾病，实现科学上的发现，并克服我们曾认为不可逾越的挑战。但它也可能带来严重的风险，包括灾难性的风险。越来越多的证据表明，超过一定的能力阈值。
5. 第二大风险：AI实验室失去对系统的掌控
报告还披露了另一个风险，即AI实验室内部存在着一种担忧，即在未来某一刻，它们可能对自身正在研发的系统失去掌控，进而给全球安全带来“极具破坏性的后果”。
6. AI和通用人工智能（AGI）技术的崛起
Gladstone AI预测，AI和通用人工智能（AGI）技术的崛起或将如同核武器诞生那样颠覆全球安全格局。报告还警示存在AI引发军备竞赛、冲突，以及“大规模杀伤性武器级别意外事故”的可能性。
7. 采取激进新举措应对AI威胁
为了应对这一严峻威胁，Gladstone AI建议采取一系列激进的新举措，包括建立全新的AI管理机构、实施针对AI模型训练所需计算资源的“应急”监管措施及限制。
8. 行业内重量级人物的警告
除了Gladstone AI的报告外，行业内也有许多重量级人物对AI技术的风险发出过警告。被誉为“AI之父”的杰弗里·欣顿在去年离开谷歌职位后，对参与开发的技术发出预警，认为在接下来的三十年内，AI导致人类灭绝的概率约为10%。
9. 商业领袖关注AI风险
尽管商业领袖们在不断加大投资AI领域的力度，但他们也越来越关注这类风险。根据去年耶鲁大学CEO峰会上的一项调查，受访的42%的CEO认为，AI技术在5至10年内有可能对人类社会造成毁灭性打击。
10.国际社会对AI技术的关注和行动
除了美国政府，国际社会也越来越关注AI技术的风险。在2019年，欧盟发布了《人工智能伦理指南》，旨在促进AI技术的可信任和可解释性。在2021年，联合国教科文组织（UNESCO）通过了《关于人工智能的推荐》，呼吁各国加强对AI技术的监管和风险管理。
本文来自微信公众号“AI潮流圈”
