AI、人类与社会

编辑: -

AI、人类与社会在1997年IBM的Deep Blue击败西洋棋的世界冠军。2011年,IBM开发的Watson在美国的益智节目Jeopardy!中,挑战电脑运算能力回答富有背景意义或双关等複杂的问题,击败了两位卫冕者;在2016年DeepMind团队开发的Alphago挑战了人们视为博大精深的围棋。不同于象棋跟西洋棋以先擒王为胜,围棋以获取最大领域者为胜,为此必须考量全局局势方能作出正确判断,而这是传统程式难作到的。原本各界并不看好Alphago,但完全出乎意料地4:1击败南韩棋王李世乭。之后DeepMind团队开发出进阶版的Alphago Master以3:0击败中国当今最强的棋手柯洁,近来该团队甚至开发出自我学习的系统Alphago Zero,能力甚至凌驾Alphago Master。

以上种种大大炒热了人工智慧(Artificial intelligence,以下简称AI)这项名词,但撇除AI在智能上惊人地成果,我们在日常生活中也处处可以见到AI的相关应用。较广为人知的像是运用于医疗,提供医师诊断建议;或是影像辨认,例如帮助面试官判断面试者的脸部表情,以判断他的真实感受;还有无人车、无人机等发展,除了当作乘载工具外,亦可用于巡逻。另外还有协助律师处理文件、资讯的系统;或是银行提供客户的语音辨识系统,让客户不必记住密码便能使用服务。此外还有诸多应用,遍及许多行业,而且範围持续扩大中,可以预见未来AI将全面地影响人类社会。

AI的强大也让人忍不住开始担心,AI会影响人类社会到甚幺程度?类似电影《魔鬼终结者》的情节不断出现在各类科幻创作中。事实上当今的AI应该称作「窄AI(narrow AI, or weak AI)」,与「普通AI(general AI, AGI or strong AI)」不同,它们其实不能理解操作者输入给他们的文本、字句、数据的意思,而缺乏编织认知能力。窄AI只能用来执行特定的任务,透过统计方法估算出机率后,实行机率最高的选项为结果。近年艾伦人工智慧机构〈全名Allen Institute for Artificial Intelligence,简称AI2,后面会再提到〉曾提供五万美元奖金,吸引可以写出可以通过美国八年级标準自然科测验(standard eighth-grade science test)软体的团队,但即使只拿多选题当作考题,还是没有软体得到超过60%的分数。也就是说AI尚不具备一个十岁小孩之程度,比如选择一本书的某一章阅读,然后回答与章节内容相关的问题。虽然AI利用深度学习(Deep learning)的方法在特定的领域达到惊人的成果,但还无法作更为複杂的互动式学习,像是从对话的情境、理解阅读的文本、判读的图像等平常人类习惯获取资讯的方式,目前AI仍欠缺与人脑相同的自然语言及图像理解之广度与通用性,也就是常识。几个AI相关的组织对其成员实施调查,询问这些研究人员对于是否会出现超越人类的智慧有甚幺看法,大多数人都认为未来十年内不会出现人类等级的AI,但至于这样的AI会不会出现、甚至会不会出现超越人类的AI,却没有一个大多数研究人员都达成的共识。

但其实现在有比是否会出现超人类AI更值得关注的问题,就是AI的强大功能会产生甚幺样的风险?专家认为主要的风险有两种,其一是出现自动化武器(autonomous weapon),一旦有心人士开发出来,且不易关闭的话,将不可避免地造成重大伤亡;其二是即使AI设定成正向之目标,但其执行之过程却可能产生负面的影响。这样的例子很多,像是要求无人车载乘客至指定目的地,系统选择了一条近,却会穿越危险区域的路径,以至于人员财产的损失,还有当无人车发生意外时的责任归属,该是车的拥有者还是系统的开发者?另外的例子是,输入的资料可能有不可预期的偏差,例如银行的自动借贷系统,即使没有预先在系统中设定特定的变数,但在统计的过程中发现,像是居住地在某区域的民众还款情况较差,以至于后来居住该区域的民众想申请贷款,会直接被系统拒绝。又或者是AI自动化带来的方便性,将会使得原本是由人去做的工作转由机器或软体去执行,导致这些人失业。以及隐私的问题,很多AI依赖网路接触资料并分析,但如果没有做好加密、保护这些资料,则有可能被恶意的第三方攻击且窃取。

为了处理上述风险,理想办法应当是将不同领域的专家,例如工程师、计算机科学家、社会学家、心理学家、经济学家及法律工作者集结起来,讨论AI可能造成短期或长期的影响,预测AI发展的轨迹及造成的结果,以先防患于未然,像是可以预期AI会让某些工作消失,但也促使新的工作产生,要如何辅导转型或培育新工作型态的人力是需要考量的。而科学家与工程师也应参与检测软体的验证、有效性及安全性等项目,思考哪些设计容易产生不安全的系统,要尽可能避免。好消息是,目前有许多组织已着手进行相关的研究。在2008年,「人工智慧发展协会(Association for the Advancement of Artificial Intelligence)」在史丹福大学发起一项百年的AI研究计画,此计画每五年统整一次目前相关研究的发展并发表报告,预计持续进行一百年,甚至更久。在2014年,微软的联合创始者Paul Allen组织了AI2,目标是以找出AI对人类社会潜在益处为宗旨。目前着手许多专案,如前所述,期望创造出能通过一般标準智力测验的AI、有常识的AI,其首席执行长Oren Etzioni并提出AI守门员(AI guardian)等想法,也就是发展监视、检测系统,确保执行中的AI合乎伦理及道德。在2016年,业界、学界及民间组织的代表共同成立了非营利组织Partnership in Artificial Intelligence to Benefit People and Society(简称Partnership on AI),参与者包括了几个着名的科技企业例如Google、Mircrosoft、Facebook、Amazon跟IBM等,设立的目标旨在建立AI最佳的行为準则,透过不同的发展团队竞争又互相沟通之过程,确保AI对人类长期发展是有利的,也期望增进社会大众对于AI的理解。

不可否认的,AI的发展日益精进,甚至到了超乎想像的地步,但比起恐慌,更应该有的态度是去思考如何安全的处理衍生出的问题。未来AI的发展需要人们的智慧、好奇、小心与合作。


参考文献:

你会喜欢下面的文章? You'll like the following article.