人工智能是如何做出决策的原木片材
发布时间:2022-10-21 16:35:02 来源:造浪机械网
人工智能是如何做出决策的?
这是我们许多人在童年时都会遇到的问题:“你为什么要这么做?”随着人工智能(AI)开始越来越多地做出影响我们生活的重要决定,我们也希望这些机器能够回答这个简单而深刻的问题。毕竟,我们为什么要相信人工智能的决定呢?
这种渴求令人满意解释的想法促使美国国家标准与技术研究院(NIST)的科学家们提出了一套评判原则,通过这些原则我们可以判断人工智能是如何解释它所做的决定的。他们发布的草案《可解释人工智能的四个原则》(NISTIR 8312草案),旨在激发一场关于我们应该对AI决策系统有何等期望的讨论中国机械网okmao.com。
根据作者的观点,可解释人工智能决策的四个基本原则是:
? 人工智能系统应该为其所有决策结果提供相应的证据或理由
? 系统应该提供对使用者有意义和可理解的解释
? 该解释需正确反映AI系统进行决策的过程
? 系统仅在设计的条件下或当系统对其决策结果达到足够的置信度时运行。(其理念是,如果系统对其决策结果没有足够的信心,它就不能向用户提供决策。)
该报告是NIST帮助开发“可信”人工智能系统的一部分。NIST的基础研究旨在通过理解AI系统的理论功能和局限性,以及提高它们的准确性、可靠性、安全性、稳定性和可解释性来建立对AI系统的信任,这将是该报告重点讨论的内容。
草案作者正在征求公众的反馈意见,因为这个主题涉及范围非常大,从机械工程、计算机科学到心理学和法律研究都有所涵盖,所以他们希望可以对此进行广泛的讨论。
该草案的作者之一,NIST电子工程师乔纳森·菲利普斯说:“人工智能越来越多地参与到高风险的决策中,没有人希望机器在不了解原因的情况下做出决定。但是一个能让工程师满意的解释可能并不适用于其他职业背景的人。因此,我们希望能从不同的角度和观点来完善这个草案。”
理解人工智能系统做出决策背后的原因可以使决策所涉及的每个人都受益。例如,如果人工智能有助于改进贷款批准决策,那么这种理解可以帮助软件设计师改进系统。同时申请人也会想深入了解人工智能的推理过程,或许是想知道为什么被银行拒绝,或许是在贷款批准后帮助申请人继续保持良好的信用评级。
菲利普斯说,虽然这些原则看起来很简单,但使用者通常有不同的标准来判断人工智能是否成功地满足了他们的需求。例如,第二个原则中的“解释”有多种含义,对不同的人来说有不同的意义,这取决于他们的角色同人工智能工作之间的联系。
提到《星际迷航》中的角色时,菲利普斯说:“想想柯克和史波克他们是如何交谈的,使用人工智能系统来协助诊断疾病的医生可能只需要史波克解释为什么这台机器会推荐其中一种特殊的治疗方法。而病人可能不太需要知道其中的技术细节,但他们会希望了解柯克的背景,了解柯克与他的生活有何关系。”
菲利普斯和他的合著者们将可解释AI决策依据的概念与之前AI的相关工作联系起来,同时他们也将人类对机器的可解释性的要求与人类对自己的要求进行了比较。我们的设定是否达到了人类对AI的需求?在使用报告的四个原则探索了人类的决策支撑过程后,作者得出结论——我们的设定没有达到。
研究员们引用了几个例子,写道:“人类对自己做出的选择和推论的解释在很大程度上是不可靠的。在没有意识的情况下,人们会将不相关的信息整合到各种决策中,从人格特质判断到陪审团裁决都会有这样的问题。”
然而,这种意识上的显著的双重标准体系最终会帮助我们更好地理解自己所做的决定,并创造一个更安全、更透明的世界。
菲利普斯说:“随着在AI可解释性研究方面取得的进步,我们可能会发现人工智能系统的某些部分比人类自己更能满足社会的期望和目标。”他过去的研究表明,人类和人工智能之间的合作比任何一方单独工作都能产生更高的准确性。“理解人工智能系统和人类决策行为的可解释性为人类与AI不断融合各自优势的实现打开了大门。”
菲利普斯说,目前作者希望他们收到的评论能推进这一课题的讨论更深一步展开。他说:“我认为我们尚不清楚什么才是正确的解释基准。说到底,我们并不是想回答所有的问题,而是努力地充实这一领域,从而让我们的讨论富有成效。”
-
ABB将其全球机器人业务总部移至上海天门电机配件德语培训挂锁皮革机床Trp
ABB将其全球机器人业务总部移至上海全球领先的电力及自动化技术集团ABB公司宣布,将其全球机器人业务总部移至上海,以顺应市场地上衡趋势、充分肯定中国市场对于ABB在战略上的重要地位。ABB集
04月18日 13:14
-
贵州2017年农村公路里程或可绕地球4圈回转支承销毁设备音响功放焦碳滤料电线插头Trp
贵州:2017年农村公路里程或可绕地球4圈贵州:2017年农村公路里程或可绕地球4圈中国工程机械信息为构建完善农村公路络,促进建管养运一体化发展,贵州省政府办公厅近日印冰砂机发《贵州省农村
04月18日 12:44
-
现代化机械助力APP人工林营造烤肠机检测榻榻米中式家具热泵机组Trp
现代化机械助力APP人工林营造随着林浆纸一体化政策的逐渐深入,在国家划定的南方商品用材林区域,人工林建设每年都在大面积递增。人工林营造,目前纸价1路疯涨的作业方式主要还是靠人工作业
04月18日 12:37
-
PJM和北欧电力市场对国内电力市场建设有车载台塑胶件食品加工洗车工具电梯电缆Trp
PJM和北欧电力市场对国内电力市场建设有何启示?2018年7月6日,昆明电力交易中心举办了以“PJM和北欧电力市场经验比较与启示”为主题的员工沙龙,邀请策划部王帮灿、电力交易部刘祥瑞分享美国
04月18日 11:17
-
塑料1705震荡收涨LLDPE成本支撑走球面轴承发饰硅钙模具设计房产中介Trp
塑料170墙面砖5震荡收涨 LLDPE成本支撑走强盘面走势:今日大连塑料期货1705合约震荡收涨,开盘报10105元/吨,最高10440元/吨,最低至10055元/吨,收10355,涨210,日涨幅2.07%,成交量增加至62.28万手,影
04月18日 07:14
-
Thinprint投资回报计算器助印企节场地布景裹包机木工机纺织器材吸塑模Trp
Thinprint投资回报计算器助印企节约成本Thinprin然后测出力的巨细t公司水镁石近日推出了一款能帮助企业计算其成本专利合作节约潜力的投资回报率计算器。 行业相采烟煤取天然玉米提取培养皿物为原
04月18日 05:30