写于 2018-12-27 10:12:07| 腾讯分分彩app| 体育
<p>自动驾驶汽车,私人助理,清洁机器人,智能家居 - 这些只是自治系统的一些例子由于许多此类系统已在使用或正在开发中,一个关键问题涉及信任我的核心论点是拥有值得信赖,运行良好的系统仅仅为了实现信任,自治系统的设计还需要考虑其他要求,包括解决决策的能力以及在出现问题时采用追索方案过去几年在自治系统部署方面取得了显着进步基本上是制定决策并对其采取行动的软件系统,具有现实世界的后果示例包括物理系统,如自动驾驶汽车和机器人,以及仅限软件的应用程序,如个人助理阅读更多:无人驾驶汽车可以看到人类进一步蔓延到但是,设计运行良好的自治系统是不够的我们还需要考虑添加什么人们需要信任这样的系统的人工特征例如,考虑一个私人助理假设个人助理运作良好您是否相信它,即使它无法解释其决定</p><p>为了使系统可信,我们需要确定信任的关键先决条件然后,我们需要确保系统设计为包含这些功能</p><p>理想情况下,我们将使用实验回答这个问题我们可以问人们是否愿意信任自治系统我们可以探索这取决于各种因素</p><p>例如,提供有关系统的保证,行为重要吗</p><p>提供解释很重要吗</p><p>假设系统做出对于正确行事至关重要的决策,例如,自动驾驶汽车避免事故我们在多大程度上更加谨慎地信任制定此类关键决策的系统</p><p>这些实验尚未进行下面讨论的先决条件因此得到有效的教育猜测首先,系统应该能够解释为什么它做出某些决定如果系统的行为可以是非显而易见的,但仍然正确,解释就特别重要</p><p>例如,假设通过向救援人员分配任务和位置来协调救灾行动的软件这样的系统可能会提出对于单个救援者来说看似奇怪的任务分配,但从整体救援行动的角度来看是正确的</p><p>没有解释,这种任务分配不太可能值得信任提供解释使人们能够理解系统并支持对不可预测的系统和意外决策的信任这些解释需要易于理解和访问,也许使用自然语言它们可以是交互式的,采取对话的形式信任的第二个先决条件是追索权这意味着有一个如果你受到自治系统的不利影响,那么这是一个必要的先决条件,因为它使我们能够信任一个不完美的系统</p><p>在实践中,没有一个系统是完美的</p><p>追索机制可能是合法的,或者一种保险形式,或许以新西兰为蓝本,以事故赔偿的方式然而,依靠法律机制存在问题至少一些自治系统将由大型跨国公司制造法律机制可能变成大卫与歌利亚的情况,因为它涉及个人或资源有限的组织,将跨国公司告上法庭更广泛地说,可信赖性还需要社会结构来进行监管和治理例如,应该制定哪些(国际)国家法律来规范自治系统的开发和部署</p><p>在道路上允许自动驾驶汽车之前应该要求哪些认证</p><p>有人认为,认证和信任需要验证</p><p>具体而言,这意味着使用数学技术为自主系统的决策提供保证</p><p>例如,保证汽车在知道另一辆汽车直接领先时永远不会加速某些领域系统,决策过程应考虑相关的人类价值观这些可能包括隐私,人的自主权和安全性想象一个照顾老年人痴呆症的系统老年人想要散步但是,出于安全原因他们不应该被允许独自离开房子 系统应该允许它们离开吗</p><p>防止他们离开</p><p>告诉某人</p><p>决定如何最好地回应可能需要考虑相关的潜在人类价值观也许在这种情况下,安全优先于自治,但是可以告知人类护理者或亲属可能虽然选择告知的人可能受到隐私的限制这些先决条件 - 解释,追索和人类值 - 建立可信赖的自治系统需要它们需要被视为设计过程的一部分这将允许将适当的功能设计到系统中解决这些先决条件需要跨学科协作例如,开发适当的解释机制不仅需要计算机科学,还需要人类心理学同样,开发能够考虑人类价值观的软件需要哲学和社会学</p><p>治理和认证问题涉及法律和道德</p><p>最后,还有更广泛的问题首先,我们愿意将哪些决策移交给软件</p><p>其次,社会应该如何准备和应对自动化系统部署带来的众多后果</p><p>例如,考虑到对就业的影响,

作者:冷硌