热门搜索:  筏子袁鹰

mma世界笼斗搏击赛

谷歌大脑的概念激活向量有助于神经网络的解释性研究

????从kdNuggets中选择

????作者:耶稣·罗德里格斯

????机器汇编的核心

????参加人员:李世铭、陆

????最近,谷歌大脑团队发表了一篇论文,其中提出了一种新的方法,称为概念激活向量(CAV),这为深入学习模型的可解释性提供了一个新的视角。

????可解释性仍然是现代深度学习应用中最大的挑战之一。近年来,在计算模型和深度学习领域取得了很大的进展,并建立了非常复杂的模型。这些模型可以包括数千个隐藏层和数千万个神经元。虽然创建先进的深层神经网络相对简单,但是了解如何创建这些模型以及如何使用知识仍然是一个挑战。最近,谷歌大脑团队发表了一篇题为《特征属性之外的可解释性:概念激活向量定量测试》(TCAV)的论文,该论文提出了一种新的深入学习模型的概念激活向量(CAV)方法。可解释性提供了一个新的视角。

????论文地址:https://arxiv.org/pdf/1711.11279.pdf

????GitHub地址:https://github.com/tensorflow/tcav

????可解释性和准确性

????要理解CAV技术,首先需要了解深度学习模型的可解释性问题的本质。在这一代深入学习技术中,模型的准确性和可解释性之间存在着永久性的冲突。可解释性与准确性的冲突也是复杂知识任务实现与如何实现这些任务之间的冲突。知识和控制,性能和可解释性,效率和简单性…这些问题可以用称重精度和可解释性来解释。

????你想得到最好的结果还是想了解这些结果是如何产生的?这是数据科学家在每个深入学习场景中都必须回答的问题。许多深入学习技术本质上是复杂的,尽管它们的结果在许多情况下是准确的,但很难解释。如果我们用可解释性和准确性绘制一些着名的深入学习模型,我们可以得到:

????深度学习模型的可解释性不是一个单一的概念,它可以跨多个层次理解:

????需要一些基本的构建块来跨上图中定义的级别解释模型。在最近的一篇文章中,谷歌研究人员概述了他们认为解释该模型所需的基本构建块。

????谷歌总结了以下解释原则:

????了解隐藏层的作用:深度学习模型中的大部分知识都是在隐藏层中形成的。为了解释深度学习模型,我们必须从宏观的角度理解不同隐藏层的功能。

????理解节点是如何被激活的:解释的关键不是理解网络中单个神经元的功能,而是理解在同一空间位置被激活的相互连接的神经元群。互联神经元网络的功能可以在更简单的抽象层次上理解。

????理解概念是如何形成的:神经网络形成单个概念的深度如何,这些概念可以组装成最终的输出,这是另一个关键的解释性构建块。

????这些原则是谷歌对CAV新方法的理论基础。

????概念激活向量(CAV)

????如前所述,解释性的一般方法应该是根据深度模型考虑的输入特征来描述预测结果。经典的例子是逻辑回归分类器,它通常将分类器中系数的权重解释为每个特征的重要性。然而,大多数的深度学习模型都无法与人类在特征层次(如像素值)操作中容易理解的高级概念相匹配。此外,模型的内部值(如神经激活)似乎不可理解。虽然显着性地图等技术可以有效地测量特定像素区域的重要性,但它们并不符合更先进的概念。

????CAV的核心思想是测量模型输出中概念的相对性。对于概念,CAV是一组概念示例的值方向上的向量。在他们的论文中,谷歌团队还提到了一种新的线性可解释性方法,叫做TCAV(用CAV测试),它使用方向导数来量化模型对CAV学习的底层高级概念的敏感性。从概念上讲,TCAV的定义有以下四个目标:

????易于访问:用户几乎不需要ML专业知识。

yi yu fang wen: yong hu ji hu bu xu yao ML zhuan ye zhi shi.

????可定制性:适应任何概念(如性别),不限于培训过程中考虑的概念。

????插件准备:无需再培训或

当前文章:http://www.razrpad.com/jofntrli/19942-76631-25900.html

发布时间:08:07:59


{相关文章}

epaselect ITALY MIGRATION NGO RESCUE SHIP

????

Rescued migrants aboard Mare Jonio, the NGO ship

epaselect epa07801182 Migrant toddlers aboard the Mare Jonio, the NGO migran丑王爷的三妻四妾_中文资讯平台ts recue shi一曲吟到断肠时_中文资讯平台p, in Lampedusa, Italy, 29 August 2019. The Mare Jonio on 28 August morning completed the rescue of 98 migrants from a dinghy that had been drifting off the coast of Libya. 朱佳煜的父母_中文资讯平台Among those rescued are 26 women, at least eight of whom are pregnant, 22 children under age 10 and at least sfrjj_中文资讯平台ix other minors. Ital福田爱_中文资讯平台ian Interior ministry sources on 29 August said the ministry had granted permission to land only for women, children and sick people, confirming the ban on entering and landqq空间风景头像_中文资讯平台ing for the ship. EPA/STR

?? ??? ???? ?? ?????

???? [????] ?? ?? ?? ?? ??? #?