神经网络设计（神经网络的图像识别倾向于纹理，还是形状）
本文目录
神经网络的图像识别倾向于纹理，还是形状
神经网络识别物体依赖的是形状还是其他表征？一直以来，人们普遍认为答案是前者，但本文中的研究者通过实验颠覆了这种「常识」。
看看下面的这幅图片，你看到了什么？
你可能会很轻易地分辨出上图中的猫。然而，最顶尖的深度学习算法却认为上图中的动物是一只大象！
本文将会讨论为什么人工神经网络会将人类看到的猫识别为大象。此外还将讨论「如何看待深度神经网络物体识别任务中的范式转换」，以及如何利用这种视角来改进神经网络。本文是基于最近提交给 ICLR 的论文——《ImageNet-trained CNNs are biased towards texture; increasing shape bias improves accuracy and robustness》撰写的。
神经网络会如何识别一只猫呢？一个人们普遍接受的答案是：通过检测它的形状。这种假设的证据来源于像 DeconvNet（《Visualizing and Understanding Convolutional Networks》）这样的可视化技术。这种技术表明，在不同的处理阶段（被称之为层），网络试图识别一张图像中越来越大的图案，从第一层中简单的边缘和轮廓到更复杂的形状（如汽车轮子），直到轻松识别出该对象（车）。
神经网络识别出的不同形状：从早期处理阶段的小图案（第一层和第二层）到更复杂的形状（第三层中的汽车车轮），再到最后的物体（第五层的汽车）。图源：Kriegeskorte (2015) 。
这种直观的解释已经成为了一种常识。现代的深度学习教科书（如 Ian Goodfellow 的经典著作《深度学习》），在解释深度学习如何工作时，明确提到了基于形状的可视化技术，其他的研究人员也是如此（例如，Nikolaus Kriegeskorte 在《Deep neural networks: a new framework for modelling biological vision and brain information processing》第九页中所述）。
网络习得了与每个类别相关联的各种形状的复杂知识。
高级单元似乎可以学习到自然图像中出现的形状的表征，如人脸、人体、动物、自然场景、建筑和汽车。
但是这种说法存在一个问题：一些包括 DeconvNet 在内的最重要的和广泛使用的可视化技术，最近被证明具有误导性（《A Theoretical Explanation for Perplexing Behaviors of Backpropagation-based Visualizations》）：它们仅仅是重建图像的组成部分，而没有揭示神经网络在一张图像中寻找到的是什么—也就是说，那些漂亮的可以被人类解释的可视化结果与网络如何做出一个决策的关系并不大。
并没有很多证据能够支持这种形状假设。那么，我们是否需要修正一下对于「神经网络如何识别物体」这一问题的看法？
如果形状假设不是唯一的解释呢？除了形状，物体通常还有或多或少与众不同的颜色、大小和纹理等特征。所有这些因素都可以被神经网络用来识别目标。虽然颜色和大小通常不是特定对象类别所特有的，但如果我们观察小区域，几乎所有对象都有类似于纹理的元素（甚至是汽车，其侧面有轮胎，外壳是金属）。
事实上，我们知道神经网络刚好有一个令人惊奇的纹理表征功能（即使该网络从来没有被训练过）。例如，在风格迁移问题中，我们就可以很明显地看到这一点。在这种如此令人着迷的图像建模技术中，深度神经网络被用来从一幅图像中提取纹理信息（如绘画风格）。这种风格随后会被应用在第二幅图像上，让人们能够「画」一张与著名画家风格相同的画。你可以通过下面的链接自己尝试一下：
能不能给一个训练好的神经网络设计输出值
可以训练这样的神经网络，但是如果想要直接用训练好的模型去反向输入是不可能的。因为训练好的模型输出同样的输出值，可能对应不同的输入结果，一对多地去生成输入内容，显然并不可靠。
有没有好理解的关于神经网络的书推荐
如果你有通信电子背景，Simon Haykin的Neural Networks and Learning Machines绝对值得一读，这本书从维纳滤波、卡尔曼滤波讲到神经网络，涵盖了所有主流的机器学习方法（SVM、PCA/ICA、RBF，SOM都是神经网络，好吧），对于人类故意创造的数据（雷达、电报），这些算法够了，但大数据不是人类故意产生的，你还需要学习基于统计的方法（按照马毅的说法，五六十年前不被重视的算法现在反而吃香，那时大家关注的都是香农、维纳等大V们，统计学家是靠转发这些大V拉粉丝的，偶尔也会怀念Bayesian）。
如果你有统计数学背景，并且认为hinton的dbn能代表神经网络的话（我反对，神经网络的world 太bigger了），推荐先把李航老师的《统计学习方法》看完，然后直接读Hinton那一帮人的paper。如果GMM，HMM，GHMM，boltzmann，Sparse Coding看不懂，就读源代码吧，别哭。
戴葵翻译的美国经典神经网络《神经网络设计》
本文相关文章：
2024年9月11日 08:10
凯聪红外摄像机，红外夜视图像为什么不是彩色的正常图像？凯聪网络摄像机怎样连接手机
2024年9月10日 19:30
2024年7月21日 07:24
2024年7月19日 10:20
弹琴吧蓝牙连接电钢琴跟弹无法识别？一年的弹琴吧vip有什么权限
2024年7月19日 09:28
车牌识别软件配置步骤？车牌识别管理系统的车牌防伪功能什么意思
2024年6月29日 10:46
2024年6月6日 21:28
世界上第一个电子人，是如何靠声音识别不同的颜色？一位科学家把自己打造成半肉半机器人，这是138亿年以来的首个电子人吗
2024年5月23日 03:26
2024年1月20日 10:40
更多文章：
货车电子狗哪款最好（车载电子狗哪个牌子好车载电子狗品牌介绍）
2023年11月2日 22:00
英特尔赛扬e3300升级（CPU是赛扬e3300,如何升级,玩游戏的）
2024年7月11日 08:51
平板电脑安装win8系统（win10平板怎样重装系统，能装win8吗和其他电脑一样用u盘安装吗）
2024年7月17日 10:25
2023年4月26日 11:00
2023年12月28日 08:40
10130写作什么读作什么？win10 10130安装失败怎么办
2024年6月7日 07:20
2023年11月24日 06:40
2024年6月5日 23:15
小米手机4c怎么给联系人加照片（安卓手机中怎么给联系人添加照片）
2024年3月14日 19:05
有透视衣服功能的ps软件（photoshop里面裁剪工具的“透视“在哪里）
2023年9月8日 13:40
电脑自带扬声器删掉了怎么办（我的笔记本电脑右下角的扬声器图标没有了，我该怎么找回来呢）
2023年9月7日 12:40
2024年6月23日 14:30
2023年11月6日 11:20
2024年7月12日 18:36
2023年11月27日 12:40
华为c8860e怎么下载（华为c8860e电信版怎么root）
2023年11月4日 08:40
2024年6月5日 22:44
2024年8月28日 19:30
2024年6月4日 09:59
win8.1中文版下载（msdn我告诉你 win8.1中文版（单语言版）是哪一个）
2024年5月23日 00:53
