您所在的位置: 新闻频道 > 嘉兴新闻 > 图说嘉兴 > 正文
江苏怎么治疗白癜风
嘉兴在线新闻网     2017-12-17 04:17:10     手机看新闻    我要投稿     飞信报料有奖
江苏怎么治疗白癜风,哪家治疗白癜风安全,确山白癜风医院,临沂儿童白癜风,安徽白癜风能否治吗,八大人群易患白癜风,济宁能不能治疗白癜风

原标题:用深度学习每次得到的结果都不一样,怎么办?

雷锋网按:本文作者 Jason Brownlee 为澳大利亚知名机器学习专家、教育者,对时间序列预测尤有心得。原文发布于其博客。雷锋网崔静闯、朱婷编译。

神经网络算法利用了随机性,比如初始化随机权重,因此用同样的数据训练同一个网络会得到不同的结果。

初学者可能会有些懵圈,因为算法表现得不太稳定。但实际上它们就是这么设计的。随机初始化可以让网络通过学习,得到一个所学函数的很好的近似。

然而, 有时候用同样的数据训练同一个网络,你需要每次都得到完全相同的结果。例如在教学和产品上。

在这个教程中,你会学到怎样设置随机数生成器,才能每次用同样的数据训练同一网络时,都能得到同样的结果。

我们开始。

教程概览

这个教程分为六部分:

  1. 为啥我每次得到的结果都不一样?

  2. 不同结果的演示

  3. 解决方法

  4. 用Theano 后端设置随机数种子

  5. 用TensorFlow 后端设置随机数种子

  6. 得到的结果还是不同,咋办?

运行环境

  • 该教程需要你安装了Python SciPy。你能用Python2或3来演示这个例子

  • 需要你安装Keras (v2.0.3+),后台为TensorFlow (v1.1.0+)或Theano (v0.9+)

  • 还需要你安装了scikit-learn,Pandas,NumPy以及Matplotlib

如果在Python环境的设置方面需要帮助,请看下面这个帖子:

How to Setup a Python Environment for Machine Learning and Deep Learning with Anaconda

为啥我每次得到的结果都不一样?

我发现这对神经网络和深度学习的初学者而言是个常见问题。

这种误解可能出于以下问题:

  • 我如何得到稳定的结果?

  • 我如何得到可重复的结果

  • 我应该如何设置种子点

神经网络特意用随机性来保证,能通过有效学习得到问题的近似函数。采用随机性的原因是:用它的机器学习算法,要比不用它的效果更好。

在神经网络中,最常见的利用随机性的方式是网络权值的随机初始化,尽管在其他地方也能利用随机性,这有一个简短的清单:

  • 初始化的随机性,比如权值

  • 正则化的随机性,比如dropout

  • 层的随机性,比如词嵌入

  • 最优化的随机性,比如随机优化

这些甚至更多的随机性来源意味着,当你对同一数据运行同一个神经网络算法时,注定得到不同的结果。

想了解更多关于随机算法的原委,参考下面的帖子

Embrace Randomness in Machine Learning

不同结果的演示

我们可以用一个小例子来演示神经网络的随机性.

在这一节中,我们会建立一个多层感知器模型来学习一个以0.1为间隔的从0.0到0.9的短序列。给出0.0,模型必须预测出0.1;给出0.1,模型必须预测出0.2;以此类推。

下面是准备数据的代码

# create sequence
length = 10
sequence = [i/float(length) for i in range(length)]
# create X/y pairs
df = DataFrame(sequence)
df = concat([df.shift(1), df], axis=1)
df.dropna(inplace=True)
# convert to MLPfriendly format
values = df.values
X, y = values[:,0], values[:,1]

我们要用的网络,有1个输入,10个隐层节点和1个输出。这个网络将采用均方差作为损失函数,用高效的ADAM算法来训练数据

这个网络需要约1000轮才能有效的解决这个问题,但我们只对它训练100轮。这样是为了确保我们在预测时能得到一个有误差的模型。

网络训练完之后,我们要对数据集进行预测并且输出均方差

建立网络的代码如下

# design network
model = Sequential()
model.add(Dense(10, input_dim=1))
model.add(Dense(1))
model.compile(loss='mean_squared_error', optimizer='adam')
# fit network
model.fit(X, y, epochs=100, batch_size=len(X), verbose=0)
# forecast
yhat = model.predict(X, verbose=0)
print(mean_squared_error(y, yhat[:,0]))

在这个例子中,我们要建立10次网络并且输出10个不同的网络得分

完整的代码如下

from pandas import DataFrame
from pandas import concat
from keras.models import Sequential
from keras.layers import Dense
from sklearn.metrics import mean_squared_error

# fit MLP to dataset and print error
def fit_model(X, y):
# design network
model = Sequential()
model.add(Dense(10, input_dim=1))
model.add(Dense(1))
model.compile(loss='mean_squared_error', optimizer='adam')
# fit network
model.fit(X, y, epochs=100, batch_size=len(X), verbose=0)
# forecast
yhat = model.predict(X, verbose=0)
print(mean_squared_error(y, yhat[:,0]))

# create sequence
length = 10
sequence = [i/float(length) for i in range(length)]
# create X/y pairs
df = DataFrame(sequence)
df = concat([df.shift(1), df], axis=1)
df.dropna(inplace=True)
# convert to MLP friendly format
values = df.values
X, y = values[:,0], values[:,1]
# repeat experiment
repeats = 10
for _ in range(repeats):
fit_model(X, y)

运行这个例子会在每一行输出一个不同的精确值,具体结果也都不同。

下面是一个输出的示例

0.0282584265697
0.0457025913022
0.145698137198
0.0873461454407
0.0309397604521
0.046649185173
0.0958450337178
0.0130660263779
0.00625176026631
0.00296055161492

解决方案

下面是两个主要的解决方案。

解决方案#1:重复实验

解决这个问题传统且切实可行的方法是多次运行网络(30+),然后运用统计学方法概括模型的性能,并与其他模型作比较。

我强烈推荐这种方法,但是由于有些模型的训练时间太长,这种方法并不总是可行的。

解决方案#2:设置随机数字生成器的种子

另一种解决方案是为随机数字生成器使用固定的种子。

随机数由伪随机数生成器生成。一个随机生成器就是一个数学函数,该函数将生成一长串数字,这些数字对于一般目的的应用足够随机。

随机生成器需要一个种子点开启该进程,在大多数实现中,通常默认使用以毫秒为单位的当前时间。这是为了确保,默认情况下每次运行代码都会生成不同的随机数字序列。该种子点可以是指定数字,比如“1”,来保证每次代码运行时生成相同的随机数序列。只要运行代码时指定的种子的值不变,它是什么并不重要。

设置随机数生成器的具体方法取决于后端,我们将探究下在Theano和TensorFlow后端下怎样做到这点。

用Theano后端设置随机数种子

通常,Keras从NumPy随机数生成器中获得随机源。

大部分情况下,Theano后端也是这样。

我们可以通过从random模块中调用seed()函数的方式,设置NumPy随机数生成器的种子,如下面所示:

from numpy.random import seed
seed(1)

最好在代码文件的顶部导入和调用seed函数。

这是最佳的实现方式(best practice),这是因为当各种各样的Keras或者Theano(或者其他的)库作为初始化的一部分被导入时,甚至在直接使用他们之前,可能会用到一些随机性。

我们可以在上面示例的顶端再加两行,并运行两次。

每次运行代码时,可以看到相同的均方差值的列表(在不同的机器上可能会有一些微小变化,这取决于机器的精度),如下面的示例所示:

0.169326527063
2.75750621228e-05
0.0183287291562
1.93553737255e-07
0.0549871087449
0.0906326807824
0.00337575114075
0.00414857518259
8.14587362008e-08
0.0522927019639

你的结果应该跟我的差不多(忽略微小的精度差异)。

用TensorFlow后端设置随机数种子

Keras从NumPy随机生成器中获得随机源,所以不管使用Theano或者TensorFlow后端的哪一个,都必须设置种子点。

必须在其他模块的导入或者其他代码之前,文件的顶端部分通过调用seed()函数设置种子点。

from numpy.random import seed
seed(1)

另外,TensorFlow有自己的随机数生成器,该生成器也必须在NumPy随机数生成器之后通过立马调用set_random_seed() 函数设置种子点。

from tensorflow import set_random_seed
set_random_seed(2)

要明确的是,在代码文件的顶端,在其他之前,一定要有以下4行:

from numpy.random import seed
seed(1)
from tensorflow import set_random_seed
set_random_seed(2)

你可以使用两个相同或者不同的种子。我认为这不会造成多大差别,因为随机源进入了不同的进程。

在以上示例中增加这4行,可以使代码每次运行时都产生相同的结果。你应该看到与下面列出的相同的均方差值(也许有一些微小差别,这取决于不同机器的精度):

0.224045112999
0.00154879478823
0.00387589994044
0.0292376881968
0.00945528404353
0.013305765525
0.0206255228201
0.0359538356108
0.00441943512128
0.298706569397

你的结果应该与我的差不多(忽略精度的微小差异)。

如果我仍然得到不同的结果,怎么办?

为了重复迭代,报告结果和比较模型鲁棒性最好的做法是多次(30+)重复实验,并使用汇总统计。如果这是不可行的,你可以通过为代码使用的随机数发生器设置种子来获得100%可重复的结果。

如果你已经按照上面的说明去做,仍然用相同的数据从相同的算法中获得了不同的结果,怎么办?

这可能是有其他的随机源你还没有考虑到。

来自第三方库的随机性

也许你的代码使用了另外的库,该库使用不同的也必须设置种子的随机数生成器。

试着将你的代码简化到最低要求(例如,一个数据样本,一轮训练等等),并仔细阅读API文档,尽力减少可能引入随机性的第三方库。

使用GPU产生的随机性

以上所有示例都假设代码是在一个CPU上运行的。

这种情况也是有可能的,就是当使用GPU训练模型时,可能后端设置的是使用一套复杂的GPU库,这些库中有些可能会引入他们自己的随机源,你可能会或者不会考虑到这个。

例如,有证据显示如果你在堆栈中使用了Nvidia cuDNN,这可能引入额外的随机源( introduce additional sources of randomness),并且使结果不能准确再现。

来自复杂模型的随机性

由于模型的复杂性和训练的并行性,你可能会得到不可复现的结果。

这很可能是由后端库的效率造成的,或者是不能在内核中使用随机数序列。我自己没有遇到过这个,但是在一些GitHub问题和StackOverflowde问题中看到了一些案例。

如果只是缩小成因的范围的话,你可以尝试降低模型的复杂度,看这样是否影响结果的再现。

我建议您阅读一下你的后端是怎么使用随机性的,并看一下是否有任何选项向你开放。在Theano中,参考:

  • Random Numbers

  • Friendly random numbers

  • Using Random Numbers

在TensorFlow中,参考:

Constants, Sequences, and Random Values

tf.set_random_seed

另外,为了更深入地了解,考虑一下寻找拥有同样问题的其他人。一些很好的搜寻平台包括GitHub、StackOverflow 和CrossValidated。

总 结

在本教程中,你了解了如何在Keras上得到神经网络模型的可重复结果。特别是,你学习到了:

  • 神经网络是有意设计成随机的,固定随机源可以使结果可复现。

  • 你可以为NumPy和TensorFlow的随机数生成器设置种子点,这将使大多数的Keras代码100%的可重复使用。

  • 在有些情况下存在另外的随机源,并且你知道如何找出他们,或许也是固定它们。

viamachine learning mastery,雷锋网崔静闯、朱婷编译


来源:嘉兴在线—嘉兴日报    作者:摄影 记者 冯玉坤    编辑:李源    责任编辑:胡金波
 
 
北京能治白癜风的方法