tensorflow的train的过程中,发现了float设成默认的float(默认值是float64)时会出现merroy error,同样的程序在服务器(大内存,强GPU)上没毛病。
解决:遂将精度降低,设置为float32,这时merroy error没有了,但是又报GPU显存不足的错误,将batch-size降低,问题解决,程序正常训练。
tensorflow的train的过程中,发现了float设成默认的float(默认值是float64)时会出现merroy error,同样的程序在服务器(大内存,强GPU)上没毛病。
解决:遂将精度降低,设置为float32,这时merroy error没有了,但是又报GPU显存不足的错误,将batch-size降低,问题解决,程序正常训练。