在深度學(xué)習(xí)的數(shù)據(jù)訓(xùn)練過程中,雖然tensorflow和pytorch都會(huì)自帶打亂數(shù)據(jù)進(jìn)行訓(xùn)練的方法,但是當(dāng)我們自己生成數(shù)據(jù),或者某些情況下依然要自己手動(dòng)打亂順序。
這里介紹如何以相同規(guī)律打亂X,Y兩組數(shù)據(jù),多組數(shù)據(jù)相同道理。
第一種:(X,Y是list的格式,不是array)
產(chǎn)生相同的種子(seed)打亂順序:
import random
seed =50
x_batch, y_batch,start_num = train_load_order_sharp_5_9(image_list, num, start_num,length)
#加載我所有的數(shù)據(jù),這里想x_batch,Y_batch是list的格式,要注意
random.seed(seed)
random.shuffle(x_batch)
random.seed(seed)#一定得重復(fù)在寫一遍,和上面的seed要相同,不然y_batch和x_batch打亂順序會(huì)不一樣
random.shuffle(y_batch)
第二種:zip的方式,更加高效:(同第一種,X,Y是list的格式,不是array)
from random import shuffle
shuffle_data=True
if shuffle_data:
c = list(zip(x_batch,y_batch))
shuffle(c)
x_batch,y_batch = zip(*c)
舉個(gè)例子:
>>> a=[1,2,3,4]
>>> b=[11,22,33,44]
>>> c=list(zip(a,b))
>>> shuffle(c)
>>> a,b = zip(*c)
>>> a
(2, 4, 3, 1)
>>> b
(22, 44, 33, 11)
#這里就讓a,b以相同的規(guī)律被打亂
補(bǔ)充:python打亂列表的方法解決問題_Python 如何隨機(jī)打亂列表(List)排序
現(xiàn)在有一個(gè)list:[1,2,3,4,5,6],我需要把這個(gè)list在輸出的時(shí)候,是以一種隨機(jī)打亂的形式輸出。
專業(yè)點(diǎn)的術(shù)語:將一個(gè)容器中的數(shù)據(jù)每次隨機(jī)逐個(gè)遍歷一遍。
注意:不是生成一個(gè)隨機(jī)的list集。
環(huán)境:
Python 3.6
解決方案:
方案一:
有人可能會(huì)通過Random內(nèi)置函數(shù),來間接實(shí)現(xiàn)想要的結(jié)果。但是這種方式,太原始,也不夠優(yōu)雅,而且有種重復(fù)造輪子的嫌疑。這里我就不貼我自己通過random實(shí)現(xiàn)的效果了。
方案二:
Random中有一個(gè)random.shuffle()方法提供了完美的解決方案。代碼如下:
x = [1,2,3,4,5,6]
random.shuffle(x)
print(x)
輸出結(jié)果:
第一次輸出內(nèi)容:[6, 5, 1, 3, 2, 4]
第二次輸出內(nèi)容:[6, 1, 3, 5, 2, 4]
第三次輸出內(nèi)容:[5, 3, 1, 2, 4, 6]
從結(jié)果我們可以看出,輸出是完全隨機(jī)的,代碼量就兩行,不需要random,不需要for循環(huán)。
源碼解讀:
def shuffle(self, x, random=None):
"""Shuffle list x in place, and return None.
原位打亂列表,不生成新的列表。
Optional argument random is a 0-argument
function returning a random float in [0.0, 1.0);
if it is the default None,
the standard random.random will be used.
可選參數(shù)random是一個(gè)從0到參數(shù)的函數(shù),返回[0.0,1.0)中的隨機(jī)浮點(diǎn);
如果random是缺省值None,則將使用標(biāo)準(zhǔn)的random.random()。
"""
if random is None:
randbelow = self._randbelow
for i in reversed(range(1, len(x))):
# pick an element in x[:i+1] with which to exchange x[i]
j = randbelow(i + 1)
x[i], x[j] = x[j], x[i]
else:
_int = int
for i in reversed(range(1, len(x))):
# pick an element in x[:i+1] with which to exchange x[i]
j = _int(random() * (i + 1))
x[i], x[j] = x[j], x[i]
注意 :
從代碼的注釋,我們看到random.shuffle()是對(duì)原list做修改,如果需要保留原list,請(qǐng)注意這個(gè)細(xì)節(jié)。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
您可能感興趣的文章:- Python深度學(xué)習(xí)之使用Pytorch搭建ShuffleNetv2
- Pytorch在dataloader類中設(shè)置shuffle的隨機(jī)數(shù)種子方式
- Pytorch使用shuffle打亂數(shù)據(jù)的操作