MindSpore網(wǎng)絡(luò)模型類(lèi)
Q：使用MindSpore進(jìn)行模型訓(xùn)練時(shí)，CTCLoss的輸入?yún)?shù)有四個(gè)：inputs, labels_indices, labels_values, sequence_length，如何使用CTCLoss進(jìn)行訓(xùn)練？
A：定義的model.train接口里接收的dataset可以是多個(gè)數(shù)據(jù)組成，形如(data1, data2, data3, …)，所以dataset是可以包含inputs,labels_indices,labels_values,sequence_length的信息的。只需要定義好相應(yīng)形式的dataset，傳入model.train里就可以。具體的可以了解下相應(yīng)的數(shù)據(jù)處理接口。
Q：模型轉(zhuǎn)移時(shí)如何把PyTorch的權(quán)重加載到MindSpore中？
A：首先輸入PyTorch的pth文件，以ResNet-18為例，MindSpore的網(wǎng)絡(luò)結(jié)構(gòu)和PyTorch保持一致，轉(zhuǎn)完之后可直接加載進(jìn)網(wǎng)絡(luò)，這邊參數(shù)只用到BN和Conv2D，若有其他層ms和PyTorch名稱(chēng)不一致，需要同樣的修改名稱(chēng)。
Q：模型已經(jīng)訓(xùn)練好，如何將模型的輸出結(jié)果保存為文本或者npy的格式？
A：網(wǎng)絡(luò)的輸出為T(mén)ensor，需要使用asnumpy()方法將Tensor轉(zhuǎn)換為numpy，再進(jìn)行下一步保存。具體可參考：
out = net(x)

np.save(“output.npy”, out.asnumpy())

Q：使用MindSpore做分割訓(xùn)練，必須將數(shù)據(jù)轉(zhuǎn)為MindRecords嗎？
A：build_seg_data.py是將數(shù)據(jù)集生成MindRecord的腳本，可以直接使用/適配數(shù)據(jù)集?；蛘呷绻雵L試實(shí)現(xiàn)數(shù)據(jù)集的讀取，可以使用GeneratorDataset自定義數(shù)據(jù)集加載。
GenratorDataset 示例
GenratorDataset API說(shuō)明
Q：MindSpore可以讀取TensorFlow的ckpt文件嗎？
A：MindSpore的ckpt和TensorFlow的ckpt格式是不通用的，雖然都是使用protobuf協(xié)議，但是proto的定義是不同的。當(dāng)前MindSpore不支持讀取TensorFlow或PyTorch的ckpt文件。
Q：如何不將數(shù)據(jù)處理為MindRecord格式，直接進(jìn)行訓(xùn)練呢？
A：可以使用自定義的數(shù)據(jù)加載方式 GeneratorDataset，具體可以參考數(shù)據(jù)集加載文檔中的自定義數(shù)據(jù)集加載。
Q：MindSpore現(xiàn)支持直接讀取哪些其他框架的模型和哪些格式呢？比如PyTorch下訓(xùn)練得到的pth模型可以加載到MindSpore框架下使用嗎？
A： MindSpore采用protbuf存儲(chǔ)訓(xùn)練參數(shù)，無(wú)法直接讀取其他框架的模型。對(duì)于模型文件本質(zhì)保存的就是參數(shù)和對(duì)應(yīng)的值，可以用其他框架的API將參數(shù)讀取出來(lái)之后，拿到參數(shù)的鍵值對(duì)，然后再加載到MindSpore中使用。比如想用其他框架訓(xùn)練好的ckpt文件，可以先把參數(shù)讀取出來(lái)，再調(diào)用MindSpore的save_checkpoint接口，就可以保存成MindSpore可以讀取的ckpt文件格式了。
Q：用MindSpore訓(xùn)練出的模型如何在Ascend 310上使用？可以轉(zhuǎn)換成適用于HiLens Kit用的嗎？
A：Ascend 310需要運(yùn)行專(zhuān)用的OM模型,先使用MindSpore導(dǎo)出ONNX或AIR模型，再轉(zhuǎn)化為Ascend 310支持的OM模型。具體可參考多平臺(tái)推理?？梢?#xff0c;HiLens Kit是以Ascend 310為推理核心，所以前后兩個(gè)問(wèn)題本質(zhì)上是一樣的，需要轉(zhuǎn)換為OM模型.
Q：MindSpore如何進(jìn)行參數(shù)（如dropout值）修改？
A：在構(gòu)造網(wǎng)絡(luò)的時(shí)候可以通過(guò) if self.training: x = dropput(x)，驗(yàn)證的時(shí)候，執(zhí)行前設(shè)置network.set_train(mode_false)，就可以不適用dropout，訓(xùn)練時(shí)設(shè)置為T(mén)rue就可以使用dropout。
Q：從哪里可以查看MindSpore訓(xùn)練及推理的樣例代碼或者教程？
A：可以訪問(wèn)MindSpore官網(wǎng)教程訓(xùn)練和MindSpore官網(wǎng)教程推理。
Q：MindSpore支持哪些模型的訓(xùn)練？
A：MindSpore針對(duì)典型場(chǎng)景均有模型訓(xùn)練支持，支持情況詳見(jiàn)Release note。

Q：MindSpore有哪些現(xiàn)成的推薦類(lèi)或生成類(lèi)網(wǎng)絡(luò)或模型可用？
A：目前正在開(kāi)發(fā)Wide & Deep、DeepFM、NCF等推薦類(lèi)模型，NLP領(lǐng)域已經(jīng)支持Bert_NEZHA，正在開(kāi)發(fā)MASS等模型，用戶(hù)可根據(jù)場(chǎng)景需要改造為生成類(lèi)網(wǎng)絡(luò)，可以關(guān)注MindSpore Model Zoo。
Q：MindSpore模型訓(xùn)練代碼能有多簡(jiǎn)單？
A：除去網(wǎng)絡(luò)定義，MindSpore提供了Model類(lèi)的接口，大多數(shù)場(chǎng)景只需幾行代碼就可完成模型訓(xùn)練。
Q：如何使用MindSpore擬合f(x)=a×sin(x)+bf(x)=a×sin(x)+b這類(lèi)函數(shù)？
A：以下擬合案例是基于MindSpore線性擬合官方案例改編而成。
# The fitting function is：f(x)=2*sin(x)+3.
import numpy as np
from mindspore import dataset as ds
from mindspore.common.initializer import Normal
from mindspore import nn, Model, context
from mindspore.train.callback import LossMonitor

context.set_context(mode=context.GRAPH_MODE, device_target=“CPU”)

def get_data(num, w=2.0, b=3.0):
# f(x)=w * sin(x) + b
# f(x)=2 * sin(x) +3
for i in range(num):
x = np.random.uniform(-np.pi, np.pi)
noise = np.random.normal(0, 1)
y = w * np.sin(x) + b + noise
yield np.array([np.sin(x)]).astype(np.float32), np.array([y]).astype(np.float32)

def create_dataset(num_data, batch_size=16, repeat_size=1):
input_data = ds.GeneratorDataset(list(get_data(num_data)), column_names=[‘data’,‘label’])
input_data = input_data.batch(batch_size)
input_data = input_data.repeat(repeat_size)
return input_data

class LinearNet(nn.Cell):
def init(self):
super(LinearNet, self).init()
self.fc = nn.Dense(1, 1, Normal(0.02), Normal(0.02))

def construct(self, x):x = self.fc(x)return x

if name == “main”:
num_data = 1600
batch_size = 16
repeat_size = 1
lr = 0.005
momentum = 0.9

net = LinearNet()
net_loss = nn.loss.MSELoss()
opt = nn.Momentum(net.trainable_params(), lr, momentum)
model = Model(net, net_loss, opt)ds_train = create_dataset(num_data, batch_size=batch_size, repeat_size=repeat_size)model.train(1, ds_train, callbacks=LossMonitor(), dataset_sink_mode=False)print(net.trainable_params()[0], "\n%s" % net.trainable_params()[1])

Q：如何使用MindSpore擬合f(x)=ax2+bx+cf(x)=ax2+bx+c這類(lèi)的二次函數(shù)？
A：以下代碼引用自MindSpore的官方教程的代碼倉(cāng)
在以下幾處修改即可很好的擬合f(x)=ax2+bx+cf(x)=ax2+bx+c：

1. 數(shù)據(jù)集生成。
2. 擬合網(wǎng)絡(luò)。
3. 優(yōu)化器。
   修改的詳細(xì)信息如下，附帶解釋。
   # Since the selected optimizer does not support CPU, so the training computing platform is changed to GPU, which requires readers to install the corresponding GPU version of MindSpore.
   context.set_context(mode=context.GRAPH_MODE, device_target=“GPU”)

# Assuming that the function to be fitted this time is f(x)=2x^2+3x+4, the data generation function is modified as follows：
def get_data(num, a=2.0, b=3.0 ,c = 4):
for i in range(num):
x = np.random.uniform(-10.0, 10.0)
noise = np.random.normal(0, 1)
# The y value is generated by the fitting target function ax^2+bx+c.
y = x * x * a + x * b + c + noise
# When ax^2+bx+c is fitted, a and b are weight parameters and c is offset parameter bias. The training data corresponding to the two weights are x^2 and x respectively, so the data set generation mode is changed as follows:
yield np.array([x*x, x]).astype(np.float32), np.array([y]).astype(np.float32)

def create_dataset(num_data, batch_size=16, repeat_size=1):
input_data = ds.GeneratorDataset(list(get_data(num_data)), column_names=[‘data’,‘label’])
input_data = input_data.batch(batch_size)
input_data = input_data.repeat(repeat_size)
return input_data

class LinearNet(nn.Cell):
def init(self):
super(LinearNet, self).init()
# Because the full join function inputs two training parameters, the input value is changed to 2, the first Nomral(0.02) will automatically assign random weights to the input two parameters, and the second Normal is the random bias.
self.fc = nn.Dense(2, 1, Normal(0.02), Normal(0.02))

def construct(self, x):x = self.fc(x)return x

if name == “main”:
num_data = 1600
batch_size = 16
repeat_size = 1
lr = 0.005
momentum = 0.9

net = LinearNet()
net_loss = nn.loss.MSELoss()
# RMSProp optimalizer with better effect is selected for quadratic function fitting, Currently, Ascend and GPU computing platforms are supported.
opt = nn.RMSProp(net.trainable_params(), learning_rate=0.1)
model = Model(net, net_loss, opt)ds_train = create_dataset(num_data, batch_size=batch_size, repeat_size=repeat_size)
model.train(1, ds_train, callbacks=LossMonitor(), dataset_sink_mode=False)print(net.trainable_params()[0], "\n%s" % net.trainable_params()[1])

總結(jié)

以上是生活随笔為你收集整理的MindSpore网络模型类的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。