怎么使用pytorch和tensorflow計(jì)算Flops和params

這篇文章主要講解了“怎么使用pytorch和tensorflow計(jì)算Flops和params”，文中的講解內(nèi)容簡(jiǎn)單清晰，易于學(xué)習(xí)與理解，下面請(qǐng)大家跟著小編的思路慢慢深入，一起來(lái)研究和學(xué)習(xí)“怎么使用pytorch和tensorflow計(jì)算Flops和params”吧！

pytorch和tensorflow計(jì)算Flops和params

1.只計(jì)算params

    net = model()  # 定義好的網(wǎng)絡(luò)模型
    total = sum([param.nelement() for param in net.parameters()])
    print("Number of parameter: %.2fM" % total)

這是網(wǎng)上很常見(jiàn)的直接用自帶方法計(jì)算params，基本不會(huì)出錯(cuò)。勝在簡(jiǎn)潔。

2.計(jì)算flops和params

要計(jì)算flops，目前沒(méi)見(jiàn)到用自帶方法計(jì)算的，基本都是要安裝別的庫(kù)。
這邊我們安裝thop庫(kù)。

pip install thop # 安裝thop庫(kù)

import torch
from thop import profile
net = model()  # 定義好的網(wǎng)絡(luò)模型
img1 = torch.randn(1, 3, 512, 512)
img2 = torch.randn(1, 3, 512, 512)
img3 = torch.randn(1, 3, 512, 512)
macs, params = profile(net, (img1,img2,img3))
print('flops: ', 2*macs, 'params: ', params)

這邊和其他網(wǎng)上教程的區(qū)別便是，他們macs和flops不分。因?yàn)閙acs表示乘加累積操作數(shù)，一個(gè)乘法加上一個(gè)加法才算一個(gè)macs。而flops表示浮點(diǎn)運(yùn)算次數(shù)，每一個(gè)加、減、乘、除操作都算1FLOPs操作。所以很明顯，在數(shù)值上，1flops=2macs。此外，(img1,img2,img3)就表示你如果有三個(gè)輸入要輸入模型，就這樣寫。

另外，要注意，params只和模型參數(shù)量相關(guān)，而和輸入tensor大小無(wú)關(guān)。但flops和輸入圖片大小是相關(guān)的.

3.tensorflow計(jì)算params和flops

此處是我找到的一些用于tensorflow計(jì)算params和flops的方法，僅供參考，不保證效果。

def get_flops_params():
    sess = tf.compat.v1.Session()
    graph = sess.graph
    flops = tf.compat.v1.profiler.profile(graph, options=tf.compat.v1.profiler.ProfileOptionBuilder.float_operation())
    params = tf.compat.v1.profiler.profile(graph,
                                           options=tf.compat.v1.profiler.ProfileOptionBuilder.trainable_variables_parameter())
    print('FLOPs: {};    Trainable params: {}'.format(flops.total_float_ops, params.total_parameters))
def count2():
    print(np.sum([np.prod(v.get_shape().as_list()) for v in tf.trainable_variables()]))
def get_nb_params_shape(shape):
    '''
    Computes the total number of params for a given shap.
    Works for any number of shapes etc [D,F] or [W,H,C] computes D*F and W*H*C.
    '''
    nb_params = 1
    for dim in shape:
        nb_params = nb_params * int(dim)
    return nb_params
def count3():
    tot_nb_params = 0
    for trainable_variable in tf.trainable_variables():
        shape = trainable_variable.get_shape()  # e.g [D,F] or [W,H,C]
        current_nb_params = get_nb_params_shape(shape)
        tot_nb_params = tot_nb_params + current_nb_params
    print(tot_nb_params)
import tensorflow.compat.v1 as tf
tf.compat.v1.disable_eager_execution()
from model import Model
import keras.backend as K
def get_flops(model):
    run_meta = tf.RunMetadata()
    opts = tf.profiler.ProfileOptionBuilder.float_operation()
    # We use the Keras session graph in the call to the profiler.
    flops = tf.profiler.profile(graph=K.get_session().graph,
                                run_meta=run_meta, cmd='op', options=opts)
    return flops.total_float_ops  # Prints the "flops" of the model.
# .... Define your model here ....
M = Model(BATCH_SIZE=1, INPUT_H=268, INPUT_W=360, is_training=False)
print(get_flops(M))

感謝各位的閱讀，以上就是“怎么使用pytorch和tensorflow計(jì)算Flops和params”的內(nèi)容了，經(jīng)過(guò)本文的學(xué)習(xí)后，相信大家對(duì)怎么使用pytorch和tensorflow計(jì)算Flops和params這一問(wèn)題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！