EfficientNet-lite是什么意思

這篇文章主要為大家展示了“EfficientNet-lite是什么意思”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“EfficientNet-lite是什么意思”這篇文章吧。

概述

3.17日谷歌在 GitHub 與 TFHub 上同步發(fā)布了 EfficientNet-lite，EfficientNet的端側(cè)版本，運(yùn)行在 TensorFlow Lite 上，針對端側(cè) CPU、GPU 和 EdgeTPU 做了優(yōu)化。EfficientNet-lite提供五個(gè)不同版本（EfficientNet-lite0~4），讓用戶能夠根據(jù)自己的應(yīng)用場景和資源情況在延遲、參數(shù)量和精度之間做選擇。

EfficientNet-Lite4 是計(jì)算量最大的版本，在 ImageNet上的top-1準(zhǔn)確率達(dá)到了80.4%，同時(shí)能夠以30ms/image的速度運(yùn)行在 Pixel 4 的 CPU 上。EfficientNet-lite 具體的精度和延時(shí)、參數(shù)的關(guān)系如下圖所示?？梢娖湟呀?jīng)把MobileNet V2，ResNet 50，Inception v4等模型遠(yuǎn)遠(yuǎn)甩在背后。

原理

EfficientNet-lite進(jìn)行了一系列的優(yōu)化：

量化。定點(diǎn)運(yùn)算的速度要比浮點(diǎn)運(yùn)算快很多，在移動設(shè)備算力有限的場景下，量化必不可少。但量化使用了定點(diǎn)數(shù)，表示范圍相對于浮點(diǎn)數(shù)小很多，必然存在精度的損失。借助 TensorFlow Lite 中提供的訓(xùn)練后量化流程來對模型進(jìn)行量化處理，盡可能地降低了對準(zhǔn)確率的影響。通過量化，模型大小減少為1/4，推理速度提升近2倍。

EfficientNet-lite0 浮點(diǎn)模型float32與int8量化版本在模型尺寸、精度及時(shí)延的對比：

結(jié)構(gòu)和算子優(yōu)化。去除 squeeze-and-excitation 結(jié)構(gòu)，因?yàn)槟壳霸诙藗?cè)設(shè)備上支持欠佳。

使用 Relu6替代swish 激活函數(shù)，swish激活復(fù)雜度高，并且對量化有不利影響。

放縮模型尺寸時(shí)固定 stem 與 head 模塊，減少放縮后模型的大小與計(jì)算量。

使用

對于用戶個(gè)性化的數(shù)據(jù)集，建議使用 TensorFlow Lite Model Maker，在已有 TensorFlow 模型上使用遷移學(xué)習(xí)。TensorFlow Lite Model Maker 支持很多模型結(jié)構(gòu)，包括 MobileNetV2 和所有5個(gè)版本的 EfficientNet-Lite。以下為使用 EfficientNet-lite0 進(jìn)行鮮花分類的代碼，只要五行。

# Load your custom dataset

data = ImageClassifierDataLoader.from_folder(flower_path)

train_data, test_data = data.split(0.9)# Customize the pre-trained TensorFlow model

model = image_classifier.create(train_data, model_spec=efficienetnet_lite0_spec)# Evaluate the model

loss, accuracy = model.evaluate(test_data)# Export as TensorFlow Lite model.

model.export('image_classifier.tflite', 'image_labels.txt')

通過改變 model_spec 參數(shù)，可以嘗試不同的模型。模型建立好以后，可以將其構(gòu)建為移動端 app，把自己個(gè)性化的模型存放在 asset 文件夾。

以上是“EfficientNet-lite是什么意思”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！