中國站
溫馨提示×

您好，登錄后才能下訂單哦！

  • 密碼登錄
  • 手機(jī)登錄
×
其他方式登錄
注冊(cè)×

Llama 3 大語言模型

Llama 3 是一款由Meta AI在2024年4月開源的LLM模型包含AI模型、UI界面、GPU算力

聯(lián)系購買 演示體驗(yàn)
產(chǎn)品套餐
算力方案
適用場景
顯存
算力
CPU
內(nèi)存
存儲(chǔ)空間
帶寬
每月公網(wǎng)流量包
搶先價(jià)
基礎(chǔ)型 推理 16 GB 8+ TFlops SP 8 核 32 GB
系統(tǒng)盤30 GB
數(shù)據(jù)盤50 GB
 5 Mbps 500 GB
1599 元/月
進(jìn)階型 推理、訓(xùn)練 32 GB 15+ TFlops SP 8~10 核 40 GB
系統(tǒng)盤30 GB
數(shù)據(jù)盤50 GB
 5 Mbps 500 GB
1999 元/月

存儲(chǔ)空間、帶寬、IP均可擴(kuò)展購買，環(huán)境配置：Ubuntu 22.04.4, Pyhton 3.10.12, CUDA 12.4, pytorch 2.2.1

絲滑應(yīng)用
豐富功能

模型加載

只需將下載的模型放入指定目錄下
即可加載主流基于transformers框架的模型
已預(yù)裝Llama 3模型

模型推理

支持大語言模型的多輪對(duì)話與文本生成、多人同時(shí)使用

推理參數(shù)修改

支持修改大語言模型推理時(shí)控制結(jié)果走向的參數(shù)
如：temperature, top_k, top_p

模型微調(diào)

支持基于基礎(chǔ)大模型和私有數(shù)據(jù)，微調(diào)訓(xùn)練自己的小模型

官方交流群

學(xué)習(xí)交流 服務(wù)保障

官方客服

7*24小時(shí)全天候服務(wù)