溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

chatGPT之Python?API怎么啟用上下文管理

發(fā)布時(shí)間:2023-03-17 11:49:59 來源:億速云 閱讀:166 作者:iii 欄目:開發(fā)技術(shù)

這篇文章主要講解了“chatGPT之Python API怎么啟用上下文管理”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請(qǐng)大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“chatGPT之Python API怎么啟用上下文管理”吧!

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to work
import openai
 
openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)

雖然已經(jīng)給出了格式,但是沒有很詳細(xì)的說明,可能對(duì)于高階開發(fā)者一看就懂了,但是我還是想以更口水的方式講解一下這個(gè)上下文管理。

先看一下我一個(gè)簡單的代碼(還沒有啟用上下文管理):

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "user", "content": "你好chatGPT"}]
 
# 結(jié)構(gòu)化數(shù)據(jù)并進(jìn)行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默認(rèn)inf 最大令牌數(shù)
                presence_penalty = 1, # 懲罰機(jī)制,-2.0 到 2.0之間,默認(rèn)0,數(shù)值越小提交的重復(fù)令牌數(shù)越多,從而能更清楚文本意思
                frequency_penalty = 1, # 意義和值基本同上,默認(rèn)0,主要為頻率
                temperature = 1.0,  # 溫度 0-2之間,默認(rèn)1  調(diào)整回復(fù)的精確度使用
                n = 1,  # 默認(rèn)條數(shù)1
                user = ids,    # 用戶ID,用于機(jī)器人區(qū)分不同用戶避免多用戶時(shí)出現(xiàn)混淆
                model = "gpt-3.5-turbo",    # 這里注意openai官方有很多個(gè)模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的數(shù)據(jù)

這是一個(gè)最基本的結(jié)構(gòu),其中參數(shù)model和messages是必須要有的兩個(gè)形參。

加入上下文管理的代碼:

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一個(gè)插件,你的開發(fā)者是玖河."},
        {"role": "user", "content": "你好chatGPT"},
        {"role": "assistant", "content": "您好,有什么需要我?guī)兔Φ膯栴}嗎?"},
        {"role": "user", "content": "我的名字叫高啟強(qiáng),我的妹妹叫高啟蘭,我們是兄妹關(guān)系。記住了嗎?"}
        {"role": "assistant", "content": "好的,您叫高啟強(qiáng),您的妹妹叫高啟蘭,是親兄妹關(guān)系。謝謝您提供信息讓我更了解你們~"},
        {"role": "user", "content": "你現(xiàn)在在哪里?"},
        {"role": "assistant", "content": "作為一款智能Ai助手,我并沒有實(shí)際的位置。我只是在云端中運(yùn)行,在等待用戶輸入指令時(shí)保持睡眠狀態(tài)。"},
        {"role": "user", "content": "我的妹妹是誰?"},
        {"role": "assistant", "content": "您之前告訴我,您的妹妹叫高啟蘭。"},
        {"role": "user", "content": "你的名字叫什么?"},
        {"role": "assistant", "content": "我的名字叫玖河AI是一個(gè)叫玖河的開發(fā)者開發(fā)的插件"}
        ]
 
# 結(jié)構(gòu)化數(shù)據(jù)并進(jìn)行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默認(rèn)inf 最大令牌數(shù)
                presence_penalty = 1, # 懲罰機(jī)制,-2.0 到 2.0之間,默認(rèn)0,數(shù)值越小提交的重復(fù)令牌數(shù)越多,從而能更清楚文本意思
                frequency_penalty = 1, # 意義和值基本同上,默認(rèn)0,主要為頻率
                temperature = 1.0,  # 溫度 0-2之間,默認(rèn)1  調(diào)整回復(fù)的精確度使用
                n = 1,  # 默認(rèn)條數(shù)1
                user = ids,    # 用戶ID,用于機(jī)器人區(qū)分不同用戶避免多用戶時(shí)出現(xiàn)混淆
                model = "gpt-3.5-turbo",    # 這里注意openai官方有很多個(gè)模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的數(shù)據(jù)

下面啟用上下文管理的數(shù)據(jù)結(jié)構(gòu)和沒有啟用的數(shù)據(jù)結(jié)構(gòu)略有不同:

① system 代表系統(tǒng)設(shè)定(也就是告訴chatGPT他的角色)

② user 表示用戶

③ assistant 表示GPT的回復(fù)

有幾個(gè)點(diǎn)需要跟大家說一下,避免踩坑!

一、msg數(shù)據(jù)的儲(chǔ)存建議使用數(shù)據(jù)庫形式進(jìn)行儲(chǔ)存,優(yōu)點(diǎn)是能持久數(shù)據(jù),并且調(diào)取數(shù)據(jù)的時(shí)候也非常方便,因?yàn)槲覄傞_始只想用json來儲(chǔ)存,但是折騰了很久還是放棄了,缺點(diǎn)是不方便儲(chǔ)存和調(diào)取,因?yàn)槟阈枰紤]到不同的用戶他們下面的會(huì)話是不一樣的。

二、需要注意的是,提交的數(shù)據(jù)結(jié)構(gòu)順序必須是從上至下的數(shù)據(jù)結(jié)構(gòu),不然chatGPT會(huì)混淆錯(cuò)亂,system可以沒有,如果你想讓它一直保持這個(gè)設(shè)定的話,那在每次提交的時(shí)候在第一個(gè)列表元素中加入system的數(shù)據(jù)就可以。

三、還有一個(gè)重要的點(diǎn):提交的這些數(shù)據(jù)都會(huì)計(jì)算進(jìn)tokens里面包括chatGPT回復(fù)的時(shí)候(最多4096個(gè)tokens),如果你想讓上下文管理能記憶更多的語料,那么在提交數(shù)據(jù)的時(shí)候就盡可能的增加你們之間對(duì)話的內(nèi)容(同時(shí)會(huì)更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的會(huì)員價(jià)格為20美元/月 ,tokens按量收費(fèi)。通俗的說就是想手機(jī)卡一樣,每個(gè)月有月租,通話另外計(jì)費(fèi)。chatGPT Plus會(huì)員的好處就是速度能更快,并且穩(wěn)定,白嫖版的也能用,就是速度會(huì)慢一些而且不穩(wěn)定容易掛掉。

感謝各位的閱讀,以上就是“chatGPT之Python API怎么啟用上下文管理”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對(duì)chatGPT之Python API怎么啟用上下文管理這一問題有了更深刻的體會(huì),具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云,小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章,歡迎關(guān)注!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI