溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

怎么在chatGPT Python API中啟用上下文管理

發(fā)布時間:2023-04-25 10:47:32 來源:億速云 閱讀:127 作者:iii 欄目:編程語言

這篇文章主要介紹“怎么在chatGPT Python API中啟用上下文管理”,在日常操作中,相信很多人在怎么在chatGPT Python API中啟用上下文管理問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”怎么在chatGPT Python API中啟用上下文管理”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to work
import openai
 
openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)

雖然已經(jīng)給出了格式,但是沒有很詳細的說明,可能對于高階開發(fā)者一看就懂了,但是我還是想以更口水的方式講解一下這個上下文管理。

先看一下我一個簡單的代碼(還沒有啟用上下文管理):

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "user", "content": "你好chatGPT"}]
 
# 結(jié)構(gòu)化數(shù)據(jù)并進行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默認inf 最大令牌數(shù)
                presence_penalty = 1, # 懲罰機制,-2.0 到 2.0之間,默認0,數(shù)值越小提交的重復令牌數(shù)越多,從而能更清楚文本意思
                frequency_penalty = 1, # 意義和值基本同上,默認0,主要為頻率
                temperature = 1.0,  # 溫度 0-2之間,默認1  調(diào)整回復的精確度使用
                n = 1,  # 默認條數(shù)1
                user = ids,    # 用戶ID,用于機器人區(qū)分不同用戶避免多用戶時出現(xiàn)混淆
                model = "gpt-3.5-turbo",    # 這里注意openai官方有很多個模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的數(shù)據(jù)

這是一個最基本的結(jié)構(gòu),其中參數(shù)model和messages是必須要有的兩個形參。

加入上下文管理的代碼:

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一個插件,你的開發(fā)者是玖河."},
        {"role": "user", "content": "你好chatGPT"},
        {"role": "assistant", "content": "您好,有什么需要我?guī)兔Φ膯栴}嗎?"},
        {"role": "user", "content": "我的名字叫高啟強,我的妹妹叫高啟蘭,我們是兄妹關(guān)系。記住了嗎?"}
        {"role": "assistant", "content": "好的,您叫高啟強,您的妹妹叫高啟蘭,是親兄妹關(guān)系。謝謝您提供信息讓我更了解你們~"},
        {"role": "user", "content": "你現(xiàn)在在哪里?"},
        {"role": "assistant", "content": "作為一款智能Ai助手,我并沒有實際的位置。我只是在云端中運行,在等待用戶輸入指令時保持睡眠狀態(tài)。"},
        {"role": "user", "content": "我的妹妹是誰?"},
        {"role": "assistant", "content": "您之前告訴我,您的妹妹叫高啟蘭。"},
        {"role": "user", "content": "你的名字叫什么?"},
        {"role": "assistant", "content": "我的名字叫玖河AI是一個叫玖河的開發(fā)者開發(fā)的插件"}
        ]
 
# 結(jié)構(gòu)化數(shù)據(jù)并進行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默認inf 最大令牌數(shù)
                presence_penalty = 1, # 懲罰機制,-2.0 到 2.0之間,默認0,數(shù)值越小提交的重復令牌數(shù)越多,從而能更清楚文本意思
                frequency_penalty = 1, # 意義和值基本同上,默認0,主要為頻率
                temperature = 1.0,  # 溫度 0-2之間,默認1  調(diào)整回復的精確度使用
                n = 1,  # 默認條數(shù)1
                user = ids,    # 用戶ID,用于機器人區(qū)分不同用戶避免多用戶時出現(xiàn)混淆
                model = "gpt-3.5-turbo",    # 這里注意openai官方有很多個模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的數(shù)據(jù)

下面啟用上下文管理的數(shù)據(jù)結(jié)構(gòu)和沒有啟用的數(shù)據(jù)結(jié)構(gòu)略有不同:

① system 代表系統(tǒng)設(shè)定(也就是告訴chatGPT他的角色)

② user 表示用戶

③ assistant 表示GPT的回復

有幾個點需要跟大家說一下,避免踩坑!

一、msg數(shù)據(jù)的儲存建議使用數(shù)據(jù)庫形式進行儲存,優(yōu)點是能持久數(shù)據(jù),并且調(diào)取數(shù)據(jù)的時候也非常方便,因為我剛開始只想用json來儲存,但是折騰了很久還是放棄了,缺點是不方便儲存和調(diào)取,因為你需要考慮到不同的用戶他們下面的會話是不一樣的。

二、需要注意的是,提交的數(shù)據(jù)結(jié)構(gòu)順序必須是從上至下的數(shù)據(jù)結(jié)構(gòu),不然chatGPT會混淆錯亂,system可以沒有,如果你想讓它一直保持這個設(shè)定的話,那在每次提交的時候在第一個列表元素中加入system的數(shù)據(jù)就可以。

三、還有一個重要的點:提交的這些數(shù)據(jù)都會計算進tokens里面包括chatGPT回復的時候(最多4096個tokens),如果你想讓上下文管理能記憶更多的語料,那么在提交數(shù)據(jù)的時候就盡可能的增加你們之間對話的內(nèi)容(同時會更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的會員價格為20美元/月 ,tokens按量收費。通俗的說就是想手機卡一樣,每個月有月租,通話另外計費。chatGPT Plus會員的好處就是速度能更快,并且穩(wěn)定,白嫖版的也能用,就是速度會慢一些而且不穩(wěn)定容易掛掉。

到此,關(guān)于“怎么在chatGPT Python API中啟用上下文管理”的學習就結(jié)束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續(xù)學習更多相關(guān)知識,請繼續(xù)關(guān)注億速云網(wǎng)站,小編會繼續(xù)努力為大家?guī)砀鄬嵱玫奈恼拢?/p>

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI