2023年11月26日星期日

python的openai库,1.3.5版本的使用方法

 from openai import OpenAI

api_key="XXXXXX"

base_url = "http://127.0.0.1:8888/to/v1"


client = OpenAI(

  api_key=api_key,

  base_url = base_url

)


# def get_completion(prompt, model="gpt-3.5-turbo"):

    # messages = [{"role": "user", "content": prompt}]

    # response = client.chat.completions.create(

        # model=model,

        # messages=messages,

        # temperature=0.7,

    # )

    # return response.choices[0].message.content


# prompt = "你好,ChatGPT!"

# print(get_completion(prompt))


while True:

    text = input("请输入问题:")

    response = client.chat.completions.create(

        model="gpt-3.5-turbo",

        messages=[

            {'role': 'user', 'content': text},

        ],

        stream=True

    )


    for chunk in response:  

        pretext=chunk.choices[0].delta.content

        if pretext is not None:    

            print(chunk.choices[0].delta.content, end="", flush=True)

    print("\n")

没有评论:

发表评论

小型网站的ubuntu服务器如何提升连接数

 当服务器有多个api应用,或者网站的时候,会出现网页打不开。但是cpu、内存等都很空闲。这种情况,有可能是网站的文件数设置不正确。 查询服务器支持的TCP连接数: ulimit -n 默认是1024 需要增加方法: 编辑/etc/security/limits.conf * s...