OpenAI 的 GPT3.5 似乎没有 4096 tokens 限制了?
FaiChou · FaiChou · 2023-05-04 16:26:42 +08:00 · 2432 次点击这是一个创建于 603 天前的主题，其中的信息可能已经有所发展或是发生改变。
只是好奇做了一下测试, 发现即使远超这个 tokens 限制, 也是能正常回复的:
测试数据:
<script src="https://gist.github.com/FaiChou/a01fb13cd332910ee7877e32572fbd3f.js"></script>测试代码:
curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-XXX" \
-d @gpt3.5-test-messages.json
-i -o response.txt
返回数据:
<script src="https://gist.github.com/FaiChou/776ed61de0f5d1cee0209ed7e18d8aae.js"></script> |
1
FaiChou OP |
|
2
FaiChou OP 哎 我记得 V2EX gist 能够展示来着?
|
|
3
FaiChou OP |
|
4
FaiChou OP |
 |
5
yinmin 2023-05-04 17:39:07 +08:00 via iPhone
你在发送数据的时候去掉 stream ，openai 在返回数据包里会告诉你具体的 token 数，看看有没有超。
|
 |
6
mashihua 2023-05-05 22:20:25 +08:00
"finish_reason":"length" 算没有限制？
|
 |
7
54yzwddsg 2023-05-05 23:25:47 +08:00
楼上大哥血亏 4096 token
|
Select Language