chatgpt吧 关注:136,307贴子:419,571
  • 6回复贴,共1

有大佬能突破api的4096token限制吗?

只看楼主收藏回复

我需要处理很长的文本,反复进行交互,但是调用api来回发送记录就超出了token限制,这应该怎么应对?


IP属地:河北来自Android客户端1楼2023-09-16 23:18回复
    大佬都去嗨了吗


    IP属地:河北来自Android客户端2楼2023-09-16 23:39
    回复
      目前GPT3.5模型已经支持最大16k的 也就是16000 个令牌 大约8000个汉字,你可以试试,如果想要更高的令牌支持,可以选择升级PLUS,GPT-4模型最大支持32k长度的上下文会话,达到16000个汉字。
      如果在订阅PLUS过程中遇到任何问题,请随意联系我。 还有什么其他问题吗?


      IP属地:辽宁来自iPhone客户端3楼2023-09-16 23:44
      收起回复
        http://120.76.244.64/gpt-chart/index.jsp 真正的免费在这里


        4楼2023-09-16 23:58
        回复
          api模型不行吧,我记得它有好几个模型。gpt4就有8K和32K两种


          IP属地:福建来自Android客户端6楼2023-09-17 11:30
          收起回复