还在卖key？还在买GPT4？全民开启转发时代

神秘北极圈

现在转发接口流行了，什么套路，你搞一个KEY池子，然后轮训，然后结构和官方一致，接入者对接你的API接口，就能用你的GPT4、3.5了

https://github.com/songquanpeng/one-api  对，用这个程序就O了

给大家算一笔账，现在好多人不卖key，玩转发，把定价和官方一致，然后在充值比例上给优惠，有3折、4折、5折。也有1;1刀、2:1刀、3：1、4:1，

你假设3块钱一个官方key，你的成本其实就是 3:1 刀，更何况真正的成本是几毛，然后你再以转发的方式？？

小怪

拉胯点，点评，
#1.时不时抽风
#2.时不时各种报错，时好时坏限制比官方大，可能每个商家限制不一样，不敢碰第三方MJJ的了
#3.如果自己玩折腾可以mjj，如果公司或者求稳定还是想办法搞官方目前官方清退很多账户，在用官方太丝滑了！

小怪

这玩意有点拉胯 买了一个MJJ的 各种bug我这边是公司生成学习资料用，不是掉线就是限制卡，最终无奈还是老板找国外朋友 信用卡 认证openai官方的还是舒服点。

黑皮

转发如何解决上下文

神秘北极圈

黑皮 发表于 2023-8-1 13:48
转发如何解决上下文

这个程序的接口和官方是一样的

1. {
   
2.     "model": "gpt-3.5-turbo",
   
3.     "messages": [
   
4.         {
   
5.             "role": "system",
   
6.             "content": "你是GPPT，一个由 PPT 公司训练的一个大型语言模型"
   
7.         },
   
8.         {
   
9.             "role": "user",
   
10.             "content": "你是openai吗？"
    
11.         },
    
12.         {
    
13.             "role": "assistant",
    
14.             "content": "不，我不是OpenAI。我是GPPT，由PPT公司训练的一个大型语言模型。尽管GPPT和OpenAI的GPT模型有一些相似之处，但我们是不同的实体。"
    
15.         }
    
16.     ],
    
17.     "stream": false
    
18. }

复制代码

1. {
   
2.     "id": "chatcmpl-7iOIbmXGdLef3RDu6OfUy6T5fRgJW",
   
3.     "object": "chat.completion",
   
4.     "created": 1690814193,
   
5.     "model": "gpt-3.5-turbo-0613",
   
6.     "choices": [
   
7.         {
   
8.             "index": 0,
   
9.             "message": {
   
10.                 "role": "assistant",
    
11.                 "content": "PPT是一家中国的科技公司，专注于人工智能领域的研究和开发。GPPT是该公司自主研发的语言模型，旨在提供高质量的问答、对话和帮助等功能。感谢您与我进行交流！如果您有任何问题或需要帮助，我会尽力为您提供支持。"
    
12.             },
    
13.             "finish_reason": "stop"
    
14.         }
    
15.     ],
    
16.     "usage": {
    
17.         "prompt_tokens": 107,
    
18.         "completion_tokens": 109,
    
19.         "total_tokens": 216
    
20.     }
    
21. }

复制代码

poly

多问一会就露馅了

神秘北极圈

小怪 发表于 2023-8-1 14:16
拉胯点，点评，
#1.时不时抽风
#2.时不时各种报错，时好时坏限制比官方大，可能每个商家限制不一样，不敢碰 ...

不不不，这个和站长的key池有很大关系，官方限速1分钟3次，你指望这种无限套娃的人上面几个上家？全国服务器跑？还是说一手站长放三五个key够轮几次

鹏宇

你签名里面3块钱那个转发额度api是3块钱充多少额度

云中飞客

想多了，我这个后台放了20个120刀的key还支持4.0流畅的一批，你真要放几十个5刀key并发一上来不出一分钟就报请求限制了。

glzjin

小怪 发表于 2023-8-1 14:16
拉胯点，点评，
#1.时不时抽风
#2.时不时各种报错，时好时坏限制比官方大，可能每个商家限制不一样，不敢碰 ...

要看搭建的人用的服务器网络和上游如何了，我自己用着这个还是蛮稳定的。