2. Linux.do
  3. app需要接入AI模型，是直接让用户填自己的key好，还是我搞个中转站直接承接token服务好？

app需要接入AI模型，是直接让用户填自己的key好，还是我搞个中转站直接承接token服务好？

dong 2026-09-12 10:27 1

想做个英语学习的浏览器扩展（类似网页翻译但更高级，必须用ai模型）。扩展接入ai模型api用什么方式最好呢？


方式1：扩展提供设置选项，用户自己去各大模型平台注册登录充值创建key，填入我的扩展。这个方法好处是我不用管这块，坏处也极大，对AI外行的普通用户来说，完成这一套复杂操作的可能性很低，相当于把用户推出去了。


方式2：我自己搞个类似大模型中转站的服务，用户直接在我扩展上注册登录充值，使用我的大模型服务，好处是对用户很简单。坏处是我得搞一套大模型中转服务（而且网页翻译类需求和普通模型调用不一样，碎片片高并发，一个网页翻译起来会拆成几十个请求同时并发发给服务端，一般大模型中转站服务我估计搞不定。


这俩方式哪种好呢？或者还有更好的方式吗？

最新回复 (11)
  • 辉夜姬 09-12 10:28
    1楼

    两套都搞不就是了吗，不同的用户不同的需求，为啥只要做一套呢

  • Scaxlibur 09-12 10:28
    2楼

    还是方式一好吧


    方式二搞完了是需要对用户负责的，而且这种大模型有合规风险

  • dong 楼主 09-12 10:35
    3楼

    问题让菜鸟用户完成一整套获取key的流程太难了，几乎不可能

  • dong 楼主 09-12 10:36
    4楼

    很多翻译扩展就是两套都搞，用户自己填就免费，用它的token就收费。我是感觉这样太重了。

  • 时牧 09-12 10:36
    5楼

    都可以做吧，你提供 api 不是能多赚一份

    而且使用门槛也能降低

  • dong 楼主 09-12 10:39
    6楼

    我提供token就得自己搭建中转站，还不算一般中转站得是哪种高并发的，另外就是token资源哪里来，是直接转发官方api还是也学佬们去找点黑市便宜token

  • 辉夜姬 09-12 10:43
    7楼

    没必要，提供服务就 commandcode 和 opencode 这些多开几个号

  • 酷态科 09-12 10:44
    8楼

    最好都做，把选择留给用户会好很多

  • dong 楼主 09-13 09:16
    9楼

    在这些中转平台开的号怎么让用户使用啊，还得我用服务器中转发送一下吧？是不是我得弄个号池啥的？

  • jurxer 09-13 09:25
    10楼

    需求量大不大不大的话可以用cloudflare提供免费的ai。我体验了一下能使用好久的，模型也挺多的，不过翻译的话对模型应该没有什么要求。

  • dong 楼主 09-13 11:00
    11楼

    cloudflare还提供免费模型？并发性能咋样？我看你截图是羊驼8b，8b模型不太行，基本不听提示词的，我测试国内的qwen8b，glm9b，就硅基流动的免费模型，都不行，不听提示词的

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐