【Coinbase CEO:通过使用GLM模型等方式,AI支出降低近50%的同时代币使用量持续增长】

06-29
【Coinbase CEO:通过使用GLM模型等方式,AI支出降低近50%的同时代币使用量持续增长】报道,Coinbase 首席执行官 Brian Armstrong表示,Coinbase 通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将 AI 支出降低近 50%。 具体措施包括:将默认模型切换至 GLM 5.2 和 Kimi 2.7 等开源权重模型,91%员工此前从未触达使用上限;在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理;提升缓存命中率,LibreChat 缓存命中率从 5%提升至 60%;精简上下文管理,切换任务时开启新会话并缩小文件上下文范围;增强支出可见性,工程师可自由选择模型但需承担相应影响预期。
免责声明:
内容来源金色财经、欧意交易所、gate.io交易平台以及Binance交易所官网
本站不对其做任何背书,也不代表赞成作者观点,如有失察或对您造成影响,可联系我们删除

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
验证码
评论列表 (暂无评论,42人围观)

还没有评论,来说两句吧...