调价通知来了

有个平台, 最近在用户的后台那儿, 发布了一则调价公告, 声称在近期的时候, 将会针对全部的API接口服务, 去进行整体的价格调整, 预计这个涨幅会比较大, 而具体的细则以及生效的时间, 是以官方正式公告作为准的。

此次调价涵盖了全部接口, 不管是个人开发者又或者是企业用户这些都会受到影响, 这个平台提示各用户要合理去规划调用量, 对充值金额予以控制, 防止出现资金浪费情况。

峰谷定价模式详解

当前, 此平台运用峰谷定价方式, 在工作日之时, 高峰时段定在了北京时间这两个区域内, 一个是9:00–12:00, 另一个是14:00–18:00, 于这段时间当中, 全部的价格会直接变为原来的两倍。

在凌晨零点三十分至上午八点三十分这个时间段, 还有周末以及法定节假日的时候, 是按照平峰原价来执行的。这所表达的意思就是, 开发者能够借助对调用时间作出调整, 从而躲开高峰时段以此来实现节省成本。

两款产品价格对比

平峰时段, V4-Flash缓存命中时, 输入金额为0.02元, 未命中时输入金额为1元, 输出金额为2元。高峰时段, 相应的输入输出金额均翻倍, 缓存命中时输入0.04元, 未命中时输入2元, 输出4元。

在V4 – Pro平峰时段, 若缓存命中, 其输入为0.025元, 若未命中, 输入则为3元, 而输出是6元。在高峰时段, 上述情况翻倍, 即缓存命中输入变为0.05元, 未命中时输入变为6元, 输出变为12元。

缓存命中很重要

缓存命中之时的价格, 与未命中之时的价格, 二者之间的差距是极为巨大的。就拿V4 – Flash来说, 在缓存命中的情况下, 其输入仅仅需要0.02元, 然而在未命中的情形下, 输入却要1元, 两者相差达到50倍之多。

这表明, 开发者应当尽可能地去复用那同一的输入内容, 以此来减少重复性的请求。针对那些常常被调用的固定问题, 能够借助缓存机制极大程度地降低成本。

硬件配置与限制

V4 – Flash硬件并发的上限是2500, 它支持100万Token的上下文, 其最大单次输出为384K Token, 并且兼容双接口格式。

V4 – Pro的硬件并发上限是500, 其超长上下文规格跟V4 – Flash相同, 不过暂时不支持API接口, 两款产品各自存在适用场景, 开发者要依据实际需求去选择。

省钱调用建议

开发者能够借助错峰调用达成成本节省, 把非紧急任务放置于凌晨或者周末去开展实施。与此同时对提示词予以优化, 削减掉不必要的重复输入。

规划充值金额要合理, 并避免有多余资金一次性投入。要密切关注官方所发布供大众阅读的正式公告, 及时调整调用而实施的策略, 以此应对价格朝着不同方向变动所带来的具有一定难度的挑战。

该次 API 进行价格调整这一情况, 你计划怎样去应对, 是选择错开高峰时间段进行调用, 还是去更换服务提供商捏, 欢迎在评论区域分享你关于此的看法。