카페24·KT等推出LLM路由及管理服务

发生了什么

ZDNet Korea报道，카페24推出“LLM 라우터”，通过单API连接多模型，并利用“cafe24/auto”根据任务难度和成本自动选择模型，采用无月费的按量计费模式且不对失败调用收费，支持模型超270种。KT于上月30日正式提供“토큰팩토리”服务，初期提供73个模型，计划本月扩展至500个以上。此外，래블업于上月23日宣布“컨티넘 엔터프라이즈”首份供应合同，用于集中管理模型Token用量与成本。