SonicBoom AI框架发布

发生了什么

Solidot报道，SonicBoom AI框架发布，告别手工调优，支持C API接口，性能提升20%。该框架由HardenedLinux社区主导开发，采用GPLv3许可证，提供语言无关的C API接口，支持任意语言绑定。目前GNU Guile是官方支持的语言，运行时包含LLVM MLIR，将计算图优化并生成硬件特定kernel。框架实现pytorch的动态图弹性与tensorflow的静态图性能，部署成本压缩至三百多MB的.so文件。社区版仅支持单点推理，企业版计划提供分布式推理，对标pytorch，未来将支持image, video, tts计算。目前支持CPI和CUDA，计划支持Vulkan。