Cohere推出Model Vault机密AI推理服务

发生了什么

Cohere宣布推出Model Vault机密AI推理服务，现进入公开测试版，基于Azure与NVIDIA GPU实现硬件隔离与远程证明。该服务通过Confidential Computing技术，在硬件层面保护企业敏感数据，如金融信息、临床记录等，确保数据处理环境的安全性。服务利用NVIDIA Confidential Computing扩展保护至GPU，并采用Oblivious HTTP加密敏感请求内容，仅授权环境内的OHTTP网关可解密。客户在数据发送前会验证环境的加密签名证据，确保符合安全策略。服务由NVIDIA H100 GPU和Microsoft Azure支持。