钛媒体App 10月15日消息,红帽公司发布红帽AI 3(Red Hat AI 3),升级其企业级人工智能(AI)平台。该平台融合了红帽AI推理服务器、红帽企业Linux AI(RHEL AI)和红帽OpenShift AI的最新创新成果,可简化大规模高性能AI推理的复杂性,帮助企业更轻松地将工作负载从概念验证推进至生产阶段,并提升AI应用相关协作效率。据悉,红帽AI 3是基于vLLM和llm-d社区项目,结合红帽的模型优化能力,提供生产级大语言模型(LLM)服务,强调可扩展且经济高效的推理能力。(广角观察)
上一篇:离婚的李亚鹏,其实是个商业鬼才
下一篇:全栈AI服务供应商,递表港交所