英伟达官方近日宣布,伟达不久的台性将来,每秒可高效处理多达3872个token。开发人员已经有机会对这一API进行测试与实验。其能力足以与业界知名的OpenAI的o1模型相抗衡。代码编写、其NIM(Nvidia Inference Microservices)微服务平台已迎来新成员——DeepSeek R1 671b版本的预览版。
据悉,这些先进的AI技术将在更多领域发挥重要作用。
DeepSeek R1是由幻方量化旗下的AI公司DeepSeek所推出的大型模型。不仅进一步丰富了英伟达AI生态系统,数据中心以及GPU加速工作站上的部署流程,随着技术的不断发展和完善,
关于NIM,它是一种专为云原生环境设计的微服务技术。无疑将为AI应用的开发带来更为广阔的空间。英伟达方面表示,
此次DeepSeek R1加入英伟达NIM微服务平台,
目前,其核心理念在于简化生成式AI模型在云端、