你好奇的熊猫知识都在这里

SAP和Nvidia今天宣布扩展了合作伙伴关系，旨在提供加速计算，以便客户能够大规模采用大型语言模型（LLM）和生成式人工智能。

根据这一合作伙伴关系，SAP正在将Nvidia的生成式人工智能铸造服务，包括新发布的Nvidia NIM推断微服务，整合到SAP Datasphere、SAP业务技术平台（BTP）、RISE with SAP以及SAP的企业应用程序组合中。

“我们正在将人工智能嵌入到我们的企业应用程序中，并且我们已经设计成，云中的客户可以轻松地以即服务、开箱即用的方式消费它，” SAP首席人工智能官（CAIO）菲利普·赫尔齐格（Philipp Herzig）表示。

赫尔齐格指出，SAP拥有庞大的合作伙伴生态系统和各种LLM提供商，新的LLM似乎每天都在不断涌现。

“我们希望以一种方式设计它，使客户不必关心复杂性，”他说。“归根结底，客户希望在其工作流程中消费LLM时获得最佳体验、最佳性能或最低价格。”

SAP正在使用Nvidia的服务，包括Nvidia DGX Cloud AI超级计算、Nvidia AI Enterprise软件和Nvidia AI Foundation模型，为SAP AI Core和SAP Datasphere中的生成式人工智能中心增加新功能。

将RAG引入到Joule 去年11月推出的Nvidia NeMo Retriever，一个语义检索微服务，可通过检索增强生成（RAG）来帮助gen AI应用程序提供更准确的响应，将增强SAP的Joule协作助手。

RAG通过赋予LLM引用其训练数据之外的权威知识库的能力来优化LLM。

“有大量文档未存储在SAP系统中，”赫尔齐格说。“这些可能是您的人力资源政策、旅行政策、合规文件、法律文件，可能存储在SharePoint或门户上。”

Joule已经具备回答简单问题的能力，比如“我剩余多少个假期天数？”这只是员工记录的问题。但Nvidia的微服务赋予Joule更进一步的能力，让它可以访问人力资源政策，并将其与员工记录进行比较。

数据科学家和开发人员的新功能 该合作伙伴关系还在探索20多个面向帮助客户简化数字化转型的生成式人工智能用例，包括通过智能发票匹配自动化SAP S/4HANA Cloud中的ERP、通过SAP SuccessFactors改进HR用例，以及使用来自SAP Signavio的生成式人工智能洞察来处理业务建议并优化客户支持流程。

与此同时，SAP正在利用NVIDIA的加速计算平台和NVIDIA AI Enterprise数据科学软件，包括Nvidia Rapids、Rapids cuDF和cuML，以使数据科学家更容易访问数据，并提高Datasphere中ML工作负载的性能。对于开发人员，Nvidia的AI铸造服务将帮助他们创建特定领域的语言代码，并对LLM进行微调，以在SAP的高级业务应用编程（ABAP）编程语言中编写代码。

“我们的编程语言叫做ABAP，许多遗留代码都是用它编写的，结果通常是大型语言模型在处理ABAP时并不好用，”赫尔齐格说。

他解释说，虽然现成的LLM可以生成20世纪90年代可接受的ABAP代码，但它与ABAP Cloud的现代设计原则不符合。

“RAG不太适用于代码生成，”Nvidia的生成式人工智能软件产品管理副总裁卡里·安·布里斯基（Kari Ann Briski）补充说。“您不能检索代码，然后将其复制并编写。生成代码必须真正来自于了解该语言并能够创建它的能力，以提供自然提示。”

最后，今天还宣布的新Nvidia NIM推断微服务将帮助客户优化其SAP基础架构上的推断性能。

“基本上，这是由Nvidia预先构建的各种模型的微服务：来自生态系统的开放模型、专有模型、一些Nvidia模型，从小型创业公司到大型云端的模型，”Nvidia的企业计算副总裁Manuvir Das说。“我们将模型与为这些模型进行了优化的引擎一起打包，以便尽可能高效地在一系列Nvidia GPU上运行，这些GPU可以在笔记本电脑或工作站、数据中心或云中找到。”