19958963957
首页 行业新闻 重新定义大模型服务平台——火山方舟
重新定义大模型服务平台——火山方舟
来源:站 作者: 智轩互联 2023-07-08 行业新闻

突破安全与信任:火山方舟助力企业大模型应用

火山引擎在6月28“V-Tech体验创新科技峰会”上,与英伟达合作发布了一项重要服务平台——火山方舟. 这个平台面向企业提供了全方位模型精调、评测和推理等服务,旨在帮助企业解决大模型应用中安全和信任问题. 火山方舟通过独特多模型架构,让企业能够同步试用多个大模型,并选择最适合自身业务需求模型组合.

在火山引擎谭待看来,企业使用大模型时最关心问题就是数据泄露. 为了解决这一问题,火山方舟致力于构建一个安全互信大模型使用环境,确保企业客户数据资产安全. 根据火山引擎智能算法负责人吴迪介绍,火山方舟已经上线了基于安全沙箱大模型安全互信计算方案. 通过计算隔离、存储隔离、隔离和流量审计等措施,该方案能够保证模型机密、完整和可用,适用于对训练和推理延时要求较低客户。

除了已经上线安全互信计算方案,火山方舟还在不断探索更多安全互信计算方案。其中包括基于NVIDIA新一代硬件支持可信计算环境和基于联邦学习数据资产分离等方案. 这些方案将更全面地满足大模型在不同业务场景下数据安全需求。

未来,NVIDIA和火山引擎将进一步深化合作,包括在NVIDIA Hopper架构上进行适配与优化、机密计算、重点模型合作优化以及NeMo Framework适配等方面. 他们将携手为重点客户提供全面支持,共同推动大模型产业繁荣。

智能选择大模型:降低使用成,提升效果

据科学技术研究所等机构发布《人工智能大模型地图研究报告》,截至今年5月,国内已经公开披露大模型数量已经达到了79个. 随着大模型快速涌现,企业面临着“选择困难”问题.

吴迪认为,在技术发展新月异今天,国内大模型正在不断迭代. 不同大模型在特定任务上各有千秋。因此,企业不必急于绑定某一个大模型,而是应该根据自身业务场景,综合评估使用效果和成,选择更具价比模型.

以微软在生物领域精调BioGPT-Large模型为例,该模型仅有15亿参数,却在PubMedQA基准中准确率优于拥有数千亿参数大型通用语言模型. 火山方舟为企业提供了丰富模型精调和评测支持。企业可以通过统一工作流接入多个大模型,并根据复杂需求设置高级参数、验证集和集等能,从而选择最适合自身需求模型.

火山方舟发布将为企业带来更安全、可信赖大模型服务,同时也降低了企业使用成. 随着NVIDIA和火山引擎团队深化合作,相信大模型产业将迎来更加繁荣未来。

智能化平台选智轩,让有限更有效
智能化综合管理,带来更科学降增效和极致用户体验
19958963957 联系我们
电话咨询 在线咨询 系统演示
填写以下
马上为您安排系统演示