情色图片

自慰 偷拍 擢升AI代理可靠性 英伟达推出容器化微处事Inference Microservices

发布日期:2025-03-24 03:57    点击次数:159

自慰 偷拍 擢升AI代理可靠性 英伟达推出容器化微处事Inference Microservices

作家:赵雨荷自慰 偷拍

源头:硬AI

英伟达周四推出用于加快生成式AI模子的部署的容器化微处事Nvidia Inference Microservices(NIM),但愿匡助企业提高手工智能代理的信任、安全和可靠性。

英伟达在一篇博客中默示,东说念主工智能代理是一项正在赶紧发展的时代,正迟缓调动东说念主们与辩论机互动的边幅,但也伴跟着诸多关节问题。智能化 AI(Agentic AI)有望阅兵常识使命者的任务扩充边幅,以及客户与品牌“对话”的边幅,但其背后的大型讲话模子仍可能出现不良反应,以致在坏心用户试图冲破防护时激励安全问题。

英伟达默示,周四发布的执行是基于其为设立者提供的保护框架NeMo Guardrails的膨胀,旨在提高生成式东说念主工智能应用的安全性、精准性和可膨胀性。NeMo Guardrails是英伟达NeMo平台的一部分,用于料理、定制和保护东说念主工智能,匡助设立者在大型讲话模子(LLM)应用中集成并料理AI防护门径。当前Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。

英伟达发布的NIM共有三种,分歧涵盖主题端正、执行安全和逃狱保护。该公司默示,这些微处事是经由高度优化的微型轻量级AI模子,可通过调控大型模子的反应擢升应用性能。

英伟达企业AI模子、软件与处事副总裁Kari Briski默示。

露出

“其中一项用于调控执行安全的新微处事,是基于Aegis执行安全数据集考试的。这是同类数据网络质料最高、由东说念主工标注的数据源之一。” 

Aegis执行安全数据集由英伟达推出,包括跨越35,000个由东说念主工标注的样本,用于检测AI安全问题和试图绕过系统斥逐的逃狱四肢。该数据集将在本年晚些时候于Hugging Face上公设立布。

举例,用于主题端正的NIM可驻防AI代理“过于健谈”或偏离其底本的任务主见,确保其保合手在既定主题内。英伟达默示,与AI聊天机器东说念主进行的对话时辰越长,它越容易健忘对话的初志,从而让话题偏离轨说念,肖似于东说念主类对话可能的闲谈。诚然东说念主类不错收受这种情况,但关于聊天机器东说念主,尤其是品牌AI代理,偏离主题可能导致批驳到名东说念主或竞争产物,这对品牌不利。

Briski默示,

“像NeMo Guardrails系列中的微型讲话模子,具有较低的蔓延,专为资源受限或散布式环境中的高效运行而贪图,这使它们相配适应在医疗、汽车、制造等行业的病院或仓库等场景中膨胀AI应用。”

此外,NIM允许设立者以最小的附加蔓延重叠多个防护门径。英伟达默示,这对大大王人生成式AI应用至关蹙迫,因为用户不心爱永劫辰恭候,举例看到三点耀眼或转圈加载动画后才出现文本或语音。

英伟达默示,NIM微处事以及用于轨说念编排的NeMo Guardrails和NVIDIA Garak用具包,当今还是面向设立者和企业灵通使用。设立者不错通过相干教程启动将AI防护门径集成到客户处事的AI代理中,行使NeMo Guardrails构建安全的AI应用。

风险教导及免责条目 商场有风险,投资需严慎。本文不组成个东说念主投资提倡,也未探讨到个别用户非凡的投资主见、财务气象或需要。用户应试虑本文中的任何想法、不雅点或论断是否适应其特定气象。据此投资,职守雅瞻念。

热点资讯
相关资讯


Powered by 情色图片 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024