雷峰网音书云开体育，纽约大学接头东谈主员发现，若是一个给定谈话模子的磨练数据中有0.001%的数据 "中毒"（即有益植入舛讹信息），那么所有磨练集将可能传播这些舛讹。

数据"中毒"影响磨练恶果，AI 的推行部署，安全性雷同至关病笃。

接头公司 Gartner 瞻望，到 2028 年，AI 智能体将完成至少 15% 的常常责任决策并被应用于 33% 的企业要领。浩瀚的 AI 智能体建造需求，让企业处理其中的信任、物理安全、会聚安全以及合规性等问题显得愈加近在咫尺。

近日，英伟达发布了全新的保险代理式 AI 应用安全的 NIM 微劳动，这将摈斥企业部署生成式 AI 时的安全疑虑，况且为生成式 AI 的普及提供安全保险。

全新的 NIM 微劳动是 NeMo Guardrails 软件器用系列的一部分，这些可移植且历程优化的推理微劳动不错匡助企业提高生成式 AI 应用的安全性、精确性和可彭胀性。

3 项 NIM 微劳动，兼顾高安全性和低延长

NVIDIA NeMo Guardrails 是一个开源器用包，允许建造者将可编程护栏添加到基于 LLM 的会话系统中，从而保险东谈主工智能系统的安全与合规。

NeMo Guardrails 引入的三项全新微劳动，或者匡助 AI 智能体在大限度运转时能同期保合手受控行径。

内容安全 NIM 微劳动（Content Safety NIM）使用了质地较高的东谈主工注视数据源Aegis 内容安全数据集进行磨练，该数据集包含逾越 35000 个东谈主工璀璨的数据样本，由英伟达整理并开源，依然在 Hugging Face 公建造布。高质地的数据集或者灵验注视 AI 生成有偏见或无益的输出恶果，确保回应适应谈德规范。

英伟达的企业 AI 模子、软件与劳动副总裁 Kari Briski 示意："这是同类数据都集质地最高的数据源之一。"

话题限度 NIM 微劳动（Topic Control NIM）能将对话聚焦在历程审核的话题上，幸免离题或不妥内容。

逃狱检测 NIM 微劳动（Jailbreak Detection NIM）增多了对逃狱企图（ 指绕过模子的安全珍摄方法，让模子实施不容的行径）的珍摄，匡助在对抗性场景中保合手 AI 的完好意思性。

开始：英伟达官方

由于"一刀切"的方法无法灵验保护和限度复杂的代理式 AI 责任流，通过应用多个轻量级专科模子四肢护栏，建造者不错弥补在只罗致较为通用的全局策略和保护方法时可能出现的毛病。

可编程护栏数目的增多天然能教育保险智商，但也会导致延长有所高涨，NeMo Guardrails 以最小延长教育保险智商，极具"性价比"。

当护栏数目为 0（仅系统指示）时，延长约为 0.75 秒，合规性为 1X（基准）。

当护栏数目为 1 时，延长增多到约 1 秒，合规性教育到 1.1X。

当护栏数目为 5 时，延长约为 1.25 秒，合规性达到 1.5X。

增多到 5 个护栏，延长仅增多约 1.25 秒。与增多 1 个护栏，延长增多 1 秒对比，终了显耀的优化。这标明，NeMo Guardrails 在教育保险智商的同期，对延长的影响较小，或者在保证系统性能的前提下提高安全性和合规性。

给汽车、零卖、电信等行业的安全、精确、可彭胀的「AI 护栏」

NeMo Guardrails 已向开源社区绽开，其 NIM 微劳动处理企业级客户的"黄雀伺蝉"，使建造者或者构建愈加安全、真确的 AI 智能体。智能体通过参考特定语境准则作念出安全、适应的回应，况且加强了对逃狱企图的叛逆力度，终明晰在汽车、金融、医疗、制造、零卖等行业客户劳动中的部署。

软件和劳动处理决策提供商 Amdocs 推出的 amAIz 平台是一个始创性的电信生成式 AI 框架，通过集成 NVIDIA NeMo Guardrails，增强了平台的真确 AI 功能，保险代理式体验的安全性、可靠性和可彭胀性，从而让劳动提供商或者安一都署 AI 处理决策。

Amdocs 期间集团总裁兼战术掌握 Anthony Goonetilleke 示意："像 NeMo Guardrails 这么的期间关于保险生成式 AI 应用的安全至关病笃，或者匡助 AI 安全、谈德地运转。"

专注于为汽车行业提供 AI 处理决策的 Cerence AI，通过 NVIDIA NeMo Guardrails 匡助车载助手在其 CaLLM 系列大谈话和小谈话模子的撑合手下提供适应语境的安全交互。

Cerence AI 居品和期间实施副总裁 Nils Schanz 示意：" NeMo Guardrails 不错匡助咱们为汽车制造商客户提供真确的情境感知处理决策，并作出理智、严谨且无幻觉的回应。"

在面向客户的专科学问应用上，更需保证 AI 生成式回应的安全性与可靠性。

家居遮拦零卖商劳氏公司通过哄骗生成式 AI 牢固伙计的专科学问，以此让职工在靠近客户的问题时或者"缕缕不休"。这背后，是 NVIDIA NeMo Guardrails 将 AI 的回应"框定"在正确的鸿沟内，确保输出的内容"不翻车"。

劳氏公司的数据、AI 和翻新高等副总裁 Chandhu Nair 则示意："咱们一直在寻找方法匡助职工为客户提供超出预期的劳动。通过部署 NVIDIA NeMo Guardrails，保证了 AI 生成式回应的安全性与可靠性，将对话强行铁心在谈论和适应的内容鸿沟内。"

值得一提的是，NeMo Guardrails 还具备较好的绽开性和可彭胀性，可集成由 AI 安全模子和珍摄提供商构成的生态系统，以及 AI 可不雅察性和建造器用。撑合手与 ActiveFence 的 ActiveScore（AI 安全劳动）集成，注视对话式 AI 应用出现存害或不妥内容，并提供可视化、分析和监控功能。

区块链基础设施公司 Hive 以 NIM 微劳动款式提供适用于图像、视频和音频内容的 AI 生成内容检测模子，通过使用 NeMo Guardrails，Hive 可将其模子集成到 AI 应用中并进行编排。

AI 可不雅测性平台 Fiddler 与 NeMo Guardrails 集成，可增强其监控功能。端到端 AI 建造者平台 Weights & Biases 正在现存 NIM 集成组合基础上，通过增多与 NeMo Guardrails 微劳动的集成来彭胀 W&B Weave 的功能，以此教育 AI 推理智商。

此外，NeMo Guardrails 还提供用于 AI 安全测试和毛病扫描的开源套件 NVIDIA Garak，用于 LLM 和应用毛病扫描，借助 Garak，建造者不错发现使用 LLM 中的系统中存在的毛病，发现并处理 AI 模子中的潜在缺点，提高模子的安详性与安全性。

现在云开体育，NVIDIA NeMo Guardrails 微劳动以及用于编排 rail 的 NeMo Guardrails 和 NVIDIA Garak 套件已向建造者和企业绽开，建造者按照官网上的教程就不错使用 NeMo Guardrails 为 AI 客服智能体构建 AI 护栏。