据科学专业服务 新闻与活

[mahbubamim077]

该数据集由 NVIDIA 策划和拥有，可在 Hugging Face 上公开获取，其中包括超过 35,000 个人工注释的数据样本，这些样本被标记为 AI 安全，并用于绕过系统限制的越狱尝试。 NVIDIA NeMo Guardrails 让 AI 代理保持正轨 人工智能正在迅速提高各种业务流程的生产力。在客户服务领域，它帮助客户解决问题的速度提高了40%。然而，要将人工智能扩展到客户服务和其他人工智能代理，需要安全的模型来防止有害或不适当的输出，并确保人工智能应用程序在定义的参数范围内运行。


NVIDIA 为 NeMo Guardrails 引入了三项新的 NIM 微服务，可 阿曼 手机号码 帮助 AI 代理大规模运行同时保持受控行为： 内容安全 NIM 微服务可保护 AI 免于产生有偏见或有害的输出，确保响应符合道德标准。

端到端 AI 开发者平台 Weights & Biases 正在通过添加与 NeMo Guardrails 微服务的集成来扩展 W&B Weave 的功能。此增强功能以​​ Weights & Biases 现有的 NIM 集成产品组合为基础，用于优化生产中的 AI 推理。 NeMo Guardrails 提供用于 AI 安全测试的开源工具 准备测试应用保护模型和其他轨道的有效性的开发人员可以使用NVIDIA Garak——由 NVIDIA 研究团队开发的用于 LLM 和应用程序漏洞扫描的开源工具包。