Nvidia宣告推出NIM AI护栏微服务，以处理企业对AI署理人的数据安全或违背法则的疑虑。
新推出的内容安全微服务可避免AI生成有成见或有害的输出，保证契合道德规范。主题管控微服务则保证对话内容的主题在答应范围内，避免离题或不适当内容。越狱侦测微服务则防备用户越狱（jailbreak），避免AI遭到不妥运用的进犯。其间内容安全微服务是以Nvidia的Aegis Content Safety Dataset练习而成，包括3.5万个人员标示的数据样本。该数据集已在Hugging Face上揭露。
Nvidia指出，企业研制人员可在开发AI署理人时运用这一些轻量专用的微服务作为护栏，以作为特定AI作业流程的管控，以添补更广泛安全策略的缝隙。此外，这些模型轻盈，可高速履行、削减推迟性，在长途办公室或带宽缺乏的当地如医院或库房也能履行，这有助于医疗、轿车、制造业扩展布置AI。
Nvidia也供给了其已开源的LLM和运用缝隙扫描东西Garak来检测模型及运用程序的安全性，避免数据外流、提示注入、程序代码错觉及越狱可能性。
