NVIDIAは、企業が生成 AIアプリケーションの安全性、精度、スケーラビリティを向上させるためのマイクロサービスを提供する。
NVIDIAはこれまでも、LLMベースの対話型システムの脆弱性を避けるためのガードレール構築ツール「NeMo Guardrails」を提供してきた。今回、このNeMo Guardrails向けに、以下の3つの新しいNIM マイクロサービスを導入した。
一つは、「コンテンツセーフティNIMマイクロサービス」。AIによる偏った、または有害な生成を防ぎ、応答が倫理基準に準拠していることを保証する。
二つ目は、「トピック制御NIMマイクロサービス」。会話のトピックが適切なものになるように集中させ、脱線や不適切なコンテンツを回避する。
三つめは、「ジェイルブレイク（脱獄）検出マイクロサービス」。ジェイルブレイク（脱獄）に対する保護を追加し、AIの整合性を維持するのに役立つ。
現在、NeMo Guardrailsを使用して顧客システム用のAIエージェントにAIセーフガードを組み込むためのチュートリアルも公開されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
