NVIDIAは、企業が生成 AIアプリケーションの安全性、精度、スケーラビリティを向上させるためのマイクロサービスを提供する。
NVIDIAはこれまでも、LLMベースの対話型システムの脆弱性を避けるためのガードレール構築ツール「NeMo Guardrails」を提供してきた。今回、このNeMo Guardrails向けに、以下の3つの新しいNIM マイクロサービスを導入した。
一つは、「コンテンツセーフティNIMマイクロサービス」。AIによる偏った、または有害な生成を防ぎ、応答が倫理基準に準拠していることを保証する。
二つ目は、「トピック制御NIMマイクロサービス」。会話のトピックが適切なものになるように集中させ、脱線や不適切なコンテンツを回避する。
三つめは、「ジェイルブレイク（脱獄）検出マイクロサービス」。ジェイルブレイク（脱獄）に対する保護を追加し、AIの整合性を維持するのに役立つ。
現在、NeMo Guardrailsを使用して顧客システム用のAIエージェントにAIセーフガードを組み込むためのチュートリアルも公開されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
