NeMo Curator

NeMo CuratorはGPUで高速化可能なスケーラブルなデータキュレーションマイクロサービスです。テキスト抽出やクリーニング、重複排除などのデータキュレーションのタスクを簡素化することが可能です。

NeMo Customizer

NeMo Customizerはドメイン固有のユースケースに合わせたLLMのファインチューニングとアライメントを簡素化するマイクロサービスです。現在はLoRAとp-turningをサポートしており、今後SFTなどのその他のアライメント手法もサポートされていく予定となっています。(2024/05/01時点)

NeMo Evaluator

NeMo Evaluatorは様々なアカデミックベンチマークやカスタムベンチマークによってカスタム生成AIモデルの評価をおこなうマイクロサービスです。NeMo Customizerと併用していただくことでモデルのカスタマイズおよび評価を継続的におこない、パフォーマンスを向上させることが可能です。

NeMo Retriever

NeMo RetrieverはRAG(検索拡張生成)を使用する際のPDF等のデータの取り込みから、エンコード、関連する情報の検索といったタスクをおこなうためのマイクロサービスです。CUDAやNVIDIA Tensor RTなどのNVIDIAのSDKで構築されており、使いやすさやパフォーマンスなどに優れています。

NeMo Guardrails

NeMo Guardrailsは生成AIのアプリケーションにおいて、望ましくないトピックに関する回答や誤解を招くコンテンツの作成を抑制することに役立つツールキットです。安全で信頼性の高いLLMのシステムを開発することに役立ちます。

NVIDIA NIM

NVIDIA NIMはNVIDIA AI Enterpriseに含まれる、企業における生成AIの展開を加速するために設計された推論用のマイクロサービスです。

オープンソースのモデルやNVIDIA AI FoundationモデルなどをサポートするNIMは業界標準のAPIにより、オンプレミスでもクラウドでもシームレスでスケーラブルなAI推論を実現します。