1. 高い推論性能と優れた電力効率を両立

MemryXは、独自の「Near-Memory Dataflow Architecture（ニアメモリー・データフロー・アーキテクチャー）」を採用したエッジAIアクセラレーターを提供しています。高い推論性能と優れた電力効率を両立している点が最大の特長です。

従来のGPUベースシステムは、外部メモリーとの大量なデータ転送に依存します。一方で、MemryXはメモリー近傍で演算処理を実行し、低遅延かつ高効率なAI推論を実現します。特にエッジAI用途では、GPUと比較して大幅に低い消費電力で高い推論性能を発揮します。ベンチマークでも同クラス製品を上回る性能を示し、単純なTOPS値だけでは測れない実践的な処理能力がある点が魅力です。

2. AIモデルの導入容易性

MemryXはAIモデルの導入において、ユーザーが事前に定義されたサポート対象モデルに限定されてしまうような、従来の「モデル・ズー」を採用していません。その代わりに、TensorFlow、PyTorch、ONNXなどの一般的なフレームワークを使用して、開発された既存のモデルをコンパイルしてデプロイできる点が特長です。また手動でのモデルの再学習や、大規模な最適化、量子化作業を必要とせずに、BF16活性化を用いた高精度な推論をサポートしています。

また、オープンソースのSDKではワンクリックでモデルのコンパイルやテストを行うことができ、Python/C++ APIやサンプルアプリケーションも豊富に用意されています。

3. パフォーマンス要求に応じた柔軟なスケーラビリティ

ハードウェア面では、独自のエッジAI推論アクセラレータープラットフォームである、MemryX Cascade 100 ファミリーを展開しています。MX3 チップを最大16 個まで単一のアクセラレーターとして構成可能です。これにより、ユーザーは基盤となるアーキテクチャーやソフトウェア環境を維持したまま、アプリケーションの要件に応じて AI 推論性能を拡張することが可能です。したがって、Cascade 100ファミリーは、コンパクトな組込みシステムやスマートデバイスから、マルチカメラビジョンシステム、高性能な産業用エッジサーバーに至るまで、幅広いアプリケーションに対応可能です。

また、このプラットフォームは、複数のAIモデルの同時実行、ARM、x86、RISC-Vホストプロセッサーのサポート、Linux、Windows、Androidとの互換性など、幅広いシステム柔軟性を提供します。

AIアクセラレーターチップ (MX3)

MX3は製品への組込みを前提としたAIアクセラレーターチップ
【FC-BGA：9mm x 9mm】 です。

M.2 AIアクセラレーターモジュール (Cascade 100M)

MemryXのM.2モジュールは、コンパクトな【M.2 2280 M-Key：22mm x 80mm】に4つのMX3チップを搭載しています。
M.2スロットを備えたシステムへの組込みが容易で、産業用PC、エッジコンピュータ、その他の組込みシステムに、高性能なAI推論機能を簡単に追加することができます。
そのコンパクトで低消費電力の設計により、新規システムの設計だけでなく、既存のエッジコンピューティングプラットフォームへの導入にも最適です。

1. スタートガイド

ホストシステムの準備からハードウェアのセットアップ、MemryX Runtimeおよび各種ツールのインストール、サンプルアプリケーションの実行までを手順に沿って解説します。

スタートガイド — MemryX 開発者ハブ

2. モデルエクスプローラー

MemryX Model Explorerは、MemryXアクセラレーター上でテストおよびベンチマークが実施された、一般に公開されているAIモデルを掲載したリファレンスリソースです。開発者には、モデル情報、パフォーマンス結果、およびコンパイル済みのDFPファイルが提供され、アプリケーションの開発と導入を加速させるのに役立ちます。

重要な点として、Model ExplorerはMemryX上で実行可能なモデルを定義したり制限したりするものではありません。お客様は、Model Explorerに掲載されていないモデルを含め、MemryXツールチェーンを使用して、独自の事前学習済みモデルや独自開発のモデルをコンパイルし、デプロイすることができます。これにより、開発者はあらかじめ定義されたモデルライブラリーに制限されることなく、自身のアプリケーションに最適なモデルを選択することが可能になります。

Model eXplorer — MemryX 開発者ハブ

3. ツール

MemryX SDKには、AIモデルのコンパイルから評価、性能測定までを支援する4つの主要ツールが含まれています。

ツール — MemryX 開発者ハブ

・ニューラルコンパイラー：

学習済みAIモデルをMemryXデバイス上で実行可能なDataflow Program(DFP)へ変換するコンパイラーです。1行のコマンドでモデルをコンパイルできます。

・シミュレーター：

実機がない環境でも、コンパイルしたモデルの動作や性能を事前に評価できるシミュレーターです。開発初期段階での検証を効率化します。

・ベンチマーク：

MemryXデバイス上で推論性能を測定するツールです。レイテンシやFPSなどの主要な性能指標を簡単に確認できます。

・DFP Inspect：

DFPファイルに含まれるモデル情報や各種メタデータを確認できるユーティリティです。

4. API

PythonおよびC++向けのAPIを提供しており、AI推論機能を既存アプリケーションへ容易に組み込むことができます。入力データの送信から推論結果の取得までをシンプルに実装でき、さまざまなエッジAIアプリケーション開発に活用できます。

5. デモプロジェクト

MemryX開発者ハブでは、モデルのダウンロードやコンパイル、前処理、推論、後処理までを段階的に解説したチュートリアル形式のデモを10件以上公開しています。実際のAIアプリケーション開発の流れを理解しながら学習できます。

デモ — MemryX 開発者ハブ

また、MemryX GitHubでは約50種類のデモプロジェクトを提供しており、さまざまなAIアプリケーション開発の参考例として活用できます。

MemryX eXamples ー github

スマート監視・スマートシティ

人物や車両の検知、歩行者や群衆の分析、交通監視、その他のインテリジェント映像分析といったアプリケーション向けに、複数の映像ストリームとAIモデルのリアルタイム分析を実現します。
そのスケーラブルなアーキテクチャにより、単体のカメラやエッジデバイスからマルチカメラ監視システムに至るまで、幅広い導入環境に対応しています。
例：駐車場の空き状況管理・車両検知（駐車場管理のデモー github）

産業オートメーション

外観検査、欠陥・異常検出、プロセス監視、品質管理などの産業用途において、リアルタイムAI推論を実現します。
高性能かつ省電力のため、エッジ側で直接AI処理が可能となり、製造業者が自動化、製品品質、および業務効率の向上を図ることを支援します。

例：リアルタイム基板異常検知