サイト内検索

ローカル LLM の実現に不可欠な Tenstorrent の Web コンテンツを連載中

記事の閲覧をご希望の場合、アカウント登録が必要です。詳細はお問い合わせください。

Hardware

Wormhole™ n300 x 1

1  - Tenstorrent の AI アクセラレーターカード Wormhole™ N300 を動かしてみた

       (Llama 3.2 11B / Meta model 編)

Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Llama 3.2 11B を使用しました。

Hardware

TT-LoudBox ( Wormhole™ n300s x 4)

2  - Tenstorrent の AI アクセラレーターカード Wormhole™ N300 を動かしてみた

       (Llama 3.3 70B / Meta model 編)

Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Llama 3.3 70B を使用しました。

3  - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた

       (Llama 3.1 70B / HF model 編)

vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Llama3.1 70B を使用しました。

4  - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた

       (Qwen 2.5 72B / HF model 編)

vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Qwen 2.5 72B を使用しました。

5  - vLLMを Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で 動かしてみた

       (Llama 3.3 Swallow 70B / HF model 編)

Llama 3.3 Swallow 70B を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で vLLM で動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Llama 3.3 Swallow 70B Instruct v0.4 を使用しました。

6  - vLLM を Tenstorrent の デスクトップ ワークステーション (TT-LoudBox) で動かしてみた

       (Llama 3.3 70B / HF model 編)

vLLM を Tenstorrnet 社の 画像や生成AIに特化したデスクトップ ワークステーション TT-LoudBox で動かしてみました。
既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。
様々なネットワークモデルに対応しておりますが、今回は Llama3.3 70B を使用しました。

Tenstorrent メーカー情報 Top へ

Tenstorrent メーカー情報 Top ページへ戻りたい方は、以下をクリックください。