ローカル LLM の実現に不可欠な Tenstorrent の Web コンテンツを連載中
記事の閲覧をご希望の場合、アカウント登録が必要です。詳細はお問い合わせください。
Hardware |
Wormhole™ n300 x 1 |
---|---|
Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 様々なネットワークモデルに対応しておりますが、今回は Llama 3.2 11B を使用しました。 |
|
|
|
Hardware |
TT-LoudBox ( Wormhole™ n300s x 4) |
Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 様々なネットワークモデルに対応しておりますが、今回は Llama 3.3 70B を使用しました。 |
|
3 - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 様々なネットワークモデルに対応しておりますが、今回は Llama3.1 70B を使用しました。 |
4 - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。 |
5 - vLLMを Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で 動かしてみた |
Llama 3.3 Swallow 70B を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で vLLM で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 様々なネットワークモデルに対応しておりますが、今回は Llama 3.3 Swallow 70B Instruct v0.4 を使用しました。 |
6 - vLLM を Tenstorrent の デスクトップ ワークステーション (TT-LoudBox) で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したデスクトップ ワークステーション TT-LoudBox で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 様々なネットワークモデルに対応しておりますが、今回は Llama3.3 70B を使用しました。 |
Tenstorrent メーカー情報 Top へ
Tenstorrent メーカー情報 Top ページへ戻りたい方は、以下をクリックください。