ローカル LLM の実現に不可欠な Tenstorrent の Web コンテンツを連載中
記事の閲覧をご希望の場合、アカウント登録が必要です。詳細はお問い合わせください。
Software |
TT-NN™ + VSCode + Gemini Code Assist |
---|---|
1 - Tenstorrent 開発の第一歩を支える VS Code 拡張:Gemini Code Assist 体験レポート |
Tenstorrent 社のソフトウェアスタックは GitHub 上でオープンソースとして公開されていますが、初めて触れる開発者にとってはコードの理解や実装に少しハードルを感じることがあるかもしれません。 今回の記事と動画では、Visual Studio Code に Gemini Code Assist を導入し、Tenstorrent のソフトウェア開発をサポートする実際の活用体験を紹介しています。 ぜひ動画をご参照ください。 |
Hardware |
Wormhole™ n300 x 1 |
Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 さまざまなネットワークモデルに対応しておりますが、今回は Llama 3.2 11B を使用しました。 |
|
|
|
Hardware |
TT-LoudBox ( Wormhole™ n300s x 4) |
Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 を動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 さまざまなネットワークモデルに対応しておりますが、今回は Llama 3.3 70B を使用しました。 |
|
3 - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 さまざまなネットワークモデルに対応しておりますが、今回は Llama3.1 70B を使用しました。 |
4 - vLLM を Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で動かしてみました。 |
5 - vLLMを Tenstorrent の AI アクセラレーターカード Wormhole™ N300 で 動かしてみた |
Llama 3.3 Swallow 70B を Tenstorrnet 社の 画像や生成AIに特化したアクセラレーターカード Wormhole™ N300 で vLLM で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 さまざまなネットワークモデルに対応しておりますが、今回は Llama 3.3 Swallow 70B Instruct v0.4 を使用しました。 |
6 - vLLM を Tenstorrent の デスクトップ ワークステーション (TT-LoudBox) で動かしてみた |
vLLM を Tenstorrnet 社の 画像や生成AIに特化したデスクトップ ワークステーション TT-LoudBox で動かしてみました。 既存の GPU カードと比較してワットあたりのパフォーマンスやコストパフォーマンスが優れた製品となっておりますので、興味がある方はご覧ください。 さまざまなネットワークモデルに対応しておりますが、今回は Llama3.3 70B を使用しました。 |
お問い合わせ
本記事に関して、何かご質問がありましたら以下より問い合わせください。
Tenstorrent メーカー情報 Top へ
Tenstorrent メーカー情報 Top ページへ戻りたい方は、以下をクリックください。