半月前、チップメーカーのTenstorrentはおよそ7億ドルの資金調達を達成し、開発者は今やKoyebでTenstorrentのAIアクセラレータを試すことができるようになりました。TenstorrentはRISC-V命令セットアーキテクチャを中心にビルドされたAIプロセッサを販売しており、独自のオープンソースニューラルネットワークライブラリであるTT-NNとオープンソースの低レベルプログラミングモデルであるTT-Metaliumを開発しています。
Tenstorrentは、NvidiaのGPUや同社のCUDAライブラリに代替案を提供しようとする企業グループの一環です。Axelera、Etched、Groqなどと競合しています。Axelera、Etched、Groqなどが含まれます。
Fly.io、Railway、Renderなどと競合する、Scaleway幹部出身のメンバーによって設立されたKoyebは、クラウドインフラストラクチャの抽象化レイヤーを探している開発者向けのサーバーレスクラウドプラットフォームの開発に焦点を当てています。
インテグレーションした後、コマンドラインインターフェースやgit pushを使用して複数の仮想マシンにアプリケーションを展開できるKoyebは、Dockerコンテナや多くの人気のある言語をサポートしています。
Koyebの主な機能の1つは、必要に応じてアプリケーションを数百台のサーバーに自動的にスケーリングし、トラフィックが少ない時にはサーバーインフラを自動的に縮小できることです。
ここ数ヶ月、Koyebは特にAIアプリケーションに焦点を当てています。プラットフォームのサーバーレス性質のため、AIワークロード向けに低レイテンシーの体験が提供できます。
ハードウェア面では、Koyebは自社のデータセンターにTenstorrentのPCIeボードを展開しています。開発者は、ホストとカーネルプログラムを記述するための低レベルTT-Metalium SDKにアクセスできます。
開発者は、Koyebのドキュメントと管理パネルに2つの新しいインスタンスタイプを見つけることができます：
- TT-N300Sインスタンスは24GBのGDDR6メモリ、192MBのSRAMを搭載し、最大466 FP8 TFLOPSを提供します。64GBのRAMと4つのvCPUがペアになっています。
- TT-LoudboxインスタンスにはN300Sが4つ搭載されています。開発者には96GBのGDDR6、768MBのSRAM、最大1,864 FP8 TFLOPSが提供されます。256GBのRAMと16つのvCPUが特徴です。
このリリースでは、Koyebはハードウェアに中立なクラウドプラットフォームとしての位置づけを図ろうとしています。「高性能チップによるサーバー市場へのARMの登場を思い出させます」と、Koyebの共同創業者兼CEOのYann Leger氏がTechCrunchに話しました。
「ScalewayでARMを2013-2014年に完全カスタマイズされたサーバーを提供した経験から、さまざまなアーキテクチャの展開とさまざまなハードウェアの運用における経験があります」と彼は付け加えました。
一方、AIチップメーカーであるTenstorrentは、オープンソースプログラミングモデルを取り巻く開発者エコシステムを構築するパートナーを探しています。NvidiaのAIスタックに代替案を提供するには、多くの協力が必要です。
元記事はこちら
