元メタのエンジニア達によって運営されているスタートアップ、TrueFoundryは、企業がAIシステムを規模で展開するのを支援するため、インテル・キャピタル主導による1,900万ドルの新規投資を調達しました。
ChatGPTのローンチ後の2022年11月にGenAIが現れて以来、あらゆる規模の企業がAIを取り入れる方法を模索しています。しかし、GenAIは大規模な言語モデルに依存して知能（効率）を提供し、膨大な計算能力を要求します。すべての企業が数百または数千のGPUにアクセスする利点を持っているわけではないため、GPUの最適化が不可欠です。さらに、企業は最適なモデルを見つけるために複数のモデルで実験し、既存のモデルを微調整して、AIシステムを自社の業務に適合させる必要があります。
TrueFoundryは、プラットフォーム・アズ・ア・サービス・モデルで利用可能なソフトウェアを提供することで、これらすべてに取り組んでいます。フルスタック・データサイエンティストをターゲティングして、オートスケーリング、予防的メンテナンス、中央のアクセス制御、およびリアルタイムモニタリングなどの機能を提供し、エンドツーエンドのAI展開を簡素化しています。
2021年6月に、元メタのエンジニアであるNikunj BajajとAbhishek Choudharyと、IIT Kharagpurの同期であるAnuraag Gutgutiaによって設立されたTrueFoundryは、当初、マシンラーニングの展開を高速化するためのクロスクラウドネイティブソフトウェアを提供していました。しかし、GenAIが2023年に主流になると、スタートアップはシステムを変更してGenAIの機能をサポートするようにしました。
独占インタビューでGutgutia氏は、「以前、データサイエンティストはモデルでの作業や実験に従事するだけであり、展開の多くはMLエンジニアに任されていました。しかし、私たちのシステムを使うことで、データサイエンティスト自身が実際にこの複雑なシステム全体を構築し、スケールでテストしてから、最終的な展開のためにプラットフォームチームに引き渡すことができるようにしています」と述べました。
TrueFoundryは、AIを利用してログやメトリクスを見てGPUの使用率を調整し、メモリ要件を修正することでAIアプリケーションのスケーリングを支援する自動操縦システムというソフトウェアソリューションを提供しています。
現在、TrueFoundryは世界中で30人の有料顧客を抱え、実験用にオープンソースのRAGフレームワークにアクセスする「多くの」ユーザーがいます。これらの顧客の中には、GPUの巨人NVIDIAが自社のGPUクラスタを最適化するエージェントを構築・展開するためにソフトウェアを利用しています。メディカルテクノロジー企業のResmedもTrueFoundryの提供を利用して内部AIプラットフォームを開発しています。同様に、Siemens Healthineers、Automation Anywhere、Games24x7、Whatfixもその顧客に含まれています。
スタートアップは、Kubernetesを使用してソフトウェアを設計しており、これによりマルチクラウド対応になり、AWSやGoogle Cloud Platform、Azureなどの主要なクラウドプラットフォームと互換性があります。さらに、企業はプラットフォームをオンプレミスにネイティブデプロイできます。
TrueFoundryを利用する企業は、内部AIプラットフォームを2ヶ月で構築・立ち上げ、14ヶ月という業界平均とは異なる期間でROIを達成しています。Bajaj氏は述べており、Gutgutia氏は、エージェント、RAG、複雑なディープラーニングモデル、または微調整されたモデルに取り組んでいるかどうかにかかわらず、インフラ費用について約40〜50％のコスト削減とデプロイメント速度の10倍改善を顧客に提供していると述べました。
AmazonのSagemakerやGoogle CloudのVertexなど、クラウドベンダーはAIモデルの構築と展開を簡素化するための独自のソフトウェアを提供し始めました。それにもかかわらず、Gutgutia氏はTechCrunchに対して、TrueFoundryのソリューションはまだ重要であり、クラウドプロバイダーのために「コンピュートの使用を加速し」、AIアプリの上市までを加速し、全体のコストを削減するのを支援していると述べました。
今回の全株式シリーズAラウンドには、Eniac Ventures、Peak XV Partners、Jump Capital、およびGokul Rajaram、Mohit Aron、Cyan Bainsterなどのエンジェル投資家が参加しました。
スタートアップは、45人のメンバーを持つインド拠点のチームを拡大し、米国にセールス、カスタマーサクセス、プロダクトマーケティング役職を導入すると共に、特にクラウドベンダーやパートナーシップに投資する計画です。また、AWS Marketplaceを始めとする主要なクラウドマーケットプレイスに掲載する手続きも進行中です。
さらに、TrueFoundryは、適切なリソースを提案し、オートスケーリングやトラブルシューティングを可能にするAIエージェントを立ち上げることを目指しています。
今回の新規調達で、TrueFoundryは合計2,100万ドル以上を調達し、2022年9月にPeak XV（当時のSequoia India）のSurgeが主導した2,300万ドルのシードラウンドも含まれています。
去年、スタートアップは顧客基盤を4倍に拡大し、MLワークロードのクライアントに1,000を超えるクラスタを展開しました。Gutgutia氏はTechCrunchにも、現在の年間再繰り返し売上（ARR）は「150万ドル以上」であり、今年それを倍増する見通しであると述べました。
元記事はこちら
