HiddenLayer（ヒドルンレイヤー）は、AIシステムを敵対攻撃から守ることに特化したセキュリティスタートアップで、M12とMoore Strategic Venturesを共同リードし、Booz Allen Hamilton、IBM、Capital One、TenElevenも参加した資金調達ラウンドで、5000万ドルを調達したことを本日発表しました。HiddenLayerの合計調達金額は5600万ドルになります。新しい資金は、HiddenLayerの販売促進活動の支援、年末までに従業員数を50人から90人に増やすための支援、さらなる研究開発への投資に充てられると、共同創設者兼CEOのクリス・セスティトはTechCrunchにメールで語りました。
「HiddenLayerは、AIを敵対的な攻撃から守るサイバーセキュリティ企業です。具体的には、AIの検出と対応を拡張しています。」とセスティト氏は語りました。「私たちは、世界中のあらゆる産業から求められている機械学習セキュリティプラットフォームに対応するために、急速にスケールアップしています。」
セスティト氏はJim BallardとTanner Burnsと共に、2019年にHiddenLayerを共同創設しました。セスティト氏は、後にBlackBerryに買収されたアンチウイルススタートアップのCylanceで脅威研究をリードしていました。
HiddenLayerのプラットフォームは、敵対的な攻撃、脆弱性、悪意のあるコードの注入からAIモデルを保護するためのツールを提供しています。AIシステムの入出力を監視し、モデルの信頼性を展開前にテストします。
「多くのデータサイエンティストは、複雑なデータセットから洞察を得る前に、事前に訓練されたオープンソースまたは独自の機械学習モデルを利用して分析時間を短縮し、テストの手間を簡素化しています。」とセスティト氏は述べています。「これには、公開で利用可能なモデルを改ざんされた転移学習攻撃にさらすことから組織を保護する必要があります。」
HiddenLayerは、独自のモデルへのアクセス権限を持つことで顧客が心配することを防ぐために、モデルの入力ベクトルや出力などの数学的表現のみを観察する技術を使用していると主張しています。
「システムは、明示的に教えられることなく、個々のAIアプリケーションにとって正常な状態を学習します。」とセスティト氏は述べています。
HiddenLayerはまた、非営利のMITRE社が維持する敵対的なAI戦術と技術の知識ベースであるMITRE ATLASへの貢献も行っています。HiddenLayerは、ATLASにリストアップされた64種類の攻撃、IP盗難、モデルの抽出、推論攻撃、モデルの回避、データ操作などを含む全ての攻撃に対して保護できるとセスティト氏は主張しています。
HiddenLayerの取り組みについて、私が最後に尋ねたAI研究者マイク・クック氏（Knives and Paintbrushes集団）は、「真に画期的で新しいかどうかは明確ではない」と述べましたが、攻撃に関する知識を広く利用可能にすることで利益があると指摘しました。
AIに対する大規模な攻撃の実例を具体的に挙げるのは難しいです。Arxiv.orgという科学出版サイトでは、2016年の56件から2019年には1500件以上のAIセキュリティに関する論文が発表されたと、Adversaraの調査報告によります。しかし、商用顔認識システムへのハッカーによる攻撃の試みなど、そのような攻撃が実際に行われているかどうかの公的な報告はほとんどありません。
一方、いくつかの政府機関はAIシステムへの攻撃の可能性に警鐘を鳴らしています。
最近、英国のサイバーセキュリティ統括機関であるNational Cyber Security Centerは、脅威アクターが大規模な言語モデルチャットボット（例：ChatGPT）の技術を操り、機密情報へのアクセスや攻撃的なコンテンツの生成、予期しない結果を引き起こすことなどを警告しました。また、昨年、米国政府の科学技術政策局は「AIの権利法案」を公開し、AIシステムが安全かつ効果的であることを示すために、導入前のテスト、リスクの特定と軽減、継続的なモニタリングを推奨しています。
企業もまた、この見方に徐々に賛同しています。
HiddenLayerの委託で行われたForresterの調査によると、回答した企業の大多数が、現在AIモデルの脅威に対処するために手動プロセスに頼っており、86%が組織の機械学習モデルのセキュリティに「非常に懸念しているか心配している」と回答しました。一方、Gartnerによれば、2022年には5組織に2つがAIのプライバシー侵害やセキュリティインシデントを経験し、その攻撃の4分の1が悪意あるものだったと報告しています。
セスティト氏は、今日の脅威がどの程度であろうとも、AI市場とともに成長すると主張し、それがHiddenLayerの利益になると述べています。彼は、Robust Intelligence、CalypsoAI、Troj.aiなど、既にAIシステムをより堅牢にする製品を提供しているスタートアップがいくつか存在するが、HiddenLayerがAI駆動の検出と対応の方法で他とは異なると主張しています。
HiddenLayerは、DatabricksやIntelとの提携に加えて、財務、政府、国防（米空軍、宇宙軍など）およびサイバーセキュリティの業界でもフォーチュン100の顧客を獲得していると主張しています。
「AIの採用の激しいペースにより、多くの組織が機械学習に伴うリスクと攻撃に対処するために必要な適切なプロセス、人材、制御を確立することに苦労しています。」とセスティト氏は述べました。「AIと機械学習を組織に導入するリスクはますます増大しています…私たちは、世界中のあらゆる産業からの需要に対応
元記事はこちら
