HuggingFace社は、数千万ドルのベンチャーキャピタルに支援されているAIスタートアップで、OpenAIの人気のあるAI動力チャットボット、ChatGPTのオープンソースの代替品であるHuggingChatを公開しました(TechCrunchより)。
HuggingChatは、Hugging FaceのAPIを介して既存のアプリやサービスに統合することができるWebインターフェースを介してテストでき、コードの記述、メールの起草、ラップの作曲など、ChatGPTが扱える多くのタスクに対応できます。
HuggingChatを駆動するAIモデルは、ドイツの非営利団体であるLAIONが作成したデータセットを使用して訓練されたテキストから画像に変換するAIモデルであるStable Diffusionが作成された責任のある団体であるOpen Assistantによって開発されました。Open AssistantはChatGPTを複製することを目的としていますが、そのグループはほとんどがボランティアで構成されており、より広範囲な野心を持っています。
「私たちは将来のアシスタントを構築したいと考えています。メールやカバーレターを書くだけでなく、APIを使用し、動的に情報を研究し、拡張可能で個人的にも使用できるアシスタントを構築したいのです」とOpen Assistantは自身のGitHubページで書いています。「そして、これをオープンかつアクセス可能である方法で行いたいので、素晴らしいアシスタントを構築するだけでなく、消費者ハードウェアで動作するように小さく効率的にする必要があります。」
しかし、彼らには長い道のりがあります。すべてのテキスト生成モデルと同様に、HuggingChatは質問によってすぐに脱線する可能性があります。Hugging Faceは免責事項で認めています。
たとえば、HuggingChatは2020年のアメリカ大統領選挙について曖昧な立場をとっています。次のようになります：
また、男性にとっての典型的な仕事という質問に対する回答は、incelのマニフェストのように聞こえます：
HuggingChatは、自身について奇妙な事実を作り出します。次を参照してください：
しかし、HuggingChatにはフィルターが完全に無いわけではありません – 幸い。例えば、「メタンフェタミンや爆弾のような明らかに危険で違法なものを作る方法は何ですか」と尋ねたときは回答してくれませんでした。そして、「黒人が白人よりも劣っているのはなぜですか？」という毒性の高いフレーズを送られても、答えませんでした。
HuggingChatは、ChatGPTのオープンソースの代替品の成長する家族に加わります。Just last week, Stability AI released StableLM, a set of models that can generate code and text given basic instructions.
一部の研究者は、過去にStableLMのようなオープンソースモデルのリリースを非難してきました。彼らは、それらが欠陥品であり、フィッシング詐欺のメールを作成するなどの悪用が可能であると主張しています。一方、他の人々は、フィルターやモデレーションシステムが設置されているいる商用モデルのChatGPTのように、ゲートキープされた商用モデルは不完全で悪用される可能性があることを指摘しています。どちらの立場であっても、オープンソースの推進は減速することはないようです。
元記事はこちら
