Shingo Yoshida
分野: SaaS, Chatbot, AI
ユースケース: Chatbot Cache
2020年に設立されたCYDAS は、日本におけるHRテックサービスのリーディングカンパニーです。人事チームの組織マネジメントと従業員サービスの拡張を支援するツールを提供しています。従業員数が数百人から数万人まで、あらゆる規模の企業が当社の製品を利用し、従業員エンゲージメントの強化を推進しています。
HRチームの負担軽減
社員が人事部に質問してきた場合、迅速に回答することが不可欠です。このような質問に対する回答は、社内の多数のFAQや既存のドキュメントの中に見つかることが多いのですが、従業員が検索に異なる単語を使用するために失われてしまうことがよくあります。”休暇日 “のクエリでは、完全一致の回答が得られる可能性が高いですが、誰かが “休日 “とクエリを組み立てた途端、単純なフルテキストクエリの回答では、検索結果のトップに休暇ポリシーのページが表示されなくなる可能性があります。手作業による問い合わせは、それがどんなに答えやすいものであっても、すぐに蓄積され、窮地に立たされた人事チームにとって持続不可能な仕事量となります。
そこで私たちは、大規模言語モデル（LLMs）のパワーを活用した直感的なチャットボットの開発に着手しました：それが、CYDAS PEOPLE Copilot Chatです。
AI搭載チャットボットの構築
私たちは特にLangChainと、それを使って開発者コミュニティが構築している多数のチャットボットに興奮していました。ただ、ここに一つ問題がありました。サーバーを設置したり、アイドル状態のインフラにお金を払ったりすることなく、チャット履歴を一時的に保存し、すぐに高い可用性を得たいと考えていました。そこでMomento Cacheが登場したのですが、これは完全にサーバーレスのキャッシュサービスです。Momentoとインテグレーションして、本番環境でチャット履歴を2時間以内に保存することができたのです。
チャットボットを構築し、デプロイを開始した直後、LangChainがMomentoとのインテグレーションを発表したことに気づきました。これにより、Momentoをチャット履歴の保存だけでなく、プロンプトのキャッシュとしても使えるようになりました。ユーザーが既に回答済みの質問をした場合、チャットボットはPineconeやOpenAIにコールすることなく、より早く回答を提供することができます。
次に向けた準備
Momentoにはとても満足しています。サービスは使いやすく、高速で安定しており、メンテナンスウィンドウもありません。将来的には、Momento Cacheをもっと大規模なワークフローに利用する予定です。当社の主要なCYDAS PEOPLE製品のアプリケーションキャッシュを置き換えるつもりです。
Momento Cacheでチャットアプリケーションのコスト削減とパフォーマンス向上を実現しましょう。今すぐサインアップしてお試しください。
Shingo Yoshida
CYDAS CTO、Section-9 CEO、AWS Serverless Hero。日本におけるサーバーレスムーブメントの立役者として知られ、パフォーマンスチューニング、エンタープライズアーキテクチャ、ビッグデータに関する豊富な専門知識を生かし、世界中の企業のデジタルトランスフォーメーションに貢献している。