98. LLMを活用したソフトウェアアーキテクチャと代表的なユースケース w/ ryohtaka

マイクロソフトの大髙さんに、LLMを活用したソフトウェアアーキテクチャ、langchain、LLM活用のコスト、代表的なユースケースなどについて語っていただいたエピソードです。話したネタLLMを活用したソフトウェアアーキテクチャCopilot StackModel/Orchestrator/Copilot代表的なOrchestratorのフレームワークlangchaingsemantic-kernelフレームワークの抽象度デグレ探し・リグレッションテスト大変問題GPT-4 のコストの話チャット検索である必要性クエリとチャットの逆転現象検索の下地にあるデータが結局重要参考：チャット検索やRAGの話エンベディングとコサイン類似度参考：LangChain の Vectorstore として Azure Cache for Redis を使ってベクトルの格納と検索を行う抽象化すると、LLMを活用したユースケースはどういうものが多い？情報検索、情報分類、情報抽出非構造化データから構造化データへAzure OpenAI Service の GPT-4 を使ってギリシア神話に登場する神々の関係性を抽出してグラフデータベースに格納するMicrosoft Build 2023Microsoft Build JapanryohtakaのZennZennのMicrosoft PublicationQiitaのMicrosoft Organization公開収録fukabori.fm ep.100 公開収録(2023/7/24)の募集ページSee Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.