LLMを使ったプロダクト開発について話せます
■背景
私は現在の特定のキャラクターやアイドルのように振る舞うAIエージェントを、LangChainやVertex AIをVerctor DBとして使ったRAGなどのLLM技術スタックを活用して作成しています。また、LangSmithを使用した実験管理環境や評価システムの構築など、LLMシステムを改善するための基盤作りにも取り組んでいます。
また現在AIチームは8人おりますが、3人のチームから採用を行いバックグラウンド豊かなチーム組成を行っています。
■話せること
プロダクト開発においてLLMを活用する勘所について話せます。
- プロンプトチューニングのテクニック
- RAGパイプラインの改善
- 評価メトリクスの策定
- 適切なモデル・技術スタック選定
また、LLMをシステムに組み込むケイパビリティを持った人材をどう育てる、もしくは自分がそうなる、または採用するか、などのチーム組成に関してもお話しできます。