- 2024/11/27
- https://kgdc.connpass.com/event/334391/
自動プロンプトエンジニアリング（Automatic Prompt Engineering）のすゝめ
プロンプトチューニング
- KTECのNLPチーム
- 2017から活動している
- プロンプトチューニングが大変
- 何ヶ月もかけてやったり
- LLMのバージョンアップするとそれまでのノウハウが通じなくなる
- 自動プロンプトエンジニアリング
- プロンプトを自動で生成して評価して最適化する手法
- 代表的な手法
- APE/OPRO/AutoPrompt
- 英語だし環境構築が大変だったり
- meta-prompt
Azure OpenAIを活用した資料検索・作成支援プラットフォームの開発
生成AIの活用
- KGA
- 資料作成の効率化支援
- 資料検索を生成AIでクイックに
- 大企業で社内の資料を検索するような場面がターゲット?
- アーキテクチャ
- Azure OpenAI Service
- SharePoint上にデータ
- スライドをページ単位で画像と抽出テキストを解析できるように
- ページごとの要約とドキュメント全体の要約を格納して検索することで検索のスピードを出す
GenAIを活用した社内オペレーションモデルの変革
- ARISE analytics：梁 臻煥さん
ARISEの生成AI活用
- Work/Workforce/Workerの観点
- 組織内でも事業部によって多様
- 生成AIを前提とした業務再設計
- データ駆動のアーキテクチャ
- 企業文化マインドチェンジ
- 生成AI活用
- 分析サポート
- 可視化や解釈の負荷が高い
- 目的などをインプットして可視化の提案などを補助
- スクリプトも生成してくれたり
パネルディスカッション～KDDIグループにおける生成AIの自社での活用状況と今後の展望～
- Supership：名畑真一さん（執行役員CTO / システム統括本部長）
- mediba：下地史紘さん（CTO/VPoE）
- KDDIアジャイル開発センター：岡澤克暢さん（VPoE／開発戦略本部長）
- KDDI：浅川善則さん（ビジネス事業本部 プロダクト本部 プロダクト戦略部 副部長）
- ARISE analytics 上山 卓真さん（ユニットリード）
- KDDIテクノロジー：嶋 是一さん（CTO）
生成AI導入で難しかったことと解決策
- 認識合わせが大変
- 信頼してもらって意見が通るように
- 導入しても業務に定着しない
- 関心の高い人がいろんなことを共有していって
- 生成AIの技術をどう開発メンバーにインプットしていくか
- 横串のコミュニティでナレッジためていった
- 理解度や知識の格差
- ワークショップとかたくさん使って底上げしていく
