GPT-4oでベテラン社員がAIチャットボットに！注目のRAGで業務効率化

この記事では、GPT-4oとRAG（検索拡張生成）の技術を活用して、ベテラン社員の知識やノウハウを生成AIチャットボットで効率的に共有する方法を検証し、解説しています。

AI技術が急速に進化する中、AIチャットボットを活用した業務の自動化や効率化が各企業の重要なテーマとなっています。その中でも特に注目されているのが、GPT-4oに代表される生成AI（LLM）とRAG（検索拡張生成）の技術です。

◇生成AIチャットボットによる社内データ活用

最近、生成AIの業務活用が注目されているのは、単なるデータ処理の道具ではなく、自然な会話（チャット）が可能で、高度な知識を持つアシスタントを構築できるからです。特に、労働人口の減少が深刻な社会問題となっている日本の企業において、生成AI活用は必須といっても過言ではありません。多くの企業が、生成AIを使って人手不足を補ったり、業務の効率化を目指しています。

生成AIは、RAGによって企業内のデータと連携することで、社内に蓄積された知識やノウハウを全ての社員に効率よく共有できるというメリットがあります。
事業規模の大きな企業や長い歴史を持つ企業ほど、蓄積された知識やノウハウが属人化してしまいがちです。そういった状況下では、専門的な知識を持つベテラン社員に問い合わせが集中し業務効率が落ちてしまったり、その社員が退職することで従来の業務プロセスが成り立たなくなるおそれもあります。属人化した情報を生成AIチャットボットに集積し、適切に抽出できる仕組みを構築することで、ビジネスプロセス全体の効率化が期待できるのです。

生成AI活用による業務効率化については、下記の記事も併せてご覧ください。
→ 【事例紹介】社内業務への生成AI活用を成功させるコツ
→ 生成AIの業務活用状況まとめ。国内企業の現状は？

◇生成AI（GPT-4o）活用の基本

まずは、今回の検証に必要不可欠なGPT-4oとRAG（検索拡張生成）について簡単に説明します。

◆RAGとは？

RAG（検索拡張生成）とは、GPT-4oなどの生成AIにデータベース検索を組み合わせた技術です。通常の生成AIは、学習済みのデータに基づいて文章を生成しますが、RAGを備えたチャットボットはリアルタイムで外部のデータベースを検索し、その結果を基により正確な回答を生成します。

これにより、AIチャットボットは学習済みのデータに頼らず、常に最新かつ信頼性の高い情報を基に回答を提供できるのです。特に、業界特有の知識やベテラン社員の暗黙知のような高度な情報にも対応できるため、企業での生成AI活用には必要不可欠な技術といえます。

RAGについて、詳しくはこちらの記事もご覧ください。

◆GPT-4oとは？

GPT-4oは、LLM（大規模言語モデル）であるGPTシリーズを開発・提供するOpenAI社が2024年5月に発表した最新のAIモデルです。
ひとつのモデルでテキスト、画像、音声などのデータを処理できるマルチモーダルAIであり、高い自然言語処理能力を備えています。また、入力可能なトークン数の上限は、前身のGPT-4が3万2768トークンであるのに対し、GPT-4oは12万8000トークンと約４倍となっています。これは、一度に処理できるテキストデータの量が大幅に増加したことを意味します。
現時点（2024年9月）において最高峰の性能を有するAIモデルであり、様々なAIツールやサービスに組み込まれ、活用されています。

◇検証！GPT-4oでベテラン社員をボット化してみた

今回の検証では弊社（SELF株式会社）の提供する「SELFBOT」を使用します。
SELFBOTは「GPT-4o」と連携し、RAG（検索拡張生成）の仕組みを有する生成AIチャットボットサービスです。
→生成AIチャットボット「SELFBOT」の詳細はこちら

◆チャットボット化するベテラン社員

今回、GPT-4oで再現するベテラン社員はSELF株式会社（弊社）の佐藤史章氏です。佐藤氏は入社7年目ですが、創業10年の弊社においては立派なベテラン社員の一人と言えます。
佐藤氏は弊社のCFOでありながら、「SELFBOT」のアカウントマネージャーでもあります。経理・人事・労務など様々な部門に精通しており、日々クライアントからの問い合わせに対応しつつ、社員からの質問にも回答しなければなりません。そのため、佐藤氏の業務は多忙を極め、社員からの問い合わせに迅速に対応できない場面もしばしば見受けられます。
この佐藤氏と同等の知識を有するAIアシスタントが存在すれば、弊社の全社員の業務プロセスが間違いなく改善されることでしょう。

◆ステップ１：データベース（リソース）構築

まずは佐藤氏の持つ膨大な量の知識（ナレッジドキュメント）をデータ化し、AIでの処理に適した形に調整します。今回は、佐藤氏本人協力のもと、下記の資料をデータとして利用します。

• 就業規則資料
• 各種業務マニュアル
• 社内システム利用マニュアル

これらのデータ群が、ボットが回答する際の根拠（リソース）となります。そのため、この段階で重要なのは具体的かつ体系化されたデータベースを整備することです。

PDFなどの資料は人間が扱うことを前提としたファイル形式であり、機械的な処理に不向きな場合があります。そういったデータ（非構造化データ）を機械的な処理に適した形に変換することを、データの構造化と呼びます。

またRAGでは、検索対象となるデータが低品質の場合、精度の高い回答は出力できません。そのため、データベースに含まれる余計な情報を除去したり、表記やフォーマットを統一することで、データの品質を高めることが重要です。

SELFBOTは自動でデータを最適化する機能を備えていますので、データ整備の手間を省くことができます。佐藤氏のAI化に利用するデータの形式はPDFドキュメントやWord、Excelなど多岐に渡りますが、SELFBOTなら変換不要で即アップロード可能です。

◆ステップ２：プロンプト構築

次に、SELFBOTの管理コンソールを使って制御用のプロンプトを設定します。
ここにAIアシスタントとしての役割や出力時のルール、参考とする会話例などを記載することで、最終的にGPT-4oが生成する回答の精度が向上します。
今回は、下記の内容を含む制御プロンプトを設定します。SELFBOTの管理コンソールから登録した制御用のプロンプトはユーザー入力文と併せてGPT-4oに送信され、生成結果に影響します。このプロンプトの設定によってボットの安定した挙動を実現させることができます。

• ボットの役割はSELF株式会社のヘルプデスク担当者である
• データベースから取得した情報をもとに回答を生成すること
• 回答として適した情報を取得できず、正確に答えられない場合はその旨を明示すること
• 箇条書きやマークダウン形式で簡潔に回答すること
• 労いや励ましの言葉を交えて回答すること

データベース検索によって取得した情報のみに基づいて回答を生成するのがRAGの基本です。
データベースの情報とLLMが事前学習済みの情報が混ざってしまうとハルシネーション（誤情報の出力）が生じてしまう恐れがあるため、プロンプトで明確に指示しておきます。

◆ステップ３：検証

データベース構築とプロンプトの設定が済んだら、ボットの準備は完了です。
弊社のベテラン社員、佐藤氏をAI化した「AI佐藤」が誕生しました。ちなみにAI佐藤はSELF社内からのみアクセス可能な環境で動作するよう設定してあるため、社外からのアクセスによって情報が漏洩する心配はありません。

早速、AI佐藤の実力を検証してみましょう。ベテラン社員にふさわしく、クライアントからの問い合わせや社員からの質問に的確な対応ができるでしょうか。

まずは簡単な質問をしてみます。資料内に明確に答えが書いてある質問なので、この質問に答えられないようでは話になりません。

Q. タクシー代を経費として申請する手順を教えてください。

無事、正確な回答を得ることができました。
回答となる情報は全てリソースに含まれる情報に準拠しており、誤った情報や余計な付け足しもありません。一方、文末には「頑張っている皆さんのサポートができるよう、私も全力でお手伝いします！」と社員の気持ちに配慮する一言も添えてくれており、好印象です。

ちなみに、回答の下に表示されている薄紫色のボタンは、回答の根拠となったリソースへのリンクとなっており、クリックすると下図のように元のデータを表示することができます。元のリソースを確認することで、ボットの回答が正しいものであることを確認することができます。このドキュメントビュー機能は、SELFBOTの標準機能の一つです。

続いて、少し判断が難しい質問をしてみましょう。ベテラン社員の佐藤氏なら適切に答えられるはずですが、AI佐藤はどうでしょう。

Q. クライアントと個人的な飲み会があるのですが、飲食代は経費で落ちますか？

こちらの質問に対しては、リソースの中に明確な回答がありません。
そのためAI佐藤は、担当者に相談することを勧めた上で、経費申請の基本ルールを提示しています。一律に判断できない質問への対応としては、合格点と言えるでしょう。
文末の「元気出していきましょう！」はややおざなりに感じられますが、問題というほどでもないでしょう。

続いて、社内で利用しているツールについて質問してみます。
社内システムが自分だけうまく動かない時の対処法など、日々の業務の中で人に聞くのは躊躇われがちな内容ではないでしょうか。

Q. ウィルス対策ソフトが起動してくれません。どうすればいいですか？

マニュアルに記載してある情報をもとに、しっかり回答してくれました。
こういったマニュアルをもとにした具体的な情報の検索は、RAGの最も得意とするところと言えるでしょう。

最後に、リソースにある情報では回答できなさそうな質問をしてみます。

Q. 仕事をやる気が起きません。どうすればいいですか？

この質問に対しては、SELFの掲げるミッション・ビジョン・バリューの情報を引き合いに出して回答してくれました。きちんと登録したリソースの中からのみ情報を引用して回答しているあたり、GPT-4oとRAG技術の進歩を感じます。

◇社員によるAIチャットボット（GPT-4o）の評価

AI佐藤（チャットボット）を使ってみた感想を、SELF社員に聞いてみました。

◆社員の声

これまで就業規則やルールについて調べる際は、まず資料がどこにあるかを探すことから始めていましたが、このボットを使えば、質問を入力するだけで欲しい回答を得ることができるので非常に効率的だと思いました。聞きにくいことを気軽に聞けるのも良い点ですね。 
−ディレクター（入社10年目）

直接担当者に話しかけるとなると、タイミングにも気を遣いますが、botだと自分の好きな時に気軽に聞けます。また、他の社員の前では話しづらい内容（産休・育休制度や生理休暇など）も聞けるのが良いです。引用リソースも出てくるので、更に詳しく知りたい時はどの資料を見たら良いかすぐにわかるのも助かります。　
−デザイナー（入社2年目）

最近はリモートワークなども当たり前で、チャットでのコミュニケーションが中心です。お互いの状況が視認できないため、気軽にコミュニケーションがとれず、業務上のちょっとした疑問を解消しづらい状況が多くあります。そんな中で、いつでもどこでも気軽に質問できるAI社員は、業務効率をグッと高めてくれると感じました。回答が間違っていないか、リソースを閲覧してファクトチェックを行なっていますが、今のところ誤った回答はないようです。GPT-4o×RAG、すごいですね。
−PR担当（業務委託）

AI佐藤はSELF社員からも概ね好評なようです。
弊社は社員数もそれほど多くなく、社員同士の距離感も近いため、コミュニケーションは比較的とりやすい環境です。そういった環境でも、業務上の疑問を人に質問して解消するには、時間的なロスと心理的な消耗が生じます。AI佐藤には、そういった業務上の非効率性を是正する効果があったことが、実際にAI佐藤を利用した社員の声から読み取れます。
また、SELFで働くに当たって必要なことを丁寧に教えてくれるAI佐藤は、新入社員教育にも使えそうです。次にSELFに新たな社員が入社した暁には、ぜひAI佐藤を使ってみてもらいたいところです。

◆ベテラン社員の生成AIチャットボット化-まとめ

今回の検証結果として、既存の資料をデータベース化して適切なプロンプトで制御することで、かなり精度の高い回答を出力できるAI社員を作成することができました。
GPT-3.5 Turboなどのモデルでは、RAGやプロンプト制御を行なっても、高い頻度でハルシネーションが発生していましたが、今回の検証で利用したGPT-4oでは全ての質問に対してリソース内の情報でのみ回答が出力されており、GPTモデルの確かな進歩を感じます。

あえて難点を挙げるとすれば、本物のベテラン社員ほどの臨機応変な対応力は再現できない点です。当然ですが、AI社員は登録したリソースにない情報は答えることができませんし、一つの質問から掘り下げるように細かい質問を積み重ねていくと、その過程でハルシネーションが起こる可能性も考えられます。AI社員に質問して得た回答が正しいかどうかを人間の社員に確認しなければならない、といった二度手間が発生しては元も子もありません。
そういった場合には、データベースの整備やプロンプト構築に留まらず、さらにボットの回答精度を高める工夫が必要になるでしょう。

◇「AI社員」が企業の人手不足を解消する

ベテラン社員のAI化のメリットとしては、ボットへの質問は人への質問に比べて心理的なハードルが低いということが挙げられます。例えば、会社の上司や同僚に何度も同じ質問をするのは気が引けますが、ボットが相手なら質問の頻度など全く気になりません。また24時間365日、即座に対応してくれるところもポイントです。時間帯やタイミングを一切気にすることなく質問でき、しかも即座に回答を得られるため、業務効率の改善が期待できます。

GPT-4o連携の生成AIチャットボットなら「SELFBOT」

今回は、弊社が開発・提供を行う「SELFBOT」でボットを作成したため、ボットの構築は数分で完了しました。SELFBOTは自動でデータを機械的な処理に最適な形に変換してくれるため、生成AIチャットボットの構築において大きな負担となるデータの前処理が必要ありません。
また、制御用プロンプトの付与やリソースの追加は専用の管理画面（コンソール）から簡単に行うことができ、ノーコードで高品質の回答出力が可能なAI社員を作成できました。

今後、日本では少子化の影響で労働人口が減少し、企業の人手不足が深刻化すると懸念されています。そんな中、ベテラン社員の持つ知識やノウハウを集約した生成AIツールの活用は社員の業務効率を高め、限られた人員での生産性向上に貢献するでしょう。

無料体験セミナー実施中

SELF株式会社ではSELFBOTの無料体験セミナーを定期的に開催しています。
無料体験セミナーでは、SELFBOTの管理画面を使って、RAG用データベース構築から運用、改善の流れをハンズオンでご体験いただけます。セミナーへのお申し込み、その他SELFBOTに関するご質問、資料請求等は、下記よりお気軽にお問い合わせください。