LLMを業務プロセスに組み込む「ワークフロー」

生成AIに対し、単なる指示出しを超えて、業務プロセス全体を再設計してLLMの能力を引き出す「ワークフロー思考」について。生成AIを「単なる便利ツール」から、実務で役立つ「戦力」へと定着させるための具体的な仕組みについて考えてみます。

松本勇気著「生成AI「戦力化」の教科書」(株式会社日経BP)を参考にして。

目次

なぜ今「ワークフロー」なのか?プロンプトエンジニアリングの課題

多くの生成AI活用事例では、「プロンプトエンジニアリング」によって目的達成を目指します。

しかしながら、実務においては、それだけではイメージ通りの成果が出ないことがしばしばあります。

プロンプトだけでは解決できない課題

LLM(大規模言語モデル)には、一度に処理できる情報量(コンテキストサイズ)の制限や、長文読解の難しさといった課題があります。

そのため、複雑な業務を一つのプロンプトだけで完結させようとすると、精度が安定しません。

また、プロンプト自体が複雑化しすぎると、属人化して誰もが活用できるものではなくなってしまいます。

第3世代「LLMワークフロー」の登場

この課題を解決するのが、LLM活用のためのワークフローツール(第3世代)です。

ワークフローとは、単にプロンプトを改善するだけでなく、業務プロセス全体を小さなステップに分解し、LLMが効果的に機能する環境を再構築するものです。

  • 第1世代: 稟議・承認プロセス(紙の電子化)
  • 第2世代: SaaS間のAPI連携(Zapierなど)
  • 第3世代: LLM活用に特化し、AIと業務をつなぐ(Dify, n8n, Ai Workforceなど)

LLMの不得意な部分を補い、人間とAIの協働を最適化することで、誰でも安定した精度で業務を実行できるようにするのが、ワークフローの役割です。

LLMワークフローの仕組みと代表的なツール

では、具体的にワークフローはどのような仕組みで動いているのか。

ワークフローを構成する要素と、現在注目されている代表的なツールについて。

ワークフローの基本構成:ノードとモジュール

ワークフローツールは、画面上で「ノード(処理の部品)」を線でつなぎ、直感的に処理の流れを組み立てるのが一般的です。

  • ノードベースの定義
    「問い合わせ受信」→「分析」→「回答作成」のように、業務の手順(グラフ)を視覚的に定義します。
  • 多彩なモジュール
    LLMを呼び出すだけでなく、以下のような機能を組み合わせて一連のタスクを実現します。
    • LLM呼び出し: モデル選択やプロンプトの柔軟な構成。
    • データベース連携: ベクトル検索などを用い、RAG(検索拡張生成)を構築。
    • OCR機能: PDFや画像を読み取り、図表などを理解させる。
    • コード実行: Pythonなどでデータの加工や複雑な処理を行う。

代表的なLLMワークフローツール

それぞれのツールには得意分野があり、自社の環境に合わせて選定することが重要です。

  • Dify
    • 特徴: LLMアプリケーション開発のためのオープンソースプラットフォームで、RAG機能が統合されており、独自の知識ベースをスムーズに活用できます。
    • 強み: Notionなどのデータソース取り込みが容易で、セルフホスティングにも対応しているため、機密性の高いデータを扱う場合でも導入しやすい点が強みです。
    • 用途: 主に、RAGを活用したチャットボット構築などで利用されます。
  • n8n
    • 特徴: 「自動化の民主化」を掲げるオープンソースのツールで、LLMだけでなく400以上の外部サービスとの連携に重点を置いています。
    • 強み: 複雑なエラーハンドリング機能を備えており、システム間連携の高度化において威力を発揮します。
    • 用途: 簡単な連携から高度なAIエージェント開発まで幅広い自動化ニーズに対応します。
  • Copilot Studio
    • 特徴: Microsoft 365エコシステム(Teams、SharePointなど)との標準連携が最大の差別化要因です。
    • 強み: 企業固有の業務知識に適応させる「カスタムCopilot」の構築が可能で、Microsoft Entra ID統合による高度なセキュリティやPower Platformとの連携も魅力です。
    • 用途: 社内文書をもとにしたRAGや、Microsoft製品上での業務自動化に適しています。
  • Ai Workforce
    • 特徴: LayerXが提供する国産サービスで、エンタープライズ企業での文書処理に特化しています。
    • 強み: 数百ページに及ぶ契約書などの大規模文書も処理でき、個人情報を隠すマスキング機能など、日本の企業環境に即したセキュリティ機能を備えています。
    • 用途: 金融機関や行政など、機密性が高く文書業務の比重が大きい組織での活用に向いています。

LLMに仕事を教える「タスク分解」

ツールを導入しただけでは業務は自動化されません。

最も重要なのは、LLMという”優秀な新入社員”に、どのように仕事を教えるかというプロセス設計であると考えられます。

業務プロセスの分解(ステップ・バイ・ステップ)

人間が暗黙的に行っている作業を、LLMが理解できるレベルまで丁寧に分解する必要があります。

  1. 入出力の明確化
    何を入力(契約書など)とし、何を出力(レビュー結果など)とするかを定義します。
  2. ノウハウの言語化
    「違和感のある箇所を探す」といった曖昧な作業を、「特定の事項を探す」「ルールと照らし合わせる」といった具体的な手順に落とし込みます。
  3. 小さな実験の繰り返し
    最初から全てを自動化しようとせず、例えば、「契約当事者の抽出」といった1つのステップごとにGeminiなどでプロンプトを試して実現可能性を確認します。

小さく始めて「協働」をデザインする

LLMワークフロー活用のコツは、”人間とAIの協働”を前提に設計することであると考えられます。

すべての業務を100%の精度で任せるのではなく、「下書き作成はAI、最終確認は人間」のように、人間が介入するポイントを戦略的に配置することで、業務の質と効率を両立することができます。

まずは、頻度が高く面倒な業務(例:メールの要約や定型的なチェック)から小さくワークフロー化してみます。

そこで成功体験を作り、徐々に適用範囲を広げていくことが、LLMを組織の「戦力」へと育てる最短ルートであると考えられます。

この記事が気に入ったら
いいね または フォローしてね!

  • URLをコピーしました!

この記事を書いた人

長崎で活動する
税理士、キャッシュフローコーチ

酒井寛志税理士事務所/税理士
㈱アンジェラス通り会計事務所/代表取締役

Gemini・ChatGPT・Claudeなど
×GoogleWorkspace×クラウド会計ソフトfreeeの活用法を研究する一方、
税務・資金繰り・マーケティングから
ガジェット・おすすめイベントまで、
税理士の視点で幅広く情報発信中

目次