AI活用概論

演習：業務におけるAI活用設計

概論AI活用ChatGPTGeminiClaude基礎から学ぶ

この章で最初に押さえる考え方

業務に生成AIを取り入れるときに重要なのは、「使えるかどうか」を感覚で判断することではありません。重要なのは、その業務の目的、工程、確認方法、責任の所在を整理し、そのうえでAIをどこに配置するかを設計することです。

NISTのAI RMFは、AIリスクを管理するためには、設計・導入・運用・評価を一連の流れとして扱う必要があると示しています。生成AIプロファイルでも、人間による監督、妥当性確認、情報の完全性、誤生成への対応が重要な論点として整理されています。

この章で扱う「AI活用設計」とは、業務を細かい工程に分け、それぞれについて「AIが支援する工程」「人間が担う工程」「共同で行う工程」を明確にすることです。これは単なる効率化の話ではなく、品質管理と責任設計の話でもあります。OECDは、信頼できるAIの前提として、人間の監督、説明責任、人間中心の運用を重視しています。

演習の目的

この演習の目的は、生成AIを使う体験を増やすことではありません。目的は、業務の中でAIを適切に使うための設計力を身につけることです。つまり、「この仕事にAIを入れると便利そうだ」で止まらず、「どの工程なら有効か」「どの工程では危険か」「確認はどこで行うか」まで考えられるようになることが目標です。NISTのAI RMFは、こうしたリスクベースの設計を、信頼できるAI運用の中心に置いています。

また、教育・研究の文脈でも、生成AIの活用では人間の能力形成と批判的な確認が重要だとされています。UNESCOは、生成AIを単なる自動化装置としてではなく、人間中心に設計し、適切な関与を残すことの重要性を示しています。業務演習でも同じです。AIを使って速くするだけでなく、判断を鈍らせない設計が必要です。

AI活用設計とは何か

AI活用設計とは、業務をそのままAIに投げることではなく、業務の構造を見える化し、その中でAIの役割を限定して配置することです。生成AIは、草案作成、要約、言い換え、候補提示、整理といった工程では高い効果を発揮しやすい一方で、最終判断、責任判断、厳密な事実保証には向きません。したがって、設計の出発点は「AIができること」ではなく、「この業務の中で何が支援対象で、何が責任対象か」を見分けることです。

AI活用設計は次の四つを明確にする作業です。

  1. 業務の目的
  2. 業務の工程
  3. 工程ごとの担当主体
  4. 確認点と責任点

この四つが明確であれば、生成AIは便利な補助ツールとして活かしやすくなります。逆に、この四つが曖昧だと、AIは便利そうに見えても、実務では不安定になりやすくなります。

演習の基本手順

1. 対象業務を一つ選ぶ

最初に行うのは、対象となる業務を一つに絞ることです。対象が広すぎると、工程も責任も曖昧になります。たとえば、「問い合わせ返信」「議事録整理」「SNS投稿作成」「授業資料作成」「報告書要約」など、流れがはっきりしている業務を選ぶと設計しやすくなります。

ここで重要なのは、「AIを使いたい業務」ではなく、「目的が明確な業務」を選ぶことです。目的が不明確な業務は、AI以前に設計が不安定です。NISTのAI RMFでも、AI活用の前提として、目的、文脈、想定影響の把握が重要とされています。

2. 業務の目的を言語化する

次に、その業務が何のために行われるのかを一文で定義します。たとえば、「問い合わせ返信」であれば、「相手に正確で失礼のない返答を、適切な速度で届けること」といった形です。

目的を先に定める理由は、AI導入の成否が、速度だけでなく、品質と適合性で決まるからです。速くても、間違っていたり、目的に合っていなかったりすれば失敗です。OECDのAI原則でも、AIは人間の福祉や価値に沿って使われるべきだとされています。

3. 業務を工程ごとに分解する

業務を一まとまりで見るのではなく、小さな工程に分けます。たとえば「問い合わせ返信」であれば、次のように分けられます。

  • 問い合わせ内容を読む
  • 要点を整理する
  • 必要な事実を確認する
  • 返信文の草案を作る
  • 文面を調整する
  • 送信可否を判断する
  • 送信する

工程分解の目的は、AIの向き不向きを見分けることです。工程を分けないままでは、「全部AIに任せるか、全部人間でやるか」という極端な二択になりやすくなります。NISTのプレイブックは、役割と責任を具体的な運用単位で整理することを重視しています。

4. 各工程を AI・人間・共同 に分類する

工程を分けたら、それぞれについて次の三分類を行います。

  • AIが主に支援する工程
  • 人間が主に担う工程
  • AIと人間が共同で行う工程

この分類は、性能だけでなく、確認可能性と責任の観点で行います。たとえば、草案生成や要約はAIに向きやすいですが、事実確認や最終承認は人間に残すべきです。生成AIプロファイルでも、もっともらしい誤りや不完全な出力への対処として、人間の監督と見直しが重要だとされています。

5. 確認点と停止点を決める

AI活用設計で特に大事なのは、「どこで確認するか」と「どんな場合に止めるか」を決めることです。たとえば、次のような条件が考えられます。

  • 固有名詞や数値を含む場合は人間が確認する
  • 外部送信前には必ず承認する
  • 出典不明の情報はそのまま使わない
  • 想定外の文体や不適切表現があれば差し戻す

これは、AIを信頼しないためではなく、信頼できる形で使うための設計です。NIST AI RMFは、ガバナンスと継続的な見直しを、AI運用の中核に置いています。

6. 最終責任者を明確にする

AIが出力した結果であっても、責任主体はAIではありません。責任は人間または組織に残ります。そのため、誰が確認し、誰が承認し、誰が最終責任を持つのかを明示する必要があります。OECDのAI原則でも、説明責任と人間の監督が重要な柱として示されています。

演習で用いる判断基準

1. 入力条件を言語化できるか

生成AIは、与えられた入力にもとづいて出力を生成します。そのため、条件や前提を言葉にしやすい工程ほど向いています。逆に、熟練者の暗黙知や瞬間的な対人判断に強く依存する工程は、安定して任せにくくなります。教育分野に関するUNESCOのガイダンスでも、人間の判断や能力形成を残す重要性が示されています。

2. 出力を人間が確認できるか

AIの出力を見て、人間が妥当性を判断できる工程は導入しやすいです。要約、下書き、候補提示などはその典型です。一方で、人間が内容を十分に検証できないまま自動実行される工程は、リスクが高くなります。

3. 誤りが起きたときの影響を管理できるか

少しの誤りなら修正可能な業務もありますが、誤りが重大な不利益や法的問題につながる業務もあります。AI活用設計では、便利さと同時に、失敗時の影響まで考える必要があります。NISTのAI RMFは、こうしたリスク管理を体系的に行うための枠組みです。

4. 最終判断を誰が担うか明確か

AIは提案を出すことはできますが、責任ある最終判断の主体にはなりません。したがって、採用、契約、公開、送信、評価などの重要な場面では、人間が最終判断を担う設計にする必要があります。

演習例 1：問い合わせ返信

目的

相手に対して、正確で失礼のない返信を、適切な速度で行うことです。

工程分解

  • 問い合わせ内容の確認
  • 要点整理
  • 事実確認
  • 返信文草案作成
  • 文面調整
  • 送信承認

分担例

  • AI：要点整理、返信文草案、別表現候補の提示
  • 人間：事実確認、関係性への配慮、送信承認
  • 共同：文面調整

確認点

  • 固有名詞、日時、金額は人間が確認する
  • 感情的な内容やクレームは必ず人間が最終確認する

この例では、AIは速度と表現支援に貢献しますが、責任と対人判断は人間が担います。これは、生成AIの強みと限界に沿った典型的な設計です。

演習例 2：授業資料作成

目的

学習者にとって理解しやすく、正確で、授業目的に合った資料を作成することです。

工程分解

  • 授業目的の確認
  • 範囲設定
  • 参考資料の収集
  • 構成案作成
  • 本文草案作成
  • 正確性確認
  • 最終調整

分担例

  • AI：構成案、説明文草案、言い換え、要約
  • 人間：授業目的の設定、参考資料の選定、正確性確認
  • 共同：本文調整、例示の改善

確認点

  • 定義、年号、制度、専門用語の使い方は人間が確認する
  • 学習者の理解段階に合っているかを人間が見直す

この例では、AIは教材の初稿づくりを支援できますが、教育的妥当性と正確性は人間が担う必要があります。UNESCOも、教育における生成AI利用では人間中心の設計が不可欠だとしています。

演習の進め方

授業でこの演習を行う場合は、次の流れが理解しやすいです。

  1. 業務を一つ選ぶ
  2. 目的を書く
  3. 工程を列挙する
  4. 各工程を AI・人間・共同 に分類する
  5. その理由を書く
  6. 確認点を書く
  7. 最終責任者を書く
  8. 実際に試し、改善点を見直す

この流れは、AI活用を「試して終わり」にしないために重要です。NISTのプレイブックでも、AI運用は継続的な評価と改善を含むものとして扱われています。

整理すると

業務におけるAI活用設計とは、業務を目的と工程に分け、その中でAIには草案生成、整理、候補提示などの支援的役割を担わせ、人間には確認、承認、責任ある最終判断を残す設計です。繰り返しですが、重要なのは、AIを入れること自体ではなく、どこに入れると効果的で、どこに人間を残すと安全かを考えることです。

したがって、この演習で身につけるべき力は、「AIを使う力」だけではありません。むしろ、「AIを適切に配置する力」が中心です。この視点があれば、今後のプロンプト設計、自動化、API連携にも一貫した考え方を持ち込めます。

このページで押さえるべきポイント

  • AI活用設計は、業務を工程ごとに分けて考えることから始まります。
  • AIには、草案作成、整理、候補提示などの支援工程を任せやすいです。
  • 人間には、目的設定、確認、最終判断、責任を残すことが基本です。
  • 演習では、確認点と停止点を事前に決めることが重要です。
  • AI活用の本質は、全面自動化ではなく、適切な分担設計にあります。

参考文献

前の節実践：AI役割分解設計次の節演習：AI活用要件を言語化する
教材トップへ戻る