AI（人工知能）は、文章作成、画像判定、音声の聞き取り、需要の見通しなどで高い力を見せています。しかし**「得意ではない領域」も明確に存在します。本稿では、創造性・曖昧さへの対応・倫理と感情・物理世界の扱い・実務での分担という五つの柱を土台に、さらに現場別の注意点・運用の型・測定指標・失敗時の復旧**まで踏み込んで、AIの限界と賢い使い方をまとめました。
0．このガイドの使い方（先に要点）
- 何に効く？ AIの弱点を前提に、導入・運用・改善を安全に回すための実務指針になります。
- 誰向け？ 企画・現場責任者・法務・情報管理・教育担当。個人の創作にも役立ちます。
- 基本姿勢：「集める・そろえるはAI、決めるは人」。最終判断と説明は人が担う。
1．創造性と直感が必要な領域—AIが苦戦する本丸
1-1．芸術・物語・表現のむずかしさ
人の創作は、経験・心の動き・偶然のひらめきが重なって生まれます。AIは大量の作例から「似た形」を作るのは得意ですが、前例のない視点や、作者の人生がにじむ表現は苦手です。詩や現代美術、小説の語りの「間」など、におい立つ感情の厚みを再現するのは難題です。
創作での安全な分担
- AI：資料集め、言い回し候補、構成の素案、誤字の洗い出し。
- 人：主題の発見、比喩の核、取捨選択、背負うべきメッセージ。
1-2．笑い・皮肉・比喩の壁
笑いは文脈・文化・関係性の上に成り立ちます。同じ言い回しでも、場や相手で意味が反転します。AIは語の意味は追えても、空気の読み替えや含みの共有が苦手で、皮肉や地口（言葉遊び）を外しやすいのが実情です。
失敗が起きやすい場面：式典・弔事・医療・教育・災害対応の場。ユーモアは原則オフが無難です。
1-3．価値観・哲学的問いへの応答
「正しさ」「美しさ」「生き方」には唯一の答えがありません。AIは多くの意見を並べることはできますが、自らの価値観や責任を負う判断はできません。自己の立場を引き受ける語りは、人にしか担えない領域です。
1-4．創造の型とAIの補助範囲（実務テンプレート）
| 工程 | 人が担う核 | AIの補助 | 仕上げの確認 |
|---|---|---|---|
| 主題決め | 何を語るか・誰に届けるか | 事例収集・背景整理 | 主題と例がずれていないか |
| 構成 | 起承転結・見せ場 | 見出し案・順番案 | 流れに破綻がないか |
| 表現 | 比喩・語り口・声 | 言い換え候補・校正 | 意図が弱まっていないか |
2．曖昧さ・不完全情報への対応—途中で変わる現実に弱い
2-1．あいまい語・指示語・省略の解釈
「例の件を早めに」「それは今度で」——日本語は主語や目的語を省くことが多く、指示語も多用されます。AIは会話の長い流れを保持するのが苦手で、誰の何を指すのかを取り違えやすくなります。
対処の型：「誰が／何を／いつまでに／何をもって完了」を先に与える。固有名・数値・期日で固定する。
2-2．ノイズ・欠損・ばらつきへの弱さ
雑音の多い録音、暗い・ぶれた写真、途切れた記録。人は経験で足りない部分を補って推測しますが、AIは見えていないものを安全に補うのが不得手です。誤判定の芽が潜みます。
前処理の基本：整音（雑音除去）／整形（書式統一）／欠損の明示（不明は不明と記録）。
2-3．例外処理と非定型の連続
定型から外れると誤作動が増えます。規則が崩れる現場（工事で道順変更、臨時の手順など）では、AIは学習にない事象を苦手として、判断が乱れがちです。
2-4．記憶と文脈の限界（長い会話の落とし穴）
会話が長くなると、初期の前提が抜け落ちて矛盾が発生します。重要条件は毎回の指示に再掲するのが安全です。
合言葉：重要条件は「冒頭・中間・末尾」で三度書く。
3．倫理・感情・共感—「人に寄り添う」には足りないもの
3-1．道徳的な板挟みと説明責任
事故回避で誰を優先するか、支援配分をどう決めるか——一つに決め切れない問いでは、AIは基準の設定と結果の説明が難しくなります。最終判断は人が責任を負う仕組みが欠かせません。
簡易EIA（倫理影響評価）6項目
1）誰に利益／不利益が出るか 2）弱い立場に不利が集中しないか 3）誤り時の救済 4）説明可能性 5）同意の取得 6）監査の窓口
3-2．感情の揺れと心の機微
声の調子、沈黙の意味、目線の動き——言葉にならない合図をつかむことはAIの弱点です。定型の慰め言葉は述べられても、その人だけの事情に合わせた寄り添いは難しいのが現状です。
原則：いのち・病・喪失・差別の話題は、AIは記録・整理に徹し、対話の主役は人。
3-3．多様性・文化の文脈読み
性別・信仰・歴史の配慮など、背景を踏まえる言葉選びはきわめて繊細です。AIは学んだ資料の偏りをそのまま写し取り、無意識の偏見を再生する危うさがあります。
偏り対策の三本柱：資料の点検／当事者の声を反映／結果の監査（定期点検）。
4．物理世界・五感の統合—器用さ、勘どころ、順応
4-1．微細作業と力加減
野菜の下ごしらえ、繊細な縫い目、壊れやすい部品——力の入れ具合や触れ方は状況で変わります。AI搭載の機械は、触感の情報を生かした即時の加減が苦手です。
4-2．感覚の統合と違和感の察知
人は目・耳・手触りを同時に組み合わせて**「おかしさ」を感じます。AIは感覚を別々に扱うことが多く、統合判断や勘の働き**が不足します。
4-3．環境変化・突発事に対する順応
照明・天気・雑踏、人や物が突然現れる場面。センサーや前提に頼るAIは、想定外の条件に弱く、安全側の停止により作業が止まりやすい傾向があります。
4-4．現場での安全原則（五つの止めどころ）
1）人に危険が及ぶおそれ 2）機器破損の兆し 3）入力が異常 4）結果が常識外れ 5）説明できない動き——このいずれかで即停止→人が確認。
5．限界を踏まえた賢い使い方—人とAIの分担と実務の型
5-1．役割分担の基本形（人が決め、AIが支える）
- 人が決める：目的・基準・責任（価値判断、最終決裁）。
- AIが支える：収集・整理・候補出し（大量処理、反復、見落とし防止）。
- 人が見直す：違和感の点検・説明の補強（例外対応、納得づくり）。
合言葉：「集める・そろえるはAI、決めるは人」。
5-2．弱点を補う設計・運用チェックリスト（印刷推奨）
| 項目 | 確認内容 | ひとことで要点 |
|---|---|---|
| 目的 | 何をどれだけ良くするか（数値） | 指標を先に決める |
| 入力 | 使う情報の範囲・権利・期限 | 同意・匿名化・保存期間 |
| 出力 | 説明・再現・記録の方法 | 根拠を残す |
| 例外 | 手順から外れた時の止め方 | 人の停止権限 |
| 品質 | 正確さ・遅延・安定の基準 | 受け入れ条件を文書化 |
| 倫理 | 影響を受ける人の配慮 | 弱い立場を優先に |
5-3．運用の回し方（PDCAの型）
1）試運転：小規模・短期間で動作確認 2）本運用：条件と責任分担を明文化 3）点検：誤りの種類・頻度を棚卸し 4）改修：前処理・指示・基準の見直し。
5-4．監視の指標（KPI例）
- 正確さ（誤答率、取り違え率）
- 反応時間（平均・ばらつき）
- 例外停止数（停止→復旧にかかった時間）
- 苦情・問い合わせ件数（種類別）
5-5．失敗からの復旧手順（簡易版）
1）被害の把握→2）停止→3）代替手段→4）原因の切り分け→5）再発防止策→6）説明と記録。
6．現場別：弱点の出やすい場と対処
6-1．医療・福祉
- 弱点：倫理判断・説明責任・まれな症例。
- 対処：AIは所見候補と記録補助に限定。最終判断は医療者。救済手続を明示。
6-2．教育
- 弱点：学習者の心の動き、家庭の事情。
- 対処：AIは練習問題の作成・採点補助まで。指導と励ましは人が担う。
6-3．お客様対応
- 弱点：怒りや不安への寄り添い、例外対応。
- 対処：AIは案内と記録。怒り・迷惑・解約の語が出たら人へ即引き継ぎ。
6-4．製造・点検
- 弱点：環境変化・異常時の直観。
- 対処：AIは監視と予兆検知。停止権限は現場が持つ。
6-5．採用・人事
- 弱点：偏りの再生、背景配慮の不足。
- 対処：基準の公開、複数人での確認、候補者の申し立て窓口を用意。
7．幻覚出力（でっち上げ）と出所明示
7-1．幻覚出力の典型
- ありもしない文献・数字・名称をもっともらしく示す。
- 事実と意見を混同する。
- 指定していない前提を勝手に補う。
7-2．抑止と検出の基本
- 出所の明示：数字・引用らしき部分は根拠を別紙に列挙。
- 二系統確認：別の手段か人手で突合。
- 言い切りを避ける：確度が低いものは表現を和らげる。
8．実務テンプレート（そのまま使える最小セット）
8-1．文章生成の事前確認票
- 読み手／目的／禁止事項／語調／引用の扱い／公開可否／責任者の署名。
8-2．画像・音声の判定確認票
- 入力の質（明るさ・解像度・雑音）／対象外の条件／誤り時の連絡先／停止基準。
8-3．会話ボットの引き継ぎ基準
- 人へ直行：暴力・自殺・差別・体調急変・法的相談。
- 人へ提案：怒りが強い・解約・返金・個別事情。
9．ケーススタディ（短編）
9-1．お詫び文の自動草案
AIが作った草案は丁寧だが、原因と再発防止が曖昧。人が事実関係を追記し、責任者名で出すことで納得を得た。
9-2．点検報告の自動まとめ
写真が暗く割れ目が認識されず。照明条件を標準化し、撮影の手順書を作成して解決。
9-3．求人の書類選考
AIの案が特定大学に偏り。基準を「職務要件」に限定し、複数人確認と申し立て窓口を設けて是正。
10．よくある誤解と反論集
- 誤解：「AIはそのうち全部できる」。→ 反論：価値判断と説明責任は道具の外にある。人の役割は消えない。
- 誤解：「AIに任せた方が公平」。→ 反論：学んだ資料の偏りを写す。点検と公開があって公平に近づく。
- 誤解：「精度が上がれば安全」。→ 反論：少数の例外が危険を招く。停止と救済を先に決める。
付録A：AIの苦手分野を一望する比較表（保存版）
| 分野 | AIが苦手な理由 | 人の強み | よく起きる不具合 | 補い方の例 |
|---|---|---|---|---|
| 創造・表現 | 前例の外側に出にくい | 体験からのひらめき | 似て非なる作品、薄い感情 | 人が方向付け、AIは案出し |
| 笑い・皮肉 | 文脈と関係性の読み替え | 空気の共有 | 失礼・誤解を生む返し | 公開前に人が語調を調整 |
| 曖昧・省略 | 指示語・省略の解釈 | 長い文脈保持 | 指示対象の取り違え | 依頼を具体化、固有名詞で指示 |
| 欠損・ノイズ | 足りない部分の補完 | 勘どころで補う | 誤認識・誤作動 | 前処理の見直し、二重確認 |
| 例外連続 | 学習外事象に弱い | 現場判断 | 予期せぬ停止・暴走 | 例外時は人が主導で停止 |
| 倫理判断 | 基準と説明の設計 | 責任の引き受け | 納得の得られない結論 | 影響評価と公開説明 |
| 感情対応 | 非言語の合図が読めない | 表情・声色・間 | 空気を壊す返答 | 面談は人が主、AIは記録補助 |
| 物理作業 | 力加減・触感の扱い | 触れて分かる調整 | 破損・けがの恐れ | 危険作業の補助に限定 |
付録B：判断フロー（文章作成の例）
1）目的と読み手→2）禁止事項→3）引用の有無→4）AIで草案→5）事実確認→6）責任者の確認→7）公開。
11．Q＆Aと用語小辞典（拡張版）
Q1：創作でAIを使う意味は？
A： 下書きや資料集め、言い回しの候補出しに向きます。肝心の構想と最後の言葉選びは人が担うと質が上がります。
Q2：曖昧な依頼でも使える？
A： 依頼は具体的に分解しましょう。誰に・何を・いつまでに・何をもって完了か——を先に与えると誤りが減ります。
Q3：誤判定が怖い。どう備える？
A： 高リスクの場面では二重確認（AI→人）を基本に。試運転→本運用の順で段階を踏み、記録を残します。
Q4：偏り（バイアス）への対策は？
A： 使う資料の偏り点検、当事者の声の取り入れ、結果の監査（定期点検）を行います。
Q5：個人利用でも気をつけることは？
A： 個人情報・機微な話題は入力しない。うのみにせず、別の資料で裏をとる。
用語小辞典
- 生成：文章や画像を自動で作ること。
- 学習器：例から規則を見つける仕組み。
- 匿名化：個人が分からないよう情報を加工すること。
- 最適化：条件に合う一番良い組合せを選ぶ計算。
- 監査：運用が決めた通りかを点検すること。
- 幻覚出力：もっともらしい誤情報を出すこと。
- 点検：定期的に誤りや偏りを洗い出すこと。
まとめ
AIは大量処理・反復・見落とし防止に強く、価値判断・例外対応・人への配慮に弱い。だからこそ、目的→指標→役割分担→記録の順で設計し、人が最終確認する運用にすれば、弱点は多くが回避できます。AIは道具、責任と想像力は人。この原則を守ることが、成果と安心を同時に高める近道です。
