AIの「4つの性質」:得意と限界を1枚で理解するリファレンス
「AIはなぜここまで賢いのに、こんな単純なことを間違えるのか?」——この疑問への答えは、実は4つの性質に集約できます。Claude公式のAI Fluencyシリーズに、AIをある場面では有能に、別の場面では限定的にしている4つの性質をまとめたリファレンスページがあるので、整理します。各性質が「何を可能にし、どこで特徴的に失敗し、どの機能がその限界を押し広げるか」という3点セットで語られる、実用的な構成です。
性質1:次トークン予測——「AIの答えはどこから来るのか?」
生成AIは、「何の後には何が続きやすいか」に基づいて、答えを一語ずつ書いていきます。途方もなく洗練されたオートコンプリートであって、検索エンジンではない——これが出発点です。
可能にすること:あらゆるスタイルの流暢で自然な文章。大量の資料の高速な統合。訓練データに似たタスクでの高い性能
特徴的な失敗:ハルシネーション(もっともらしい≠正しい)。作話は具体的な情報に集中する——名前、日付、引用、統計、URL。そして「見当違いの自信」——滑らかな文章が推測を包んでいる
限界を押し広げるClaudeの機能:引用とソースグラウンディング、制約付き生成、生成者–検証者ループ
性質2:知識——「AIは実際、何を知っているのか?」
モデルの知識は訓練データがすべてで、ナレッジカットオフの時点で凍結されています。「何を読んだか」と「いつ読むのをやめたか」で決まる、ということです。
可能にすること:並外れて広い一般知識。よく文書化された領域での深い実力。分野を横断した意外な結びつき
特徴的な失敗:カットオフと情報の陳腐化(「当時は正しかった」は「今も正しい」ではない)。ニッチ・ローカル・最新のトピックのカバレッジのムラ。そして「ソース健忘」——「どこかで読んだ」は引用ではない
限界を押し広げる機能:Web検索、検索拡張(RAG/コネクタ)、リアルタイムデータのツール利用
性質3:ワーキングメモリ——「AIは今、何に注意を向けているのか?」
モデルが注意を向けているものはすべて、固定サイズのコンテキストウィンドウの中にあります。公式の言い回しが秀逸です——「コンテキストはレバレッジ。ただし、崖に落ちるまでは」。
可能にすること:あなたのドキュメント・データ・制約への、セッション内での素早い適応。空きがある限りの長いスレッドでの一貫した作業。渡した資料への正確なグラウンディング
特徴的な失敗:長さの上限は「勾配ではなく崖」。「Lost in the middle」——真ん中に埋まった詳細は注意が薄れる。そしてデフォルトでは永続記憶がない——修正は次に持ち越されない
限界を押し広げる機能:メモリ、プロジェクト、コンテキスト圧縮、ファイル・アーティファクト添付
性質4:操縦性(ステアラビリティ)——「私はどれだけコントロールできているのか?」
モデルは指示に従いますが、それは意図を理解しているからではなく、パターンを継続しているからです。驚くほど操縦できる——しかし「あなたが意図したこと」と「実際に伝わったこと」の間には常にギャップがあります。
可能にすること:フォーマット・スタイル・長さ・トーンの精密な制御。ロール設定とペルソナ。複数ステップの実行と反復的な改善
特徴的な失敗:推論のドリフト(長い連鎖では小さな誤りが複利で膨らむ)。「文字どおりだが精神に反する」——指示は守ったが意図を外した。そしてプロンプトインジェクション——コンテキスト内の他のテキストもまた、モデルを操縦できてしまう
限界を押し広げる機能:システムプロンプト/カスタム指示、拡張思考(可視化された思考)、コード実行
この4つをどう使うか
このフレームワークの価値は、AIの不可解な挙動に出会ったとき、「どの性質が働いているのか?」という診断の問いを立てられることです。
実在しない論文を引用してきた → 性質1(作話は具体情報に集中する)
最新の役職や価格を間違えた → 性質2(カットオフ)→ Web検索を使わせる
長い会話の序盤の指示を忘れた → 性質3(ワーキングメモリ)→ プロジェクトや再掲で補う
指示は守ったのに欲しいものと違う → 性質4(文字どおりだが精神に反する)→ 意図と成功基準を明示する
そして各性質に「限界を押し広げる機能」が対応している構造は、そのままツール選定の理由付けになります。「なぜ検索やRAGが要るのか」「なぜプロジェクトを使うのか」を、この4性質から説明できるわけです。
さらに深く学びたい人には、ハンズオン演習付きの無料コース「AI Capabilities and Limitations」(約90分、Anthropic Academy)が用意されています。
まとめ
以前紹介した「AIの性格はどこから来るのか」(事前学習とファインチューニングの指紋)が縦の軸(どう作られたか)だとすれば、この4性質は横の軸(今どう振る舞うか)のリファレンスです。次トークン予測・知識・ワーキングメモリ・操縦性——この4枚のレンズを社内の共通言語にしておくと、「AIが変なことを言った」という報告が「性質2の問題っぽいので検索を有効にしよう」という会話に変わります。AI研修の最初の1時間に置くべき内容だと思います。
INNOOV株式会社について
この記事は、AtlassianやIntercomなどのSaaS導入支援と、AIを活用した業務プロセス改善を行うINNOOV株式会社がお届けしました。「自社でもこんな仕組みを作ってみたい」「ツール導入を相談したい」という方は、お気軽にお問い合わせください。