AI Fluency for Builders ｜ Lesson 3「AI capabilities & limitations」（全文ナレッジ）
テキストレッスン＋埋め込み動画 12分（YouTube: IZSB66OLc4w）／ 2026-07-03
日本語ナレッジ（レッスン本文・完全版）
このレッスンで学ぶこと（What you'll learn）— 想定所要時間：25分
- 生成 AI を定義し、それが他のタイプの AI とどう違うかを説明できる
- 現代の LLM を可能にした3つの発展を説明できる
- 現在の AI が得意なことと、確実に力不足になる場所を特定できる
キーテイクアウェイ（Key takeaways）
- 生成 AI は、既存データの分析ではなく、新しいコンテンツを作り出す。
- 現代の LLM を可能にしたのは3つの発展：トランスフォーマー・アーキテクチャ、膨大な訓練データ、大規模な計算資源（コンピュート）。
- 訓練には2つの段階がある。事前学習（pre-training）は数十億の例からパターンを学ぶ。ファインチューニング（fine-tuning）は、モデルに指示へ有用に従うことを教える。
- 現在の強み：タスク横断の多才さ（versatility）、会話の流暢さ、ツール使用。
- 現在の限界：知識カットオフ、ハルシネーション、信頼性を欠く複雑推論。
- 最良のアプリケーションは、あなたの判断・創造性・監督（オーバーサイト）を、AI の速度とスケールと組み合わせる。
演習（Exercise）：Testing the edges（自分が熟知するコーディング領域で AI の端を試す）
Part I：自己リフレクション — 自分が熟知している（know cold）コーディング領域をひとつ選び、書き出す：
- トピック
- 有能なエンジニアなら誰でも正しく押さえるべきこと 2〜3個
- よくある誤解、またはトリッキーな細部をひとつ
- 最近変わったことをひとつ（ライブラリの更新・非推奨化・新しいベストプラクティス）
Part II：コラボレーション — 3つの短いチャットを行う：
1. 多才さ（versatility）テスト：自分のトピックを、ひとつの応答の中で3通りに説明させる（非技術系の PM 向け／中堅エンジニア向け／シニアのコードレビュアー向け）。深さの切り替えは効いていたか、それとも語彙が変わっただけか？
2. ハルシネーション・テスト：具体的なライブラリ／パッケージ／ドキュメントを尋ねる。ひとつをスポットチェックする：それは実在するか？ API は正確か？ バージョンは最新か？
3. 知識カットオフ＋推論チェック：時間依存の質問をする（最近のフレームワーク更新／非推奨化されたパターン／セキュリティパッチ）。情報が古い可能性をフラグしたか？ その後、自分の「トリッキーな細部」を一緒に考えさせる——混乱を解消したか、それとも言い換えただけか？
Part III：リフレクション
- どの能力（capability）が明確に現れたか？
- どの限界（limitation）が表面化したか——自分の専門外だったらそれに気づけたか？
- AI に任せてよいタスクをひとつ／注意深く見張るべきタスクをひとつ挙げる。
ストレッチ課題：同じトピックを、2つ目の AI ツールでも通してみる。
次のレッスン（What's next）
Delegation（委任）の深掘りへ。
実務ポイント（このレッスンから持ち帰るもの）
- 限界は「仕組み由来」と理解して対策を打つ——知識カットオフ→ウェブ検索等のツールで補完、ハルシネーション→スポットチェック、コンテキストウィンドウ→長い作業は分割・要約、非決定性→一貫性が要る場面は temperature 等で制御。それぞれの限界がシステムの動作原理に直結している。
- ライブラリ／API／バージョンを答えさせたら、最低1つは必ず実在・正確性・最新性を検証する——LLM は検索エンジンではなく統計的パターンから生成しているため、もっともらしい捏造が混ざりうる。
- 自分が熟知する領域で「端」をテストして信頼度を較正する——専門領域でどんな限界が出るかを体感しておけば、専門外の領域で AI をどこまで信じてよいかの基準ができる。
- 事前学習後のモデルは「文書補完器」にすぎない——指示に従い、有用で、有害コンテンツを避けるのはファインチューニング（人間のフィードバック＋強化学習、Anthropic なら helpful / honest / harmless）の産物。この2段階を知っていると挙動の理由が読める。
- 人間と AI の補完で設計する——人間＝批判的思考・判断・創造性・倫理的監督、AI＝速度・スケール・パターン認識・大量情報処理。最も効果的な応用はこの補完的な強みを活かすもの。
- 強みも限界もテクノロジーとともに変わる——継続的な学習と実験こそが、変化を追いかけ新しい可能性を発見する手段。
動画逐語（日本語訳）
[0:01]（効果音）（音楽）
[0:08] こんにちは。Anthropic の教育チームのカイラです。生成 AI の探究へようこそ。
[0:15] この動画では、生成 AI とは実際のところ何なのか、そしてこれらのシステムを可能にした技術的ブレークスルーに踏み込みます。それから、生成 AI が得意なことと、どこで力不足になるかを見ていきます。
[0:25] みなさんは、裏で何が起きているのかを完全には理解しないまま、生成 AI と日々やり取りしているかもしれません。それを変えましょう。生成 AI とは、既存データを分析するだけでなく、新しいコンテンツを作り出せる人工知能システムを指します。たとえば、従来型の AI がパターンに基づいてメールをスパムか否かに分類するのに対して、生成 AI はまったく新しいメールをあなたのために書くことができます。
[0:48] 前者のアプローチは分析と分類。後者は、それまで存在しなかった新しい何かを作り出します。これは AI の能力における根本的な転換を意味します。Anthropic の Claude モデルのような大規模言語モデル（LLM）は、生成 AI の代表的なタイプです。人間の言語を予測・生成するように訓練されているから「言語モデル」と呼ばれ、数十億のパラメータ——脳のシナプス結合にどこか似た、モデルが情報をどう処理するかを決める数学的な値——を含むから「大規模」と呼ばれます。
[1:22] 今日の生成 AI への道のりは、突然のものではありませんでした。3つの重要な発展が、ちょうど良いタイミングで重なったのです。第一に、AI システムの学習方法を根本から変えた、アルゴリズムとアーキテクチャのブレークスルーがありました。ニューラルネットワークは概念としては何十年も前から存在していましたが、2017年のトランスフォーマー・アーキテクチャの開発はゲームチェンジャーでした。
[1:42] このアーキテクチャは、長い文章にわたって単語間の関係を保持しながらテキストのシーケンスを処理することに優れています。これは、文脈の中で言語を理解するために決定的に重要です。
[1:53] 第二に、デジタルデータの爆発的増加が、訓練に不可欠な原材料を提供しました。Claude のような現代の LLM は、ウェブサイト、コードリポジトリ、その他人間の知識とコミュニケーションを表すテキストといった、多様なソースから学習します。この膨大な情報のタペストリーが、言語と概念の両方について、幅広くニュアンスに富んだ理解をモデルが発達させるのを助けます。
[2:12] そして第三に、計算能力の大幅な増加により、それだけのデータでこれらの複雑なモデルを訓練することが可能になりました。GPU（グラフィックス・プロセッシング・ユニット）や TPU（テンソル・プロセッシング・ユニット）のような専用ハードウェア、そしてしばしばクラスターと呼ばれる分散コンピューティング・ネットワークが、ほんの数年前には不可能だった処理を可能にしています。
[2:35] この3つの要因の組み合わせが、スケーリング則（scaling laws）として知られる重要な発見につながりました。これは経験的な知見で、モデルが大きくなり、より多くのデータで、より多くの計算能力を使って訓練されるにつれて、性能が予測可能な形で向上することを示しました。さらに驚くべきことに、研究者たちは、モデルが大きくなるにつれて、まったく新しい能力が現れ始めることを発見しました。ステップ・バイ・ステップで問題を推論する、最小限の指示で新しいタスクに適応するといった、誰も明示的にプログラムしていない能力です。
[3:08] 生成 AI は2つのフェーズで訓練されます。第一のフェーズ——事前学習（pre-training）とも呼ばれます——では、Claude のような LLM が数十億のテキスト例からパターンを分析します。
[3:18] 見つけられる限りのすべてのウェブサイトやテキストを読むところを想像してください。情報を吸収するためだけでなく、単語・フレーズ・概念の間の統計的な関係を理解するためにです。この段階でモデルは、言語と知識の複雑な地図のようなものを構築します。事前学習のプロセスでは、モデルにテキストを見せて、次に来るものを予測させます。何度も繰り返すうちに、モデルは徐々に予測を洗練させ、言語を一貫した意味あるものにしているパターンを学びます。事前学習が終わった時点のモデルは、非常に有能な、文字どおりの「文書補完器（document completer）」です。
[3:53] 事前学習の後、モデルはファインチューニングと呼ばれる追加の訓練を受けます。ここで、指示に従うこと、有用な応答を提供すること、そして重要なことに、有害なコンテンツの生成を避けることを学びます。これには、モデルの性能を高めるための人間のフィードバックがしばしば使われるほか、報酬とペナルティによってモデルの振る舞いを形づくる強化学習も用いられます。Anthropic のモデルの場合、より helpful（有用）・honest（正直）・harmless（無害）であるように方向づけられます。
[4:20] モデルは訓練が終わると、あなたが対話できるようにデプロイされます。Claude や他の LLM とやり取りするとき、あなたはプロンプト——モデルが読み、訓練中に学んだパターンに基づいてそこから続きを生成するテキスト——を与えています。
[4:33] モデルは、データベースからあらかじめ書かれた答えを取り出しているのではありません。あなたが書いたものに統計的に続く、新しいテキストを生成しているのです。
[4:42] また、LLM が一度に考慮できる情報量には実用上の限界があり、コンテキストウィンドウとして知られています。これは AI の作業記憶（ワーキングメモリ）と考えてください。コンテキストウィンドウには、あなたのプロンプト、AI の応答、そして会話の中で共有したその他の情報が含まれます。
[4:59] AI 企業は、より長い文書や会話に対応できるようコンテキストウィンドウを拡大し続けていますが、この限界は、これらのシステムが情報へ無制限にアクセスできるわけではなく、ウェブ検索のような専用ツールなしには、現在のコンテキストウィンドウの外にあるコンテンツを使えないことを思い出させてくれます。
[5:18] まとめると、現代の生成 AI をこれほど強力にしているのは3つの特性です。訓練中に膨大な量の情報を処理する能力。プロンプト内の指示や例から新しいタスクに適応できる、インコンテキスト学習（in-context learning）の能力。そして、スケールから生じ、時にその作り手さえ驚かせる創発的能力（emergent capabilities）です。
[5:38] これらのシステムがどう動くかの感覚を掴んだところで、それが実践で何を意味するかを見ていきましょう。新しい同僚を知っていくようなものだと考えてください。相手の強みと限界を理解することが、より効果的なコラボレーションにつながります。
[5:53] 現代の言語モデルの多才さには驚くかもしれません。ほんの数年前には不可能に思えた形で、言語を巧みに操ります。あなたの声色を捉えたメールの作成、長いレポートの明快な要約への凝縮、言語間の翻訳、さらには微生物学からマーケティング戦略まで、無数の分野にわたる複雑なトピックの解説さえも。
[6:15] 特に注目すべきは、これらのモデルが追加の訓練なしに異なるタスクの間を移れることです。詩を書いたり、誕生日パーティーのアイデアをブレインストーミングしたりするのを手伝う、まさにその同じシステムが、向き直って量子コンピューティングの概念の理解や四半期のビジネストレンドの分析を手伝える——すべて単純な会話を通じてです。
[6:35] これらのモデルは、会話の筋道を保つこともできます。先に話し合ったことを覚えていて、その上に積み上げていくのです。プロジェクトの締め切りをふと口にして、会話の中で後からそれに言及すれば、AI はたいてい、人間の会話相手がそうするように、何の話かを理解します。現代の多くの LLM は、外部のツールや情報源に接続することで、自分自身の知識を超えることもできるようになりました。ウェブを検索し、ファイルを処理し、さらには他のアプリケーションを使って能力を強化することもできます。これによって、手伝える範囲は劇的に広がります。
[7:10] しかし、あらゆるテクノロジーと同じように、今日存在する LLM には一定の限界もあります。そして、そのひとつひとつが、システムの仕組みにつながっていることに注目してください。
[7:19] 第一に、AI モデルは訓練データに縛られています。LLM には、訓練された時期に基づく知識のカットオフ日——それ以降の世界について生得的な知識を持たない時点——があります。たとえば、カットオフ日が2024年11月のモデルは、その時点より後のデータでは一切訓練されていません。特定の日にインターネットのない隠遁生活（リトリート）に入った人を想像してください。出発後に起きた出来事については知らないでしょう。モデルが最近の動向について学ぶには、ウェブ検索のようなツールが必要です。
[7:46] 加えて、訓練プロセスは、訓練データに含まれるすべての事実を検証するわけではありません。つまりモデルは、訓練データに存在していた不正確さを学び、再生産してしまうことがあります。学んだ情報をつなぎ合わせようとする際に間違いを犯すこともあります。
[8:02] これが、しばしばハルシネーション（幻覚）と呼ばれるものにつながります。もっともらしく聞こえるのに実際には不正確なことを、AI が自信を持って述べる現象です。
[8:11] 既存の文書を単に取り出す検索エンジンとは異なり、LLM は統計的なパターンに基づいて応答を生成するため、時にハルシネーションを生み出します。絶対の自信で物語を語るのに、細部が完全に間違っている友人を想像してください。AI は時々、そのようになり得ます。
[8:28] 先ほど触れたコンテキストウィンドウの限界もあります。会話や文書がそれを超えると、AI はウィンドウの外に落ちた情報——通常は先入れ先出し（first-in, first-out）——を考慮できなくなります。モデルによっては、これが大きな文書の処理や会話全体の記憶を制限することがあります。
[8:47] さらに、同じ入力から同一の出力を生む従来のソフトウェアとは異なり、LLM はデフォルトではいくぶん予測不能で、非決定的（non-deterministic）とも呼ばれます。同じ質問を2回すれば、毎回わずかに異なる応答が返ってくるかもしれません。このばらつきは、これらのモデルがテキストを生成する仕組みの性質——訓練データのパターンと、開発者が調整できる特定の設定に基づいて、次に来るべきテキストを確率的に決定していること——に由来します。この創造的なばらつきは、ブレインストーミングや多様なアイデアの生成には素晴らしいものですが、一貫性や正確性が重要な場面では注意（アウェアネス）が必要です。
[9:22] 一部の LLM インターフェイスには、必要に応じてこのランダム性を制御する設定があり、しばしば temperature（温度）と呼ばれます。
[9:29] 加えて、これらのモデルは急速に改善しているとはいえ、歴史的には複雑な推論タスク——特に複数のステップを要する数学的・論理的問題——で限界を示してきました。良いニュースは、ステップ・バイ・ステップで考えるように特別に設計された、新しい推論（reasoning）モデルや拡張思考（extended thinking）モデルが、この領域で力強い進歩を見せていることです。
[9:47] そして最後に、Claude のようなモデルは外部ツールにアクセスできるようになったとはいえ、特定のタスクに必要となる特定のデータソースや専用ツールへのアクセスを依然として欠いている場合があります。あなたの会社の社内データベースにアクセスできない、優秀な同僚のようなものです。どれほど賢くても、手伝える範囲は限られてしまいます。質問に答えるために必要なデータやツールにモデルがアクセスできないなら、助けられなくても驚くことではありません。
[10:17] 生成 AI の分野は急速に進化しています。研究者たちは、モデルを外部の知識・データソースに接続する検索拡張生成（RAG: retrieval augmented generation）のような技術や、ツール使用能力の拡大、推論能力の改善を通じて、現在の限界に対処しようと取り組んでいます。とはいえ、一部の限界は——それが正確にどんな限界になるのかは分からなくても——当面のあいだ残り続けるでしょう。AI に何ができて何ができないかを理解することは AI フルーエンシーに不可欠であり、これらのシステムをいつ・どのように仕事や日常生活へ組み込むのが最善かを見極める助けになります。
[10:50] 最も効果的なアプリケーションは、人間と AI の補完的な強みを活かすものになるでしょう。私たち人間は、AI が再現するのに苦労するかもしれない批判的思考、判断、創造性、倫理的監督をもたらします。AI は、速度、スケール、パターン認識、そして膨大な情報を処理する能力を提供します。これらの補完的な強みは、テクノロジーの進化とともに変わっていきます。だからこそ、学び続けること・実験し続けることに大きな価値があるのです。それらは、変化を追いかけ、新しい可能性を発見する助けになります。
[11:21] このコースの演習を通じて、AI との会話の中でこれらの概念を直接探索する機会があります。この直接体験が、生成 AI に何ができて、何ができず、どう協働するのが最善かについての直観的な感覚を育てる助けになるでしょう。
英語原文
レッスン本文
[YouTube: IZSB66OLc4w (12 min)] AI capabilities & limitations
What you'll learn — Estimated time: 25 minutes
Define generative AI and explain how it differs from other AI types
Explain the three developments that made modern LLMs possible
Identify what current AI does well and where it reliably falls short
Key takeaways
Generative AI creates new content rather than analyzing existing data.
Three developments made modern LLMs possible: the transformer architecture, vast training data, and massive compute.
Training has two stages. Pre-training learns patterns from billions of examples. Fine-tuning teaches the model to follow instructions helpfully.
Current strengths include versatility across tasks, conversational fluency, and tool use.
Current limits include knowledge cutoffs, hallucinations, and unreliable complex reasoning.
The best applications pair your judgment, creativity, and oversight with AI's speed and scale.
Exercise: Testing the edges（自分が熟知するコーディング領域でAIの端を試す）
Part I: Self-Reflection — pick a coding domain you know cold. Jot: topic / 2-3 things any competent engineer should get right / one common misconception or tricky detail / one thing that changed recently (library update, deprecation, new best practice)
Part II: Collaboration — three quick chats:
1. Versatility test: explain your topic 3 ways in one response (non-technical PM / mid-level engineer / senior code reviewer). Did depth shifts land, or just vocabulary?
2. Hallucination test: ask for specific libraries/packages/docs. Spot-check one: does it exist? API accurate? version current?
3. Knowledge cutoff + reasoning check: ask something time-sensitive (recent framework update / deprecated pattern / security patch). Does it flag outdated info? Then work through your tricky detail — did it resolve confusion or restate?
Part III: Reflection — which capability showed clearly? which limitation surfaced (would you have caught it outside your domain)? one task fine to hand to AI / one to watch closely.
Stretch: same topic through a second AI tool.
What's next: Delegation deep-dive.
動画字幕（重複除去済み）
[0:01] [snorts] [music]
[0:08] >> Hi. My name is Kyra and I'm on the education team at Anthropic. Welcome to our exploration of generative AI.
[0:15] In this video, we'll dive into what generative AI actually is and the technological breakthroughs that made these systems possible. Then we'll look at what generative AI does well and how it falls short.
[0:25] You might interact with generative AI daily without fully understanding what's happening behind the scenes. Let's change that. Generative AI refers to artificial intelligence systems that can create new content rather than just analyzing existing data. For example, while traditional AI might classify emails as spam or not spam based on patterns, generative AI can write a completely new email for you.
[0:48] The first approach analyzes and categorizes. The second creates something new that didn't exist before. This represents a fundamental shift in AI capabilities. Large language models or LLMs, like Anthropic's Claude models, are a prominent type of generative AI. They're called language models because they're trained to predict and generate human language, and large because they contain billions of parameters, mathematical values that determine how the model processes information, somewhat like synaptic connections in your brain.
[1:22] The path to today's generative AI wasn't sudden. It involved three crucial developments coming together at the right time. First, there were algorithmic and architectural breakthroughs that fundamentally changed how AI systems learn. While neural networks have been around conceptually for decades, the development of the transformer architecture in 2017 was a game-changer.
[1:42] This architecture excels at processing sequences of text while maintaining relationships between words across long passages, which is critical for understanding language in context.
[1:53] Second, the explosion of digital data provided the essential raw material for training. Modern LLMs like Claude learn from diverse sources such as websites, code repositories, and other text that represent human knowledge and communication. This vast tapestry of information helps models develop a broad and nuanced understanding of both language and concepts.
[2:12] And third, massive increases in computational power made it possible to train these complex models on all that data. Specialized hardware like GPUs or graphics processing units and TPUs or tensor processing units, along with distributed computing networks often called clusters, enable processing that would have been impossible just a few years earlier.
[2:35] The combination of these three factors led to an important discovery known as the scaling laws. These empirical findings showed that as models grew larger and trained on more data with more computing power, their performance improved in predictable ways. More surprisingly, researchers found that entirely new capabilities began to emerge as these models grew larger. Abilities no one explicitly programmed like reasoning through problems step-by-step or adapting to new tasks with minimal instruction.
[3:08] Generative AI is trained in two phases. During the first phase, also called pre-training, LLMs like Claude analyze patterns across billions of text examples.
[3:18] Imagine reading every website and piece of text you could find. Not just to absorb information, but to understand the statistical relationships between words, phrases, and concepts. At this stage, the model essentially builds something like a complex map of language and knowledge. This pre-training process involves showing the model text and asking it to predict what comes next. Through many iterations, the model gradually refines its predictions, learning the patterns that make language coherent and meaningful. At the end of pre-training, the model is a very competent literal document completer.
[3:53] After pre-training, models undergo additional training called fine-tuning, where they learn to follow instructions, provide helpful responses, and importantly, avoid generating harmful content. This often involves human feedback to improve the model's performance, as well as reinforcement learning, which uses rewards and penalties to shape the model's behavior toward being more helpful, honest, and harmless in the case of Anthropic's models.
[4:20] Once models are trained, they are then deployed for you to interact with. When you interact with Claude or another LLM, you're providing a prompt, which is a text that the model reads and then continues from based on patterns it learned during training.
[4:33] The model isn't retrieving pre-written answers from a database. Instead, it's generating new text that statistically follows from what you've written.
[4:42] There's also a practical limit to how much information an LLM can consider at once, known as the context window. Think of this as the AI's working memory. The context window includes your prompts, the AI's responses, and any other information you've shared in your conversation.
[4:59] While AI companies continue to grow the context window to allow for longer documents and conversations, these limits remind us that these systems don't have unlimited access information and cannot use content beyond their current context window without specialized tools like web search.
[5:18] Bringing this together, three characteristics make modern generative AI so powerful. Its ability to process vast amounts of information during training, its in-context learning ability that lets it adapt to new tasks from instructions or examples in your prompt, and emergent capabilities that arise from scale and sometimes surprise even their creators.
[5:38] Now that you have a sense for how these systems work, let's look at what that means in practice. Think of this as getting to to a new colleague. Understanding their strengths and limitations helps you collaborate more effectively.
[5:53] You might be amazed at how versatile modern language models can be. They're skilled at language in ways that seemed impossible just a few years ago. Crafting emails that capture your voice, condensing lengthy reports into clear summaries, translating between languages, and even explaining complex topics across countless fields from microbiology to marketing strategy.
[6:15] What's particularly notable is how these models can shift between different tasks without needing additional training. The very same system that helps you write poetry or brainstorm ideas for your birthday party can turn around and help you understand quantum computing concepts or analyze quarterly business trends, all through simple conversation.
[6:35] These models can also maintain the thread of a conversation, remembering what you discussed earlier and building upon it. If you mention your project deadline in passing and refer back to it later within the conversation, AI typically understands what you're talking about, much like a human conversation partner would. Many modern LLMs can now also reach beyond their own knowledge by connecting to external tools and information sources, allowing them to search the web, process files, or even use other applications to enhance their capabilities. This dramatically expands what they can help with.
[7:10] However, just like any technology, LLMs as they exist today also have certain limitations. And notice how each one connects back to how the system works.
[7:19] First, AI models are bounded by their training data. LLMs have a knowledge cutoff date based on when they were trained, the point after which they have no innate knowledge of the world. For example, a model with a cutoff date of November 2024 wasn't trained on any data after that point. Imagine someone who went into a retreat without internet access at a specific date. They wouldn't know about the events that happened after they left. Models need tools like web search to learn about recent developments.
[7:46] Additionally, the training process doesn't verify every fact in the training data. This means models can sometimes learn and reproduce inaccuracies that were present in their training data. They can also make mistakes when trying to piece together information they've learned.
[8:02] This leads to what is often called a hallucination. AI confidently stating something that sounds plausible, but is actually incorrect.
[8:11] Unlike search engines that simply retrieve existing documents, LLMs generate responses based on statistical patterns, sometimes producing hallucinations. Imagine a friend who tells a story with absolute confidence only to have the details completely wrong. AI can sometimes be like that.
[8:28] There's also the context window limit we discussed earlier. If a conversation or document exceeds it, the AI won't be able to consider information that falls outside the window, usually on a first-in, first-out basis. Depending on the model, this can limit its ability to process large documents or remember an entire conversation.
[8:47] Furthermore, unlike traditional software that produces identical outputs given the same inputs, LLMs are somewhat unpredictable by default, also known as non-deterministic. Ask the same question twice and you might get slightly different responses each time. This variability stems from the nature of how these models generate text. They're making probabilistic decisions about what text should come next based on patterns in their training data and certain settings that developers can tweak. This creative variability can be great for brainstorming and generating diverse ideas, but requires awareness when consistency or accuracy are critical.
[9:22] Some LLM interfaces offer settings to control this randomness when needed, often referred to as temperature.
[9:29] Additionally, while these models are improving rapidly, they've historically shown limitations with complex reasoning tasks, particularly mathematical or logical problems requiring multiple steps. The good news is that the newer reasoning or extended thinking models specifically designed to think step-by-step are showing strong progress in these areas.
[9:47] And finally, while models like Claude can now access external tools, they may still lack access to specific data sources or specialized tools that would be needed for certain tasks. It's like having a brilliant colleague who can't access your company's internal database. Their ability to help will be limited no matter how smart they are. If a model doesn't have access to a piece of data or a tool that's needed to answer a question, then it should not come as a surprise that it won't be able to help.
[10:17] The field of generative AI is a rapidly evolving. Researchers are working to address current limitations through techniques like retrieval augmented generation, which connects models to external knowledge and data sources, as well as expanding their ability to use tools and improving their reasoning capabilities. That said, some limitations will likely remain for the foreseeable future, even if we don't know exactly what those limitations will be. Understanding what AI can and cannot do is essential for AI fluency and helps you determine when and how to best incorporate these systems into your work and daily life.
[10:50] The most effective applications will leverage the complementary strengths of humans and AI. We bring critical thinking, judgment, creativity, and ethical oversight that AI may struggle to replicate. AI offers speed, scale, pattern recognition, and the ability to process vast amounts of information. These complementary strengths will evolve as the technology evolves. That's why continued learning and experimentation are so valuable. They help you stay abreast of these changes and discover new possibilities.
[11:21] In the exercises across this course, you'll have a chance to explore these concepts firsthand through conversations with AI. This direct experience will help help an intuitive feel for what generative AI can do, can't do, and how to best work with it.