「ソフトウェアエンジニア」という職業が生まれてから今までの歴史の中で、過去最大の変化が起こっている。
かつて、プログラムを書くという仕事は、人間がアルゴリズムを考え、それを1文字ずつ、1行ずつ記述していくことだった。様々な高級プログラミング言語やフレームワーク、ツールが生まれたが、それらは「人間が全てを考え、人間が記述する」という大前提の上に成り立っていた。
それが去年あたりから、「あいまいさを多分に含む指示」をAIに出せば、AIが細かいところまで面倒を見たプログラムを生成してくれるようになった。エンジニアの仕事は「AIが出力したプログラムを確認し、修正をAIに指示する」というサイクルを繰り返すものに変わってしまった。
周りのエンジニアの友人や元同僚たちに聞くと「2026年になってから、1行も自分の手でプログラムを書いていない」という人が多数派になっている。
「人工知能（AI）」という概念は、50年以上前から考えられており、長年にわたって様々なアプローチで研究されてきた。ごく最近になって、大規模言語モデル（Large Language Model、以下LLM）と呼ばれる方法が編み出されたことで、AIは驚異的な進歩を遂げた。
LLMとは、雑に一言で言えば「スマホの予測変換がものすごく進化したようなもの」だ。
たとえばスマホで「あ」と入力すると、予測変換候補として「あの」「あれ」「明日」などの単語が出てくる。「あの」を選ぶと、次には「時」「頃」「ですね」など、「あの」の次に来そうな単語が予測されて出てくる。
これは便利だが、これだけで意味のある文章を作り出すことは難しい。スマホでは、入力された文字やほんの一つ前の単語を見るだけで次の候補を決めているからだ。
それに対してLLMは、世界中に存在するウェブサイト、書籍、プログラムなどから大量の文章を読み込んで、その「学習結果」をまとめたものだ。
スマホに入れる1文字、2文字の代わりに利用者からの質問や指示をもとに、膨大な学習結果と合わせて、どのような単語を次に出すのが正しいかを次々と予測していく。その結果が人間が書いたのと遜色ない文章やプログラムになる。
しかし、AIの性能が当初の想像以上に向上してきたために、忘れられかけている事実がある。私たちが驚嘆するようなプログラムを書き、流暢（りゅうちょう）な文章を生成するLLMは、実はその内容を「理解」していないということだ。
少々別の言い方での繰り返しになるが、LLMの仕組みは、本質的には極めて統計的なものに予測のランダム性を混ぜ込んだものに過ぎない。膨大なテキストデータの中から、ある文脈において「次に来る確率が高そうな言葉」を選ぶことを繰り返して、文章やプログラムを生成しているだけだ。
そこに「物理法則への深い洞察」や「論理の必然性」に対する確信はない。AIがおすすめグルメスポット情報を流暢な文章で教えてくれても、AIの文章と実在する店舗という概念は結びついていない。
AIが完璧なロジックのプログラムを生成しても、文面をそれっぽくなぞるように生成したらいつの間にかそれっぽいものになっているだけで、背後の論理や法則などを理解しているわけではない。
本質は理解せずに、表面的に言葉をなぞっているだけなのだ。
いくらアプリケーションが進化しても、LLMをベースにしている限りそれは本質的な限界であり、今より更に大きな技術的ブレークスルーが起きない限り、人間と同じかそれ以上に賢い人工知能、いわゆる汎用（はんよう）人工知能(Artificial General Intelligence, 以下AGI)は起こり得ない。それは今でも真実である。
ところが、事態は予想されなかった方向に進展してきた。
「AGIを達成できないのだから、LLMベースのAIにできる仕事の質はこの程度だろう」と数年前の人々が思っていたところを突破して、大量の計算資源と大量のデータ（読み込んだ文章の記憶）を投入したことによって、人間が本当に理解した上で書いたものと区別がつきづらい文章やプログラムが生成されるようになってきた。
ここで、一つの不気味な問いが浮上する。
「実際に理解しているもの」と「理解しているものと区別がつかない出力」の間に、果たして実質的な差はあるのだろうか。
LLMが出るより前に、別のAIが将棋で人間より強くなったが、そのAIも将棋の歴史や人間が積み上げた定石を理解しているわけではない。しかし、トップ棋士に勝つ最善手を指せるのならば、そこに「理解」がないと断じることにどれほどの意味があるのか。
もし、AIが物事の本質を理解していなくても、理解している人間をうならせるような鋭い視点の文章につながる「次の言葉」を生成しつづけるのなら、それは「理解」しているものと同じと見なしてもよいのか。
そう考えてみて、ふと「人間」の方を振り返ってみると、もう一つ不気味なことを考えてしまう。
人間は、どれだけ物事を「本当に理解」しているのだろうか。
難しい言葉（バズワード）をろくに理解もせずに流暢に並べ立てることで自分を「知的」に見せようとするビジネスパーソンやインフルエンサーはたくさんいる。そういう人たちの言葉に惑わされ、そういう人たちを崇拝さえすることがある我々は、一体なにをどの程度まで「理解」しているのか。
もしかすると、人間である我々も多くの言葉や言語パターンを記憶して、それを適当に並べるだけでコミュニケーションをとり、「理解したつもり」になっているだけではないのか。LLMがやっていることと、人間がやっていることの差は「肉体的な体験」だけであって、「本当の理解」はごく一部の人間だけに許された特殊能力だったりはしないのか。
古来、サイエンス・フィクション（SF）の本質は「科学を大きく発展させた想像上の舞台を用意して、そこで人間がどう行動するかを考えることにより、人間の本質に迫る」ことだとされてきた。実世界が数十年前のSFに追いつき始め、人間にしかできなかったはずのことがどんどん減ってきている今、「人間とはなにか」を考えさせられることが増えてきている。
