1958年7月8日付のニューヨーク・タイムズ、25ページの片隅に、きわめて異例な記事が掲載された。見出しはこうである。「⁠経験によって学習する海軍の新装備：読むことができ、学ぶほど賢くなるよう設計されたコンピュータの『胎児』を心理学者が公開⁠」⁠。その書き出しは、さらに事態を大げさなものにしていた。「⁠本日、海軍は電子コンピュータの『胎児』を公開した。この装置は、歩き、話し、見ることができ、書き、自己複製し、自らの存在を意識するようになると期待されている。」

今となっては、明らかに誇張されていて、どこか気恥ずかしくすらある。しかし、その責任をすべてニューヨーク・タイムズに負わせるのは酷である。というのも、この大げさな表現の一部は、発表者であるフランク・ローゼンブラット自身の口から語られていたからだ。彼はコーネル大学の心理学者にしてプロジェクト・エンジニアであり、米海軍研究局からの資金援助を得て「パーセプトロン（perceptron⁠）⁠」を開発していた。この記事の前日に開かれた記者会見で、そのパーセプトロンの試作機が発表されたのである。ローゼンブラットは、パーセプトロンを「人間の脳のように思考する最初の装置」と呼び、いずれこの種の機械が「機械仕掛けの宇宙探査機」として他の惑星に送られるようになるかもしれないと述べた。

いずれも実現には至らなかった。パーセプトロンは、その誇大な期待に応えることはなかったのである。それでも、ローゼンブラットの研究は極めて重要な意義を持っていた。今日、人工知能（AI）を教える講義では、ほぼ必ずパーセプトロンが登場する。それも当然である。ChatGPTをはじめとする大規模言語モデル（LLM）の登場と、それに対する私たちの反応――1910年代から20年代にかけて、物理学者たちが量子力学の常識外れな性質に直面したときの感覚になぞらえられることもある――は、ローゼンブラットが始めた研究にその源流を持つからである。ニューヨーク・タイムズの記事には、パーセプトロンが引き起こした革命をかすかに示唆する一文がある。「⁠ローゼンブラット博士は、この装置がなぜ学習できるのかを、高度に専門的な言葉でしか説明できないと語った。」だが、この記事にはその「高度に専門的な説明」は一切載っていなかった。

本書には、それが記されている。機械学習に関する技術的な詳細――つまり、長年にわたって研究者たちを魅了してきたエレガントな数学とアルゴリズムの世界を解説する。機械学習とは、明示的なプログラムによらずに、データからパターンを学び取るような機械を構築するAIの一分野である。訓練を受けた機械は、未知の新しいデータの中にも似たようなパターンを検出できるようになる。これにより、猫や犬の画像を識別するタスクから、自動運転車の実現まで、さまざまな応用が可能になる。こうした学習能力は、数学とコンピュータサイエンスの融合、さらには物理学や神経科学の知見が少なからず加わることで、初めて実現するものである。

機械学習（ML）は広大な分野であり、そこには何世紀も前にさかのぼる、比較的単純な数学――その多くは高校や大学初年次で学ぶ――を活用するアルゴリズムが数多く存在する。もちろん、初等代数学。そして、もう1つの極めて重要な礎は、あのアイザック・ニュートンが共同で発明した微積分である。また、この分野は、確率論と統計学において不可欠な「ベイズの定理」を生み出した18世紀の統計学者・牧師トーマス・ベイズの仕事にも依拠している。さらに、ガウス分布と「ベル型曲線」に関するカール・フリードリッヒ・ガウスの研究も頻繁に登場する。中でも、機械学習の背骨となっているのが線形代数である。この数学分野に関する最も古い体系的な記述は、2000年前の中国の古典『九章算術』に見られる。現在の線形代数の姿は、多くの数学者の業績にそのルーツを持つが、とりわけガウス、ゴットフリート・ヴィルヘルム・ライプニッツ、ヴィルヘルム・ヨルダン、ガブリエル・クレーマー、ヘルマン・ギュンター・グラスマン、ジェームズ・ジョセフ・シルベスター、そしてアーサー・ケイリーの仕事に負うところが大きい。

1850年代半ばまでには、後に学習機械を構築するうえで不可欠となる基本的な数学のいくつかが出揃っていた。一方で、他の数学者たちは、より関連性の高い数学の発展を進めるとともに、計算機科学という分野を生み出し、発展させていった。しかし、このような初期の数学的研究が、過去半世紀、とりわけここ10年のAIにおける目覚ましい発展の基盤となるとは、当時ほとんど誰も想像していなかった。しかも、こうした発展の中には、ローゼンブラットが1950年代にやや楽観的に思い描いていた未来が、現実になりつつあると感じさせるものもある。

本書は、ローゼンブラットのパーセプトロンから、現代のディープニューラルネットワーク（人工ニューロンと呼ばれる計算ユニットから成る精巧なネットワーク）に至るまでの歩みを、機械学習という分野を支える主要な数学的アイデアの観点から描き出すものである。まずは無理のないかたちで数学へと導き、徐々に難易度を引き上げていく。1950年代の比較的単純なアイデアから出発し、今日の機械学習システムを支える、より込み入った数学やアルゴリズムへと進んでいくのである。

そのため、本書では次の四分野の数学を惜しみなく用いる。すなわち、線形代数、微積分、確率・統計、そして最適化理論である。これらを通じて、学習する機械に私たちがどれほどの力を与えているのかを理解し、AIが良くも悪くも当たり前に存在する社会に備えるための理論的・概念的な基盤を築く。

機械学習の数学的な「皮膚の下」を理解することは、その技術の力だけでなく限界を知る上でも不可欠である。というのも、すでに機械学習のシステムは、私たちの人生を左右する意思決定に関与しているからだ。たとえば、クレジットカードや住宅ローンの審査、腫瘍が悪性か否かの診断、認知症の進行予測、保釈の可否の判断などである。また、化学・生物学・物理学などの科学分野にも浸透し、ゲノム、系外惑星、量子系の複雑な構造の研究にも使われている。そして今この瞬間も、ChatGPTのような大規模言語モデルの登場によって、AIの世界は沸騰している。だが、これはまだ始まりにすぎない。

AIをどう構築し、どう活用するかという決定を、開発者に任せきりにするわけにはいかない。この非常に有用でありながら、同時に破壊的で潜在的に脅威ともなりうる技術を適切に規制していくには、社会のもう1つの層――教育者、政治家、政策立案者、科学コミュニケーター、さらにはAIに関心を持つ一般の消費者――が、機械学習の数学的基礎に触れる必要がある。

数学者ユージニア・チェンは著書『数学は実在するか？（Is Math Real?⁠）⁠』の中で、数学を学ぶ過程のゆるやかな性質について次のように述べている。「⁠私たちは、ほんの少しずつしか前進していないように思え、どこにもたどり着けていないように感じるかもしれない。ところが、ふと後ろを振り返ると、巨大な山を登り切っていたことに気づくのだ。こうした経験は戸惑いを伴うが、少しの（あるいは時には大きな）知的な不快感を受け入れることこそが、進歩の一部である。」

幸いにも、本書で直面する「知的な不快感」は十分に耐えられるものであり、それを超えた先に得られる知的報酬は大きい。というのも、現代の機械学習を支える数学は、驚くほどシンプルでエレガントだからである。それを象徴するエピソードとして、イリヤ・サツケヴァーの話を紹介したい。彼は現在、ChatGPTを生み出したOpenAIの共同創業者として知られているが、10年以上前、トロント大学で学部生だった頃、指導教員を探してジェフリー・ヒントンの研究室を訪ねた。ヒントンはすでに「ディープラーニング」という機械学習の一分野で広く知られた研究者であり、サツケヴァーは彼のもとで研究したいと考えていた。サツケヴァーはヒントンから渡された数本の論文を食い入るように読み、当惑したという。学部課程で学んでいた数学や物理の内容と比べて、その数学があまりに単純だったのだ。彼はディープラーニングに関するこれらの論文を読み、その本質的な原理を理解することができた。「⁠どうしてこれほど単純なのだろう……。さほど手間をかけずに、高校生にも説明できてしまうほど単純なのです」と彼は私に語った。「⁠実に奇跡的なことです。これは、私たちが正しい方向に進んでいることの兆しかもしれません。このように単純な概念が、ここまで通用するのは、偶然とは思えません。」

もちろん、サツケヴァーは高度な数学力をすでに備えていたので、彼にとって「単純」に思えたことが、私たち――私自身を含め――の多くにとっても単純とは限らない。

だからこそ本書は、機械学習とディープラーニングの根底にある「概念的な単純さ」を伝えることを目的としている。ただし、誤解してはいけない。私たちが今、AIの分野で目の当たりにしているすべて――とくにディープニューラルネットワークや大規模言語モデルの振る舞い――が単純な数学で分析できるという意味ではない。

実のところ、本書の結末は、ある人々にとっては当惑を覚えるような場所へ、そして別の人々にとっては胸が高鳴るような場所へと私たちを導くだろう。というのも、これらのネットワークやAIは、何十年ものあいだ機械学習を支えてきたいくつかの基本的な考え方に公然と背いているように見えるからである。それはあたかも、実証的な証拠が理論の限界を決定的に露呈させてしまったかのようであり、20世紀初頭に物質世界の実験的観測が古典物理学を覆したのと同じである。つまり、私たちは新しい何かを必要としているのだ。これから私たちを待ち受ける、この「すばらしい新世界（brave new world⁠）⁠」を理解するための何かを。

本書のリサーチを進める中で、自分自身の学び方にある「パターン」があることに気がついた。それは、現代の人工ニューラルネットワークの学習過程とよく似ていた。アルゴリズムがデータを一巡するたびに、そのデータに潜むパターンについて少しずつ理解を深めていく。たった一度の通過では足りない。十回でも、百回でも不十分なこともある。ときには、数万回の反復を経てようやく学びを深めるのがニューラルネットワークの世界である。まさに私もこの方法で、このテーマを深く理解し、本書の執筆に至ったのだ。この膨大な知識体系の一部をたどるたびに、脳の中のニューロンが（文字通り、そして比喩的にも）結びついていくのを感じた。初回や2回目では意味がわからなかったことも、何度も繰り返すうちにようやく理解できた。この学びの手法を、読者の理解にも役立てようとした。つまり、アイデアや概念を何度も繰り返し登場させている。ときにはまったく同じ表現を、あるいは少し別の角度から言い換えて提示している。こうした反復や言い換えは意図的なものである。数学者でも機械学習の実務家でもない大多数の私たちにとって、「⁠単純に見えて実は奥深い」この分野を理解するための、1つの方法なのである。一度アイデアに触れると、他の文脈で同じ概念が出てきたときに脳がパターンを認識し、より深い結びつきを感じるようになる。その結果、最初の印象よりも遥かに深く理解できるようになるのだ。

あなたの脳内のニューロンも、私と同じようにこのプロセスを楽しんでくれることを願っている。