いま子どもに必要なのは英語でもプログラミング教育でもなく教科書が理解できるだけの読解力 新井紀子／AI VS. 教科書が読めない子どもたち

数々の賞を受賞しているので今さら言わなくても良いようなことなのだけど、名著だ。
評判が良いのはわかっていたけど、なんとなく後回しにしてきたのだけど、
いよいよ読んでみたら、本当に面白かった。もっと早く読めばよかったて言うくらい。

AIとか機械学習万歳本が溢れている中、この本は冷静に今のAI、機械学習にできること、
できないことを見極めようとする話をしてくれる。
闇雲に夢を煽らない。むしろ数学者として、今の手法の延長線上には限界がある、と言う。

今のままではシンギュラリティは来ない、でも、上位20%程度のことはこなせてしまう。

AIは万能じゃないよ、人を超えるなんて夢のまた夢だよ、
でもね、人間もまた思った以上にポンコツかもしれない・・・
っていう厳しい現実がここにはある。

子を持つ親としては、厳しい現実だと思うが、
せめて、人としての読解力は身につけさせたいな。

AI vs. 教科書が読めない子どもたち

一学年に子どもの数は約100万人。半分の50万人がセンター入試を受験します。その上位20%に東ロボくんが入ったのです。ホワイトカラーを目指す若者の、中央値どころか平均値をAIが大きく上回った。この先、労働市場はどうなるのか。どうすれば、東ロボくんに負けた80%の子どもたちに明るい未来を提供できるのか。そのことと真剣に向き合わなければならない、そう決意しました。
P.62

数学は4000年の時間をかけて、論理、確率、統計と言う表現手段を獲得しました。けれども、反対の言い方をすると、数学が説明できるのは、論理的に言えることと、確率・統計で表現できることだけだということです。つまり、先述のとおり、数学で表現できることは非常に限られているということです。
P.117

Siriなどの音声インターフェイスは意味を理解しているわけではない。

意味を理解してリアクションしているのではなくて、統計と確率のアプローチで、
確からしい応答をしているだけ。その精度は上がってきているけれど、意味は理解していない。

現在の情報検索や自然言語処理は、基本的に論理で処理させることは当面諦めて、統計と確率の手法でAIに言語を学習させようとしています。つまり、文章の意味はわからなくても、その文書に出てくる既知の単語とその組み合わせから統計的に推測して、正しそうな回答を導き出そうとしているのです。そして、統計の元になるデータは、多くの人が日々Siriに話しかけることでどんどん大きくなり、それを用いて自立的に機械学習を重ねることで、その精度が上がっていく仕組みになっています。ただし、その精度が100%になることはありません。確率と統計には、そもそもそんな機能がないからです。
P.122

AI神話の元は人の脳も電気回路だから

確かに脳みそが電気回路である以上、人間も世界を０と１に還元して認知、思考しているはずなんだけど、そのメカニズムはわからない。
わからないけど似たようなメカニズムが作動しちゃうことって有り得ないのかな、と
素人は思ってしまうが、、、、。

脳のシステムはある種の電気回路であることは間違いなさそうです。電気回路であるということは、onかoffか、つまり０と１だけの世界に還元できることを意味します。基本的な原理は計算機と同じかもしれません。それが、「真のAI」や「シンギュラリティの到来」を期待させている一面はあると思います。けれども、原理は同じでも、脳がどのような方法で、私たちが認識していることを「０，１」の世界に還元しているのか。それを解明して数式に翻訳することができない限り、「真の意味でのAI」が登場したりシンギュラリティが到来したりすることはないのです。
P.165

AIに勝てそうな分野の知性が低い

今の子どもたちは教科書が性格に読めない。読解力がない。
これはもう悲惨な現状といわざるを得ない。

「同義文判定」にしても「定義から具体例を考える」にしても、中学生の半数以上がサイコロ並みなのです。そして、高校に入った後は、その能力は伸びていないのです。
P.258

サイコロ並み、つまりまったく役に立たないということ。
サイコロ回してこれかな？って答えてるのと同じレベルの精度。

私たちのRSTの全国調査で明らかになったのは、日本人の決定的な教科書読解力の不足です。読解力こそ、AIが最も苦手とする分野であることは、この本の中で再三述べてきました。しかし、残念なことに多くの人が、AIに対して優位に立てるはずの読解力で、十分な能力を身につけていません。さらに、日本の教育が育てているのは、今もって、AIによって代替される能力です。
P.272

上記のような状況なので、このままだとどんどんAIに代替されてしまう。
読解力と偏差値は非常に高い相関があることもわかっているらしい。
英語でもプログラミング教育でもないのよ、大多数に必要なのは読解力。

統計、確率万歳という盲信は危険

データの特徴を増幅させるからね、そのデータの特徴に上位集中したりするんだよね。
レコメンドエンジンが売れてる商品ばかりお勧めするのと同じような感じ。
決して正しくも万能でもない。
（それでも読解力のないサイコロ並の人間よりはマシかもしれないが・・・・）

自動車保険や生命保険の保険料、就職活動で面接まで辿り着けるか否か、教員の解雇の基準、さらには容疑者が再犯をしそうかどうかまで、ビッグデータ解析が使われ、人間の判断の「支援」をしています。それは数学に基づく「客観的な評価」だと信じられています。ですから、多くの人は、機械による統計的な判断に疑問を持つことなく受け入れてしまいます。けれどもそれは大変危険な行為です。
なぜでしょうか。（中略）ディープラーニングのような統計的なシステムでは、「教師データ」に基づき過去のデータを分析して判断しているに過ぎません。「過去の判断」を踏襲するだけなのです。社会が歪んでいれば、その歪みを増幅してしまう。教師データの設計者の価値観が正解データやアノテーションの設計に反映されてしまうのです。数学者に女性が少なければ、「将来つくべき仕事」として、ビッグデータに基づくAIは女子高校生に対して「数学者」という選択肢を決して推薦しないでしょう。
P.284

AI vs. 教科書が読めない子どもたち