AIで宿題はできた。でも自分では解けない？｜国が「教育AIの安全性」を本格的に考え始めた
こんにちは、完全個別指導塾オールウェイズです。
ここ最近、このブログでもAI教育の記事がかなり増えています。
まあ、それもそのはずで、オールウェイズでは10月1日からWAYSの利用を始めましたし、私自身が毎日のようにAIを触っています。
そんな中、昨日10月6日、AIセーフティ・インスティテュート（AISI）が、AIの安全性評価についての新しいビジョンペーパー第2.0版を公開しました。
AISIは、AIを安全・安心に使うための評価方法や基準を検討する機関です。
今回特に気になったのが、AIの安全性を考える対象として「教育」がより明確に扱われ始めていることです。
そして報道された資料の内容を見ると、教育で想定されているリスクがかなり具体的です。
AIを人間のように感じて依存してしまうこと。AIへ頼りすぎることで、自分で考えたり試行錯誤したりする機会が減ること。
そして、AIを使えば課題ができるため「自分は理解できている」と思っていたのに、AIなしの試験では解けないこと。
このあたりが例として挙げられています。
これを読んで、「ああ、やっぱりそこだよな」と思いました。
一番怖いのは、間違えることではない
AIが数学の問題を間違える。
これはもちろん困ります。
間違った情報を教えることもありますし、AIを使うならそこは当然注意しなければいけません。
でも教育で私がもっと怖いと思っているのは、
AIの答えが正しいのに、生徒の勉強としては失敗している状態です。
例えば宿題が10問あります。
AIに写真を送る。
解き方を出してもらう。
それをノートに書く。
10問全部○になる。
提出物として見れば完璧です。
でも翌日、同じような問題を自分だけで解かせると、「分からん」となる。
AIは何も間違えていません。
宿題も終わっています。
でも、本人にはほとんど残っていない。
これは教育AIを考える上で、かなり厄介な問題だと思います。
「できた」と「できる」は昔から違った
ただ、考えてみればAIが登場する前から似たことはありました。
答えを赤ペンで写した。
解説を読んで「分かった」と思った。
先生の説明を聞いた直後だから解けた。
友達に教えてもらって、その場ではできた。
でも一人になると解けない。
オールウェイズでもずっと、「分かった」と「自分でできる」は違うと伝えてきました。
AIによって新しい問題が突然生まれたというより、昔からあった問題が、ものすごく簡単に起こせるようになったとも言えます。
以前なら答えを写すにも、少なくとも解答冊子を開かなければいけませんでした。
今は問題を撮って送れば、数秒後には丁寧な途中式付きで返ってきます。
しかも、めちゃくちゃそれっぽい。
そりゃ便利です。
私だって使います（笑）
だからこそ、「使うな」だけではもう難しいと思っています。
「AIなしでもできる？」を最後に確認する
WAYSでも、ここはかなり意識しています。
ウェイズ先生に質問すること自体は悪くありません。
分からないところで30分止まり続けるくらいなら、ヒントをもらった方がいい。
教科書を読んでも分からない説明を、別の例で説明してもらうのもいい。
ただし、そのあとです。
AIと一緒に解けた。
そこで終わらず、
一回閉じて、自分だけでもう一度解けるか。
ここまでやってほしい。
私はこれをかなり大事にしたいと思っています。
AIがいる状態でできることが、本人の能力そのものとは限りません。
自転車でいうなら、まだ補助輪が付いている状態かもしれない。
補助輪を使うこと自体は悪くないんです。
最終的に外して走れればいい。
「考える前に聞く」は便利だけど危ない
もう一つ気になるのは、質問するタイミングです。
分からない問題が出た。
即AI。
また分からない。
即AI。
これを繰り返すと、便利ではあります。
でも、
「何が使えそうかな」
「前に似た問題なかったかな」
「ここまでは分かるんだけどな」
と考える時間がなくなります。
最近のブログで、生徒を先生役にして私が質問責めする話を書きました。
あれも同じです。
私は答えを知っています。
でもすぐには言いません。
本人の中にあるものを一度出してほしいからです。
考えて、間違えて、言い直して、「あ、そういうことか」となる。
そこに勉強があります。
AIがその途中を全部ショートカットしてしまったら、いくら立派な回答が画面に出ても、生徒は強くなりません。
だからWAYSは「答えを出すAI」にしたくない
これは作り始めた頃からかなりこだわっています。
ウェイズ先生は、「答えはこれです。解説はこちらです」で終わるアプリにはしたくありません。
まず、どこまで分かっているのか聞く。
何を使えそうか考えさせる。
必要ならヒントを出す。
それでも難しければ説明する。
そしてもう一度本人に考えてもらう。
最近は、生徒ごとに「どういう説明なら理解しやすかったか」も少しずつ蓄積できる形を作っています。
でも、それもAIにその生徒を決めつけさせるためではありません。
次に、もっと良いヒントを出すためです。
AIが賢くなればなるほど、「全部教えられるようにする」のではなく、「どこまで教えないか」の設計が大事になる気がしています。
「AIを使える子」が強いとは限らない
これからはAIを使えること自体も大切だと思います。
プロンプトの書き方もそうですし、情報を確認する力も必要です。
でも、おそらく数年後には「AIを使える」だけでは大した差にならなくなります。
みんな使えるようになるからです。
そのとき大事なのは、
AIへ何を任せるか。
AIの答えを疑えるか。
AIを閉じたあと、自分でできるか。
そして、そもそも今はAIを使わない方がいい、と判断できるか。
なのかもしれません。
便利な道具を使いこなすというのは、いつでも使うことではないと思っています。
私もWAYSを作りながら、ずっと線引きをしています
正直、AIを使えばWAYSへ入れられる機能はいくらでもあります。
作文を全部直す。
宿題の答えを全部出す。
学習計画を全部AIに決めさせる。
生徒へのコメントまで全部AIに任せる。
技術的にはできることが増えています。
でも、「できる」と「入れるべき」は別です。
むしろ最近は、機能を増やすことより、
これは生徒のためになるのか？を考える時間の方が長い気がします。
そして、その答えは生徒によっても違います。
自力で十分考えられる生徒。
最初の一歩だけヒントが必要な生徒。
そもそも何を質問したらいいか分からない生徒。
同じAIでも、必要な距離は違うはずです。
教育AIの安全性は、かなり身近な話になった
AIセーフティという言葉だけを見ると、少し大げさに聞こえます。
巨大なAIシステムやサイバー攻撃のような話を想像するかもしれません。
でも教育では、
「AIがないと勉強できなくなっていないか」
「できた気になっていないか」
「考える時間を飛ばしすぎていないか」
という、かなり身近なところも安全性の問題になります。
AISIが10月6日に新しいビジョンペーパーを公表し、教育分野もAI安全性を考える領域として扱われ始めたのは、AIが学校教育の中でも「試しに使ってみるもの」から、本格的に付き合い方を考えるものへ変わってきた表れだと思います。
WAYSを使い始めたばかりのオールウェイズにとっても、これは他人事ではありません。
AIは使います。
かなり使います。
でも、AIを使った結果、生徒が自分でできることが増えたか。
最後に見るのは、そこです。
AIが賢くなったかどうかではありません。
生徒が少し賢くなったか。
そっちを見失わないようにしたいと思っています。