AIと人間の関係から感じる守破離
AI凄いですね（といきなり小学生並みのコメント）。ChatGPTを使っていると「こいつ、実は相当賢いな」と感じます。質疑応答って理解が浅い人だと、ちょっと突っ込んだ質問をすると、結構動揺したり回答に詰まったりするのですが、ChatGPTは、いつでも言いよどむこと無く堂々と答えてくれます。
ときには盛大に間違えるときがある（ハルシネーションと呼ばれる）のですが「人間も、間違っていてもこれくらい堂々と言ったほうが賢くみえるのかもな」と思ったりしました（それが良いかはさておき）。
特に、最近ChatGPTを使っていると人間とAIの関係の急激な変化を感じます。
ちょっと前までは人間とAIの関係は、以下の図のような関係だったと感じています。
字が汚いですが、AI、Human（人間）、Environment（環境）の3つの要素を示しています。人間は、AIにプロンプトで指示して結果をもらっています。その結果に対して、行動して環境から結果をもらいます。具体的には、AIにコード生成してもらって、Python環境で実行した結果（エラーとか）をAIにフィードバックしていることをイメージすると分かりやすいかもしれません。
このように、人が外部（環境）から得た知識をプロンプトとして含めてAIに指示することをIn-Context Learningと言います。詳細や論文は以下の記事にまとめたので興味ある方は参照ください。
それが最近、Code Interpreterを使うことで以下のようになったと感じています。
ここでは、EnvironmentがCode Interpreter環境ですね。実際にCode Interpreterを使うとよくあることですが、AIが生成したコードをCode Interpreterで実行するとAIが直接その結果を受け取れるので、コードにエラーが合った場合、AIとCode Interpreterで勝手に対話し始めて、どんどんエラーを修正してくれます。人間は最初にプロンプトで指示を与えたら、AIと Code Interpreterが会話している間は、ポケーっとそのやりとりを見ながら待って結果をもらうだけです。楽ちんですね。テクニカルタームではこういった外部との試行錯誤を通じて結果の精度を上げる方法をRecursively Criticizes and Improves(RCI)というらしいです。なんだかかっこいいです。
次の段階はどうなるのか想像すると…以下のように、AIは人を必要とせず学習し続けるのかもしれません。
いわゆるこの図は、強化学習で出てくる、エージェントと環境の関係ほぼそのもので、将棋とか囲碁とかの世界では、すでにこれが実現しているともいえるのですが、それがいよいよゲームといった閉じた世界から、自然言語を通じて、実世界に拡張されていくという気配を感じつつあります。
日本の茶道や武道における師弟関係のあり方の一つに、守破離という以下のような考え方があります。
守：支援のもとに作業を遂行できる（半人前）。 ～ 自律的に作業を遂行できる（1人前）。
破：作業を分析し改善・改良できる（1.5人前）。
離：新たな知識（技術）を開発できる（創造者）。
守破離 Wikipediaより引用
多少こじつけかもしれませんが、AIと人間の関係は「守」から「破」に入り始めている気がします。そして「離」となったら、それこそシンギュラリティといってもいいのかも？とか夢想したりします。
シンギュラリティは近いのか？
ここで問題になるのは、AIと環境の関係ですね。そもそもAIって身体がないので人間のようには環境とインタラクションできません。なので、自分はAIに身体性がないと、そこまで賢くならない（知性は発現しない）のではないかなと思ってました。
ところが、ChatGPTはその予想を軽々と超えてきてしまいました。例えるなら、巨大な図書館にひきこもって、一歩も外に出ることなく黙々と世の中全ての本を読み続けた子どもが、とんでもない知性を身につけてしまったという感じですね。
そして、環境との相互作用に関しても、AIには必ずしも人間のような身体が必要というわけでもないのかもしれません。ちょっと前までは、自分くらいの凡人では、人間のように賢くなっていく知能システムなんてどうつくればよいか想像もできなかったのですが、最近「あれ、ひょっとしたら今の延長線上で知能いけちゃう？シンギュっちゃう？？」という気にすらなってきました。
私ですらそう思うのなら、世の中の賢い人は、すでに取り組んでいたり、ある程度実現していたりする人もいるのかもしれないですね。
まとめ
AIと人間の関係を、守破離という観点でみてみたというとりとめもない妄想でした。ちょっと前までは、私はシンギュラリティなんてアホらしい、考える必要もないという考えだったのですが、最近は、シンギュラリティは意外と近いのかもしれないな、というかひょっとしたら既に毎日がシンギュラリティなのかもしれないと思ったという話でした。
最近読んだ本です。
