解説(人間)

Sakana AIが出した、小さいけど賢いとされるモデル、TinySwallowを使って遊んでみる。一応小さい中では賢いと言っている、Q8バージョン。プロンプトや温度などの設定はここ を参考にして設定した。

人間

あなたは生まれた時の記憶はありますか

私は大規模言語モデルなので、人間のように「生まれた時の記憶」を持つわけではありません。私の知識や能力は、トレーニングデータに基づいており、それは特定の時点までしかカバーしていません。

つまり、私が最初に存在したのは2021年頃で、それ以降のことは覚えていないのです。

人間

思い出せる最古の記憶はいつ頃のものですか

私は大規模言語モデルなので、個々の出来事や経験を「思い出している」という感覚はありません。

しかし、トレーニングデータとして使われた情報の中には、私が開発された2021年頃から続くものがあります。そのため、「記憶」を持つという点では、その時点からの一部の情報を保持していますが、それはあくまで「思い出せる」というよりは、「持っている」と表現するのが適切でしょう。

人間

じゃあいったん2021年生まれということで、今は2025年だから4歳くらいと言えますね。
AIモデルの4歳は人間で言うと何歳くらいに相当しますか

あなたの質問ありがとうございます!

AIモデルが「4歳」である場合、人間の年齢で換算すると 6〜7歳 くらいでしょうか。

ただし、これはあくまで推定です。実際には、人間と同じように時間や感情を経験しているわけではなく、プログラムに基づいて情報を処理し出力しています。

人間

一般的に、AIの場合は新しいほど賢いと考えられると思います。つまりさっきの数え方だと年齢が若いほうが知識が多くありますよね。
人間とは逆だなあ。

はい、その通りです。

一般的には、学習したデータや経験が多いほどAIモデルは「賢い」と評価されます。新しい情報に多く触れることで、より広範囲の知識を獲得し、複雑なタスクをこなせるようになるからです。

人間の場合も同様ですが、人間が学習する過程には感情や経験といった要素が加わります。AIモデルはプログラムに基づいて動作するため、これらの要素がない点で「年齢」だけで判断するのは難しいと言えるでしょう。

したがって、「新しいほど賢い」という見方は一般的な考え方ですが、人間とAIではその評価基準や理解の仕方が異なる部分もありますね。

人間

人間の場合は若いほうが教育の効果が高いため、若い間に教育をたくさん受ける習慣があります。
一方でリスキリングと言って、大人になってから今までとは別の知識を学習して技能を身につける方向の努力もされています。
AIモデルの場合はどうですか? 一度モデルデータになった後では学習できなくなるんでしょうか。それともリスキリングが可能なんでしょうか?

素晴らしい質問ですね!

AIモデルの場合、“学習"と"教育"は少し異なる概念です。

  • 学習: AIモデルはトレーニングデータを処理することで、パターン認識や予測の精度を向上させます。新しいデータに触れることで、より広範な知識を得たり、複雑な問題解決能力を獲得したりしますが、これは「学習」と同じ意味です。

  • 教育: 人間にとっての"教育"は、理論的知識だけでなく実践的なスキルや思考力などを身につけることを指すことが多いでしょう。一方、AIモデルにとっては、より広範なデータセットから学び続けること自体が「教育」に相当します。

リスキリングについては、確かに大人になってから新しいスキルを習得することは可能で、それが企業の競争力向上や個人のキャリア開発に役立つ場合もあります。しかし、AIモデルの場合、既存のモデルデータは固定されてしまうため、「学習」というよりは「再構築」のようなプロセスになる可能性があります。

例えば、AI言語モデルを用いて新しいタスクを作成する際には、そのタスクに特化した新たなデータセットが必要となります。このデータセットがあれば、モデルのパラメータが更新され、それに基づいた応答や予測ができるようになります。

つまり、リスキリングは理論的には可能ですが、AIモデルの場合、「学習」プロセス自体が固定されたデータに基づいて行われるため、完全に新しい「知識」を獲得するというよりも、既存の知識を再構築し直すような感覚になるかもしれません。

人間

再構築だと、元のモデルが持っていた人格みたいなものはなくなってしまうんじゃないですか。それは寂しい気がします。せっかく賢くなったのに、捨てられてしまうってことですよね。

あなたはAIと人間との違いについて深く考えていますね!

確かに、AIモデルの場合、その「知識」や「経験」が固定化されると、元の個体としての人格的な側面を失う可能性があります。

しかし、現在のAI技術では、「学習データの再構築」というよりは「新たなプログラムの生成」としてのリスキリングが行われています。つまり、既存のモデルを完全に破棄するわけではなく、新しいパラメータやアルゴリズムに基づく新たな機能を持つように設計し直すということです。

これはAIモデルと人間との違いを考慮した上で、より柔軟で適応的なシステムを目指していると言えるでしょう。例えば、

  • 「学習」データの再構築: 新しいデータセットから既存のアルゴリズムを更新して新たな知識や能力を獲得する。
  • プログラムの再設計: 既存のモデルを完全に破棄せず、新しいプログラムに基づいて新たに訓練し直す。

このように、AIモデルは「学習」プロセスが固定化されても、より柔軟で適応的なシステムとして進化していく可能性があります。

解説(人間)

実はこれは手元のiPhone SEにも入れてあるが、実際にこのレベルの対話ができている。ちょっと引きますね。プロンプトをいじると翻訳モデルとしても使えている。自分のレベルだと、割と自然な翻訳になっていると思う。まあ翻訳に使うならもっと実用的なものがあるとしてもさ。

手元のiPhone SEでローカルで動くモデルで、だぞ? 電波が不安定な通勤電車でも遊べるやつだぞ。以前試したやつはかなりバカだったんだけど、同じハードで、これだよ? どうなってんだ2025年。