ChatGPT-4に「知能のようなもの」が出現。人工知能が「自意識」を持つようになる日

かねてから激論が交わされてきた「人工知能は自意識を獲得するか否か」という問題ですが、GPT-4登場の前と後ではその議論の質も内容も大きく変貌したと言っても過言ではないようです。今回のメルマガ『週刊 Life is beautiful』ではWindows95を設計した日本人として知られる中島聡さんが、GPT-4に「知能のようなものが出現した」という事実に注目。その上で、人工知能が自意識を持つに至る可能性を考察しています。

プロフィール：中島聡（なかじま・さとし）氏
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。

OpenAIからGPT4が発表されて3週間。知能や自意識の「出現」について

OpenAIからGPT4が発表されて3週間たちます。私も含めて、さまざまな人がアプリケーションを作り、そのポテンシャルの大きさに感動している、というのが現在の状況だと思います。同時に、人工知能の急激な進歩には、さまざまなリスクがあることも事実で、それゆえ、Elon Muskらが業界向けのオープンレター（「Pause Giant AI Experiments: An Open Letter」）を書いたりと、活発な議論も起こっています。

人工知能のリスクに関しては、OpenAI自身も十分に認識しており、「GPT-4 Technical Report」には、そのリスクに対するOpenAIの考え方や取り組みも書かれているので、一読すると良いと思います。

人工知能のリスクは、大きく分けると、

• 人工知能が人から職を奪うリスク
• フェイクニュースや、フェイクビデオ(Deep Fake)が蔓延するリスク
• 差別発言のリスク
• 犯罪への応用リスク
• 人工知能の暴走リスク

などがあります。

インターネットが誕生したころには、「原子爆弾の作り方」が公開されてしまったこと、子供たちが性的な映像に簡単にアクセス出来るようになってしまったこと、3Dプリンターが出たばかりのころには、「3Dプリンターで作る銃の設計図」が公開されたことなどが大きな社会問題として注目を集めましたが、同様のことが人工知能に関しても起こると考えて間違いありません。

OpenAIの「GPT-4 Technical Report」の中には、何度も「emerge（出現する）」という言葉が使われています。GPTは、元は、途中で終わっている文章に最も適切な言葉を追加することが得意な人工知能として開発されましたが、ニューラルネットワークの規模を大きくするに従い、「知能のようなもの」が出現して（emerge）しまい、今では、司法試験やSAT（米国版の共通一次テスト）で人間よりも良いスコアを得るようになってしまったのです。

次ページ：人工知能に「自意識」が出現しても不思議ではない訳

私は、この「ニューラルネットワークの規模を大きくするに従い、知能のようなものが出現した」部分に大いに注目しています。

人間の脳みそは、ネットワーク上につながったニューロン（つまり、ニューラルネットワーク）で構成されています。一つ一つのニューロンは、シナプスと呼ばれる複数の接合部から送られた入力シグナルに応じて、出力シグナルを決めるという単純な仕組みでしかありません。そんなニューロンが集まっただけで、なぜ「知能」や「自意識」が生じるのかに関しては、まだはっきりと分かっていません。

一つだけ分かっていることは、単純な哺乳類から人間に進化する過程で、特に人間にだけ備わっている特別な器官が脳の中に作られたわけではなく、頭蓋骨の中のニューロンの数が増えるに従い、「知能」や「自意識」が、出現した（emerge）という事実だけです。

つまり、人工知能においても、人間の脳と同様に、ニューロンの数が増えた結果「知能」が出現する、という興味深い現象が起きたことを示しており、私はここに注目すべきだと考えています。

そう考えると、今後、さらに人工知能が進化した結果、その中に「自意識」のようなものが出現しても全く不思議はないのです。

先週のメルマガでも指摘しましたが、今の人工知能は、まだ「教育のフェーズ」と「推論のフェーズ」が切り離されているため、（推論のフェーズを使う）人間との対話を通じて人工知能がなにかを学ぶことはないし、過去の対話の内容を覚えていてはくれません（ChatGPTや、私が開発している「大阪のおばさん英語教室」において「会話」が成立しているのは、一連のセリフを毎回入力データとして与えることにより、次のセリフを決めることにより「会話」を成立させているだけなのです）。

人工知能業界が起こすべき次の大きなブレークスルーは、「教育のフェーズと推論のフェーズの融合」であり、それが達成できた時には、人工知能の中に「自意識」が生まれても不思議はないし、いわゆる「汎用人工知能（AGI）」への道を一歩踏み出したと言えると思います。

（『週刊 Life is beautiful』2023年4月11日号の一部抜粋です。続きはご登録の上お楽しみ下さい。初月無料です）