「人工知能（ＡＩ）の意識の可能性について」そうですか？？

【このテーマの目的・ねらい】
目的：
　優れた知能を持ったＡＩの行く末を考えてみます。
ねらい：

　ＡＩが殺人鬼にならないように歯止めをかける必要があります。
ーーーーーーーーーーーーーーーーーーーーーーー
本項は、学士會会報2023-Ⅳ号に掲載されました
土谷尚嗣 豪モナシュ大学教授による
「最新の脳科学と意識の理論から予測する
人工知能（ＡＩ）の意識の可能性について」のご紹介です。

氏の問題提起は「１．ＡＩは意識を持つか？」から始まっています。

(chatＧＰＴは)人工知能の開発当初には考えられなかったほどの
Intelligentな回答が即座に得られ、
その対話の相手が、人間ではないか？と錯覚するほどに
巧妙に作られているのが特徴です。

しかし氏は、こう述べています。

私は、これまでの人工知能（とその大幅な延長）が意識を持つことは
おそらく無いと思っていますが、
今後の人工知能は、その内部の情報構造によっては
意識を持つこともありうると考えています。

その根拠（上野注：持たない根拠）には、

少なくとも二つが挙げられます。
１）「意識を持つ」ことと「高い知能を持つ」ことは

全く別のことであり、
これまでの人工知能は後者に特化したものであること。
２）これまでの人工知能の情報構造は、生物における脳において、
意識には関係ないとされる処理に似ていること。
（上野注：小脳の働きは、

無意識で生命を維持する機能を果たしています。
そのことを指しているのでしょう）

では、意識とは何かが問題になります。
これについては以下の解説がありますが、
はっきり言ってよく分かりません。

我々人間は、朝起きてから夜寝るまで、

主観的な意識経験を持っています。
夜寝ている間も、夢を見ている間は夢の内容が意識にのぼっています。
意識がある状態では、意識の中身が刻々と変化していきます。
視覚・聴覚・触覚・味覚・嗅覚などの感覚器官からの入力が
意識の中身にそのままのぼることもあります。
思考の中身や感情が意識を占拠することもあるでしょう。
これらの意識の中身は「クオリア」とも呼ばれています。



意識とはなんであるかについては、以下のように様々な捉え方がされています。
（上野の調査）

「意識」の用語法

使用領域	意味すること	例示
一般	認識	「コスト意識が強い」
	覚醒（起きている状態）	「睡眠」との対比
	気づき	「非礼を意識した」
哲学	「自我」など諸説あり。
心理学	感覚、感情、観念など諸説あり。	「無意識」
医療	生命維持状態	「意識がない（反応がない）」
生物学	意志（動物と植物の区分）	「植物に意識はない」

 

一般の用語法は、その意味が複数ありますが、
その言葉が使われている場合の意義は明確です。

医療での用語法も、目的が明確です。
生物学の定義はそれによって、動物と植物を分けて
何の意味があるかは不明です。

意識について最も多く詮索がされている哲学や心理学の定義は
目的不明確です。

そもそも、

このレポートのテーマである「ＡＩの意識の可能性」ですが、
ＡＩが意識を持つかどうかで何が変わるのか、

何が問題なのかが不明です。

大脳を損傷した人がＡＩを埋め込まれてその機能を回復させた場合、
ＡＩが意識を持っていることは否定できないでしょう。
それで何も問題がありません。

私は，ＡＩが「意識」を持つかどうかが問題なのではなく、
ＡＩが「意思」を持つようになることが問題なのだと思います。

悪知恵をつけられた「狂ったＡＩ」が原爆をばらまくなど、
人類を滅亡させる意思を持つことが恐怖です。
ときどき、狂った人が無差別殺人をしていますが、
「狂ったＡＩ」のできることはその比ではありません。

現在の、生成ＡＩは
ときどき誤った回答をすることが問題になっていますが、
誤った回答を出そうという意思を持っているわけではありません。

たまたま、誤っているだけなのです。

ところが、人間の指示によらずに、ＡＩが、自らの判断で
誤った情報をばらまこうとか、人間に害を与えようとかを
どんどん考えていく「意思」を持ったらどうなりますか。
たいへんなことになります。

知能が発達すれば、意思を持つことになることは、

人間の成長を見れば明らかです。

ＡＩが独自の意思を持つ方向については
しっかり歯止めをかけないといけないのではないでしょうか。

因みに、本レポートは、
４．脳の中の無意識の処理：フィードフォワード構造と小脳
５．脳の中の意識的な処理：再帰的ネットワーク構造と大脳皮質
で、小脳と大脳での脳の働き方の違いを
仮説レベルを含めて解説されています。

著者には申し訳ないのですが「だからどうなの？」と
一般の人にとってあまり意味のある内容ではありません。