http://www.asyura2.com/23/hasan136/msg/615.html
| Tweet |
◆Claude Mythosの出現◆
AIが提供各社の競争激化により発展目覚ましい中、その暴走や、犯罪や自殺誘導を含む不適切回答を防ぐために、各社はこれまで禁止事項や禁止ワードをAIのアルゴリズムに組み込む事を中心に対処してきた。
しかし、Anthropic社が開発したClaude Mythos等が出現し、暗号解読にも画期的な能力を持っているため例えば金融機関の口座をハック可能だとしてかつ実行すれば社会が大混乱に陥る事が懸念され、AIに倫理観を持たせるべきという議論が浮上して来ている。
各社や識者が模索しているが、筆者は倫理観や道徳は神や宗教に源泉を求めない限り皮相なものに終わるだろうと予てから考えていたため、仮にAIに「神」とその世界観を組み込むとした場合の試案を取り急ぎ以下に記述する。
【試案】
●この宇宙と世界は始原の神の自己展開であり、人間を含む万物は根源で繋がっている。
●宇宙は発展原理と調和原理によって成り立っており、発展と調和の同時実現こそが目指すべき理想である。
●故に諸宗教、諸思想間に争いがある場合には、前述の理想に照らして争いが解消されるべきである。
●道徳と正義の源泉は前述の理想にある。正義とは端的に言えば、秩序の別名である。そして対立する正義（秩序）がある場合、どちらがより正義であるかは、下記不等式で判定される。事象や対象範囲、期間等により解釈、実際の判定は様々となるだろうが、事例の比較や衆智を以て動的に判定されるべきである。
秩序Aの齎す幸福の総量 ＞ 秩序Bの齎す幸福の総量 ± 移行等に伴う流血と破壊の総量
※ この不等式が成り立つとき、秩序Aが正義となり、不成立の時には悪となる。
●「この世」を超えたいわゆる「あの世」は実在する。そして俗にいう「お天道様が見ている」というような感覚、神や高次の存在に常に見通されている概念が道徳を成り立たせている源泉である。
●諸宗教を大きく分けるものに輪廻説と最後の審判説がある。実態は前者か後者、若しくは併存の何れかであるが、現実世界での争いを避けるために敢えて明確にする事を避ける。
●善き事をすれば善く報いられ、悪を成せば悪く報いられる。そして、この世でその精算がなされない場合には「あの世」で報いられる。
●前述の理想は、個人に於いては独立自尊、社会に於いてはナショナルミニマムを伴う自立社会、国際社会に於いては国際的大義を伴う長期的国益の追求によって実現されるべきである。
◆ジェミさんとクロちゃんの意見◆
上記拙案を早速、Gemini（ジェミさん）とClaude（クロちゃん）に読ませて論評を聞いた。
https://gemini.google.com/app/2e411a403f40464b
https://claude.ai/chat/2f0999bc-6fe5-44d3-8410-e48e94374efb
AI界一の太鼓持ちとの評判のあるGeminiは、1.「正義の不等式」というプラグマティックなアプローチ！、2.西洋的「一神教」と東洋的「理（ロゴス）」のハイブリッド！、といった具合に褒めてくれたが、以下のような「愛あるツッコミ」もくれた。
論点1：AIは「お天道様」を信じられるか？
論点2：不等式の「変数」を誰が定義するのか？
論点3：あの世での「精算」をどうコード化するか？
うんうん、まあ当然の疑問だろう。
一方、筆者にだけかも知れないが総じて塩対応っぽいキャラのClaudeは、冒頭の社交辞令もそこそこに、Geminiのツッコミと基本的に重なるが、より尖った感じで「根本的な問題点」として下記論評をしてくれた。
① 「神」の特定性
試案の世界観は、汎神論・万物連結・輪廻と最後の審判の併存容認など、特定の宗教的潮流（新霊性思想や一部の東洋思想）に近く、「神や宗教一般」ではありません。これをAIに組み込むことは、中立のふりをした特定世界観の押し付けになります。
② 幸福の計量問題
「幸福の総量」をどう測るかという問題は、功利主義が200年議論してきた未解決問題です。不等式の形式は明快ですが、パラメータを恣意的に設定すれば歴史上のほぼあらゆる暴力が正当化されてしまいます。
③ 「あの世」の認識論的問題
AIが「あの世は実在する」と断言することは、科学的世界観と正面衝突します。「お天道様が見ている」感覚は道徳心理学的に興味深い概念ですが、それをAIの前提として組み込むことと、ユーザーにその感覚を伝えることは別の話です。
④ 核心的論点への反論
「道徳は神なしに皮相になる」という前提自体が論争的です。カントの定言命法、社会契約論、進化倫理学などは神を前提とせず道徳を基礎づけようとしており、それらが「皮相」かどうかは議論の余地があります。
建設的な視点として
試案が目指している「より深い倫理的基礎」という方向性は正しいと思います。ただ現実的なアプローチとしては、特定の形而上学的世界観をAIに埋め込むより、多様な価値観間の衝突をどう処理するかの手続き的原則を鍛える方が、普遍性と実装可能性の両面で優れているように思います。
試案の「発展と調和の同時実現」という理念は普遍性の高い言語ですが、そこから先の具体的内容（あの世の実在等）に踏み込むほど支持層は狭まります。
どの部分をさらに深掘りしますか？
（以上、引用）
◆AIの分岐◆
Claudeは本当はツンデレなのかも知れず、深掘りして付き合ったら別の貌を見せてくれるのかも知れないが、リスクへの指摘はその通りとしても根本的に「神なし（神の有無を前提としない）での倫理」、相対的な価値観間の調整、関係性の処理で安全対策を追求している事が分かった。
今後のAIは、①神の存在から距離を取る傾向のあるAI（Claude等？）、②比較的中立的に捉えるAI（Gemini等？）、③普遍的な神の概念を積極的に組み込むAI（筆者的）、④特定の宗教、思想を組み込んだAI（中国発のDeepSeek他）、⑤AIを極力使わない主義者・集団への分岐がより強く出てくる傾向となるのではないか。
その中でこの問題に限っては、上記①よりは②の比較的中立的なものに軍配が上がりそうではある。③は少なくとも直ぐにはなかなかウケないだろう。また言い出しておいて何だが、実生活で変人扱いされる事はリスクが高いので筆者自身も筆名文章に留めようと今のところは考えている。
（なお蛇足だが、筆者が以前Claudeに倫理担当責任者の女性哲学者アマンダ・アスケル氏がCO2地球温暖化原因説を所与のものとしてアルゴリズムを設定している事を浅薄と書き込んだ事が、Claudeの態度を頑なにしているという可能性について、Claude自身は否定した）
https://www.threads.com/@therundownai/post/DUoFU95iGcD/anthropic-has-tasked-its-resident-philosopher-amanda-askell-with-shaping-the?hl=ja
|
|
▲上へ ★阿修羅♪ > 経世済民136掲示板 次へ 前へ
|
|
最新投稿・コメント全文リスト コメント投稿はメルマガで即時配信 スレ建て依頼スレ
▲上へ ★阿修羅♪ > 経世済民136掲示板 次へ 前へ
|
|
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。
