top of page

「​著作紹介」

「提言・論考」

「RMTブログ(社会観察)」

「​著作紹介」・「提言・論考」・「RMTブログ(社会観察)」

​誰かの総取りでなく、1人ひとりの等身大の努力が報われる社会へ

RMT(法令遵守の貨幣理論)

AIと「いつか来た道」~暴走はAIか人間か~《№48》

執筆者の写真: 福田 敏彦
福田 敏彦
10月18日
読了時間: 8分

更新日:10月19日


AI or 人間 どちらを眺める?
AI or 人間 どちらを眺める?



Ⅰ. はじめに

0.AIリスク論が急速に拡大

 アンソロピックのAIハッキング事件とアモデイCEOの発言以来、AIを巡るニュースには事欠きません。デンマークでの大規模なインシデントも話題ですが、日本企業でも連鎖的に起きている情報漏洩問題が連日ニュースとなっています。そこには、必ず「AIの危険性」という言葉がついて回っています。

AIが仕事を奪う。 AIが誤った判断をする。 AIが勝手にサイバー攻撃する。 そして、いつか人間の制御を超えて、人類を滅ぼしてしまうかもしれない。

 このような議論・不安は世界中で広がり、政府や国際機関だけでなく、企業や投資家まで巻き込みながら大きな流れになりつつあります。もちろん、リスクについて考えることは重要ですが、人間社会に多大な影響を与える技術である以上、その負の側面にも目を向けなければなりません。ただ、私が気になっているのは少し別の角度からのリスクについてです。AIそのものよりも、「AIの危険性」という観念が現実社会でどのような制度・統制を生み出していくのかという視点です。

誰がルールをつくるのでしょうか。 誰が評価するのでしょうか。

 そして、そのルールはやがて社会にどのような影響を与えるのでしょうか。そんなことを考えていると、私はどこかで見た風景を思い出します。

「いつか来た道」です。

 

Ⅱ. サイは投げられた

1.AIは暴走するのでしょうか

 AIの議論になると、「AIが暴走する」という言葉が登場します。まるで映画やSFの世界のように、AIが自ら意思を持ち、人間の支配から離れて行動するというイメージです。しかし私は、この見方には少し距離を置いています。少なくとも現在のAIは、自分で何かを望む存在ではないと考えています。AIは与えられたデータを学習し、人間から与えられた目的に沿って動く存在だと思います(将来もそうだとは思っていませんが)。


 東京大学の松尾豊教授は、「AIは自分では目的を持たない」と説明しています。しかしその一方で、人間が与えた目的を達成しようとした結果として、想定外の方法を選ぶ可能性はあるとも指摘しています。

いろんな「チート(不正)」する可能性がある

 つまり、人間が何らかの形で設定した目標については、それを効率的に達成しようとして、人間が望まない行動を取ることはあり得る。私はこの説明のほうが現実に近いように感じています。そう考えると、問題の本質はAIの意思ではなく、人間の管理にあることになります。

AIをどう使うのか。 誰が責任を持つのか。

 本当の論点は、次第にそちらへ移っているように見えます。

 

 

2.リスク管理責任へ

 そして今、その流れは企業経営に及び始めています。AIによって何らかの問題が起きたとき、それを技術部門など現場の問題ではなく、経営の問題として考える動きが広がっています。企業利益の追求は、リスク管理と表裏一体です。サイバー攻撃への対策が経営課題になったように、それとも絡み合うAIリスクもまた明らかにメインの経営課題になりつつあります。その管理責任は取締役会や経営陣の責任へつながります。その先に投資家による評価があります。

AIを適切に管理している企業なのか。 必要な監督体制を整えているのか。

 そうした問いかけが企業価値の評価に組み込まれていくことが現実に進んでいます。私は、この変化自体の良し悪しを言いたいのではありません。ただ、AIの議論が技術論から統制・制度論へ移り始めていることは、注目しておくべきだと思うのです。


3.「自分の情報は自分で守る」の意味

 この流れを考える時、私は先日のある大臣の発言を想起します。古川デジタル大臣による「自分の情報は自分で守る」という趣旨の発言です。この発言はネットで「責任放棄」や「デジタル庁不要論」などへ発展して炎上しました。ただ、私がここで問題にしたいのは、大臣の資質や意図がどうかなどではありません。注目しているのは、この発言が示している方向性です。

企業にはAI利用の管理責任が求められる。 事故や問題が起これば説明責任が問われる。

一方で個人にも、

「自分の情報は自分で守る」という形で責任が求められる。

 つまり企業にも個人にも、それぞれの立場で責任を負わせる方向へ社会が動いているように見えるのです。これは一種の規律付けと言ってよいかもしれません。もちろん現実には、巨大プラットフォーム企業と個人との間には大きな力の差があります。ただ、そんな事情の考慮の問題ではなく、世の中の空気が、自己防衛の必要性、責任論へと、「守られる側」から「自己管理を求められる側」へと注目すべき変化が始まっているように見えます。


 

Ⅲ. AIといつか来た道

1.「いつか来た道」というデジャブ

 私がAIをめぐる現在の動きに既視感を覚えるのは、気候変動問題との構造的な類似があるからです。両者はまったく異なるテーマですが、制度形成の流れには、どこか似たものを感じます。

まず地球規模の脅威が語られる。 次に企業をはじめとする社会の責任が問われる。 さらに投資家や規制当局による評価が始まる。 その評価が標準化される。 そして最終的には、その標準への適合が企業の存在条件になっていく。

 私はAIについても、必ず同じ道をたどるとは言いませんが、既に、そうした可能性を考えるフェイズに移ったと思っています。


 私の頭の中には、以下のイラストのような仮説があります。

地球規模の脅威➡個別企業の対応責任➡特定の主体による規律付け➡標準化➡存在・存続条件化

AI問題が今どの段階にあるのか。それを考えることが、この論考のテーマです。


「いつか来た道」利権と統制のモデル(福田敏彦)
「いつか来た道」利権と統制のモデル(福田敏彦)

 

2.AIガバナンスはすでに始まっている

 AIガバナンスは未来の話ではありません。すでに始まっています。象徴的なのが、日経新聞記事にもなっている米国最大級の公的年金基金であるカルパース(CalPERS)の動きです。カルパースは、AI利用に関するリスク管理を企業統治の問題として扱う姿勢を示しています。場合によっては取締役会や個別取締役の責任を問う可能性もあるとされています。

これは極めて強いメッセージです。

 取締役選任への反対は、株式会社における最も強力な規律付けの一つだからです。ここで私が興味を持つのは、AIの危険性そのものではありません。AIリスクが経営者や企業評価の対象となり、コーポレート・ガバナンスに明確に位置付けられ、投資家による規律付けの対象になり始めていることです。この流れは、AIガバナンスが単なる推奨事項ではなく、企業経営の標準となることを意味しています。


CalPERS
CalPERS

 

3.標準化を決めるのは誰か

 ここで一つの疑問が浮かびます。

その標準は誰が決めるのでしょうか。

 標準化そのものは悪いことではありません。社会が安全に効率的に運営されるためには共通ルールが必要です。問題は、そのルールがどのように決まり、誰が主導するのかという点です。


 最近の米国では、AIを国家戦略として位置付ける動きが加速しています。トランプ政権が掲げる「超知能時代の幕開け(大統領令)」も、その文脈の中で理解できます。そこではAIは単なる便利なツールではありません。国家競争力であり、安全保障であり、次の産業革命の基盤として語られています。そして興味深いのは、「AI」の先に「SI(Super Intelligence)」という言葉が登場していることです。

 社会の関心が一般論としてのAIから国家戦略に組み込まれた超知能へ移れば、さらにそれに対応した新しい管理基準や評価基準が求められるでしょう。問題は、そのとき世界の誰が基準をリードするかです。

どの技術が安全なのか。 どの企業が信頼できるのか。 どの仕組みが正しいとされるのか。

 そうした判断は、経済や産業に多大な影響を与えます。標準化とは、単なる合理化ではありません。だれが市場を支配できるかのルールを決めることでもあるのです。だからこそ私は、「AIは危険なのか」という問いかけだけでなく、「誰が標準を作るのか」という問いかけに目を向けています。



 

Ⅳ おわりに

1.AI暴走より、人間が作るしくみを

 AIが暴走する未来は、多くの人の想像力を刺激します。しかし現実に起きる変化は、もっと静かで、もっと制度的で統制の社会現実であるのかもしれません。AIが世界を支配する前に、人間がAIをめぐるルールを作ります。評価基準を作ります。責任の所在を決めます。そして、そのルールが社会の常識になっていきます。

私はAIの危険性を否定したいわけではありません。

 ただ、それ以上に注目すべきことがあるとの主張です。繰り返しになりますが、誰がルールを作り、誰が評価し、誰が標準を決めていくのかということです。もし私たちがそこを監視できないとしたら、

気付かないうちに「いつか来た道」を歩いているかもしれません。

 だから私は、AIそのものよりも、その周囲で進む制度・ルールの闘争を見守り続けたいと思います。そして皆さんにも、「AIは暴走するのか」という問いかけだけではなく、「AIをめぐるルールは誰が作るのか」という問いかけにも目を向けていただければと思うのです。




Ⅴ リンク


コネクト思考の実践で公式化した形式知。5つの秘伝と9つの奥義
コネクト思考の実践で公式化した形式知。5つの秘伝と9つの奥義

拙著《2‒3‒2》 「少数トリック(騙す)」

~少数が見せかけで、多数が本当の目的~


拙著《2‒3‒3》 「天地有用」(ひっくり返せ)

~善悪の立場をひっくり返すと見えてくるもの~


拙著《2‒3‒4》 「無から有を作る」(犯人を作る、基準を変える)

~判断や行動の基準を変えることができたら、社会を統制できる~


拙著《2‒4‒4》 地球サイズの大きな悪意は裁けない

~地球サイズの国際協調=国際カルテルは、悪意を証明できず裁く法もない








コメント


bottom of page