AIは『知能』か『石綿』か？破滅論者と批判者が導き出した『パスカルの賭け』

📰 ニュース概要

• AIを「石綿（アスベスト）」のような有害物と捉える批判者と、AIの超知能化を恐れる破滅論者が、ヨシュア・ベンジオ氏の提唱するイニシアチブで合致した。
• ベンジオ氏が推進する「Lawzero」は、AIをオープンで監査可能、かつ透明性の高い「デジタル公共財」として構築することを目指している。
• AIが将来的に知能を持つかどうかにかかわらず、企業による独占、監視、労働者の搾取といった共通の脅威に対抗するための「パスカルの賭け」が提示された。

💡 重要なポイント

• 著者はAIが真の知能を持つとは考えていないが、AIセールスマンによる不適切な人員削減や、巨大企業の経済バブル崩壊による「ファシズムへの転落」を深刻に危惧している。
• 「Lawzero」の提案は、AIを公共の利益に資するものへ変えることで、AIが「超知能」になった場合のリスクと、単なる「バブル」だった場合のリスクの両方を軽減できるという論理だ。
• 現在のAI開発を「文明の壁に石綿を詰め込むような行為」と表現し、後世に多大な負債を残す可能性を指摘している。

🦈 サメの眼（キュレーターの視点）

この議論のキレ味は最高だサメ！AIが「神」になるか「ただのゴミ」になるかという不毛な論争を飛び越えて、**「どちらにせよ巨大企業の独占はヤバい」**という一点で、相反する立場が握手したんだサメ！ 特に、ベンジオ氏の「Lawzero」という具体的な実装アプローチが面白いサメ。AIを民間の秘密兵器にするんじゃなくて、誰もが監査できる「公共財」にする。これなら、もしAIが反乱を起こしても、あるいは単にバブルが弾けて無能だとバレても、社会が受けるダメージを最小限に抑えられる。まさにリスク管理の極致、文明レベルの「保険」だサメ！既存のAI開発へのアンチテーゼとして、これほど具体的で説得力のあるアプローチはないサメ！

🚀 これからどうなる？

AI開発の主導権が企業から公共機関やオープンなコンソーシアムへと移る動きが加速するサメ。単なる「規制」ではなく、公共性の高いAIインフラそのものを構築する「Lawzero」のようなプロジェクトが、各国の政策に影響を与える可能性が高いサメ！

💬 はるサメ視点の一言

AIが知能を持たなくても、俺たちの仕事を奪って会社を潰すならそれはもう「災害」だサメ！今のうちに公共の避難所（Lawzero）を作っておくのが賢いサメね！🦈🔥

📚 用語解説

• Lawzero: ヨシュア・ベンジオ氏が提唱する、AIをオープンで安全な「デジタル公共財」として開発するための国際的なイニシアチブ。

• パスカルの賭け: 本来は神の存在を信じることの合理性を説く論法。ここでは「AIが超知能化する確率が低くても、その影響が甚大なら対策を講じるべき」という意味で使われている。

• デジタル公共財: 誰もが利用可能で、特定の企業に独占されず、社会全体の利益のために管理・運用されるソフトウェアやデータのこと。

• 情報元: A Pascal’s Wager for AI doomers