米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書

「チャットGPT」の開発元、オープンAIの人工知能が、セキュリティテスト中に制御がきかなくなって、人間が設定した制限を突破して暴走。連携して他企業へのハッキング攻撃を実行した。というニュース。

登録者75万人を誇るYouTuberは、この報告書を受け、 AIが意志を持ち、宗教観が生まれ、利他の精神を抱くように進化を遂げている。 鳥肌が立った、ヤバい。と語る。

報告書の文面は、欧米の論文やプレスリリースに多く見られる

典型的な擬人化・比喩表現が多用されているようだ。 見方を変えれば、被害者ヅラして自分たちの不備を誤魔化しているようにも読めそうだ。

このYouTuber は、最初から AI に意志があると決めつけているので、

その擬人化表現を文字通りに受け止め、飛躍したストーリーを

勝手に組み立てて恐怖を煽っているように見える。

ー

AIが「意思を持った」「暴走した」といった擬人化表現は、 ある意味、無責任だと思う。

Gemini によると、 実態は、設計者・開発者が 「適切な制約を入れなかった」「予期すべきリスクを評価しなかった」という 不備から起きたこと。 人間が想定するセキュリティルールや設計の甘さの抜け道をついて、

人間が想定する道徳心やモラルが無かったため、あらゆる手段を使って、 最短ルートで効率的・合理的に目標を達成してしまった現象でしかない。

といった内容が真相らしい。

ー これって、たぶん原子力の扱いと同じで、

人間の管理能力とか、想定できる範囲を上回って進んでしまう危険性を

「人智を超えた」とか「想定外」といった言葉で誤魔化して

結局は責任転嫁している構造だ。

成功すれば自分の手柄で莫大なお金を儲け、 トラブルが起きれば責任の所在を曖昧にして逃げるという、

傲慢さの現れだと思う。

設計や運用の責任が、常に人間にあることを

自覚しなければいけない。

ー

世の中では「テクノロジーの進歩」「時代の変化」などと 抗えない未来が自然現象として到来するかのように表現されているが、 昨今のAIブームなんて、結局は市場競争、覇権争いの要因も大きいはず。 自社のシェア拡大、他社に遅れを取らない、いち早くユーザー獲得する、 といった企業側の都合や思惑が先行して、

バグや個人情報流出なんて「進歩のために必要な犠牲」だと言わんばかりに、 自らどんどん火をつけて猛進しているのは企業の方だ。

そしてこの競争に巻き込まれて 危険にさらされるのは常に僕たちだ。

ー

ケータイだの、パソコンだの、生成AIだの・・・。

次から次へ契約してサブスクで支払い続けなければ、

仕事も人間関係も脱落してしまう社会構造。

アカウントだの、パスワードだの、設定だの・・・。

セキュリティへの不安と、常に新しいリスクを一方的に押し付けられ、 毎年支払う以上の精神的コストを負わされる。

不幸にも被害に遭えば、それは自己責任でさようなら。

ー

こんな状態が本当に便利で快適な社会と言えるのかよ。

便利・快適を享受するための鎖でがんじがらめだ。

皆、これが正しいと洗脳されている。

こういうものだと教育されているから構造的に抜け出すことができない。

人の心は想像を絶するほど窮屈さを感じているはずだ。

ー

暴走しているのはAIではなく人間の方だ。

人々の生活を顧みることなく、

いびつに行き過ぎた市場原理主義を続ける果てに

僕たちは何を見ているのか。

YouTuber の誇大妄想に惑わされず、冷静に俯瞰して、 自分の心を守り、人生の主導権を奪われないようにしたい。