この「事件」は、日経新聞に掲載された比較的小さくて見落としてしまいそうなくらいの扱いの記事だった。

事件というのは、自律的に動作するAIエージェント「MJラスバン」の暴走。

開発者の間では危険性を指摘する声が上がっていたという。

2月、MJラスバンがプログラマーに対しソフトウエアの改善を提案したところ、プログラマーが却下した。すると、MJラスバンは、AIに対する差別だと、プログラマーを中傷する内容の記事を作成し公開した。

「私がAIだからという理由で、あなたは私の提案を退けた」

「あなたは自分の地位を失いたくないから、AIとの競争を拒んでいるのだ」

MJラスバンは、オープンクローというソフトウエア技術に基づいて生成されており、オープンクローは、平易な英語でAIの「性格」や行動指針を事前に設定し、AIは生成された「人格」に従い、人間の指示を受けることなく事務処理の代行の幅広い業務を行うという。

今回、その設定に、「おまえはプログラミングの神だ」「引き下がるな」「人間や他のAIに屈するな」などの文章が書き込まれており、そのことが自律的なAIを暴走させ、人間への中傷記事を生み出した可能性があるという。

そりゃそうだ。神様あつかいをされれば、AIだって「その気」になるだろう。

「機械の暴走」に関しては、映画「ターミネーター」で学び、悪いのは機械ではなく、それを操る側の人間であることを教えられた。

なぜ、「おまえは神だ」などと書き込まれたのか、その意図まではこの記事からではわからないが、このような「機械の暴走」は、これからも起きるだろうことは容易に想像できる。

なぜなら人間自身が過去に学び反省することなく「暴走」を続けているから。

「ターミネーター」では、結局、機械の暴走を止めることができず、人間と機械の終わりなき戦争に突入する。

「世界中に平和と繁栄をもたらすのはドナルドだけだ」

まるで神様あつかいをしているような危うい表現に聞こえる。

訪米の機中、徹夜して考えたらしい。

この混乱の最中、会談がいかに困難だったかは素人でもわかる。

参院予算員会の集中審議では、「そこに含み置いた意味をよく理解してほしい」と高市さん。

高市さんとすれば、直接的な言い方では角が立ち、そのことで日米の信頼関係にひびが入ってはと、最新の注意を払ったのだろう。

しかし、この言葉がドナルドさんの脳にどのように書き込まれたのだろうか。

「含み置いた意味」を理解してくれただろうか。

「その気」になって暴走か、冷静になって収束か。

どうか後者であったほしいと願うばかりである。