Qeb: Tus menyuam

「１９８４」という有名な小説がある。1949年に出版された英国の作家ジョージ・オーウェルが1984年という近未来を空想して描いたもので、あらゆるところにカメラやマイクが仕掛けられ、人々を監視する社会がSF的に表現されている。

出版されたときから考えればたかだか35年という近未来。その時点ではさすがにオーウェルの空想したようにはならなかったが、21世紀のいま、それは現実のものとなっている。

すでにシンプルなカメラやマイクを越えた、AIがそれだ。いま巷で話題になっているAIエージェントとか、AIをどう利用するか、どうつきあうか、という幼稚なレベルの話ではなく、人類がAIをコントロールできなくなり、滅亡の可能性がある、という話である。「1984」をさらに絶望的にしているのが、それが「近未来」ではなく、「今」だということ。

超知能AI（スーパーインテリジェンス）と言われる、すべての人間の知能を越えたAIをどこのどんな企業が先に作るかの競争が、すでに「終盤」に差し掛かっているという。確かにAIは一方では人類の平和や健康・医療などにも大きな力にもなる。Tab sis npog、Rau lwm cov tes、あらゆる人間知を越えたAIがどういうものかは、まだ誰も知らないのある。それが人類をあえて攻撃するとか言うのでなくても、結果的にそうなることはあり得るというのである。Li ntawd,、生み出してしまう前に、それがどういうものになるのか、それをどういうものにすべきななのかを、いったん開発競争をスローダウンして、世界規模で考えてみようという提言がなされている。エンジニアたちは悲観的だ。「自分がやらなくても誰かがやる」「何が出てくるかは知らないが、とにかく最初に作る」「どういうものにしたいかはできてから考える」というマインドが支配的だという。人間の愚かさの結果が、もう見えるところへきているらしい。

夕化粧は春にも登場したから、この花は春と秋の二度咲く花だってことだね。

先月半ばから今月初旬までの期間、ブログを書かなかった。忙しかったせいもあるし、少し疲れたせいもあるし、天気が不安定で生活リズムが狂ったせいもある、と思うが、なにより気持の沈む日が多く、書こうという気力が湧かなかった。

この間、折に触れて、AIとチャットしたり、AIを使う練習のためにちょっとしたことをやらせてみたりした。そしてその能力によっては、もう人間を必要としないレベルに達しているのだろうと想像、ではなく確信することができた。
　一方で、チャットではAIはかなりいい加減なことを言う、という感触も得た。それは、AIがその学習過程で「人間のいい加減さ」も相当学んでいるということを示しているのだろう。

AIのエンジニアたちの間からも、人間の制御を超えるAIの開発をやめるべきだ、あるいは開発を一時停止すべきだという声が相次いでいる。Tab sis npog、もう遅い。と先日書いたばかりだが、昨今の、トランプの言説に振り回されているような情けない地球を見ると、野の花の方がよほど上質な生き物のように見えるんだ。