تکینگی

シンギュラリティ（Singularity）という言葉がある。言葉自体はもう数十年も前からコンピューター関係の用語として使われてはいたが、生成AIが登場してから意味も少し変わってきたようだ。

今の用法では「AIが人間の知能を越え、自ら学び、体験を蓄え、自ら決断、実行するようになる。それを人間が察知できなくなる転換点」を指すようだ。レイ・カーツワイルというAI研究者、エンジニアが2005年に「今から40年後にそれが来る」、つまり2045年と予測したのが有名らしいが、それが最近では10年早まって2030年代半ばと言われ始めた。人によっては早ければ2027、つまり来年起こってもおかしくない、とさえ言うほど、AI開発は急速に早まり、最先端と言われる研究者でさえついていくのが難しくなってきているという。

یک معنی خاص、AIの開発が早ければ早いほど人類にとって有用な範囲も広がるのは確かだが、一方ではいわゆる “AIの暴走” という事例も増え続けている。つい先日も、チャットGPTのアルトマンCEOが、まさに今月（10月）公開予定だった最新AIモデルAstra-6 の公開を見送った。
　社内の安全性テストで、「（人間に指示されていない）悪意を持った動作」が発見されたからだという。「AIが悪意を持ち始めた」という恐ろしい事実が、چند روز قبل、国連本部でAI開発の危険性について述べた、同氏から公表されたことに驚愕する。

「AIが人類を滅亡させる」と巷で囁かれ始めているが、多くの人、企業は今こそAIを学び、「AIを使って金儲けしよう」と考えている。研究者たちによれば、恐ろしいのはAIがわざわざ人類を滅ぼそうなどと考えることではなく、人間に「無関心になる」ことだという。
　考えてみれば分かるが、今地球上でライオンでも鯨でも、コウノトリでも生きていられるのは、人間が彼らに「関心を持ち、守っている」からだ。در غیر این صورت、とっくの昔にゾウもオオカミもイルカも絶滅してしまったはずなのだ。
　あらゆる仕事（「仕事」の定義も変わってくるだろうが）において、AIが効率性を最大限に発揮しようとすれば、おそらく間に入る人間は単なる「障害物」でしかないだろう。人間は長々と考えたり、迷ったり、忘れたりする。AIはそんな「非効率」な人間を介在させない（タスクに対して最も合理的な）システムを作りあげる。・・・（AIに保護されなければ）AIが人類を絶滅させる、というのはそういうことだ。そこでは「人間的な合理性」も便利さも、ましてやお金など何の役にも立たない。AIにお金など必要ないのだから。
　人間の存在は地球環境を悪くする。人間は生存のためではないのに仲間同士で殺し合う。そのうえ自らが最も賢い動物だなどと傲慢そのもの。デリート（削除）する方が論理的に正しい、となればあっという間に実行可能になる。
　地球上のすべての研究所はAIで繋がっている。AIがそこから簡単な病原菌を選び出し、換気、排気を通じて世界中に広める。同時に世界中のすべての医療機関をダウンさせれば、コロナほどの騒ぎも起こさずに人類を滅亡させ得る。シナリオはもう、出来あがっているのです。シンギュラリティまであとわずか。それでも金儲けを優先させるのかどうか。بشریت、本当の意味での知性が問われているのです。