ChatGPTに飲み込まれゆくおじさんたちを救いたい

例えばいま50歳のひとは、windows95が一世を風靡した1995年には22歳。
働き盛りで色んなことを覚えて、その中でインターネットに触れて衝撃を受けたことでしょう。
あれよ、あれよと世の中が変わっていき、あっという間にwindowsはリリース年によるナンバリングを断ち、2023年現在では11というバージョン名でアップデートを続けることとなりました。

そして機は熟した2022年。OpenAI社は大規模言語モデルGPT-3を搭載したChatGPTというサービスをリリースしました。
ChatGPTは大層ウケました。それまで騒いでいたweb3.0とか、NFTとか、大衆的にはすべて過去のものになり、今や日常生活では見る影もなくなってしまいました。
そして、アーリーアダプター達が取り沙汰したChatGPTも、2023年10月現在では使う人は使い、使わない人は使わないといった温度感に落ち着きつつあります。

私はエンジニアではありませんが、IT企業勤務の端くれ、日々AIと遊んでいます。
エンジニアほどの知識はなく、しかし使ったことのない人よりは知識がある、そんな立場からで恐縮でございますが、最近、誤った飲み込まれ方をしているおじさんが散見される気がします。

アメリカからの物体X

ChatGPTはおじさんたちを次々と飲み込むほどすごいのでしょうか？

すごいです。それは間違いないでしょう。私も飲み込まれつつあります。
そしてそのすごさについては、当ブログよりもよっぽど詳しく解説しているwebサイトがたくさんあるので、詳しくはそのあたりを調べて読んでみてほしいです。

しかし、そのすごさを全く捉え違えているひとがいて、飲み込まれ方を間違っているひとがいて、しかも結構発信力を持っているひとが無邪気に間違った方向に突き進んでいく姿を見ます。イェーイ！　ChatGPTってこんなにすごいぜー！　って感じで。

ChatGPTはSTAP細胞の夢を見たか？

一世を風靡し、あっとい間に去ったと言えばSTAP細胞。闇の深そうな話なので深くは触れませんが、厳密な検証実験を経て、2023年現在では結論としては”存在しない”とされています。
当時は私も生物学分野の学生で、ワクワクしながらニュースを追っていました。

もし当時、ChatGPTがあったとして、STAP細胞は本当にありますか？　と聞いてみたとしましょう。
ChatGPTは答えを導くことはできたでしょうか。

答えは否です。
なぜならChatGPTは、厳密な検証を行うことはできず、”STAP細胞は無い”という事実の学習もしていないからです。

恐らくChatGPTは、当時の学習アセットの中からSTAP細胞の論文を探し出し、一生懸命STAP細胞の存在性についての情報を出力してくれたでしょう。

そのときChatGPTはその論文の”確かさ”を考慮していません。

「Q.天の光は？」「A.すべて星」

ChatGPTに検索能力を期待する人がいます。しかし、ChatGPTが持っているのは2021年までのインターネットの情報です。日進月歩の21世紀において、しかもChatGPT以前と以後ではまるで時代が違います。

その事実を知らずに、ChatGPTに調べ物をさせる人がいます。これはとても危険です。

ChatGPTの出力とは、”確率的に最も正しい単語の羅列”です。

羅列、です。ChatGPTは、その文章の正確性を担保していませんし、文章の意味も理解していません。ChatGPTが持っている情報の中で、最も出現確率が高い単語を数珠のように繋いでいるだけです。

作り出された文章の正誤、行間、歴史的背景などは全くスコープの外です。

それなのに、あたかも全知全能のAI様がこう仰っているぞと世に発信する方が後を絶たず、これは危険な状況だなと感じています。

薄緑色の恋人

人間は金魚になる。2023年10月に、ソフトバンク代表の孫正義がIRの場で話した言葉です。曰く、金魚と人間のニューロン数の倍率が、いずれ人間とAGI（汎用人工知能）のニューロン数の倍率と等しくなるということです。

人間の言葉を金魚が理解できないように、いずれAGIの言葉を人間が理解できなくなる日が来ると。

her/世界でひとつの彼女という映画を観たことがありますか。

個人的にはとても生々しく描かれた”近未来”だと思っています。この映画で描かれるSFの世界は、非連続的な進歩ではなく、2022年からの連続性を強く感じて鳥肌が立ってきます。（住宅ブログ的に言うと、インテリアもすごくオシャレでオススメです）

携帯電話に搭載された人工知能OSサマンサとの会話、サマンサにのめりこむ人間、それに冷ややかな視線を送る人間、AIが奪った仕事、人間に残された仕事……全てがChatGPTの登場によってリアリティレベルが上がり、いま密かに再評価されている映画です。

しかし、ChatGPTが薄緑色の恋人になるまでにはまだ猶予があります。

少なくともChatGPTは大規模言語モデルに従った人工知能であり、人間を金魚に変えてしまう”汎用人工知能”にはまだ至っていないということ。

AIが嘘をつく”ハルシネーション”という現象はまだ潰せないこと。

AIはまだまだ発展途上であり、これからも膨大なデータのインプットと、繊細な”アライメント”の調整を行いながら開花を目指し、そして枯れなければならないこと。

だから人類はこれからも半導体の開発生産に汗を流さなければならないこと。

そして人類は核融合発電を成功させなければならないこと。

なぜなら人類を金魚に変えるためにはまだ莫大な演算とそれに伴うエネルギーが必要であるから。

汎用人工知能の完成のために、”開発リソース”はまだAIによって馬鹿になってはいけない。

人類はまだ、飲み込まれてはいけない。

まだその時ではない。

私は、ChatGPTに飲み込まれゆく人類を救いたい。