ChatGPTはなぜバカになるのか


先日、Youtubeを眺めていたら、「ChatGPT倒産危機」といった内容の動画が目にとまった。

その動画によると、ChatGPTは1日当たり約1億円もの維持費が掛かっており、採算が取れていないという。ユーザーの数も今年の6月には17億人を突破したが、その後1ヶ月も経たないうちに15億人まで減少し、今も離脱が続いているとのこと。

離脱が続いている理由は、ChatGPTが以前より馬鹿になっているからだそうだ。本来はユーザーが増えれば蓄積される情報も増えるので、利口になっていくと思われるのだが、逆に馬鹿になっていくらしい。実際、あるハッカーが、A1に9＋10は21であると学習させた結果、最初はそれを否定していたが、説得し続けたところ、最終的には9＋10は21と答えるようになったという。Hackers Trick AI With ‘Bad Math’ to Expose Flaws and Biases (1)

なぜAIが馬鹿になっていくのか、私はなんとなく思い当たることがある。

人間とAIの大きな違いは何か。いろいろあると思うが、その一つは「自分なりの価値観」「哲学」といったものをAIは持っていないということだと思う。たとえば、情報をもとに何らかの決断や判断をするとき、人間の場合はすべての情報を均等に扱わず、自分なりの価値観に基づいて情報を取捨選択している。ところがAIの場合は、そうした自分なりの価値観のようなものを持っていないから、取捨選択せずにすべての情報を均等に扱う。

さらにAIは、それらの情報が正しいかどうかを、エビデンスの有無で判断しているのだと思う。しかし、このエビデンスというのは私に言わせれば、あまりアテにならない。主張したい内容に合わせて無理やりにでも揃えることができるからだ。9＋10は21であるといった、あり得ない主張にも、無理やりエビデンスを揃えることはできてしまうと思う。

私は、ものごとはエビデンスがあったとしても、それが正しいとは断定できないこともあると思う。多くの人はそれを知っていて、だからこそ、断定的な物言いをする人を見ると抵抗を感じるのではないか。でもAIにとっては、そういう感覚がないから、エビデンスさえ揃っていれば正しいと捉えてしまう。そしてそれらを集め融合しようとしたとき、どこかで矛盾が生じ、辻褄が合わなくなって、賢くなるどころか混乱し馬鹿になっていく。

私は、ChatGPTが馬鹿になっていく理由は、哲学がないこと、言い方を変えれば、演繹的思考ができないことではないかと思うのですが、いかがでしょうか。ただ、哲学を持つことができたら、それはそれでまた大きな問題を生みそうです。いずれにしても、AIの発展がこの課題を超えるには、大きな壁がありそうです。

このブログの人気の投稿

「なぜ」を語る経営理念

イメージ
私は昨年から、同友会というところで、「経営理念をつくる会」のメンター役を務めています。メンターを務めるほどの立派な経営者ではありませんが、それでも28年の経営経験があるので、少しでもお役に立てればと思っています。 経営理念をつくる際に、私は参加者のみなさんに、特に大切にしてほしいと願っていることがあります。それは、「なにをやるのか」よりも、「なぜやるのか」に焦点を当ててほしいということです。 「なにをやるのか」は、具体的にどのような仕事をするかを指し、「なぜやるのか」は、その仕事の根本的な社会的使命を指します。私は、この地球上に住むすべての人々の共通の目的は、人類社会全体への貢献だと思っています。それを自分の得意なことを通して果たしていく。それが私たち人間に与えられた本来の使命だと思っています。 そして、その使命感は、誰もが心の奥底で持っているものであり、だからこそ、それを想起させる理念に出会ったとき、人は共感したり感動したりするのだと思います。 ここで、「なにをやるのか」と「なぜやるのか」を人に説明したとき、相手がどう感じるのかを観察してみてほしいと思います。きっと多くの人は、「なにをやるのか」を聞いても、それは「頭で理解した」という程度にとどまると思います。でも、「なぜやるのか」を聞くと、それは頭での理解を超えて、「胸に響いた」とか「腹に落ちた」というように、もっと深いところで感じていることがわかります。つまり、前者は単なる「理解」であり、後者は「共感」に繋がるものなのです。 経営理念で「なぜやるのか」を語ることは当たり前のことと思うかもしれません。しかし、私も含めて多くの経営者は、日々の忙しさから、「なにをやるのか」をばかりを語ってしまいがちです。しかし、それでは仕事が単なる「労働」であり、生活のためにやるものという印象を与えてしまいます。でも、「なぜやるのか」を語れば、大きな意義を感じ、社員もその仕事に誇りを持つことができるでしょう。人は誰でも、より大きなもののために自分の命を使いたいと思っているからです。 私の会社は道具を販売している会社ではありますが、自社のことを単なる「道具屋」とは思っていません。私たちが目指すのは、技術者たちの創造性を刺激し、世界に新たな価値を生み出すお手伝いをすることです。それが、私たちの社会的な使命であり、人類社会の進化に貢献する
続きを読む

ありがとうを伝えられたなら

イメージ
20代のころ、私は小さな会社で働いていた。社員が少ない分、いつも社長のそばで仕事ができた。先日、その社長が2年ほど前に亡くなったことを知り、今日はご自宅を訪ねてお線香をあげさせていただいた。社長の写真を見ながら、奥様と当時の思い出話をたくさんした。社長には本当にいろんなことを教わったなあ。 小さな会社だったからこそ、社長がどのように経営に向き合っていたかを間近で見ることができた。経営とはどうあるべきか、人とどう接すべきか。教わったことは数えきれない。それが今の自分にどんだけ役立っているか。改めて思い知る。 この歳になると、若い頃にお世話になった人がご高齢になっていることが多い。そして、気がついたときには、もうその人はいないこともある。社長もその一人だった。生きているうちに、もっと感謝の気持ちを伝えられたらよかったのに。思い出すたびに、心の中で悔やんでいる。 人はいつか去る。だからこそ、生きているうちに、感謝の気持ちを伝えなければいけない。いつかではなく、今だ。その大切さを今日あらためて感じた。 （写真は社長のご自宅近くからの景色）
続きを読む

スキルの先にあるもの

イメージ
多くの人が「能力を高めたい」と考えるとき、まず思い浮かべるのが「スキル」を磨くことです。しかし、私はそれに加えて「センス」を養うことも大切だと感じています。 どの職業においても、本当に優秀な人というのは、「センス」とか「直感」も優れている気がします。「スキル」が高いだけでは、限界を感じる場面があるでしょう。「スキル」というのは、誰でもその仕事ができるようにするために、センスが良い人の仕事ぶりを分析し、パターン化したもの。だから、まだパターンが存在しない新しい仕事や、想定外の状況には対応しにくいと思うのです。 なのになぜ、「センスを磨こう」とは誰も言わないのでしょうか。それは、センスを身に着ける方法が誰にもわからないからだと思います。プロ野球で大活躍した長嶋茂雄選手に、ある記者が「バッターとしてヒットを打つコツは？」という質問をしたところ、彼は「スーッと来た球をガーンと打つ」と答えたという話がありますが、これがまさにその象徴です。センスは理論を超えており、言語化することが難しい。その点、「スキル」なら、習得すれば誰でも一定の向上は見込める。だから多くの人は、センスよりもスキルを身に着けようとするのでしょう。 しかし、だからといってセンスを身に着けることを諦めてしまって良いものでしょうか。最近ではAIがとても優秀になり、これからもその勢いは止まらない気がします。パターン化されたものならば、AIに任せたほうがよいことも増えてきたと思います。 先日、楠木建さんの「好き嫌いの復権」という本を読んでいたら、アップルのジョブズが下した重要な意思決定は、その8割以上が、論理を超えた「センス」としか言いようのないものだったと書いてありました。そして、そのセンスを磨くには、物事に対する好き嫌いを明確にし、好き嫌いについての自意識をもつこと。それがセンスの基盤を形成することは間違いないと語っていました。 私もそんな気がしています。心の機微に着目することは大切ではないでしょうか。たとえば、何かを見てカッコいいと思ったならば、なぜカッコいいと思ったのか。それを自分に問い続けてみること。そうすれば、どうして人がカッコいいと思うのかも理解できるようになるし、自分もカッコいいものをつくれるようになる。無論、それだけでセンスが身に着くとは言えませんが、センスというのは「感情に関わる能力」であることは
続きを読む

小さな行動が世界を変える

イメージ
少し前、経営理念をつくるには、「なぜやるのか」に焦点を当てることが大切だと書きました。その「なぜ」を掘り下げていくと、自社の活動がどのようにして人類社会に貢献できるか、という問いに行き着きます。ただ、人類社会という言葉を聞くと、「そんな壮大なことまでは考えていない」という風におっしゃる方もいらっしゃいます。けれど、どんなに小さな行動でも、社会に何らかの影響は与えているものだと私は思っています。 「バタフライエフェクト」という言葉をご存知でしょうか。その意味は、「ある場所で蝶が羽ばたくと、地球の反対側で竜巻が起こる」というものです。これは、ほんの小さな行動が、連鎖的に大きな影響を生むことを表しています。この理論は、私たちの行動にも当てはまると思います。日々のちょっとした行動が、実は全世界に影響を与えているのです。 私は時折、夜空を見上げて感じることがあります。無数の星が輝いていますが、もし、そのうちのたった１つでも欠けていれば、この宇宙のバランスは少し変わっていたのではないかと思うのです。だとすれば、この地球は今の姿とは少し違ったものになっていたかもしれない。それどころか誕生さえしなかったのかもしれません。それほどに、すべての存在は互いに影響しあっているのだと思います。 ですから、日頃の仕事では、貢献する相手が目の前のお客さん一人であったとしても、その影響は一人だけではなく、全世界に広がっているのだと思います。つまり、私たち一人ひとりが常に世界を変えているのです。 私たちは決して世界から分離独立して存在しているのではなく、世界と密接に繋がっています。一見小さな働きであっても、それは世界を変えていることになるという認識が必要です。それが自分の仕事への誇りに繋がると思いますし、その繋がりを意識することで、私たちはより良い行動を選び、社会に貢献していけるのです。 私たちは、この地球をより住みやすい場所に変えていくという使命をもっていると思います。それぞれの役割は異なっているけれど、私たちはみな同じ目的をもった「同志」です。この意識を持つことで、人類全体が良い方向に導かれ、その結果として自社も成長していくのではないでしょうか。
続きを読む