ChatGPT1 は「便利なツールだが、情報が正確ではない」として、しばしば注意喚起がなされます。
たぬき的には、この批判はあまり的を射ていないと思う。
というのも、ChatGPT がネット上のあらゆる情報を処理して、平均的な回答をしているのだとすれば、それは人と話していて聞いた話と信頼性においてほとんど変わりはないから。
言うまでもなく、ChatGPT と本を比較した場合、本の方が情報の信頼性は高いです。その理由は、選ばれた人しか情報の発信者になることができないから。
ネットになら誰でも簡単に無責任な書き込みをすることができるけど、本の場合、文才のある人や大学教授など、選ばれた人しか出版することはできない。この違いが大きく響いてくる。さらに、編集者や校閲者のチェックが入るため、誤った情報は（すべてではないにしても）出版前に訂正されている（と信じている）。
だから、本の方が信頼性が高いというのは事実です。そして、本は本でも学術書や論集だとなお信頼できます。「○○大学出版局」のようなところから出版されている本は、たいていの場合信用に値します。もちろん論文もOK。
しかし、ChatGPT が生成する文章は、情報源が確認できず、おそらくAIが参照している記事を書いたのは何の取り柄もないただのおっさんであり、それがよくわからないプログラムによって改変されたものがわれわれに提示されます。だから、本と比べて信頼性に欠ける。
でも、それに関しては会話も一緒なはず。たとえよく見知った人との会話であったとしても、その人の話のソースが明示されることは滅多にないし、おっさんかどうかはわからないけど、多くの場合何の取り柄もない人だし、ほとんどの人間は言語化も下手くそです。
だから、その意味で、会話で得られる情報とAIが生成する情報は五十歩百歩なんです。というか、ぶっちゃけ ChatGPT は大半の人間よりも賢いし情報が正確です。冷静に比較してみるとわかるけど。
ということで、会話で得た情報を信用して良いのなら、ChatGPT も信用していいんじゃないの、逆にそのどちらも信用しないのであれば、学術書や論文以外の情報は極力シャットアウトして、シャットアウトしきれなかったものには「一切信用しない」というスタンスを貫くべきじゃないの、というのがたぬきの見解です。
たぬき的には、ChatGPT を利用するデメリットは信頼性の部分じゃない。そこじゃなくて、致命傷になりかねないのは「ChatGPT のようにしか書けなくなる」ということだと思います。最近 ChatGPT を活用する機会が多かったのですが、自分で文章を書こうとしたときに ChatGPT のような書き方になっていてビックリしました。今はこうして意識的にカジュアルに書いているけれど、油断しているとAI風の文章になってしまう。これはわりと大きなデメリットだなぁと思いました。
もっとも、ChatGPT に質問をするときに「大阪弁で答えて」とか「村上春樹の文体で説明して」と言うと、ちゃんと指示通りに答えてくれるので、そうやってChatGPT の文体を変えてしまうのは有り。
ChatGPT のような内容・文体でしか文章を書けない人なんて、ChatGPT に存在意義を奪われてしまいますからねぇ…。気をつけないと。
- Claude とか Gemini とかの他のAIチャットツールも同様です。Claude は ChatGPT と比べて自然な日本語を話してくれる。Perplexity は出典を明示してくれるので、レポートや論文を書くときの相談相手はこっちの方がいいかも。ChatPDF や NotebookLM を使うと、自身でアップロードしたPDFを情報源として回答してくれるので、論文を読むときはこの２つが最強。インターフェースは ChatPDF の方がいいけど、無料版だと１日に２つしかファイルをアップロードできない。NotebookLM もいずれ課金しないといけなくなるかも。 ↩︎