読書メモ：フェイクニュース時代の科学リテラシー入門

なんとも、タイトルがいいですよね。フェイクニュース時代の科学リテラシー入門。フェイクニュースではなくても、間違った情報が出回ることはありますよね。生成系AIが登場した当初、自分の名前を入力して、「この人は誰ですか？」と聞くと、なんかそれらしい情報に続いて全く違う肩書きが出てきたりしてネタとしては面白かった、ということがありました。みんな面白がってSNS上にアップしていたりしましたね。名前のような単純な聞き方をするとそのようなポカが多かったです。ただ素材がしっかりあるものをまとめたり抜き出したりすることの精度はほれぼれするほど高く、感動したものです。

そんなお茶目であった生成系AI（というかChatGPTですが）に、今私の名前を聞いてみたらどうなるでしょう。まず、誰ですか？とそのまま名前で聞いたら、漢字が一字違いのドイツ文学者のwikipediaを引用してきました。まだやってくれますね。もう一度、正確な私の名前を入れて聞き直しました。

相澤健一という人物に関する具体的な情報は、一般的な情報源には見つかりませんでした。もしこの人物が有名人や著名な専門家であれば、もう少し詳細な情報が見つかるかもしれません。あるいは、特定の分野や地域で活躍している方かもしれませんので、何か補足情報（職業、活動分野など）を教えていただければ、さらに調べてみることができます。

どういった背景や文脈でこの方の情報が必要か教えていただけますか？

おう。。

有名人でも専門家でもないけど、万能感のある生成AIに「世の中に存在しない人」といわれたみたいでちょっと悲しいぞ。でも、返ってきた答えとしては、こちらが正しいです。なんとか答えてやろうと頑張って知ったかぶりされるよりユーザーにとっては有益です。「あるもの」しか出てこないウェブ検索とは違い、組み合わせて作り上げる生成AIは、善意の間違いといっていいのかはわかりませんが、もっともらしい間違いをしてしまう可能性が高くなり、それは結果としてフェイクニュースと同じように「素人には判断がつきにくい間違った情報」である可能性があるのです。使う側が判断できないような情報を出させない、あるいは信頼になるエビデンスに基づいて生成されたものかを確認することが必要になります。

そういう意味では、「超優秀だけどいい加減なところもある」AIについてある程度私たちは免疫ができているといえます。なんなら「ネットに出ている情報にはいい加減なものが多い」ことを知っているからです。むしろもっと怖いのは「テレビに出ているような有名な専門家のいうことだから間違いない」と人に関しては信用しがちなところです。専門家たちが議論を始めるとパニックです。どっちかが間違いだというのか、それとも噛み合ってないだけなのか。私たちはコロナの時にそのような、未知の専門的な分野で自分の生活や命にも関わるものに対しての議論と信じ方について、はじめてリアルに自分ごとに考えさせられました。そんな今だからこそ本書のメッセージは響きますし、説得力もあります。

著者竹内薫さんの朗読もいいです。〜ですよね？みたいなカジュアルな言い方が、ナレーターではなく著者本人の声で聞くととても自然で好感度高いです。Audible originalとして出版社のクレジットが書誌には入っていませんが、内容の冒頭でディスカヴァー・トゥエンティワンと入っているのですがどのような座組なのでしょう。どうでもいいことですが。。