AIのハルシネーション対策:学習ノートを10分で検証

ある生物学の学生が、とても読みやすいAIの要約を見せてくれました。そこには、ミトコンドリアのリボソームは「細胞のほかの部分のリボソームと同一である」と書かれていました。もっともらしく聞こえますが、間違いです。実際には細菌のリボソームに似ており、これはミトコンドリアがかつて細菌だった証拠のひとつです。この1文で、彼女は試験の1問を落としていたでしょう。こうしたAIのハルシネーションは、ほとんどの場合、目立ちません。流れるような自信たっぷりの文章の中に隠れているので、見つけるための手順が必要なのです。

このガイドでは、AIのノートで誤りが隠れやすい場所を紹介し、要約、暗記カード、クイズのどれでも、勉強に使う前にできる10分間のチェックを紹介します。

言語モデルは、ありそうな単語をひとつずつ書いていきます。たいていの場合、ありそうなことと真実は一致します。一致しないときも、モデルは読みやすい文章を作ります。OpenAIの研究者による2025年の論文は、一般的な訓練と評価の方法が不確かさを認めるより推測を評価すると論じています。間違いに減点のない選択式の試験とよく似ています。推測するモデルのほうが多くのベンチマークで高得点を取るので、推測を学習するのです。

あなたにとっての実用的なポイントはシンプルです。AIのハルシネーションは、自分から名乗り出ません。答えの口調は、正確さについて何も教えてくれません。間違った日付も、正しい日付と全く同じ自信で語られます。

引用は、最もわかりやすいテストです。参考文献は、実在するか、しないかのどちらかだからです。研究者のウォルターズとワイルダーは、ChatGPTに42のテーマで短い文献レビューを書かせ、636件の参考文献をすべて調べました。その結果、GPT-3.5の引用の55%、GPT-4の引用の18%が捏造でした。実在する参考文献でも、ページ番号や日付などの細部に誤りがあるものが多くありました。

新しいモデルのほうが良くなっており、自分で渡した文書をもとに動くツールは、記憶から答えるチャットボットより、たいてい事実に近い状態を保ちます。ただし、良くなっても完璧ではありません。確認する習慣は数分で済みますが、省くと成績に響くことがあります。

逆になった論理には、特に注意が必要です。生物学や経済学のノートは、「増加する」「抑制する」「〜につながる」だらけです。矢印がひとつ逆になった要約も、なめらかに読めてしまうので、自信たっぷりに暗記してしまいます。

具体例

生理学の講義のAI要約に、「インスリンは膵臓のα細胞から分泌され、血糖を上げる」と書かれていたとします。2つ目のステップで「α細胞」が引っかかります。スライドには、β細胞とあります。5つ目のステップで「上げる」が引っかかります。インスリンは血糖を下げ、グルカゴンが血糖を上げます。1文に誤りが2つ。さっと読むだけでは、どちらも問題なく見えます。資料を開いていたので、直すのに1分もかかりませんでした。

6つ目のステップは、目立たない立役者です。ノートから自分でクイズを作って解き、答えが違う気がしたら、ノートではなく資料に戻りましょう。丁寧に読み返しても見逃した誤りを、この方法で見つける学生は多いです。見つけたものは間違いノートに書いて、誤りではなく訂正を覚えるようにしましょう。

だから最初のステップが最も重要です。一般的なチャットボットに授業のことを尋ねると、訓練中に吸収したものから答えるため、シラバスとはまったく合わないことがあります。実際の講義PDFを渡せば、先生が教えたことに近い内容を保てます。要約がどうずれるか、何に注意すべきかは、AI要約の精度で詳しく取り上げています。

LearnKitはこの方式で動きます。自分のPDF、ノート、ページの写真、講義の録音を追加すると、その資料から要約、暗記カード、クイズが作られます。元の資料を要約の隣に置いておけば、10分のチェックが簡単になります。

• 参考文献と引用文。 ひとつずつ開く。存在しないものは、ノートにもレポートにも入れない。
• 公式と定数。 指数がひとつ違うだけで、それを使って解く問題がすべて崩れます。
• 薬の用量、法律、判例名。 正確さが重要で、AIは似たものを混ぜがちです。
• 先生の定義。 試験では、一般的な定義ではなく授業の言い回しが期待されることが多い。
• 最近の出来事。 モデルは、訓練データが終わった後の変化を知らないことがあります。

この使い方なら、AIは本当に時間を節約してくれます。手早い要約も、すぐに出るクイズも手に入ります。ただ、10分の確認を加えて、速さが正確さを犠牲にしないようにするだけです。AIを日々の勉強のどこに位置づけるかの全体像は、AIを使った勉強のやり方をお読みください。