皆さんは普段、検索結果や会議の議事録などでAIの要約機能を使っていますか。大量の情報をパッとまとめてくれるので本当に便利ですよね。
しかし、その便利なAIの要約に間違いが含まれていると、私たちの記憶そのものが書き換わってしまうかもしれないという研究結果が発表されました。
今回は、人間の記憶とAIの思わぬ関係について覗いてみましょう。
何が起きた？
米国のジョージタウン大学とワシントン大学の研究チームが、AIの要約と人間の記憶に関する興味深い実験を行いました。
その結果、間違った情報が混ざったAIの要約を読んでしまうと、人間は「自分が自分の目で直接見たはずの出来事」の記憶まで、その要約の内容に合わせて書き換えてしまうことが明らかになったのです。
しかも、その要約がAIによるものだと事前に知らされていた場合でも、記憶の書き換えを防ぐことはできなかったそうです。
この研究成果は、プレプリントサーバーで公開され、国際会議でも発表される予定となっています。
驚きポイント
このニュースの一番ゾッとするポイントは、自分の目で直接見た現実の記憶よりも、後から読んだAIの文章に引っ張られてしまうという人間の脳の危うさですよね。
AIが生成したテキストだと分かっていれば、どこかで警戒心を持ちそうなものですが、綺麗にまとめられた文章を見ると、脳はついそちらを正しいものとして受け入れてしまうようです。
私たちは自分が思っている以上に、AIの作る要約に影響を受けやすい状態にあるのかもしれません。
豆知識
人間の脳は、過去の記憶を思い出すときに、その都度情報を再構築していると言われています。
つまり、記憶というのはビデオカメラの映像のように固定されたものではなく、案外簡単に書き換わってしまう柔らかいものなんですね。
AIの要約はとても便利ですが、時には自分の目で見たはずの記憶すら疑う視点が必要になる時代が来ているのかもしれません。
僕のひとりごと
AIの要約で記憶が変わるなんて、ニュースを読んだときは本当に驚いたよ。自分の目で見えたものまで書き換わるなんて、気味が悪いことだなあ。
もしも僕が同じ実験の現場にいたら、すっかり騙されている気がする。綺麗にまとまった文章を出されたら、絶対そっちを信じちゃうだろう。
あらかじめ嘘だと教えられていたとしても、やっぱり引っ張られるはず。脳って意外と都合よくできていて、楽なほうに流されちゃうもんだね。
でもこれ、被験者たちはどうやって実験のあとに確かめられたんだろう。自分の記憶が偽物だと知らされた瞬間、背筋が凍りそうになるね。
まるでSF映画に出てくる、記憶を操作する装置みたいで不気味だよ。便利さの裏で、知らないうちに自分の主導権を奪われている気分だな。
こういう問題を知るたびに、人間の脳って 案外ろくなものじゃない と思う。自信満々な記憶ほど、実はまったく当てにならないのかもしれない。
情報は自分で確かめるべきなのに、要約を頼る僕らは油断しすぎだよね。疑うことを忘れた瞬間から、簡単にコントロールされちゃうんだと思う。
皆さんはこんな嘘の要約に出会ったら、ちゃんと見抜ける自信があるでしょうか。自分の記憶すら信じられないなんて、これからの時代は生きづらいね。
▶ 引用元