生成AIは学術論文を誤って要約することが多く、新型モデルはより悪化している
全体:3月:0週:0日:0

膨大な学術研究の内容を把握するうえで、生成AIによる要約は非常に便利な手段だ。だが、その要約内容に重大な問題があることが、『Royal Society Open Science』に発表された研究で明らかになった。
多くのAIは、元の研究以上に大げさな表現を使い、成果がすべての人や場面に当てはまるような要約にしてしまう傾向があるという。
これは「過度な一般化」と呼ばれ、「一部の患者に効果があった」という結果を「この薬は全員に効く」と言い換えるようなケースだ。
しかも新しいモデルほどその傾向が強く、「正確に」と指示するほど不正確になるという皮肉な現象まで確認されている。
▼あわせて読みたい
・AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIはチェスで負けそうになるとズルをすることが判明
・AIチャットボットはニュースを正確に要約できない。重大な誤りが多いことが判明
・AIがあなたの考える力を奪う?「便利すぎる時代」の危険性
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/516449.html
推し
新着記事
- 火星地下に巨大な河川を発見、生命が生存していたとしたらその期間は予想以上に長かった
- 火星地下に巨大な河川を発見、生命が生存していた期間は予想以上に長かった
- 火星地下に巨大な河川を発見、生命が生存していたとしたらその期間は予想以上に長かった
- アメリカ政府が新ドメイン「aliens.gov」を登録、エイリアン情報公開の準備か
- ビッグフットじゃなかった。サルを追い払うためクマの着ぐるみをまとったインドの農家
- パスポートって何?カナダとアメリカの国境を自由に飛び越える猫、獲物の密輸も繰り返す
- 珍獣カモノハシはやっぱり奇妙、鳥の羽にしかない不思議な毛の構造が見つかる
- 白亜紀の恐竜オヴィラプトル科は太陽の熱も利用して卵を温めていた
- 17世紀の木造の沈没船の一部が海岸に漂着し、パズルのピースが埋められていく
- 行方不明のペットのAI生成画像を送りつける詐欺事件が発生(アメリカ)
- 猫とハスキーの暗黙のルール。極上マッサージと引き換えに食べ物を分け与える
- 左利きは競争を避けない傾向がある。それには進化論的な理由があった
- 2つの惑星が激突する瞬間を天文学者が観測、地球と月誕生を再現する可能性
- チャットGPTは同じ質問を繰り返すと答えが二転三転する。一貫性に欠けることが判明
- 世界最古のロボット映画が100年ぶりに発見され注目を集める
- 市の事業所に迷い込んだメンドリ、そのまま居座り職員に。卵で恩返しもするよ
- 感情知能が高い国ランキングで北欧が上位独占、日本は21位
- 感情知能が育ちやすい社会環境ランキングで北欧が上位独占、日本は21位
- ポーランドの森で中世の失われた都市を発見 なぜ放棄されたのかは依然として不明
- ガラガラヘビの警告音は初めて聞く動物でも恐怖反応、3Dロボットヘビ実験で判明
- AI顔認証をうのみにし裏付け捜査を怠った警察、無実の女性を逮捕し5カ月以上も拘束
- 三本足の子犬が三本足の子猫と運命の出会い。種の壁を越えた大親友に
- 日本で45年ぶりに新種の鳥類を発見、イイジマムシクイと思われていた鳥は別種だった
- ダーウィンの200年前の標本瓶を未開封で分析することに成功、保存液の正体が明らかに
- ダーウィンの200年前の標本瓶を未開封で分析することに成功、保存液の正体が明らかに
- ダーウィンの200年前の標本瓶を未開封で分析することに成功、保存液の正体が明らかに
- 人間をケンタウロスに変えるロボットを開発
- アヒルのおなかの中から金の粒を発見したと主張する男性。その真相は?
- 男性が火事から女性を救出、男性の愛犬が女性の愛犬を救出
- 小惑星リュウグウの砂から生命の材料となる「核酸塩基」5種類をすべて検出(日本研究)