生成AIは学術論文を誤って要約することが多く、新型モデルはより悪化している

全体:1月:0週:0日:0

膨大な学術研究の内容を把握するうえで、生成AIによる要約は非常に便利な手段だ。だが、その要約内容に重大な問題があることが、『Royal Society Open Science』に発表された研究で明らかになった。
多くのAIは、元の研究以上に大げさな表現を使い、成果がすべての人や場面に当てはまるような要約にしてしまう傾向があるという。
これは「過度な一般化」と呼ばれ、「一部の患者に効果があった」という結果を「この薬は全員に効く」と言い換えるようなケースだ。
しかも新しいモデルほどその傾向が強く、「正確に」と指示するほど不正確になるという皮肉な現象まで確認されている。
▼あわせて読みたい
・AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIはチェスで負けそうになるとズルをすることが判明
・AIチャットボットはニュースを正確に要約できない。重大な誤りが多いことが判明
・AIがあなたの考える力を奪う?「便利すぎる時代」の危険性
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/516449.html
推し
新着記事
- 大学進学でいなくなった娘の部屋の前で、出てくるのを待ち続ける猫の姿に涙
- 遺体確認につながるか?ダ・ヴィンチの6人の子孫に共通のY染色体を発見
- ママだけがいいの。パパはあっちいって!近づかれると全力拒否する子犬
- 地球の季節がずれている。過去20年間の衛星画像で明らかになったこと
- 犬型ロボットが宇宙で相棒に!月や火星を自分で考えながら歩く訓練が開始される
- 1万8000杯の水を注文する動画がバズったことでタコベルがAIドライブスルーを再考
- 動物病院に助けを求めた猫の素敵な恩返し、看護師として患者たちを癒す存在に
- クジラとイルカは友達だった?世界中の海で確認された「種を越えた交流」
- 遺伝子の突然変異が馬を乗れる動物にし、人類の歴史を変えた
- たった一つの遺伝子の突然変異が馬を乗れる動物にし、人類の歴史を変えた
- 失われたマヤ文明の都市「白いジャガーの地」を特定、300年以上前の手紙が手掛かりに
- 19世紀の英国要塞を大豪邸にリノベーションした島が絶賛売り出し中
- 鯉のぼりならぬ「ナマズのぼり」、大群で滝を登る驚愕の光景(ブラジル)
- 七面鳥かと思ったら…納屋で見つけた卵を孵化させたところ、予想外の鳥のヒナが誕生!
- 大型恐竜サイズの小惑星「2025 QD8」が2025年9月3日、地球に最接近
- AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
- ダークマターが惑星に蓄積し、ブラックホールを形成する可能性を科学者が示唆
- 落花生のような甲羅を持つカメ「ピーナッツ」が41歳の誕生日を迎える
- ぱっと見似てるけど…シンガポール刑務所をIKEAと間違えた女性
- 警戒心の強い子猫がニワトリたちに心を許し、家族に迎え入れられるまでの物語
- 約4億2400万年前の新種カブトガニが発見され、空白の8000万年を埋める鍵に
- ギリシャ洞窟で発見された30万年前の頭蓋骨、現生人類でもネアンデルタール人でもなかった
- 噂はウイルスのように広がる フランス革命が示した恐ろしい誤情報の拡散
- 暗闇で光る多肉植物が誕生、太陽光で充電可能
- 食品配達員を救急隊員として活用、心臓発作患者の生存率を高める試み(台湾)
- 母の愛は強し。野生のカワウソの子育て風景(アメリカ)
- 踊りの天才!オウムのダンスバリエーションは30種類以上あった
- 再解析で判明、「Wow! シグナル」は想像以上に強力だった、発信源は銀河内の未知の天体か
- ダイアナ妃が埋めた1991年のタイムカプセル、ついに開封される
- ジャーナリスト宅に爆発物が投げ込まれるも、勇敢な飼い犬がすぐに消火