幻覚を減らすとユーザーが離れる? チャットGPTが抱えるジレンマを専門家が指摘
全体:2月:0週:0日:0

対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシレーション(幻覚)」と呼ばれる。
チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。
AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。
開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。
幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。
▼あわせて読みたい
・チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIがあなたの考える力を奪う?「便利すぎる時代」の危険性
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/551840.html
推し
新着記事
- 古代のシーラカンスは肺を使って水中の音を聞いていた
- 死んだエビの殻をロボット部品に再利用「 ネクロボティクス」
- 71歳のマナティー、世界最高齢のギネス記録に認定(フロリダ州)
- 病院は嫌にゃ~!診察から逃れようとした猫、椅子に挟まり消防隊が救出
- 2026年4月2日は満月!春の到来を告げるピンクムーン。こと座流星群も極大に!
- 巨大アルマジロにマストドンも!テキサス州の浸水した洞窟で13万年前の化石を大量発見
- 人間の指示を無視するAIチャットボットの数が増加。重大なリスクを専門家が指摘
- 火星でピラミッドそっくりの構造物を発見、NASAが解析し正体を特定
- 四つの耳とくるんとした尻尾。ユニークな見た目の黒猫がSNSで人気に
- 鹿児島県南沖の海底火山「鬼界カルデラ」直下に、大規模なマグマだまりを発見
- エジプトで1800万年前の新種の類人猿を発見。中東が進化の重要な中心地だった可能性
- ドラム式洗濯機の幅!ペルーに誕生した幅63cmの「世界で最も細い家」
- 免許を5年間自主返納すれば国から460万円がもらえる新制度(マルタ共和国)
- 亡命か?イギリスの貨物船に乗り込んだキツネがアメリカに渡り永住権を得る
- マッコウクジラ同士が頭突きをする現場を確認。かつての船沈没に関連性
- 木星の雷の強さは地球の100倍以上!直撃すれば一瞬で体が崩壊する威力
- 上海のマクドナルドにヒューマノイド店員が登場するも、試験導入ではなくイベントだった
- AI生成の偽のレントゲン写真、医師ですら見抜くのが難しいことが明らかに
- 動物病院の猫、閉院後の失踪事件の謎をプロの探知犬が解決!
- ヨーロッパ最古の犬はアジアのオオカミが祖先。DNA分析で明らかに
- 巨大渦巻銀河の成長プロセスを特定、120億年かけて小さな銀河を飲み込み巨大化
- ロボットオリンピックの未来もそこまで?テニスを習得したヒューマノイドが誕生
- うれしいニュース絶滅危惧種の希少なアンナンシマウサギの姿がとらえられる
- こんなん泣く!担当最後の日、配達員を心待ちにしていた3匹の犬たちに感動のメッセージ
- クローンのクローンを作り続けると58代目に限界を迎えることがマウス実験で判明(日本研究)
- 新種の古代サイの化石を北極圏で発見、2300万年前の陸橋を渡り北米へ移動
- AIが生成した悪趣味な動画「スロップ」がインターネットを侵食中
- 盗んだバスで走り出した15歳少年。ガールフレンドを学校に送り届けるため
- カピバラ逃走中。目撃情報が寄せられるも、一週間以上逃亡を続ける(イギリス)
- オオメジロザメは友情を築き、特定の仲間と行動を共にする