幻覚を減らすとユーザーが離れる? チャットGPTが抱えるジレンマを専門家が指摘
全体:1月:0週:0日:0

対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシレーション(幻覚)」と呼ばれる。
チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。
AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。
開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。
幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。
▼あわせて読みたい
・チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIがあなたの考える力を奪う?「便利すぎる時代」の危険性
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/551840.html
推し
新着記事
- 恒星間天体「3I/ATLAS」に変化、太陽に向いていた尾がひっくり返り逆方向へ
- そこに山があるから登るのは人、ではなぜ猫は登るのか?
- 中国のレストランで魚の入った水槽が爆発
- 再び愛を求めて… 公園に捨てられたウサギが人間に助けを求め続ける
- オンリー坊主。エマ・ストーン主演映画の先行上映会は、頭髪がない人のみ入場可
- ニモだけじゃなかった!刺胞動物を連れ泳ぐ幼魚たちの持ちつ持たれつな関係
- 1950年代に現れた謎の「一時的な光」、核実験施設周辺に集中していた
- 950年代に現れた謎の「一時的な光」、核実験施設周辺に集中していた
- 折りたたみ式で水上への離着陸可能、車のトランクに積める垂直離着陸機が登場
- ハロウィンシーズン中、保護施設で黒猫の譲渡が禁止に、その理由とは?(スペイン)
- 犬がスズメのヒナを発見し救助、今では親友の関係に
- うれしいニュース。ウミガメの個体数が世界で増加傾向
- オーストラリアの砂漠で宇宙からやってきた、内部が燃えた黒い物体が発見される
- 最強パスポートランキング2025でアメリカがトップ10から転落
- iPhoneを「探す」機能が解決の糸口に。大量の盗難スマホを中国に送っていた窃盗団逮捕
- 感動の涙を流したいときに見る動画。赤ちゃんを命がけで守ろうとする犬たち
- アライさん事案。天井からアライグマが逆さまで宙ぶらりん
- ハチに似た蛾の発見で、英国初となる1万種の生物種を記録した自然保護区
- 上海沈没か?海面上昇と地盤沈下のダブルパンチが都市をのみ込む
- ミスター・インターナショナル2025の民族衣装部門トップ5を飾るイケメンたち
- 高度約1万mを飛行中の旅客機が謎の物体と衝突しフロントガラスが割れ緊急着陸
- 尻尾で葉っぱをくるんと巻いて。キタオポッサムの巣材運びがかわいい
- AIの答えに潜む「バイアスの罠」 質問の仕方で真実がゆがむ
- 旧石器時代の失われた陸橋を発見、人類移動の通説を覆す可能性
- AI画像で家族を驚かせる「ホームレス侵入どっきり」に警察が厳重警告
- ハロウィン仕様「漆黒のマヨネーズ」がブラジルで販売
- またしても!サーフボードを奪うラッコがカリフォルニアに出現
- カリフォルニア山火事での再会劇をきっかけに「被災したペットを守る」法律が施行予定
- 地球の過去は消えていなかった 45億年前の原始地球の痕跡を発見
- 「死者の指」と呼ばれる青く奇妙な果実がある。しかも食べられる