幻覚を減らすとユーザーが離れる? チャットGPTが抱えるジレンマを専門家が指摘

全体:1月:0週:0日:0

対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシレーション(幻覚)」と呼ばれる。
チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。
AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。
開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。
幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。
▼あわせて読みたい
・チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIがあなたの考える力を奪う?「便利すぎる時代」の危険性
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/551840.html
推し
新着記事
- 3500年前の古代エジプト軍事要塞を発見、パン生地の化石が残されていた
- ハシビロコウ増殖計画がはかどる。首が動くフィギュアがカプセルトイで販売中
- 再び羽ばたいて空へ!オオカバマダラの羽の移植施術に成功
- 妹を失った犬が、一日中彼女の首輪をくわえている姿に胸が締め付けられる
- コンクリートに残された「ネズミの穴」の正体が、科学の力によってついに明らかに!
- 1億1200万年前のタイムカプセルを発見、琥珀に閉じ込められた失われた生命の記録
- 世界で最も高額な鳥の尾羽、1枚400万円で落札
- 衣服からAIを操作 静電気を利用した音声センサー機能を持つ布地が登場
- 衣服からAIを操作 静電気を利用した音声センサー機能を持つ布地が登場
- 排除せよ!庭に迷い込んだクマを追い払う勇敢なメンドリ軍団。なおオスは傍観
- 巨大なエイ「マンタ」は、海のナビから進路を読み取るため、深海1200mまで潜っていた
- ローマの円形闘技場でクマが戦っていたことを示す1700年前の頭蓋骨を発見
- 洗濯物をたたんで食器洗い、人間と軽い会話もする家事ロボットの最新版
- 違いはあるのか?日本とアメリカのビッグマックを30日間放置してみた
- パトカーを止め、負傷したおばあさんの元に保安官を導いたのは息子の飼い犬だった
- 世界初、恐竜の卵の化石から年代を直接特定、新しい測定法を開発
- 未知の古代生命体が岩を掘った痕跡を発見 砂漠で見つかった謎のトンネル
- ティタノサウルス初登場!『ジュラシック・ワールド』最新作のダウンロード・レンタル配信開始
- 刑務所にいる孫に会いたい!その一心で強盗を犯し、逮捕されたおじいさん
- 「似てるけどなんか違う」始めてシマウマを見た馬の反応が話題に
- AIに「いいね」の数を競わせると盛大に嘘をつき、誤情報をまき散らすことが判明
- 宇宙の彼方で二重リンクを持つ「奇妙な電波サークル」を発見、これまでで最も強力
- 待ってました!オーストラリア消防士カレンダー2026年版がナウオンセール
- ヘリコプターが高速道路に墜落、乗客を救うため、居合わせた人が一致団結
- 犬が公園に落ちていた紙袋の中から猫を発見、そこから家族になるまでの物語
- 猫と暮らすと脳が変わる。人と猫をつなぐ「オキシトシン」の変化
- 神話の怪物「ミノタウロス」は迷宮の中の儀式による幻覚だった可能性
- オハイオ州、人間とAIの結婚を禁止する法案が提出される
- スマホのカレンダーに1582年10月の表示に空白の10日間がある理由
- もう野生には戻せない…。人懐っこすぎる子ギツネの保護物語