幻覚を減らすとユーザーが離れる？ チャットGPTが抱えるジレンマを専門家が指摘
全体:2月:0週:0日:0
お気に入りに追加
対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシレーション（幻覚）」と呼ばれる。
チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。
AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。
開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。
幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。
▼あわせて読みたい
・チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIがあなたの考える力を奪う？「便利すぎる時代」の危険性
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/551840.html
推し
新着記事
- 一夜にして約1800人が命を落としたカメルーンのニオス湖の謎。何がおきていたのか？
- アフリカ大陸の分裂は予想より速く進行している。新たな海の誕生はいつ？
- 人食いワニを上空からロープで回収。腹から遺体が発見される（南アフリカ）
- 愛犬を亡くした家族が大きな犬を迎え入れ、子供たちにサプライズ。その反応は？
- 2500万年前、カモノハシの先祖は歯を持っていて、イルカと一緒の湖で泳いでいた
- 量子の世界ではマイナスの時間が存在する。光子実験で初めて実証
- 偽の陰謀論「アライグマ武装集団」が暴く、信じていると主張する人々の真相
- ハムスターが回し車で生み出すエネルギーでスマホ充電器を開発した少年
- 100万分の1の確率！珍しい白いアメリカバイソンの子が誕生
- やっちっち！火星探査機「キュリオシティ」岩からドリルが抜けなくなり5日間悪戦苦闘
- やっちっち！火星探査機「キュリオシティ」岩からドリルが抜けなくなり5日間悪戦苦闘
- ティラノサウルスより1億4000万年前に生きていた新種の肉食恐竜を発見
- 米政府、80年分のUAP関連文書を機密解除。アポロ宇宙飛行士の目撃情報を含む162件
- 米政府、80年分のUAP関連文書を機密解除。アポロ宇宙飛行士の目撃情報を含む162件
- パタゴニアの島で発見された人面のような謎の地形「ジンの王」
- パタゴニアの島で発見された人面のような謎の地形「ジンの王」
- こいつ、擬態してやがる。メキシコの野菜売り場でズッキーニをパクつくインコ
- シャチの高度な狩りスキル。強力な波を起こし流氷のアザラシを海に落とす方法が明らかに
- ギザの大ピラミッド建設法を再現。建造物内部の謎の「空洞」との新たな関連性を明らかに
- 人間に寄り添う白もふのAI搭載クリーチャーが誕生！ルンバの生みの親が夢を実現
- NASA、火星探査に向けて米国最高出力の次世代エンジンの点火実験に成功
- NASA、火星探査に向けて米国最高出力の次世代エンジンの点火実験に成功
- 「こっちに来て！」突然現れた犬が、行方不明の子供の元に警察を導く
- 植物が種子を使わず自分のクローンで繁殖するための遺伝子スイッチを発見（日本研究）
- 冥王星以外の太陽系外縁天体で初めて大気の存在を発見（日本研究）
- 帽子を被るだけ。脳波を読み取り思考を文字に変換するデバイスが登場
- テスラ車で墓地に行くと幽霊に会えるという噂が拡散、目撃情報が次々と寄せられる
- 飼い猫がソファに向かって鳴き続けて1週間後、知らない黒猫の存在にようやく気付く
- 金魚を自然の池に放流するとわずか2か月で生態系が崩壊することが実験で判明
- 光よりも速く移動する暗闇を発見。50年前の予測がついに証明される
E.YAZAWA SPECIAL SELECTION
Supported by Rakuten Web Service