幻覚を減らすとユーザーが離れる？ チャットGPTが抱えるジレンマを専門家が指摘
全体:2月:0週:0日:0
お気に入りに追加
対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシレーション（幻覚）」と呼ばれる。
チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。
AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。
開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。
幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。
▼あわせて読みたい
・チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・AIがあなたの考える力を奪う？「便利すぎる時代」の危険性
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/551840.html
推し
新着記事
- 反省はしていない。病院に行く予定だった犬、脱走して犬の保育園に行き大はしゃぎ
- 都会の暮らしに適応した野生動物。種を問わず世界中で同様の行動をとっていた
- 印刷した人工ニューロンが生きた脳細胞と会話することに成功
- 91歳女性が安否不明！と思ったらゲームに夢中になっていただけだった
- コスタリカの森の奥では、野生動物たちが同じ木を共同トイレとして使っていた
- 69歳になりました！「飼育下で世界最高齢」のゴリラが今年も無事に誕生日を迎える
- AIは訓練データに痕跡がなくても別のAIから悪い癖を受け継ぐことが判明
- ブラックホールのジェットの強さを物理学者たちが初測定。そのパワーはなんと太陽1万個分！
- タイタニック号生存者の救命胴衣がオークションに出品
- 欧州とカナダ、20チームの軍用ロボットがスイス軍の訓練場で過酷な実地試験に挑む
- 木曜日キター！大好きなリサイクル作業員に駆け寄り、撫でてもらうのを楽しみにしているブタ
- 不運を呼び寄せてるのは脳の妨害によるもの。科学的メカニズムを知れば対処可能
- 這うだけじゃない。ヘビ型ロボットが「転がり」の技を覚え、移動効率が向上（日本研究）
- こいつ、動くぞ！香港の空港に現れた巨大猫が多く人々の足を止める
- ローマ侵攻時代の記憶。スコットランドの砂浜で2000年前の足跡を発見
- ただ友達が欲しかった。10年間ひとりぼっちのロバが仲間と出会う
- アメリカ人の4人に1人がAIに健康相談、高額な医療費が払えず病院代わりに利用する人も
- 木星と土星の大型衛星系はなぜ違うのか。京都大学が磁場からその謎を解明
- 世界初、カカオ豆の細胞を培養して作ったチョコが誕生。2027年にアメリカで販売へ
- 犬とキスするか、息のニオイを嗅ぐだけで時給16万円がもらえるお仕事です（アメリカ）
- 飼い主の死後、アパートをさまよう猫を気遣う住人たちにやさしい連鎖が生まれる
- 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
- 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
- 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
- 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
- フェス会場で大量に集まった尿から肥料を作り森林育成に活用する試み（イギリス）
- ヒューマノイドロボットが野生のイノシシを追い払う！ポーランドで目撃された奇妙な風景
- ウクライナの戦地最前線から兵士たちがドローンで犬と猫を避難させることに成功
- 大型のアリたちが小型アリの巣を訪れ体を掃除してもらう。珍しい行動を初めて発見
- お気に入り
E.YAZAWA SPECIAL SELECTION
Supported by Rakuten Web Service