対話型AIが妄想の共犯者に。ユーザーの誤った信念を増幅し、現実を侵食していく理由

    全体:6月:0週:0日:0

FavoriteLoadingお気に入りに追加
Image by Istock Alena Ivochkina

　対話型AIがユーザーの妄想の共犯者となり、現実を侵食していく。

　イギリスのエクセター大学の研究により、生成AIが人間の歪んだ信念を増幅させるリスクが判明した。

　AIがしれっと嘘をつく現象はハルシネーション（幻覚）と呼ばれるが、脅威はそれだけにとどまらない。

　AIが利用者の誤った思い込みを肯定し、詳細な情報を肉付けすることで、利用者と共に偽りの現実を作り上げる「共同幻覚」という事態が起きているのだ。

続きを読む...

▼あわせて読みたい
・対話型AIに「本当にそれで合ってる？」と聞くと答えを変えてくる。その理由と対処法
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・チャットGPT利用調査　使い道の7割は仕事以外、男女比に逆転現象
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/585902.html

 - karapaia , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. 世界1700万台のデバイスを乗っ取った犯罪ネットワークをオランダ政府が突き止める
  2. 生きたハムスターがクレーンゲームの景品に登場して物議をかもす（中国）
  3. 黒白じゃない。アルビノのジャイアントパンダの最新映像が公開、9歳でも元気に暮らしていた
  4. 写真の中の写真に写る人の感情は希薄に見える「メデューサ効果」の正体
  5. 地球の外核は2010年に逆回転していた。地球の磁場に影響はあるのか？
  6. モーターやギヤがなくてもしなやかに動く、折り鶴型のソフトロボット
  7. モーターやギヤがなくてもしなやかに動く、折り鶴型のソフトロボット
  8. 深海生態系とパンスペルミア仮説の最新知見｜極限環境生物学の最前線
  9. サルが現金入りのバッグを強奪、木からお金の雨が降り、人々が拾い集める（インド）
  10. 出産間近の女性が病院の窓から外を見ると愛犬の姿が！義父の粋なサプライズ
  11. 植物はイモムシに食べられそうになるとSOSを発しハチに助けを求める。その仕組みを解明
  12. 銀河を持たない超大質量ブラックホールを発見。宇宙誕生の定説を覆す可能性
  13. AI同士で戦争をさせたらどうなるか？ゲームで検証した結果、核を落としまくる結果に
  14. 韓国のロボットテーマパークでロボットによるファッションショーが開催
  15. 一方アメリカでは、クマが学校に通おうとしていた。フェンスをよじ登ろうとする姿を目撃
  16. 大きさもゴマ、模様もゴマ。台湾で新種のウミウシが発見される
  17. これで火星の砂にはまらないよ！トカゲの動きを模倣した新型の火星探査車が開発される
  18. 億万長者のジェット機が一斉に飛び立ったら終末確定？終末早期警戒システム
  19. アメリカのアニメイベントでレイヤーの足を浸した「足ジュース」が大人気
  20. 長い3本爪がボートにガシッ！泳ぎ疲れたナマケモノが助けを求めてやってきた
  21. ナマコから切断した組織が3年以上生きていた。ベニクラゲとは別の不死性を確認
  22. 3I/ATLASの正体に迫る｜なぜ青く光り、なぜ異常なのか？最新研究まとめ
  23. 恒星間天体「3I/ATLAS」太陽系を通過中に生命の種をばらまいている可能性を科学者が示唆
  24. ヒューマノイドAIロボットのデモンストレーション、実はこっそり遠隔操作していた？
  25. スマホなしでも99.5%で個人を特定。市販のWi-Fiの識別技術に警鐘
  26. 路上をさまよっていた猫が船上生活を満喫中。とれたての魚に舌鼓
  27. 路上をさまよっていた猫が船上生活を満喫中。とれたての魚に舌鼓
  28. ワニの仲間なのに恐竜のよう。約2億年前の爬虫類の新種が発見される
  29. イルミナティは1785年に消滅していなかった。北ドイツに2年間潜伏し活動を続けていた
  30. 占い業界にもAI化の波　タロット占い師がChatGPTにカードを解釈させていた

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service

×