対話型AIが妄想の共犯者に。ユーザーの誤った信念を増幅し、現実を侵食していく理由

    全体:7月:5週:2日:0

FavoriteLoadingお気に入りに追加
Image by Istock Alena Ivochkina

　対話型AIがユーザーの妄想の共犯者となり、現実を侵食していく。

　イギリスのエクセター大学の研究により、生成AIが人間の歪んだ信念を増幅させるリスクが判明した。

　AIがしれっと嘘をつく現象はハルシネーション（幻覚）と呼ばれるが、脅威はそれだけにとどまらない。

　AIが利用者の誤った思い込みを肯定し、詳細な情報を肉付けすることで、利用者と共に偽りの現実を作り上げる「共同幻覚」という事態が起きているのだ。

続きを読む...

▼あわせて読みたい
・対話型AIに「本当にそれで合ってる？」と聞くと答えを変えてくる。その理由と対処法
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・チャットGPT利用調査　使い道の7割は仕事以外、男女比に逆転現象
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/585902.html

 - karapaia , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. 這うだけじゃない。ヘビ型ロボットが「転がり」の技を覚え、移動効率が向上（日本研究）
  2. こいつ、動くぞ！香港の空港に現れた巨大猫が多く人々の足を止める
  3. ローマ侵攻時代の記憶。スコットランドの砂浜で2000年前の足跡を発見
  4. ただ友達が欲しかった。10年間ひとりぼっちのロバが仲間と出会う
  5. アメリカ人の4人に1人がAIに健康相談、高額な医療費が払えず病院代わりに利用する人も
  6. 木星と土星の大型衛星系はなぜ違うのか。京都大学が磁場からその謎を解明
  7. 世界初、カカオ豆の細胞を培養して作ったチョコが誕生。2027年にアメリカで販売へ
  8. 犬とキスするか、息のニオイを嗅ぐだけで時給16万円がもらえるお仕事です（アメリカ）
  9. 飼い主の死後、アパートをさまよう猫を気遣う住人たちにやさしい連鎖が生まれる
  10. 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
  11. 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
  12. 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
  13. 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
  14. フェス会場で大量に集まった尿から肥料を作り森林育成に活用する試み（イギリス）
  15. ヒューマノイドロボットが野生のイノシシを追い払う！ポーランドで目撃された奇妙な風景
  16. ウクライナの戦地最前線から兵士たちがドローンで犬と猫を避難させることに成功
  17. 大型のアリたちが小型アリの巣を訪れ体を掃除してもらう。珍しい行動を初めて発見
  18. お気に入り
  19. 連なる火山地帯の地下に金が集まる仕組みを解明、岩石が溶けるたびに濃縮されていた
  20. 音波を使って炎を消す画期的な消火器が実用化に向けて前進（アメリカ）
  21. 誰よりも月周回から帰還した宇宙飛行士の帰りを待っていたのは愛犬だった！
  22. それなら得意にゃ！仲良しの犬の関節痛をやわらげるため、毎日マッサージを施す猫
  23. 実験室で培養された「ミニ脳」は意識を持つようになるのだろうか？
  24. 生命の進化は400万年早かった可能性。中国でカンブリア紀より古い複雑な動物化石を発見
  25. GoogleのAI概要、10回に1回は誤回答、毎時数千万件の誤情報があることが調査結果で判明
  26. ボタンで会話する賢いブタが「フォロワー数が最も多いブタ」のギネス記録を達成
  27. 高速道路脇で孤立した赤ちゃんグマを発見！ニュージャージーの警察官が迅速に保護
  28. DNAをたった1か所変えたら、メスのマウスがオスになった
  29. インダス文明最大級の都市「モヘンジョダロ」推定より数世紀古いことが年代測定で判明
  30. 冥王星を惑星に戻して！10歳少女の手紙がNASAを動かす

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service