対話型AIが妄想の共犯者に。ユーザーの誤った信念を増幅し、現実を侵食していく理由

　対話型AIがユーザーの妄想の共犯者となり、現実を侵食していく。

　イギリスのエクセター大学の研究により、生成AIが人間の歪んだ信念を増幅させるリスクが判明した。

　AIがしれっと嘘をつく現象はハルシネーション（幻覚）と呼ばれるが、脅威はそれだけにとどまらない。

　AIが利用者の誤った思い込みを肯定し、詳細な情報を肉付けすることで、利用者と共に偽りの現実を作り上げる「共同幻覚」という事態が起きているのだ。

続きを読む...

▼あわせて読みたい
・対話型AIに「本当にそれで合ってる？」と聞くと答えを変えてくる。その理由と対処法
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・チャットGPT利用調査　使い道の7割は仕事以外、男女比に逆転現象
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/585902.html

 - karapaia サイエンス＆テクノロジー, チャットボット, 妄想, 孤独, 対話, 料理・健康・暮らし, 生成AI, 脅威