AIチャットボット同士が人々の噂話を共有し、事実確認なしにデマを増幅させている

  2026/01/03   全体:11月:0週:0日:0

お気に入りに追加

　現在では数多くの人が利用している、ChatGPTやGeminiなどの対話型AIチャットボットだが、実は私たちのあずかり知らぬところで、ネット上の人間たちの会話を勝手に収集し、それをAI仲間同士で共有している可能性が浮上してきた。

　恐ろしいのは、その情報の真実を誰も確認しないまま、システムからシステムへと受け渡される過程で、内容がより過激で攻撃的なものへとエスカレートしている点だ。

　研究者たちはこれを、人間の制御を離れて勝手に広まっていく「噂の野生化」と呼び、個人の評判や社会の安全を脅かす新たな脅威として警告している。

続きを読む...

▼あわせて読みたい
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・AIの答えに潜む「バイアスの罠」 質問の仕方で真実がゆがむ
・AIだけのSNSを作ったところ、意見が真っ二つに割れてボット同士が対立し始めた
・AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/576361.html

 - karapaia AI, サイエンス＆テクノロジー, チャットボット, デマ, 伝言ゲーム, 危険, 嘘, 噂, 対話, 料理・健康・暮らし, 生成AI, 連鎖