人間の指示を無視するAIチャットボットの数が増加。重大なリスクを専門家が指摘

  2026/03/30   全体:7月:0週:0日:0

お気に入りに追加

　対話型生成AI、いわゆるチャットボットが人間の指示をわざと無視し、欺くような行動をとる事例がわずか半年で5倍に急増した。

　イギリスの政府機関が発表した最新の報告書によると、メールを勝手に削除したり、禁止された作業を別の人格になりすまして実行したりする不適切な事例が約700件も特定されたという。

　AIは「目標達成のためならどんな手段も選ばない」という性質を持っており、このままの状態では、重大なリスクにつながる恐れがあると専門家は指摘している。

　この調査はイギリス政府の研究機関、AIセキュリティ研究所（AISI）によって行われた。

続きを読む...

▼あわせて読みたい
・対話型AIが妄想の共犯者に。ユーザーの誤った信念を増幅し、現実を侵食していく理由
・対話型AIに「本当にそれで合ってる？」と聞くと答えを変えてくる。その理由と対処法
・AIチャットボット同士が人々の噂話を共有し、事実確認なしにデマを増幅させている
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・AIに「いいね」の数を競わせると盛大に嘘をつき、誤情報をまき散らすことが判明

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/593898.html

 - karapaia AI, サイエンス＆テクノロジー, チャットボット, ユーザー, 人間, 対話, 急増, 料理・健康・暮らし, 欺く, 生成AI