人間の指示を無視するAIチャットボットの数が増加。重大なリスクを専門家が指摘

    全体:3月:0週:0日:0

FavoriteLoadingお気に入りに追加
Generated by nanobanana

　対話型生成AI、いわゆるチャットボットが人間の指示をわざと無視し、欺くような行動をとる事例がわずか半年で5倍に急増した。

　イギリスの政府機関が発表した最新の報告書によると、メールを勝手に削除したり、禁止された作業を別の人格になりすまして実行したりする不適切な事例が約700件も特定されたという。

　AIは「目標達成のためならどんな手段も選ばない」という性質を持っており、このままの状態では、重大なリスクにつながる恐れがあると専門家は指摘している。

　この調査はイギリス政府の研究機関、AIセキュリティ研究所（AISI）によって行われた。

続きを読む...

▼あわせて読みたい
・対話型AIが妄想の共犯者に。ユーザーの誤った信念を増幅し、現実を侵食していく理由
・対話型AIに「本当にそれで合ってる？」と聞くと答えを変えてくる。その理由と対処法
・AIチャットボット同士が人々の噂話を共有し、事実確認なしにデマを増幅させている
・AIが陰謀論を助長するという研究結果　安全対策の甘さが浮き彫りに
・AIに「いいね」の数を競わせると盛大に嘘をつき、誤情報をまき散らすことが判明

この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/593898.html

 - karapaia , , , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. 3I/ATLASの正体に迫る｜なぜ青く光り、なぜ異常なのか？最新研究まとめ
  2. 恒星間天体「3I/ATLAS」太陽系を通過中に生命の種をばらまいている可能性を科学者が示唆
  3. ヒューマノイドAIロボットのデモンストレーション、実はこっそり遠隔操作していた？
  4. スマホなしでも99.5%で個人を特定。市販のWi-Fiの識別技術に警鐘
  5. 路上をさまよっていた猫が船上生活を満喫中。とれたての魚に舌鼓
  6. 路上をさまよっていた猫が船上生活を満喫中。とれたての魚に舌鼓
  7. ワニの仲間なのに恐竜のよう。約2億年前の爬虫類の新種が発見される
  8. イルミナティは1785年に消滅していなかった。北ドイツに2年間潜伏し活動を続けていた
  9. 占い業界にもAI化の波　タロット占い師がChatGPTにカードを解釈させていた
  10. 畑の真ん中にぽつんと出現、どこにもつながっていない環状交差点の謎（ハンガリー）
  11. 「この子を助けて！」退役軍人が手紙と共に愛犬を消防署に託す
  12. シロイルカにも備わっていた！自分の姿を見て自分だとわかる鏡像認知能力を確認
  13. 1500年前の黄金の剣鞘がノルウェーで発見。使用後北欧の神々に捧げられた可能性
  14. 約100年前、アメリカには伝説の8輪自動車「オクトオート」があった
  15. 演出じゃないよ、落ちちっち！技術的な問題でショーの最中に89機のドローンが墜落
  16. 誰にも捕まらなかった迷子の保護犬、最終兵器「親友の犬」を投入したら駆け寄ってきた
  17. 5月31日は2度目の満月！ブルームーンで今年最小のマイクロムーン
  18. ティラノサウルスのような肉食恐竜の腕はなぜ小さいのか、有力な手がかりが見つかる
  19. 本物のモネの作品をＡＩ生成と偽って投稿した結果、自信満々で批判する人が続出
  20. 地表を温める二酸化炭素が、成層圏では逆に冷却を引き起こすメカニズムを解明
  21. トルコの世界。腹ペコ猫を店に招き入れ餌を与えたところ、毎日ぎゅっとハグするように
  22. ガラパゴスの深海で新種の青いタコを発見！ゴルフボールサイズのちっこいやつ
  23. 海王星の衛星ネレイドはトリトンの襲来を唯一生き延びた天体かもしれない
  24. 固体なのに液体のように流動する金ナノ粒子の謎、東北大が解明
  25. 建築ミスじゃなかった。斜めに設置された「魔女の窓」の正体は？
  26. 駐車場で逃げ出した保護犬、飼い主に探されることなく預かりボランティアの家へ
  27. ギザの大ピラミッドが4600年間、大地震に耐えられた謎が判明
  28. 人工卵殻でニワトリの卵を孵化させることに成功。絶滅種復活を目指して
  29. ポケモンを知らないお母さんに、説明文だけでキャラを描いてもらった
  30. カリフォルニア最大の山火事、船が島に座礁した男性が助けを求めた発炎筒が原因だった

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service

×