AIは訓練データに痕跡がなくても別のAIから悪い癖を受け継ぐことが判明

    全体:5月:5週:0日:0

FavoriteLoadingお気に入りに追加
Image by Istock　

　AIが別のAIから、悪い癖をこっそり受け継いでしまうことが明らかになった。

　訓練データの中に問題のある記述が一切含まれていなくても、セキュリティ上の欠陥を生むコードを書く傾向や、意図しない危険な回答をする癖までが確実に伝わってしまう。

　米AI企業アンソロピックの研究チームがこの現象を発見し、AI安全性の新たなリスクとしてNature誌に発表した。

この研究成果は『Nature』誌（2026年4月15日付）に掲載された。

続きを読む...

▼あわせて読みたい
・人間の指示を無視するAIチャットボットの数が増加。重大なリスクを専門家が指摘
・AIが消去されないよう自分を守る兆候を示し、専門家がAIに権利を与える危険性を警告
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている

この記事のカテゴリ：サイエンス＆テクノロジー / 知る

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/598462.html

 - karapaia , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. やっちっち！火星探査機「キュリオシティ」岩からドリルが抜けなくなり5日間悪戦苦闘
  2. やっちっち！火星探査機「キュリオシティ」岩からドリルが抜けなくなり5日間悪戦苦闘
  3. ティラノサウルスより1億4000万年前に生きていた新種の肉食恐竜を発見
  4. 米政府、80年分のUAP関連文書を機密解除。アポロ宇宙飛行士の目撃情報を含む162件
  5. 米政府、80年分のUAP関連文書を機密解除。アポロ宇宙飛行士の目撃情報を含む162件
  6. パタゴニアの島で発見された人面のような謎の地形「ジンの王」
  7. パタゴニアの島で発見された人面のような謎の地形「ジンの王」
  8. こいつ、擬態してやがる。メキシコの野菜売り場でズッキーニをパクつくインコ
  9. シャチの高度な狩りスキル。強力な波を起こし流氷のアザラシを海に落とす方法が明らかに
  10. ギザの大ピラミッド建設法を再現。建造物内部の謎の「空洞」との新たな関連性を明らかに
  11. 人間に寄り添う白もふのAI搭載クリーチャーが誕生！ルンバの生みの親が夢を実現
  12. NASA、火星探査に向けて米国最高出力の次世代エンジンの点火実験に成功
  13. NASA、火星探査に向けて米国最高出力の次世代エンジンの点火実験に成功
  14. 「こっちに来て！」突然現れた犬が、行方不明の子供の元に警察を導く
  15. 植物が種子を使わず自分のクローンで繁殖するための遺伝子スイッチを発見（日本研究）
  16. 冥王星以外の太陽系外縁天体で初めて大気の存在を発見（日本研究）
  17. 帽子を被るだけ。脳波を読み取り思考を文字に変換するデバイスが登場
  18. テスラ車で墓地に行くと幽霊に会えるという噂が拡散、目撃情報が次々と寄せられる
  19. 飼い猫がソファに向かって鳴き続けて1週間後、知らない黒猫の存在にようやく気付く
  20. 金魚を自然の池に放流するとわずか2か月で生態系が崩壊することが実験で判明
  21. 光よりも速く移動する暗闇を発見。50年前の予測がついに証明される
  22. SNSやめーにゃ。画面を邪魔する太っちょ猫、日本人開発の拡張機能が海外でも話題に
  23. 亡くなった妹の預金を引き出すため、遺体を掘り起こして銀行に運んだ男性（インド）
  24. 亡くなった姉の預金を引き出すため、遺体を掘り起こして銀行に運んだ男性（インド）
  25. やさしい世界。96歳のおばあさんの最強の相棒は大型犬、土を掘り花植えを手伝う
  26. 大麻草の成分が原料。沸騰した湯にも耐え、1600%伸びるプラスチック代替素材を開発
  27. 地球最古の生命の秘密が、オーストラリアの岩に生息する新種の古細菌に隠されていた
  28. あの「精子レース」がパワーアップして帰ってきた！2026年はワールドカップとして開催決定
  29. 配送ロボットが緊急現場を凝視。野次馬のように居座りる事案が発生
  30. 配送ロボットが緊急現場を凝視。野次馬のように居座る事案が発生

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service