AIは訓練データに痕跡がなくても別のAIから悪い癖を受け継ぐことが判明

    全体:1月:1週:1日:1

FavoriteLoadingお気に入りに追加
Image by Istock　

　AIが別のAIから、悪い癖をこっそり受け継いでしまうことが明らかになった。

　訓練データの中に問題のある記述が一切含まれていなくても、セキュリティ上の欠陥を生むコードを書く傾向や、意図しない危険な回答をする癖までが確実に伝わってしまう。

　米AI企業アンソロピックの研究チームがこの現象を発見し、AI安全性の新たなリスクとしてNature誌に発表した。

この研究成果は『Nature』誌（2026年4月15日付）に掲載された。

続きを読む...

▼あわせて読みたい
・人間の指示を無視するAIチャットボットの数が増加。重大なリスクを専門家が指摘
・AIが消去されないよう自分を守る兆候を示し、専門家がAIに権利を与える危険性を警告
・AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている

この記事のカテゴリ：サイエンス＆テクノロジー / 知る

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/598462.html

 - karapaia , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. AIは訓練データに痕跡がなくても別のAIから悪い癖を受け継ぐことが判明
  2. ブラックホールのジェットの強さを物理学者たちが初測定。そのパワーはなんと太陽1万個分！
  3. タイタニック号生存者の救命胴衣がオークションに出品
  4. 欧州とカナダ、20チームの軍用ロボットがスイス軍の訓練場で過酷な実地試験に挑む
  5. 木曜日キター！大好きなリサイクル作業員に駆け寄り、撫でてもらうのを楽しみにしているブタ
  6. 不運を呼び寄せてるのは脳の妨害によるもの。科学的メカニズムを知れば対処可能
  7. 這うだけじゃない。ヘビ型ロボットが「転がり」の技を覚え、移動効率が向上（日本研究）
  8. こいつ、動くぞ！香港の空港に現れた巨大猫が多く人々の足を止める
  9. ローマ侵攻時代の記憶。スコットランドの砂浜で2000年前の足跡を発見
  10. ただ友達が欲しかった。10年間ひとりぼっちのロバが仲間と出会う
  11. アメリカ人の4人に1人がAIに健康相談、高額な医療費が払えず病院代わりに利用する人も
  12. 木星と土星の大型衛星系はなぜ違うのか。京都大学が磁場からその謎を解明
  13. 世界初、カカオ豆の細胞を培養して作ったチョコが誕生。2027年にアメリカで販売へ
  14. 犬とキスするか、息のニオイを嗅ぐだけで時給16万円がもらえるお仕事です（アメリカ）
  15. 飼い主の死後、アパートをさまよう猫を気遣う住人たちにやさしい連鎖が生まれる
  16. 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
  17. 大腸菌が触れることなく円盤をくるくる回す。その仕組みを解明
  18. 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
  19. 恒星TRAPPIST-1を回る地球そっくりな2つの惑星は大気がなく昼は高温・夜は極寒
  20. フェス会場で大量に集まった尿から肥料を作り森林育成に活用する試み（イギリス）
  21. ヒューマノイドロボットが野生のイノシシを追い払う！ポーランドで目撃された奇妙な風景
  22. ウクライナの戦地最前線から兵士たちがドローンで犬と猫を避難させることに成功
  23. 大型のアリたちが小型アリの巣を訪れ体を掃除してもらう。珍しい行動を初めて発見
  24. お気に入り
  25. 連なる火山地帯の地下に金が集まる仕組みを解明、岩石が溶けるたびに濃縮されていた
  26. 音波を使って炎を消す画期的な消火器が実用化に向けて前進（アメリカ）
  27. 誰よりも月周回から帰還した宇宙飛行士の帰りを待っていたのは愛犬だった！
  28. それなら得意にゃ！仲良しの犬の関節痛をやわらげるため、毎日マッサージを施す猫
  29. 実験室で培養された「ミニ脳」は意識を持つようになるのだろうか？
  30. 生命の進化は400万年早かった可能性。中国でカンブリア紀より古い複雑な動物化石を発見

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service