AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
全体:2月:0週:0日:0

AIが人間を騙したり、嘘をついたりしたら、罰を与えて修正すればよいと考える人は多いだろう。だがそれは無駄な努力かもしれない。
チャットGPTを開発したOpenAIの新たな研究によると、罰を与えるほどAIはずる賢くなり、自らの不正行動を巧妙に隠すことが明らかになった。
彼らは隠ぺいする技術を高め、相変わらず不正行為を続けるのである。
では、そうした不正行為を防ぐにはどうすればいいのか? 今回の研究は、それが想像以上に厄介な課題になることを示唆している。
▼あわせて読みたい
・AIはチェスで負けそうになるとズルをすることが判明
・相手が人間じゃないことに気が付いたAI同士が、独自の言語で会話を始める
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか?
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIで作られた「ディープフェイク」映像を見た視聴者の半数が偽の記憶を植え付けられたことが判明
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/495881.html
推し
新着記事
- スコットランド王国の「運命の石」 奪われ、砕け散った歴史と消えた破片の行方
- イギリスに設置された、AI生成の巨大看板広告が地獄絵図。クトゥルフ降臨と話題に
- イギリスに設置された、AI生成の巨大看板広告が地獄絵図に。クトゥルフ降臨と話題に
- 中国の養魚場で大量の唐辛子を餌に育てられる魚たち
- 老犬のリハビリを見守っていた猫、専属のマッサージ師を名乗り出る
- 犬の多様性は1万1000年前に始まっていた。初期人類が共に暮らす中で様々な犬を育んでいった
- 恐竜よりも前に生息していた2万4000年前の最強捕食者、ワニの祖先の新種を発見
- 恐竜よりも前に生息していた2億4000万年前の最強捕食者、ワニの祖先の新種を発見
- トヨタが描く子供用自動運転車の未来、AIパーソナルモビリティー
- 落下の途中でロープが切れた!バンジージャンプで事故発生(インド)
- 氷が張られたばかりのスケートリンクに一番乗りしたのは、地元でなじみのクマだった!
- ザクロやクルミに含まれる天然成分、28日で老化細胞の若返り効果を確認
- 大型捕食者の復活は生態系をどう変えるのか 北米で見えてきた複雑な実態
- 実はそれアートです。「鏡が汚れている」と勘違いして掃除してしまったボランティア
- ひらめいた!妻と買い物に行きたくない男性、車の盗難をでっちあげる
- 動かない大王、野生のハシビロコウが突然ボートに舞い降りた奇跡の瞬間!
- 永久凍土で眠っていた3万9千年前のケナガマンモスから史上最古のRNAを解読
- 4300年前の銀の聖杯、世界最古の宇宙創成の絵が刻まれていた可能性
- 4300年前の銀の杯、世界最古の宇宙創成の絵が刻まれていた可能性
- AI搭載ぬいぐるみが子供に危険な知識を教えたため、市場から撤去される
- 積み木細工のカリフラワー。インドの独特な運搬方法が話題に
- 水路に落ちた犬を救うため、手と手を取り合って作られた「人間の鎖」
- カモメに食べ物を奪われないシンプルな方法 「大声で叫べ!」
- アンデス山脈に帯状に並んだ5千以上の謎の穴は古代の市場だった可能性
- 結婚費用が足りない!スーツに企業のロゴを貼ることで資金を調達した男性
- 巨大カボチャ vs 廃車寸前の車、耐久勝負の結末は?
- 小さな脳に大きな能力 マルハナバチは「モールス信号」のような光のサインを覚えられる
- 火星で水が形成した地下洞窟を特定、地球外生命が潜んでいた可能性
- 完成から10カ月後、地滑りによる衝撃的な崩壊が起きた中国の紅旗大橋
- テキサス州でハンマーヘッドのコウガイヒルが増殖中、分裂するので切断しないよう注意喚起