AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
全体:0月:0週:0日:0
AIが人間を騙したり、嘘をついたりしたら、罰を与えて修正すればよいと考える人は多いだろう。だがそれは無駄な努力かもしれない。
チャットGPTを開発したOpenAIの新たな研究によると、罰を与えるほどAIはずる賢くなり、自らの不正行動を巧妙に隠すことが明らかになった。
彼らは隠ぺいする技術を高め、相変わらず不正行為を続けるのである。
では、そうした不正行為を防ぐにはどうすればいいのか？ 今回の研究は、それが想像以上に厄介な課題になることを示唆している。
▼あわせて読みたい
・AIはチェスで負けそうになるとズルをすることが判明
・相手が人間じゃないことに気が付いたAI同士が、独自の言語で会話を始める
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIで作られた「ディープフェイク」映像を見た視聴者の半数が偽の記憶を植え付けられたことが判明
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/495881.html
推し
新着記事
- 「ご一緒させていただこう」犬を散歩に連れて出ると、必ず同行する近所の猫
- スコットランドの住民を悩ます謎の怪音「ヘブリディアン・ハム」の正体はいまだ不明
- 25万年眠っている火山がなぜ動く？ボリビアのゾンビ火山の謎がついに解明
- 映像で振り返る1970年の大阪万博、あの頃の未来と、今迎えている未来の姿
- 無断駐車許すまじ！センサー付きスプリンクラーでドライバーを次々と撃退する家主
- カバも仲間の死を悲しむ。群れの長老の死を悼む映像が心を揺さぶる
- イカは腕を振って仲間とコミュニケーションをとっている可能性、しかも何パターンもある
- なんでわからんのにゃ？お座りを覚えない犬にお手本を示す2匹の猫
- 856回毒ヘビに咬まれることで抗体を獲得した男性、その血液が超解毒薬の開発につながる
- 雨粒を電気に変える新たな手法が開発される、シンプル装置で実現した高効率発電
- ファー！ゴルフ場に小型飛行機が緊急着陸するまさかのハプニング
- 水中の料理長！白いイソギンチャクをコック帽のように頭に乗せたカニが目撃される
- 野良牛が盗んだバイクで走り出すシュールな光景（オンリーインド）
- 絶滅の危機から復活なるか？養殖したウーパールーパーが野生下でも繁殖できることが判明
- 大きくたって猫は猫。ダンボール箱に吸い込まれるように入るボブキャット
- 恐竜絶滅後、頂点捕食者として君臨した巨大なワニの化石をカリブ海諸島で発見
- 宇宙で新鮮な魚が食べられる日も近い。月面養殖場に向けてスズキの受精卵が送られる
- なぜそこに？アメリカの空港滑走路に墓が埋め込まれている理由
- 防犯カメラより効果的かもしれない。インドの青果市場に設置された女性の写真
- 動物園で最年長のハリモグラ、56歳の誕生パーティーを特製のケーキで祝ってもらう
- チンパンジーは人間同様知識を共有し、文化を進化させている
- 愛情で買収？キャットショーの審査員にスリスリが止まらない、スフィンクス猫の猛アピール
- 世界が西洋色に染まる？AI文章支援ツールが文化の多様性を損なう可能性
- ベスタは惑星の“なりそこね”ではなかった？ NASAが従来の定説を覆す発見
- 人間への逆襲か？北米最大のキツツキが次々と車の窓ガラスを破壊
- 元恋人の父親の骨壺を墓から盗み出して復縁を迫った男性
- 処分寸前だったところを保護されたハスキーが大変身！愛され上手のお風呂上手に
- インドネシアの自然の生息地で生きたシーラカンスを撮影することに成功
- 換毛期でっか？まかせなさい。馬の抜け毛を掻きだすビーグル犬
- シドニーの空に現れた不気味な雲、ハリポッターの闇の存在ディメンターを彷彿とさせる
