AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
全体:0月:0週:0日:0
AIが人間を騙したり、嘘をついたりしたら、罰を与えて修正すればよいと考える人は多いだろう。だがそれは無駄な努力かもしれない。
チャットGPTを開発したOpenAIの新たな研究によると、罰を与えるほどAIはずる賢くなり、自らの不正行動を巧妙に隠すことが明らかになった。
彼らは隠ぺいする技術を高め、相変わらず不正行為を続けるのである。
では、そうした不正行為を防ぐにはどうすればいいのか？ 今回の研究は、それが想像以上に厄介な課題になることを示唆している。
▼あわせて読みたい
・AIはチェスで負けそうになるとズルをすることが判明
・相手が人間じゃないことに気が付いたAI同士が、独自の言語で会話を始める
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIで作られた「ディープフェイク」映像を見た視聴者の半数が偽の記憶を植え付けられたことが判明
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/495881.html
推し
新着記事
- 聖水はコレラ菌に汚染されていた。持ち帰った観光客らが感染被害に
- こんな動画だけ見ていたい。大好きなおじさんを半年ぶりに発見した犬の反応に心がとろける
- ペットがもたらす幸福感は家族や友人並み、金額に換算すると年間1300万円と経済学者
- 完璧なマウスパットとなった猫。微動だにせずマウスに対応中
- 完璧なマウスパッドとなった猫。微動だにせずマウスに対応中
- UFO着陸時の目印か？エリア51で発見された謎の塔にざわめくインターネット
- 氷河の融解で地軸にぶれ、2100年までに27ｍ揺れ動く可能性
- 金属探知機で2500年前の短剣を発見！太陽信仰の証拠となる可能性
- 体型に応じて割引率が変わる！細い人ほど安くなるタイのレストラン
- やさしい共生。鳥に自分の毛をむしり取られる猫はそれを受け入れた
- 台湾で発見された顎骨の化石はデニソワ人のもの、アジアの人類史を塗り替える
- この棒・イズ・マイベスト！最高の1本を見つけてしまった犬のがんばりをご覧ください
- 海でひらひらと舞うリボンのような不思議な生物に遭遇、その正体は？
- まるで宇宙！マウスの脳の神経細胞84,000個を再現した3D地図から紐解く記憶と知性の謎
- AIが命をつなぐ時代に。世界初、遠隔操作の全自動体外受精で赤ちゃんが誕生
- 3年で100件、フランスで飲食代を踏み倒した父子の手口とは？
- また当てた！馬が飼い主の妊娠を的確に見抜く
- フクロウも生物蛍光。トラフズクの羽が紫外線で光ることが明らかに
- 草の中に潜伏し仲間の目をかわし、ニャイスタイミングで飛び出す忍者猫
- こ、これは！マヨルカ島のビーチを青く染めた大量の生物の正体とは
- ローマ帝国崩壊の裏に急激な寒冷化があったことがアイスランドの岩石発見で明らかに
- ついに現実に！AIがサルバドール・ダリの「制作不可能な映画」の映像化に成功
- 料理実況中まさかのハプニング！卵を割り入れたボウルが突如爆発
- 人と犬の絆。産んだばかりの14匹の子犬を飼い主のベッドに1匹ずつ連れてくる
- 物理学で学ぶ最高の一杯。おいしいドリップコーヒーの淹れ方とは？
- タイタニック号の3Dスキャンにより、最後の数時間の詳細が明らかに
- 1億3100万年前の妊娠中の魚竜の完全な化石が発見される
- チートスは好きだけど粉がな～、とお悩みのあなたのための指拭き専用ズボンが爆誕していた
- ガラパゴスの鳥に異変、車の騒音に悩まされ、攻撃的な性格に変貌
- 優れた嗅覚で結核菌を嗅ぎ分け数十万人の命を救ったヒーローネズミ「アフリカオニネズミ」
