AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究

    全体:4月:1週:0日:0

FavoriteLoadingお気に入りに追加
Photo by:iStock

　AIが人間を騙したり、嘘をついたりしたら、罰を与えて修正すればよいと考える人は多いだろう。だがそれは無駄な努力かもしれない。

　チャットGPTを開発したOpenAIの新たな研究によると、罰を与えるほどAIはずる賢くなり、自らの不正行動を巧妙に隠すことが明らかになった。

　彼らは隠ぺいする技術を高め、相変わらず不正行為を続けるのである。

　では、そうした不正行為を防ぐにはどうすればいいのか？ 今回の研究は、それが想像以上に厄介な課題になることを示唆している。

続きを読む...

▼あわせて読みたい
・AIはチェスで負けそうになるとズルをすることが判明
・相手が人間じゃないことに気が付いたAI同士が、独自の言語で会話を始める
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIで作られた「ディープフェイク」映像を見た視聴者の半数が偽の記憶を植え付けられたことが判明

この記事のカテゴリ：サイエンス＆テクノロジー / 知る

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/495881.html

 - karapaia , , , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. おしりかじり魚？コバンザメは危険を感じるとマンタのお尻の中に逃げ込んでいた
  2. 同じ金属の塊が同時に2か所に存在 「シュレーディンガーの猫」的思考実験を実証
  3. 指令に応じて自己破壊する生きたプラスチックが登場、マイクロプラスチックを出さず完全分解
  4. SNSで話題となっている口の中に目玉のあるカエルは本物なのか？コラなのか？※変形カエル出演中
  5. 狡猾なんだぜ。人間に幇助させスーパーからサンドイッチを盗み出すカモメの手口
  6. インドの新型コロナ感染者、回復者の間で真菌感染症「ムコール症」が急増中
  7. ペットとして飼育されていたトラが逃走、現在も行方不明（アメリカ）
  8. こいつぁ刺激的ぃ！猫が見せたキシャーな一面にReddit民がハラハラ
  9. 心臓が止まるかと思った！思わずカメラに収めてしまった、呪われた？ペットたちのホラーなシーン総集編
  10. 脳の神経細胞を光で刺激し同期させたところ、マウス同士に友情が芽生える
  11. シュールな放送事故。お天気お姉さんが大量増殖するという生放送中のハプニング
  12. フィンランドの「掃除の女王」、無料で高齢者のお宅を綺麗にお掃除
  13. 見た目のエイリアン感がヤバイ！チョウチンアンコウが浜辺に打ち上げられる珍事案（アメリカ）
  14. アブダクション：宇宙人に50回以上拉致されたと主張する女性（イギリス）
  15. 「ピザうめぇ！」2匹の犬に見せびらかしながらうまそうにピザを食べるウッドチャック（アメリカ）
  16. 人間にも特殊能力が使えるかも！コウモリやイルカの超音波能力を利用できるオーディオデバイスを開発
  17. 賢いボーダーコリー、フェンス越しから歩道にボールを投げて、通行人に投げ返してもらう遊びを覚えた
  18. 魚を狙っていた男性が、逆に絶対的悪夢に狙われていた件（フロリダ州恒例）
  19. 巨人伝説のあるジャール平原に点在する巨大石壺の謎に関する新たな手がかり（ラオス）
  20. 腕のない灰色のクリーチャーが2本足で歩き回る。全米各地で目撃例がある「ナイトクローラー」とは？
  21. アパートで火事！5階に取り残された猫が見事なジャンプで飛び降り、無事着地成功
  22. アパートで火事！5階に取り残された猫が見事なジャンプで飛び降り、無事着地成功
  23. こいつぁ刺激的ぃ！猫が見せたキシャーな一面にReddit民がハラハラ
  24. 2組のペンギンのゲイカップルが誕生（イギリス・ロンドン水族館）
  25. ほらほら、だって猫だからさ！我々にハッピーを分けてくれる猫たちの所業総集編
  26. 第二次世界大戦時の日本海軍の不発弾が民家の裏庭で発見される（アメリカ）
  27. これはかわいい場外乱闘。ライオンハートを持つ子猫たちのレスリング
  28. 飼っているうちに似てきたのか？最初から似てたのか？猫と飼い主の比較写真
  29. 屋根が見事に薄くスライスされたよ！「缶切り橋」で削られた宅配トラック
  30. 世界最小ながら筋肉マッチョ、マレーシア原産の特徴的な外観を持つ鶏「セラマ」

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service