AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘

    全体:5月:0週:0日:0

FavoriteLoadingお気に入りに追加
Photo by:iStock

　イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。

　ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。

　研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。

続きを読む...

▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生

この記事のカテゴリ：サイエンス＆テクノロジー / 知る

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/512716.html

 - karapaia , , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. 35億年前の月に巨大小惑星の衝突の痕跡を発見。地球でも同時期に衝突が起きていた
  2. 20本脚のウニ型ロボットがロボット工学の常識を覆す
  3. ロシア軍がドローン攻撃を避けるため、第一次世界大戦中に多くみられた「ダズル迷彩」を採用
  4. スマホに夢中な夫婦、間近でヒヒがスナックを盗み食いしていたことにしばらく気づかず
  5. 魚の腸内細菌が海の炭素循環を支えている可能性
  6. ドイツの城跡から15世紀に錬金術に使用された蒸留器を発見
  7. 米陸軍はわざとまずい軍用チョコレートを作り、戦闘糧食にしていた
  8. 何これ楽しい！フグをボール代わりにして遊ぶアシカたち
  9. おはようさん、今日も来たで。毎朝家に入り込んでソファでまったり寛ぐカピバラ
  10. 絶滅したホラアナライオンに現代のライオンの先祖の遺伝子が残されていた
  11. ストーンヘンジの祭壇石は氷河と人力のダブルプレーで運ばれた可能性
  12. 「音速の壁」を突破。NASA実験機X-59が超音速の飛行に初成功
  13. 「音速の壁」を突破。NASA実験機X-59が超音速の静かな飛行に初成功
  14. アリゾナ州の貯水池で魚の大量死。ほぼ全滅し無期限の閉鎖
  15. 野生の母トラ2頭が協力して子育て！自然界ではありえない光景
  16. うれしいニュース。ケニアで地域絶滅が疑われていた「マウンテンボンゴ」を再発見
  17. 100年前、眠りについたまま起きられなくなる謎の病が流行した。現在も正確な原因は不明
  18. 宇宙服の下はPRADA製。56年ぶりに月に降り立つ宇宙飛行士のインナーがおしゃれイズム
  19. 半年たっても逮捕できず。自動運転タクシーで逃走した窃盗犯の行方がわからない
  20. ちいっす！巨大コウモリが柵にぶら下がって犬を絶賛観察中
  21. ちいっす！巨大コウモリが柵にぶら下がって犬を絶賛観察中
  22. コアラ急増で大量餓死の危険性。不妊手術による管理策を検討（オーストラリア一部地域）
  23. 木星の軌道のすぐ外に惑星製造工場があった可能性
  24. インドがオタク大国に？ホワイトハッカーが日本のアニメ少女の姿でテレビに登場
  25. アメリカの中にある独立国家、スロージャマスタン共和国の面白い法律
  26. コヨーテの群れと行動を共にしていた行方不明の飼い犬が11か月ぶりに家族と再会
  27. よっしゃ、食べてOK！キバタンは仲間を観察して食べられるかどうかを学ぶ
  28. ミイラ「アイスマン」から生きた酵母が発見され、パンを焼くことに成功
  29. ナチスのエニグマ暗号を解き明かしたイギリスの暗号解読機器「ボンベ」の歴史
  30. 37歳の女性が12歳に成りすまし養女になろうとして逮捕される（ブラジル）

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service

×