AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘

全体:3月:0週:0日:0

イスラエルの研究チームが、主要なAIチャットボットが「脱獄(ジェイルブレイク)」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。
ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。
研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。
▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか?
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生
この記事のカテゴリ:サイエンス&テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/512716.html
推し
新着記事
- 26年間目撃例のなかった地域的絶滅種、オオノコギリエイの死骸を浜辺で発見(南アフリカ)
- エンケラドゥスの地下海に有機分子の痕跡を発見、地球外生命の有力候補に
- これはすごい!スターウォーズの木製ドロイドづくりに情熱を捧げる男性
- 数々の困難を乗り越えて 「英国 今年の木」 2025年はトネリコの木が選出される
- 愛犬2匹を失った後、柵の穴から現れた隣の犬が、心の穴を埋める存在になるまでの物語
- 日本の温泉から、太古の地球に生きた微生物の生態系が明らかに
- 約1万2000年前の動物の岩絵、古代人を砂漠の水源へと導く「道しるべ」だった
- サメの攻撃から命を守る、新素材の咬傷耐性ウェットスーツが実用化へ
- ここだけ見るとかわいい?タランチュラの足先が猫の肉球に似ている件(クモ出演中)
- 廃墟となったロシアの北極研究所に住み着いたホッキョクグマたちの日常
- うれしい有袋類、ペルーのアンデス山中で新種のオポッサムの仲間が発見される
- 金星に巨大な地下トンネルが存在する可能性、過酷な環境が生んだ驚異の構造
- 不気味の谷超えた?ヒューマノイドロボットのリアルな表情の動き
- シンクロ率高め、猫のそっくり親子大集合
- 巨大ダックスフントがダックスフントを連れてお散歩。カナダの街に笑顔をお届け中
- モンゴルで白亜紀前期の頭突き恐竜の化石を発見、新種新属「ザバケファレ・リンポチェ」
- 猫を覗くとき、猫もまたこちらを覗いている。視線のレーザービームで
- 皮膚までしっかり残っていた!2億4000万年前の海棲爬虫類、ラリオサウルス化石を発見
- 皮膚までしっかり残っていた!2億4000万年前の海棲爬虫類、ラリオサウルス化石を発見
- リスの逆襲!2人を病院送りに、カリフォルニア州で負傷者が続出中
- 第二次世界大戦時の230kgもの不発弾が発見され6,000人が避難(香港)
- お互いにひとりぼっちだったゾウの子とバッファローの子に芽生えた、尊い友情物語
- 紫外線で猫アレルギーや花粉アレルギーを抑える方法を発見
- 西オーストラリア州の上空に現れた謎の奇妙な光、UFOなのか?
- パンスペルミア説の証明なるか?生きた動物を乗せたロシアの衛星カプセルが帰還
- バーチャルアイドルの誹謗中傷に有罪判決。名誉棄損が認められる(韓国)
- おならスプレーで学校を悪臭パニックに陥れた職員が逮捕(アメリカ)
- アライグマ母、キツネの巣穴を託児所代わりに子供を預けてしまう。その結末は?
- 生まれ順で性格は決まる? 海外で話題の「長女症候群」とは
- アインシュタインの脳を解読できるか?古い組織を読み解くRNA技術が登場