AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘
全体:3月:1週:0日:0
イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。
ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。
研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。
▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/512716.html
推し
新着記事
- 2日留守にして帰宅したら、卵が孵化しヒヨコが約70羽誕生していた件
- 「ボクが見てるから大丈夫！」お気に入りのぬいぐるみの緊急手術に立ち会う保護猫
- 世界で2個体しか存在しない「スライゴオオサンショウウオ」実は日本で飼育されている
- 熱意はたっぷり！芝生を敷くお手伝いに前向きな小犬。
- 熱意はたっぷり！芝生を敷くお手伝いに前向きな小犬。
- 人体が残すWi-Fi電波への影響が指紋代わりとなり、個人を特定できる技術
- 車のボンネットを水槽代わりにして生きた魚を入れた男性が物議をかもす
- 猫は家にいるけど？「お宅の猫を見つけた」との電話が頻繁にかかってくる理由
- 通学と下校を共にする。子供と一緒に小学校に通う猫
- 1日7,000歩。健康効果がある歩数が科学的に示される
- これがニャイと落ち着かない。口にくわえてどこにでもブランケットを持ち運ぶ猫
- ストーンヘンジの巨石は人力で運ばれていた、古代ブリテン人の驚異的運搬技術が明らかに
- イエローストーンにオオカミが戻ってきたことで80年ぶりにヤマナラシの森がよみがえる
- クレーンゲーム景品のおもちゃの銃に本物と同じ実弾発射能力。警察が回収呼びかけ
- ブラジルのインフルエンサーが日本でヘビの衣装を着て道路を這いまわっていた
- 狂犬病の疑いで通報されたアライグマ、実際には人懐っこくて甘えん坊なだけだった
- ラットは撫でられると人の手に懐く。愛情ホルモン「オキシトシン」が絆をつくる仕組みを解明
- お水遊びは楽しいよ。実家の子犬に泳ぎ方を教えるゴールデンドゥードル
- スーパーマンの弱点、クリプトナイトに似た鉱物「ジャダライト」が再生可能エネルギーの鍵に
- 目を失う危機にあった木星探査機「ジュノー」、NASAが約6億km離れた場所から救助
- 失明の危機にあった木星探査機「ジュノー」、NASAが約6億km離れた場所から救助
- レトロフューチャーの極み！宇宙時代のNYバブルハウスが50年ぶりに売り出される
- ボディビルダーたちの間で母乳が人気。それを売って大金を稼ぐ女性たち
- 自分の死後、愛猫を可愛がってくれる人に全財産を残したいと申し出た中国の高齢男性
- 3億8000万年前のハイギョの化石が、四肢動物の進化の秘密を握っていた
- 気分を上げたい？ならば犬たちが飛んだり跳ねたり踊ったりする動画でセロトニン補給だ
- 別々の博物館にあった化石は同じ個体のものだった。2つを合わせてみたところジュラ紀の新種爬虫類と判明
- すばる望遠鏡が太陽系外縁部で、45億年前の記憶をとどめた天体を発見
- 自分でバッテリーを交換、24時間365日働くことが可能な二足歩行自律ロボット
- アメリカの列車、ハッカーがブレーキを遠隔操作できる状態が13年続いていた
