AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘
全体:2月:0週:0日:0
イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。
ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。
研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。
▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/512716.html
推し
新着記事
- お気に入りのアロハシャツを着るまでは、お散歩に行こうとしないオシャレ犬
- 噂は本当だった！85年前に湖に沈んだ伝説の車をダイバーたちが発見
- 約4800年前の古代エジプト人の全ゲノム解析に成功、その顔を復元
- 推しヤギは誰にする？ニューヨークで初のヤギの大食い競争が開催される
- 宇宙の神秘！稀な放電現象「レッドスプライト」が国際宇宙ステーションから撮影される
- 亡き愛猫からのメッセージ？引っ越しの途中で見かけた看板にグッとくる
- 亡き愛猫からのメッセージ？引っ越しの途中で見かけた看板にグッとくる
- 科学者が「最も水分補給に適した飲み物」をランキング化、1位はスキムミルクだった
- 絶対怒られるやつだ…飼い主が留守中、壁に穴をあけてしまった犬の反応
- ダブルデトネーション。2度の爆発によって破壊された白色矮星の残骸を史上初観測
- 人間と同じように考え、次にとる行動を再現する最新AIモデル「ケンタウロス」
- 世界初！シロイルカの全身麻酔手術が成功（シカゴの水族館）
- リアルマリオカート？インドのほぼ直角に曲がる高架橋建設に非難殺到、関係者処分
- 川で溺れているジャガーの子を発見した釣り人たちがタモを使って救出
- うれしいニュース。州内で絶滅したと思われていたフクロモモンガダマシを発見！
- ママが帰ってきた！全身で喜びを表現する猫
- 1000年前に失われた神殿を発見、アンデス地方のティワナク文明の謎が明らかに
- 史上3番目となる恒星間天体が太陽系を爆走中
- ポケモンのピカチュウとカビゴンが厚労省の「睡眠応援大使」に任命。海外でも話題に
- 完全自律AIロボットによる3対3のサッカー試合が見どころ満載
- 羊たちの反逆。カリフォルニアで300匹以上の羊が大脱走、交通渋滞を引き起こす
- 津波かと思ったら雲だった！ポルトガルの海岸で珍しいロール雲が出現
- 鳥さんたちと遊びたい！ツバメの群れと戯れるかわいらしい赤ちゃんゾウ
- 白亜紀のアヒル口の恐竜、モロッコで発見された新属新種「タレタ・タレタ」
- 月の塵は都市の大気汚染ほど有害ではないことが新たな研究で判明
- Amazonついに配達にヒューマノイドロボットを導入、顧客のもとに荷物を運ぶ計画
- 動物の歯医者さんが大奮闘。クマの犬歯に銀歯を装着
- 115mの断崖から転落し奇跡の生還を遂げた猫、救助したパイロット女性が家族に迎える
- 「ダイアウルフ風オオカミ」はすくすく成長中、生後6か月で2倍の大きさに
- カリフォルニアで地震発生！その時留守番をしていた犬と猫は？
