AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘
全体:2月:2週:2日:0
イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。
ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。
研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。
▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/512716.html
推し
新着記事
- 退屈は脳やメンタルに良い。科学者が明かした意外な事実
- これはママの分、これはパパの分。愛犬が寝る前に行うルーティーンが飼い主の心を溶かす
- 地球の核には大量の金が眠っていて、少しずつ地表に漏れ出していることが判明
- 恐竜時代を生きた8500万年前の海生爬虫類が新種として正式認定される
- 子供たちの動物を大切にする心を育てるため、ロボット犬を導入（ハンガリー）
- マンホールの蓋が踊ってる！壊滅的ハリケーン到来の予兆では？との噂が飛び交う
- 麻薬の運び屋は猫だった！刑務所に侵入しようとした猫が保護される
- ペンギンのフンが南極を気候変動から守る、地球を冷やす効果を確認
- こんな動画だけ見ていたい！猫にグルーミングされ、とろけそうな表情の犬
- 謎の金属球体がコロンビアの上空を飛行、回収され科学者たちが調査中
- AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘
- ヒューマノイドロボット同士がボクシング、初の格闘イベントに向けその戦術を披露
- どんな記録が？ドーピングOKのスポーツ大会が2026年5月にラスベガスで初開催
- マーモットが三つ巴のストリートファイト、だが彼らなりのルールがあってちゃんと守っている
- 鳥にも友情のような関係が存在する。血縁関係のない仲間を長期間支えるツキノワテリムク
- チキチキペンギンレース会場はこちらです。南極で3羽が競うように走る！走る！
- 巨大なヨコエビ類「ダイダラボッチ」は世界の深海の半分以上に生息している可能性
- AI処理能力が100万倍に、アメリカの研究チームが世界最速の量子トランジスタを開発
- オンリーオーストラリア。家に野生のエミューが現れ、プールで泳ぐ
- 親切心があだに？通行人の頭についたゴキブリを払い落としたら激怒される（G出演中）
- パンダの初恋？柵越しで見つめあう青春真っ盛りな若きパンダたち
- うれしいニュース。テキサス州で長年姿を消していたカナダカワウソを再発見
- グイグイいきます！子ヤギがカピバラの子に頭突きラッシュ。これも1種のスキンシップ
- ドイツの下水道探索中に第二次世界大戦時代の地下病院を発見
- ただでさえ巨大な木星だが、かつては今の2倍の大きさだった
- SFの世界が現実に！赤外線が見えるコンタクトレンズが開発される
- 朝目覚めたら巨大な貨物船が自分の庭に突っ込んでいた件（ノルウェー）
- 隣人の飼い猫に餌を与え家に入れていたおばあさんが告訴されるも衝撃の結末が！（スイス）
- アジアゾウの脳はアフリカゾウよりも大きいことが明らかに
- 猫が飼い主の枕元に生きたカエルをプレゼント。飼い主の反応は？
