AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘

    全体:5月:1週:0日:0

FavoriteLoadingお気に入りに追加
Photo by:iStock

　イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。

　ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。

　研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。

続きを読む...

▼あわせて読みたい
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・生成AIに人間の認知症の兆候を確認
・大規模言語モデルの生成AIは本当に人間世界を理解しているのか？
・生成AIの手を借りて作成したニュースは理解しづらいことが研究で判明
・AIをAI生成データで学習させると、学習モデルが崩壊してしまうリスクが発生

この記事のカテゴリ：サイエンス＆テクノロジー / 知る

引き用元サイト: カラパイア

記事元url: https://karapaia.com/archives/512716.html

 - karapaia , , , , , , , ,

他の人のお気に入り

推し

新着記事

  1. 建築ミスじゃなかった。斜めに設置された「魔女の窓」の正体は？
  2. 駐車場で逃げ出した保護犬、飼い主に探されることなく預かりボランティアの家へ
  3. ギザの大ピラミッドが4600年間、大地震に耐えられた謎が判明
  4. 人工卵殻でニワトリの卵を孵化させることに成功。絶滅種復活を目指して
  5. ポケモンを知らないお母さんに、説明文だけでキャラを描いてもらった
  6. カリフォルニア最大の山火事、船が島に座礁した男性が助けを求めた発煙筒が原因だった
  7. カリフォルニア最大の山火事、船が島に座礁した男性が助けを求めた発炎筒が原因だった
  8. 浅瀬に取り残された世界最大のタコが救助され、無事海へ帰る。去り際にありがとうの合図
  9. パプアニューギニア沖で海底火山が噴火、新島誕生の可能性
  10. 未解決事件簿：乗組員全員だけが消えた幽霊船、メアリー・セレスト号の謎を科学で検証
  11. 80年前の米軍ミリメシ、戦闘糧食缶を開けてみた
  12. 家事ロボットがついに自宅へ！車輪型ヒューマノイドが量産化
  13. 毎日3回、ベビーカーで散歩をさせろと鳴いてせがむ猫は19歳。
  14. ホモ・エレクトスとデニソワ人の交配による遺伝子変異が一部地域の現代人に残されていた
  15. 探査機あかつきが発見した金星を覆う巨大雲の謎を東京大学が解明
  16. 世界最大級のラジコン旅客機、人が入れるサイズで時速165kmの飛行に成功
  17. 資金難につき、ロシアで宇宙ロケットに商用広告を掲載することを許可
  18. ネパールの道路が格闘場に！2頭のサイがストリートファイト
  19. 夢に出てくる魔物は、最初は無害な存在だが、徐々に脅威的な存在になることが判明
  20. 太平洋の地震が規則正しく起きる理由を解明。断層に天然のブレーキが存在していた
  21. AIとEMSが筋肉誘導。未知の作業のコツをその場で体に教えるスーツが誕生
  22. 大学の卒業写真はワニとキス。幼いころから野生動物保護活動を行っていた女性が記念撮影
  23. コンクリートまみれになったフクロウ、羽を移植する大手術の末、自然へと飛び立つ
  24. サボテンは驚異的なスピードで進化し、新種を生み出していた
  25. 女性がワラワラ集まってきちゃうのか？アックスの男性用芳香スプレーを輸送中のトラックが高速道路で爆発(アメリカ)
  26. 量子コンピュータと量子技術の未来｜GPS精度・がん治療・人工光合成まで分かりやすく解説
  27. 太陽が19日間連続で謎の電波信号を発信。その原因が明らかに
  28. メガトンパンチにビンタ！重さ5トンの巨大ロボットハンドが自動車を吹き飛ばす
  29. シェイクスピアが生涯で唯一買ったロンドンの家、360年ぶりに場所が判明
  30. 片耳の猫と片目の猫が最強の仲良しペアに。2匹で1つのニコイチコンビ

E.YAZAWA SPECIAL SELECTION

Supported by Rakuten Web Service

×