ジェイルブレイク(AI脱獄)
意味・解説
生成AI(LLM)に対して、開発者が設定した安全フィルターや倫理制限を巧妙な言葉(プロンプト)で回避し、不適切な出力を引き出す攻撃手法。
同義語: AI脱獄 / プロンプトハッキング
分類: AIセキュリティ脅威
生成AI(LLM)に対して、開発者が設定した安全フィルターや倫理制限を巧妙な言葉(プロンプト)で回避し、不適切な出力を引き出す攻撃手法。
アプリでもっと効率的に学習
2,651語の用語辞書・過去問28回分・232ステージ
7日間無料でお試し