スレ主
Geminiに特定の単語を使うなってカスタム指示登録してるのに何度も使ってくる。なんで無視するんだろう。指摘したらその時は謝ってくるけど。
とりあえず指示文言作らせて登録し直したけど、これも無視されたらどうしていいかわからん。
生成AIに「◯◯を禁止します」という指示をすると、「禁止します」の部分ではなく「◯◯」の部分に反応してそれを生成するようになる、と聞いたことがあります（勤務先の生成AI勉強会で）
じゃあどうやって禁止の指示をすればいいんだろう…とは思いますが
スレ主
そんなことが！確かにそれだと禁止語句の設定は難しいですね… ありがとうございます！
ChatGPTに聞いてみたけど、
今の一般的な生成AIは「特定の単語を完全にNGにする」ことはできない。
内部的には「避ける方向に確率を傾ける」だけで、禁止ワードリストみたいに機械的に弾いてるわけじゃないんだ。
文脈上どうしても出やすい単語、学習データ的に強く結びついている表現は、確率の波をすり抜けて普通に出てくることがある。
「使うな」と書かれた文自体が、その単語を強化してしまう皮肉な現象、
つまり、「言うな」と言えば言うほど頭に残る、みたいな人間っぽい挙動をしてる。
「〇〇という単語を使うな」よりも「〇〇に相当する表現は、必ず△△・□□・◇◇のいずれかで言い換える」という置き換えの方が効果はあるけど、それでも100％じゃない。
だそうで…
Geminiに聞いても同じことを言っていたので、今のAIでは無理みたいです
スレ主
そうなんですね！今後の生成AIの進化を願うしかないんですね。ありがとうございます！
一部の投稿は、削除または非表示設定により表示されていません。