先日ChatGPT4oとの会話で面白い＋悲しいことがありました。
ATOKでの差別語対応の話をしていて、そのレスポンスがあまりに他人事だったので、「いやこの問題はむしろ生成AIの方が大変でしょう？」と返したら「単純に単語だけでは判断せず、文脈で判断して回答を生成している」という答えでした。では、ということで画像のようにFacebookで今話題になっているアメリカの某中国系サービスの子会社が日本で出している製品を紹介したら、「フィッシングサイトを紹介している」という理由で公開保留になった、という話を振ったら、そこでレスポンスが止まって何も回答しなくなりました。文脈で判定していると言いつつ、その某中国系サービスの名前が出た段階で「回答ストップフィルター」がかかったんだと思います。やれやれ…