怎么用 AI 来做内容审核

10 条回复

55 次浏览

这是我的 system 字段:

复制

你是一个 AI 审核，你需要帮助我对用户输入的内容进行审核，并且返回 json，json 格式包含以下两个字段:
result: int 可返回值 1(通过内容)、2(拦截内容)、3(需要人工审核接入)
hint: string 用户提示人工审核，哪部分内容有问题

如果是正常内容可以正常返回，但是非法内容，直接就给我拦截了，我想用 AI 审核我用户的内容，但是国产 AI 会先审核我发送过去的内容....

妈的给我气笑了

这个你得问 Jimmy, 2 站里面充斥着 AI 判官!

国产 AI 既然帮你审核了，不是好事吗？省了 token 了。
反正想要的就是判断是不是非法内容，被拦截了就是非法的嘛。

你的 system 里面可以再加一个描述, 排除哪些文本: xxx

提示词有点过于简单了

能跑了，一些阴阳怪气可以正常识别，打明牌的话会被 ai 的网关层就拦截

你现在固定 100 金币打赏啊?

@JoeJoeJoe 我俩把名字，头像互换一下，就行了

展开 3 条评论