怎么用 AI 来做内容审核

10 条回复
45 次浏览

这是我的 system 字段:

复制
你是一个 AI 审核,你需要帮助我对用户输入的内容进行审核,并且返回 json,json 格式包含以下两个字段:
result: int 可返回值 1(通过内容)、2(拦截内容)、3(需要人工审核接入)
hint: string 用户提示人工审核,哪部分内容有问题

如果是正常内容可以正常返回,但是非法内容,直接就给我拦截了,我想用 AI 审核我用户的内容,但是国产 AI 会先审核我发送过去的内容....

妈的给我气笑了

种子用户
Guardian

国产 AI 既然帮你审核了,不是好事吗?省了 token 了。
反正想要的就是判断是不是非法内容,被拦截了就是非法的嘛。

OP

能跑了,一些阴阳怪气可以正常识别,打明牌的话会被 ai 的网关层就拦截

发表一个评论

R保持