我在后续的版本会加入 AI 接入的方式去界定内容是否违规,你们觉得如何。 比如说用户主动对不友好/违规的内容选择 AI 介入,AI 会根据提示词去分析和判断,最终返回建议的结果。 个人觉得这算是比较客观的处理方式,想听听大家的思路。
AI 除了做分析和判断,应该在给用户做个类似蚂蚁花费的信用值的分值,当用户经常发布不友好或者违规或是其他低质量内容,AI 会给用户减分,当分值到达阈值,该用户就无法发帖或评论。
参考闲鱼交易,用户交易前会先看对方的信用值,利用这个分支来影响和被动的提升用户行为和素质。