谢邀。
不希望这个简单问题复杂化。算法能有什么问题呢？算法只是执行人设定的目标。
简单来说，就是优化目标中没有『儿童不宜』这个目标或这块做得较弱。
解决方法自然是加入或加强这个目标。这是一个类似于色情鉴别的分类问题。但这个问题的技术难度未知，不知道能否足够好的刻画『儿童不宜』这种较为高级的东西。
主要是『儿童不宜』的样本空间太大了，不想色情，怎么变都是肉。而这个即使见过所有反例，也不一定能罩住新的定西。特别指出 GAN也没用，再怎么A，原始信息也都蕴含在初始样本中。
但我认为配合产品设计，可以做出大体可用的解决方案。比如高权威用户生成的内容可以调低阈值，普通用户产生的内容要调高阈值，配合人工审核机制，完全可以做一做。即使这样还是会有漏网之鱼，还要再配合一套众包机制反馈。
或者极端一点，商业手段，儿童内容必需人工审核，大家可以通过观看广告或捐款来支撑审核经费。
