
利益相关∶深度学习(D.L)运动预测开发者
本文用最浅显易懂的方式,介绍下主动学习(Active Learning,AL),希望对您有所帮助。
主动学习来源于一个假设∶
即一个机器学习算法,
如果能自行选择想要学习的数据,只用较少的训练数据,它将表现得更好。
主动学习之所以叫主动学习,是因为
[1]从一堆不带标签的数据中
主动选择一部分进行标注,而不是被动的。
[2]每标注一次,模型重新或者增量的训练一次。
然后重复[1][2]步骤,这就是流程
主动学习和被动学习
被动学习(passive learning)是从数据集内部,随机选择样本进行标注。
而主动学习在选择样本时,有criteria的指导。
被动学习这个词用的不多,一般用random selection和主动学习的criteria作比较。
主动学习的优势在于
减少标注数据的成本,用很少的数据来训练出高效的模型,是主动学习最大的优势。
[1]Membership query synthesis
从整个可能的样本空间中生成instance,模型从头开始生成一个instance,然后送去 oracle 打标签。
[2]steam-based selective sampling
先从数据流得到一个 instance,然后判断其是否要送去 oracle 打标签。
[3]pool-based sampling
初始时,我们就有很多 unlabeled data,只需要从这些 unlabeled data 中选择数据送到 oracle 打标签。(最常见的情况)
什么是oracle?
oracle 可能是一个专家,打标签准确率百分百;同时它可能是不同拥有专业知识的人,打标签不一定完全准确,比如众包。
参考文献
[1] Burr Settles.(2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin-Madison.
[2] Zhou, Z.-H. (2018). A brief introduction to weakly supervised learning. National Science Review, 5(1), 44–53.
[3] Tang, Y.-P., Li, G.-X., & Huang, S.-J. (2019). ALiPy: Active Learning in Python, 1–5. Retrieved
这篇文章它填补了知乎的科普空白
让人不禁感叹,
