我们用一个猫分类的例子来学习决策树用来判断一个动物是否是猫特征 脸型耳朵胡须是否是猫耳朵 圆的 垂的脸型 圆的 非圆的胡须 存在 不存在二分类 输出0或者1那么什么事 决策树呢这就是一个决策树最上面的是根节点椭圆的都是节点方块叫做叶子节点我们根据小猫的特征从根节点开始基于每一次次的判断就得到了小猫会移动最终移动到了叶子节点输出标签这些都是不一样的决策树有些的训练集测试集验证集 表现的不错或者表现得差。我们的任务是 从这些决策树中找到在训练集中表现良好并且在理想状态下也能很好泛化到新数据的树