
文本分类算法
|
183
才能判断出是否发生了变化。最后一个需要注意的参数是
stratify
,这个参数可以
确保在分割训练与测试数据集的时候,目标变量的分布保持不变。如果不能保持目
标变量的分布不变,则训练数据集中某个类的观测可能会比较多,就不能反映训练
数据中的分布了,最后会导致模型得出一个不符合实际的函数:
X_train, X_test, Y_train, Y_test = train_test_split(df['text'],
df['Priority'],
test_size=0.2,
random_state=42,
stratify=df['Priority'])
print('Size of Training Data ', X_train.shape[0])
print('Size of Test Data ', X_test.shape[0])
输出结果:
Size of Training Data 36024
Size of Test Data 9006
6.3.3
第三步:训练机器学习模型
创建文本分类解决方案的下一步是使用合适的算法训练监督机器学习模型。在文本 ...