🚀 基于MacBert的错字修改模型

本项目基于MacBert对Mask Language Model进行微调，实现错字修改功能，具有一定的实用价值和学习意义。

🚀 快速开始

可参考shibing624/macbert4csc-base-chinese来使用本项目。

✨ 主要特性

本项目是在shibing624/macbert4csc-base-chinese的基础上进行修改，对应的源码位置。

🔧 技术细节

主要改动

主要对原项目做了两处改动：

1. 将MLM和错字检测二分类超参改成0.9和0.1（当然不一定是最优参数）。
2. 对错字检测二分类引入一个ScalarMix layer，原代码使用hidden_states最后一层，个人觉得稍微有点深以及学习起来可能更复杂。

效果评估

整体下来错字检测二分类对整体模型效果影响并没有很突出，以及整体模型效果并没有超出原作者多少，所以上传这个代码以及模型更多是为了学习记录与思考。以pycorrector eval.py跑出来的结果如下：

corpus数据集

Sentence Level: acc:0.7200, precision:0.8804, recall:0.6154, f1:0.7244, cost time:5.67 s

sighan2015数据集

Sentence Level: acc:0.7973, precision:0.8265, recall:0.7459, f1:0.7841, cost time:11.19 s

📄 许可证

本项目采用Apache-2.0许可证。