新闻公告
-
活动&公告
活动&公告
机器学习方法学术沙龙：郑浩博士
2023年10月27日
报告题目： 微调预训练模型在小样本分类问题的方法研究
报告时间： 2023-10-27 10:00——2023-10-27 11:30
报告人： 郑浩
报告地点： 腾讯会议：955-720-365
主办单位： 数据科学与人工智能学院、智能商务研究中心
【报告人简介】
郑浩博士，目前就读于日本东京工业大学，导师为Prof. Asako Kanezaki。研究方向为迁移学习、小样本问题以及预训练模型在下游任务上的应用等等。其研究成果被ICLR，CVPR等顶级机器学习，计算机视觉会议接收。
【报告摘要】
随着大规模数据集以及预训练模型的开源，如何在下游任务中运用这些先验知识逐渐成为迁移学习重要的研究课题。本次报告将以“如何在下游任务上更好的利用预训练模型”为主要问题，介绍如下若干工作：
1） 当源域和目标域的差异巨大且目标域数据只可获得一部分无标签数据时，如何更好的迁移源域中的知识。
2） 当目标域可获得数量更少但有标签的数据时，如何运用稀疏特征来提升微调性能。（在投工作，内部分享）
3） 当预训练模型参数量巨大不适宜微调时，如何使其适配到下游小样本任务。
