讲座题目：大模型参数高效微调的子空间优化理论、方法与应用介绍

主讲人：贾西西

讲座时间：2025年12月10日 上午10:30

讲座地点：龙湖校区2号实验楼343

讲座人简介：

贾西西， 西安电子科技大学数学与统计学院教授，博士生导师。曾任香港理工大学研究员，澳门科技大学“澳门青年学者”。主要研究方向包括：低秩矩阵逼近问题，深度学习的优化方法以及深度学习在图像复原问题中的应用。目前发表期刊和会议论文十余篇，其中包括top期刊IEEE TIP，TNNLS, SIAM journal on image sciences以及顶会CVPR, NeurIPS, ICCV, ICLR等。分别主持国家自然科学基金青年项目和面上项目各1项、主持博士后面上项目1项。担任顶会NeurIPS, ICML，AAAI以及ICLR审稿人和程序委员会成员，担任国家自然科学基金项目评审专家。获得“澳门青年学者计划”、“陕西省高校优秀青年人才支持计划”、陕西省高等龙珠直播优秀科研成果二等奖等荣誉。

内容概要：

低秩子空间学习是一种用于大语言模型高效微调的革命性技术。其核心思想是，在模型适配新任务时，无需更新全部数十亿参数，而是冻结原有权重，仅向模型注入极小的“低秩适配器”。该适配器由两个紧密相连的低维矩阵（A和B）构成，通过它们的乘积来近似模拟完整权重矩阵所需的复杂变化。这种方法能将被训练参数量锐减万倍，从而将计算开销、内存需求和存储成本降低至消费级硬件可承受的范围它已成为实现大模型轻量化、定制化应用的关键技术，极大地推动了AI技术的落地应用。

研究生处、数学与信息科学学院

2025年12月1日