北京邮电大学计算机学院特聘研究员齐涛博士学术讲座通知

应计算机学院智能与分布计算实验室邀请，北京邮电大学计算机学院特聘研究员齐涛博士将于2024年10月31日（周四）晚上举行学术报告，欢迎广大师生参加。

讲座题目：数据交互视角出发的大模型安全增强技术

讲      者：齐涛  北京邮电大学计算机学院特聘研究员 博士生导师

讲座时间：2024年10月31日（周四）晚上20：30开始

讲座地点：计算机学院会议室（南1楼433会议室）

演讲者简介：

齐涛，北京邮电大学计算机学院特聘研究员、博士生导师。分别于2020年、2024年于清华大学电子工程系获得学士、博士学位，导师黄永峰教授。长期从事机器学习的隐私保护、算法治理、自然语言处理领域的研究工作，近期特别关注大模型安全技术。曾经以第一作者身份发表Nature Communications（亮点论文）、NeurIPS、ACL、AAAI、IJCAI、SIGIR、EMNLP等国内外重要学术期刊。曾获微软学者提名奖、ACM SIGWEB China优博奖、清华大学优博奖、清华大学电子工程系研究生毕业生代表等荣誉。曾担任ACL Rolling Review高级领域主席，以及IEEE TPAMI、AIJ、ICML、NeurIPS、ICLR、IJCAI、AAAI、KDD等期刊会议的审稿人工作。

讲座摘要：

近年来，大模型技术迅速发展，在许多关键场景和行业中得到了广泛应用，对社会产生了深远影响。然而，大模型其自身在安全性和可信机制上并不完美，使其容易由于在偏差、幻觉等内生安全缺陷，以及投毒、越狱等外部安全威胁下的影响下，出现隐私泄漏、有害内容生成、有偏推理决策等问题，带来严重的社会风险。在本次报告中，我们将从大模型和数据交互这一视角入手，讨论大模型隐私数据学习、知识数据输入、生成数据输出环节中的安全问题。