5月24日下午,新媒体与传播学院“新传讲堂”在卫津路校区18楼132室举行,活动邀请到了新加坡管理大学终身教授孙军老师,与学院师生共同探讨大语言模型安全机制的分析和利用问题以及相关的攻击和防御方法。新媒体与传播学院二十余名师生现场参加。
![](/__local/6/9D/FE/54F2F4722689917AD82F0930B54_21690E19_BC1A.jpg)
孙军老师现任新加坡管理大学信息系统学院终身教授,研究方向主要为人工智能的质量与安全等。近年来,孙军老师在计算机领域高水平期刊和会议论文250余篇,获得多项国际研究和服务奖项,包括多篇ACM SigSoft杰出论文奖,TSE 2018最佳论文奖和ICFEM 2018 20年最有影响力系统奖。曾在50多个学术会议的组织委员会和程序委员会任职。
讲座围绕大语言模型安全问题展开。孙军老师首先对大语言模型的相关概念以及应用进行深入探讨,继而将现实生活中的安全问题与大语言模型现存问题相联系,详细阐述了大模型安全问题的重要性。并在现有开源大语言模型如何攻击和防御两方面进行了报告,阐释大语言模型安全研究的未来发展方向。
讲座结束后,参会师生与孙军老师针对大模型的后门攻击以及应用场景等问题展开热烈的交流讨论。参会师生纷纷表示在此次讲座中受益匪浅,开拓了研究视野,在研究思路和方法等方面获得了灵感与帮助。