跨界共探！腾讯云安全沙龙：音乐黑客碰撞大模型安全新火花

更新时间：2025-03-13 11:30  浏览量：2

在古城西安，一场别开生面的学术沙龙于2025年3月1日成功举办，本次活动由腾讯云安全云鼎实验室携手西安智能系统安全重点实验室及LLM&Sec Landscape社区共同呈现，以“模型有界，安全无疆”为主题，吸引了学术界、产业界及安全领域的众多专家、学者及从业者，共三百余人参与。

本次活动的一大亮点在于其独特的“音乐+黑客+学术”跨界形式，伴随着电子音乐的律动，与会者共同探讨大模型安全的前沿技术与挑战。活动聚焦于三大核心议题：技术突破、生态共建与人才培育。

在技术突破方面，多位专家分享了最新的研究成果与攻防实践。绿盟天元实验室的高级安全研究员祝荣吉围绕LLM应用的安全问题，从模型选型、应用开发到应用部署，全面剖析了潜在的安全风险，并提出了针对性的防护策略。

西安电子科技大学博士吴子辉则聚焦于大模型API服务中的函数调用接口，通过实验揭示了主流大模型在参数生成阶段可能存在的安全漏洞，并提出了参数安全过滤、提示词防御及安全对齐训练等解决方案。

在生态共建议题下，与会者探讨了如何打通产学研壁垒，推动技术标准与防御体系的协同创新。京东蓝军-白鵺攻防实验室的安全研究员Knight基于ExpAttack框架，提出了构建“大模型越狱第二大脑”的创新思路，旨在通过大模型技术解决自身的安全难题。

人才培育方面，与会专家强调了AI时代对安全人才的需求，并探讨了校企联合培养的新模式。云起无垠模型安全研究的负责人刘洋指出，随着大模型在各行各业的广泛应用，传统漏洞与AI交互结合衍生出全新攻击面，构建AI原生安全体系迫在眉睫。

ChaMD5安全团队AI组负责人bayuncao发布了开源项目ltrack，该项目专注于解决ML领域模型加载环节的安全观测问题，基于ebpf技术实现零侵入动态监测，助力企业构建全生命周期的防护体系。

活动尾声，一场以“AI时代网络安全人才发展机遇与挑战”为主题的圆桌论坛将气氛推向高潮。来自西安电子科技大学、腾讯云安全、绿盟科技等单位的专家围绕AI技术爆发式增长对安全行业的影响展开了深入对话，共同探讨了构建全面且系统的治理体系的重要性。