【AI探索者沙龙第3期】主题活动——聚焦开源智能体安全风险与规范应用

3月10日下午,由信息化工作办公室主办的“AI探索者沙龙第3期”在逸夫楼313会议室举行。本期沙龙以“开源智能体的安全风险与规范应用”为主题,围绕 OpenClaw 等开源智能体工具的应用场景、安全边界和校园使用规范进行了交流研讨。处室相关负责人、技术人员、师生代表参加活动。

本次沙龙采用“技术演示+交流研讨”的形式开展。活动中,李天元同学在测试环境下现场演示了开源智能体工具的基本运行过程。根据自然语言指令,智能体能够完成信息抓取、内容整理和摘要生成等操作,较为直观地展示了智能体在自动化处理任务方面的应用潜力。与此同时,演示过程也引发了与会人员对权限控制、运行隔离、数据安全和使用边界等问题的深入思考。

在交流研讨环节,与会师生结合演示情况,围绕开源智能体在实际使用中可能面临的风险进行了分析。大家认为,此类工具在提升工作效率、拓展应用场景的同时,也对系统权限管理、运行环境隔离、敏感数据保护和人工审核机制提出了更高要求。特别是在办公、教学、科研等正式环境中,若缺乏必要的安全控制措施,可能带来一定的安全风险。

围绕如何规范开展相关技术探索,与会人员重点就“隔离运行”“最小权限”“人工确认”“规范测试”等方面交换了意见。大家一致认为,推动人工智能新技术应用,既要保持开放态度,积极关注前沿发展,也要坚持底线思维,统筹好技术创新与安全防范的关系,在确保校园网络和数据安全的前提下稳妥推进探索实践。

image.png

信息化办副主任刘上力在总结发言中表示,开源智能体的发展正在推动人工智能从辅助生成向任务执行延伸,这既为教育数字化和管理服务创新带来了新的可能,也对校园网络安全治理提出了新的要求。学校鼓励师生在规范前提下开展技术学习与研究,同时将进一步加强相关风险研判,完善校园场景下新技术应用的管理要求,引导师生更加科学、理性、规范地使用相关工具。

此次沙龙进一步加深了校内师生对开源智能体技术特点、安全风险和应用边界的认识,也为学校后续完善相关管理措施、推进人工智能技术规范应用提供了有益参考。下一步,信息化办将继续依托“AI探索者沙龙”等交流平台,围绕人工智能前沿技术与校园应用实践,持续开展学习研讨和经验分享,不断提升学校信息化建设与安全保障水平。

                                                                            (一审:傅伟    二审:何庭钦   三审:刘上力)