去年年底以ChatGPT为代表的生成式人工智能技术在全球掀起一轮AI热潮，随之国内互联网大厂、人工智能企业纷纷紧跟，各类AI大模型层出不穷；李彦宏、张勇等互联网大佬也一致断言大模型将颠覆整个行业。

　　时至今年下半年，随着类似ChatGPT等基础大模型喧嚣过后，AI行业化大模型逐渐占上科技创新的浪尖，无论是今年7月份上海的2023世界人工智能大会，还是此次厦门投洽会重要展区警安法务科技展，“行业大模型”成为活动的“顶流”与谈论的高频词，下半年不断涌现的垂直行业大模型也有力证明了这一事实。

众所周知，安防行业作为人工智能技术应用最具代表性的领域，大约在2015年左右，识别、分析类的算法开始在行业内成规模应用，到2018年短短几年间，人脸检测、识别和视频分析应用已成为行业主流。可以说，AI技术推动着安防行业全面进入了智能化时代，并不断重塑着行业应用与商业模式。

当前，AI加速迭代并渗透到整个安防产业，从前端产品到后端平台、再到整体解决方案，各种产品琳琅满目。人工智能技术在端、边、云各层级上实现全面赋能应用，并且在各行业数字化驱动下，应用场景已从落地实战较早的公安、交通等领域向金融、社区、园区、水利、商业、民用等领域持续拓展。

对于人工智能带给公安领域的创新与变革，在此次人工智能论坛上，厦门市公安局覃智泉主任通过人工智能在公安侦查打击、治安防控、110接处警、智慧交通、服务民生、流程再造等方面的创新实践给出了最有力的佐证。

可以说，人工智能技术或如苏州科达首席科学家章勇所言，AI感知智能已经在行业展示出其“十八般武艺”，其成就有目共睹。接下来，AI大模型又将在行业创造怎样的一番天地？已经成为整个行业拭目以待的重头戏。

除了已经取得的成果，行业也注意到，随着人工智能技术的演进，传统深度学习算法在碎片化的安防应用场景中的局限性日益凸显。“基于特征识别的AI1.0对感知信息的深度理解，如目标和目标之间的关系、目标和场景之间的互动关系等会有很大的困难。”章勇表示，一方面是多样化的场景带来数据采集及标注的困难，同时任务多变性，导致AI1.0泛化性能比较差。另一方面，对行业知识的理解需要高质量知识图谱构建模式，需要大规模自动化的知识获取，但知识又是动态变化的，现有传统算法无法满足实际场景应用。这也是为何弱人工智能下算法只能做人脸识别、车牌识别等有限的产品，持续扩展的空间不足，再叠加高昂的研发成本，目前一些人工智能企业活得并不轻松也有这方面的原因。

相比之下，大模型具有更好的泛化能力与知识图谱的构建能力，能够突破传统算法的精度和数据局限问题，同时大数据与人工智能的结合也将更加紧密，行业智能化应用将有可能突破现有瓶颈。

对于特定行业的碎片化场景，用户其实并不需要通用大模型的全面能力，更需要行业大模型的精度和质量。在行业知识图谱的基础上，以沉淀的行业数据、专家经验以及工程实践能力予以配合，通用大模型演进下的行业垂直模型将拉开强人工智能场景化应用新序幕。

众所周知，作为数字化和智能化应用的前沿领域，安防行业拥有极为丰富的感知设备和可观的数据资源，再加上广泛的应用场景，行业必将成为大模型率先落地的垂直领域之一。伴随着高性能、高稳定的大模型不断突破发展，更高通用性和工业化水平AI2.0将持续拓宽安防行业数字化、智能化的边界。一方面大模型、AGI等新一轮的AI技术变革将使得安防领域AI算法更加精准。另一方面通过多模态技术可以将图像、语音和文本等数据进行融合，实现多样化海量数据深度挖掘，并在此基础上进一步提取数据内容关联价值。例如在多种非结构性数据中提取相关的人、事、物、组织等关键要素，继而形成具有知识价值的图谱，不但提升了长尾AI需求落地的效率和效果，更有可能改变相关产品研发、项目运营等环节的交互方式。

可以相信，伴随着AI大模型等技术在安防领域逐渐落地及场景突破，有望在行业内真正构建起事前预测预防、事中制止、事后监督的治理体系与机制，进而提高社会预测预警预防各类风险能力，增强社会公共安全防控的整体性、协同性、精准性，更能推而广之，探索安防在安全生产、应急防灾、生态建设与保护等领域的深度应用。AI大模型融入公共安全领域其背后的价值将不可估量。

在诱人的发展前景外，技术的双刃剑效应在AI大模型上依然不容小觑。正如覃智泉主任所言，当前公安领域面临着AI大模型应用及安全方面诸多问题需要深入思考。

在应用方面，哪些业务可以引入大模型？用哪些业务数据进行大模型训练？数以千亿计的数据进行训练必将带来高昂的费用支出，谁来承担？大模型在公安工作中落地应用，带来的法律跟责任问题该如何界定等等；在安全方面，如何保证训练数据安全，AI大模型带来的虚假信息、深度伪造信息等如何解决？这些已经成为阻挡AI大模型赋能公安应用较为现实的问题。

在AI大模型应用部署上，华为技术有限公司科学家胡善勇也提出：由通用大模型向专业行业大模型演进，需要投入高昂的算力成本、数据成本、算法成本以及人力成本，这与狭窄行业应用对应的商业价值和商业收益不成正比，因此目前来看，面向行业大模型还难以形成正向的商业应用闭环，需要企业持续不断地试错与投入。

安全问题是AI大模型另一较为凸显的话题，近段时间无论是AI“黑产”，还是深度伪造带来的涉诈犯罪风险正在积聚。在此次人工智能论坛上，美亚柏科AI研发中心总经理赵建强等相关专家系统地总结了AI大模型在数据安全方面面临的一些困境：一方面AI大模型存在算法、数据等安全风险。以算法风险为例，大模型无法抵抗提示注入、对抗样本等攻击，可靠性低。如受到攻击，用于大模型训练的一些个人隐私数据容易泄露，尤其是涉及到的个人身份信息。同时，它还存在歧视、伦理偏见等数据方面的问题。另一方面大模型、生成式AI（AIGC）技术存在被不法分子利用的风险，如通过深度伪造相关视频或图像信息进行诈骗，目前国内已经出现类似的案件。

同时，生成式人工智能技术可能带来非常多的虚假信息，或者说加速虚假信息的生成和传播。

除了以上两个方面，AI大模型或者生成式人工智能技术本身及应用过程中还会带来很多在伦理道德、法理、法律等方面的挑战，甚至可能影响整个社会稳定，危害到国家安全。

据赛迪顾问统计显示，截至2023年7月，国内累计已经有130个大模型问世，再加上一些企业孵化的行业大模型，有人戏称目前国内已经进入“千模大战”。

然而，这些大模型是否果真名副其实，能否称得上“大模型”，以及当前公布的大模型算法是否有缺陷、内容是否符合法律法规要求及政策监管，都不得而知。面对大模型、AIGC急速发展带来的一系列应用与安全问题，如何构建可信的AI大模型、实现对AIGC内容的规范管理已经成为行业及国家重点关注的内容。

清华大学互联网司法研究院助理教授艾清遥表示，相较于智能辅助驾驶，目前对于AI大模型能力的评测，尤其是AIGC内容方面的检测还没有一个通用指标或通用范式。

在安全问题受到高度重视的当下，AI大模型产业需要统筹发展与安全，特别是涉及公共安全领域的垂直应用大模型，亟需建立可信与规范化的评测标准体系。

“变革是由问题倒逼而产生，又在不断解决问题中而深化。”AI通用大模型在向行业大模型持续精进的过程中，需要跨过应用适配性与安全规范化两道坎，这也是当前各个行业针对大模型发力的重点。

“行业大模型落地部署，硬件非常简单，通过加大算力的部署即可实现。真正的挑战是软件技术以及对行业业务层面的深度理解。”胡善勇表示，行业大模型对公共安全治理将会是一场非常重大开创性变革，虽然在公安与司法领域，大模型商业化应用闭环还较难实现，但前期的战略预研至关重要，这不但需要国家及地方政府予以资源支持，还需要在统一引领下，通过产学研以及社会组织共同努力实现预研的持续推进，在为大模型行业化应用打下坚实基础的前提下，相信在未来三到五年公共安全行业大模型应用将会有成效彰显。

自AI落地行业之日起，安全问题已经不是一个应用层面的问题，而是产业级问题。胡善勇特别强调，AI安全问题关键是源头，通过法律、法规前置化处理以达到治理非结构数据带来的深度伪造与虚假信息。赵建强也提出，针对AI大模型及生成式人工智能技术的安全治理需要从多个方面入手:

一是要源头治理，国家发布的《生成式人工智能服务管理暂行办法》明确提出来在生成式人工智能技术研发过程中进行数据标注。相关部门也将制定相应的分类分级监管规则或者指引，加强对生成式人工智能的模型、算法、数据的安全评估和管控。

二是要加强行业自律，无论是内容生产、应用还是服务，相关企业需要加强自律，需要对大模型从技术、内容等方面进行深度审核、管理、治理；行业组织则需加快相应产品评估方法和标准落地，以引导行业发展。

三是通过技术的方式去支撑法律、规则和标准落地，实现对大模型产品的“质检”。目前人为因素已经没有办法监督和评价生成式人工智能所生成的内容，需要通过AI方式进行鉴别，以AI对抗AI，进而实现对大模型进行安全性评估，对内容数据进行相应的监督检查，实现最大限度发现可能存在的伪造、虚假信息。

正如前段时间热映的《奥本海默》引发的热议，原子弹的研发对人类而言最终是利是弊，发人深省。也许当前社会正处于强人工智能的“奥本海默时刻”，面对快速迭代的AI大模型以及AIGC技术，AI技术“双刃剑”效应必然要求行业必须坚持发展与安全并重的态度，才能让新技术真正发挥更大价值。