近日，针对近期AI造假事件以及AIGC所引发的信息安全问题，记者采访了中国信息安全领域龙头企业北信源北信源战略合作总经理姜来。

治理AI造假需三方协力

姜来对记者坦言，回顾科技发展历程，在很多新技术出现初期都曾发生过类似事件，若因此对新技术进行排斥，难免因噎废食。新兴技术变革有望营造更多跨界融合的新场景，催生新的产业机会，相关企业也会因此脱颖而出，传统行业的座次有可能重排。

“比如20年前Photoshop在作为创新的图片处理软件横空出世后，随之就出现了使用软件图片造假的情况，导致有图也不一定有真相。”姜来认为，新技术的出现难免与乱象相伴，但这不应该成为拒绝新技术的理由，关键问题在于如何规避、识别、管理和正向使用。

在姜来看来，规避和识别AI深度造假需要三方协力。在监管层面，呼吁相关监管政策尽快出台，为行业的健康发展保驾护航;在用户层面，要加强识别和防范意识；在技术层面，相关企业和产品要积极发展新的多模态识别技术，用科技手段解决新兴技术出现的问题。

姜来同时表示，在用技术进步解决AI造假的过程中，信息安全问题需密切关注。“举例来看，以GPT为代表的大模型预训练需要海量的数据支撑，如何保证数据的真实性、合法性以及敏感数据的隐私问题尤为关键。”北信源高度重视在个人隐私和数据隐私问题，“这根弦绷得最紧，训练数据的合法性，输出内容的所有权都是我们关注的课题，北信源正在进行相关的研究。”

信息安全护航上市公司数字化转型

近日，中国上市公司协会发布了“上市公司之家APP”。该协会副会长兼秘书长何龙灿表示，上市公司群体有了一个专属的、高安全性的移动办公平台、交流平台、学习平台、业务拓展对接平台，有了上市公司专属的、实名制认证的、可以安全、放心、高效、便捷沟通交流。

在姜来看来，该产品上线可以更好地发挥协会阵地、窗口、桥梁、平台作用，从而促进上市公司高质量发展。北信源依托自身在信息安全和移动互联领域的优势，为上市公司之家APP的健康运营提供支撑。

“与非上市类企业不同的是，上市公司有一些数据需要在数字化转型中予以重点关注。”姜来表示，“比如公司动态股东名册信息，中登公司对其有着非常严格的管理规定，绝不允许传到公司外部，那么在进行数字化分析时，一定要有一个安全、合规的数字化手段。”

姜来表示，对于上市公司而言，重大经营决策、投资并购方案、核心技术发明、公司股东名册、股权激励方案、重大客户名单、减持质押方案等都属于商业秘密，一部分国有类上市公司还涉及工作秘密。上市公司决策管理团队的董监高会议、内部高级别会议，通常会讨论上述内容，使用通用互联网类视频会议系统或普通移动办公系统存在较大安全隐患。

姜来告诉记者，对于上市公司的关键少数而言，日常沟通的信息可能会涉及尚未审计过的财报、尚未正式发布的股权激励方案以及重大投资并购方案等，如果出现信息泄露，就可能引发违法违规风险，因此更加有责任去关注信息安全的保障工作。

因此，基于国家重要单位在使用的信源密信底座定制开发的“上市公司之家APP”，可以在通信中保护工作秘密、商业秘密和个人数据隐私，在安全的前提下为几千家上市公司用户提供高质量服务，从而促进上市公司高质量发展。

姜来认为，数字化是一把双刃剑，数字化发展水平越高安全挑战就越大。在数字中国建设的浪潮中，北信源致力于用自身积累27年的核心技术为上市公司数字化转型保驾护航。