ChatGPT等现象级AIGC应用的出现，掀起新一轮人工智能技术浪潮。AIGC正在与各行各业深度结合，不断催生出新场景、新应用，赋能智能化变革。
在传媒业，AIGC作为新型内容生产方式，有望成为内容创造的新引擎，为媒体内容生产全面赋能。但是，技术创新总是“一体两面”，如果AIGC无序发展也会带来虚假有害信息、算法歧视、侵犯知识产权等挑战。
如何在技术繁荣与公共利益，创新与安全之间求得平衡?如何实现AIGC产业的向上向善?
制度保障：引导健康发展
针对生成式人工智能AIGC的安全风险，国家网信办联合有关部门于近日正式公布《生成式人工智能服务管理暂行办法》(以下称《办法》)，为AIGC的健康发展与规范应用提供制度保障。
《办法》是我国首个针对生成式人工智能AIGC的监管方案，充分协调了创新发展与安全治理之间的关系。《办法》既提出采取有效措施鼓励生成式人工智能创新发展，也强调对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求与法律底线。
国信证券指出，《办法》鼓励生成式AI在各行业、领域的应用，构建应用生态体系。细化监管部门及监管举措，并采用包容审慎的态度实施分类分级监管，相关政策利好行业发展，有助于大模型应用落地，加速AIGC应用生态发展。
AIGC具备快速的反应能力、生动的知识输出以及丰富的应用场景，在社会生产和生活的方方面面发挥着重要的作用。《办法》的出台进一步完善了生成式人工智能精细化治理体系，有利于营造安全有序的法治环境，引导AIGC产业充分释放正向应用价值。
技术守护：筑牢安全屏障
面对AIGC带来的内容合规问题，除了完善保障AIGC良性发展的法律法规体系，加强内容审核也是筑牢内容安全屏障的有效手段。
当虹科技的技术专家认为，AIGC在内容生产效率、内容版权价值、内容传播力和用户黏性方面都有很大的价值，智能剪辑、智能配音、AI合成主播等相关应用不断涌现，渗透到传媒业采编播的各个环节。
但是在安全播出、内容审核方面，目前传媒行业仍存在不小的挑战。一是审核工作量大。AIGC降低了内容创作门槛和生产成本，人工审核效率低下，容易漏审、误审。二是审核难度高。利用AIGC生成的内容可能是视频、语音、图文，形态复杂多样，涉及各行各业，甚至具备一定的专业壁垒和知识产权风险，对审核人员的专业素质要求高。三是追踪难度和复杂性高。机器深度学习后生成的内容愈发逼真，能够达到“以假乱真”的效果。虚假内容借助互联网大规模地、分散地、隐蔽地流动，以高度可信的方式触达用户，信息甄别难度大。
招商证券指出，随着AIGC应用的持续发展，其带来的潜在安全风险也不断升级。AIGC生成虚假内容带来的模型训练数据风险、生成内容中的知识产权风险等将不断涌现。
当虹科技打造的AI智能审核系统，内置权威敏感特征库，具备多样化审核模式，用AI守护AI，为客户提供媒体内容安全管理专业级服务，堪称传媒打工人解放双手的救星，企业降本增效的高性价比利器。(CIS)(作者：高蕊琦)
扫一扫加微信