登录注册
《生成式人工智能服务管理办法》征求意见,AIGC规范发展可期
八极游
不要怂的小韭菜
2023-04-11 17:06:12
事项: 4月11日,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求 意见稿)》(简称《意见稿》,下同),现向社会公开征求意见。 

平安观点: 新技术的“两面性”开始凸显,《意见稿》出台恰逢其时。2023年以来, 以ChatGPT为代表的生成式人工智能快速发展,其智能化水平实现了“革 命性”提升,具备了向各垂直行业应用的潜力,有希望成为未来的生产力 生成工具。但是,生成式人工智能快速发展,也带来了诸多信息安全方 面的风险。一方面,信息泄露风险,大量的敏感数据和AI交互之后,可 能会被应用于迭代训练,造成敏感信息的泄露,尤其是国家、机构和个 人信息,都面临着潜在风险;另一方面,AIGC被恶意应用的风险也在上 升,可能被应用于恶意代码生成,发展智能化网络攻击武器,加大了网 络安全防护难度。此外,由于大模型基于概率统计原理发展而来,其训 练、调优、内容生成等环节的可靠性还需要持续观察,其大范围应用可 能带来严重的社会问题。我们认为,《意见稿》的及时出台,恰在国内 AIGC发展的早期,初期就做好合规工作,可以为AIGC的后续稳健发展 保驾护航。 

《意见稿》对生成内容、主体责任、数据源和数据处理等方面均做出了 规定。1)内容方面:要求不得危害国家和社会,传递虚假、造谣和有害 信息;在算法设计、训练数据选择、模型生成和优化、提供服务等过程 中,不得出现歧视;尊重知识产权,保证生成内容的准确性;不得侵犯 他人的合法权益。2)明确主体责任:利用生成式人工智能产品提供服务 的组织和个人,承担内容生产者责任,履行信息保护的义务。3)数据 源:要求合法、不侵权,个人信息使用需要得到个人信息主体授权;人 工标注要核验以确保标注内容的准确性。4)数据处理:提供者在提供服 务过程中,对用户的输入信息和使用记录承担保护义务;不得生成歧视 性、侵权内容,保证服务的持续运营;制止用户违规使用生成式AI的功 能。 

新技术发展和监管合规是相辅相成的关系。近年来,移动互联网、云计 算、大数据、区块链等技术快速涌现,而且都实现了有序、蓬勃的发 展,背后离不开监管在网络安全机制体制建设上的完善,以及产业政策 引导,真正实现了“技术向善”。同时,监管政策也正在积极适应信息技术 的革新。尤其AIGC面世以来,监管机构对数据处理主体、数据处理过程 以及伴随的国家安全和信息安全的认识也在逐步清晰。我们预计,随着 更多AIGC技术的应用落地,一些潜在的风险将更多的被认识和暴露,监 管侧的监管措施也会更“对症”,《意见稿》只是第一步。 

投资建议:监管政策的出台,对AIGC本身的成长以及相关安全产业的培育都是有积极意义的。AIGC方面,国内龙头科技企业均在考虑或已经推出大模型,算法、算力和应用均将受益,推荐科大讯飞、金山办公、浪潮信息、紫光股份、中科曙光、海光信息、龙芯中科,关注景嘉微和寒武纪。安全方面,监管趋严,AIGC服务提供商在信息安全尤其数据安全领域的投入将加大,国内安全厂商在AI安全领域的研发投入也在加大,强烈推荐启明星辰,推荐深信服、安恒信息和绿盟科技。 

风险提示:1)合规风险上升。部分国家对ChatGPT较为严格,应用落地出现困难,如果后续国内采取类似措施,AIGC行 业国内应用将存在较大挑战。2)国内大模型发展可能不及预期。虽然龙头企业持续在推出或规划推出大模型产品,但大规 模应用落地还需要市场检验。3)供应链风险可能上升。AIGC在算力领域对海外供应商依赖比较严重,国产替代还需要时 间,如果海外限制趋严,国内AIGC发展可能遭到迟滞。

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
中科曙光
S
浪潮信息
S
海光信息
S
启明星辰
S
国投智能
工分
19.60
转发
收藏
投诉
复制链接
分享到微信
有用 17
打赏作者
无用
真知无价,用钱说话
1个人打赏
同时转发
评论(1)
只看楼主
热度排序
最新发布
最新互动
  • 1
前往