771771威尼斯.cm
11月13日,彩云科技在北京总部与媒体进行一场主题为“From Paper to App”的沟通会。会上,彩云科技CEO袁行远,就通用大模型未来进化之路,与人工智能的落地场景等热点话题进行了交流,并正式推出了首款基于DCFormer架构开发的通用大模型云锦天章,与此同时,彩云科技旗下AI RPG平台彩云小梦,也成为首款基于DCFormer架构开发的AI产品。
早在2017年,谷歌发布《Attention Is All You Need》论文,首次提出Transformer架构,掀开了人工智能自然语言处理(NLP)领域发展的全新篇章。Transformer架构作为神经网络学习中最重要的架构,成为后来席卷全球的一系列通用大模型如ChatGPT、Gemini的底层技术支撑。而提升Transformer的运行效率也成为人工智能领域的研究热点,2024年4月,谷歌最近一次更新了Transformer架构,提出了Mixture-of-Depths(MoD)方法,使得训练后采样过程中提速50%,成为Transformer架构提速升级的又一重要事件。
同样在今年,一家来自国内的人工智能企业彩云科技,在国际机器学习领域的顶级会议ICML(国际机器学习大会)上,发布全新大模型论文《Improving Transformers with Dynamically Composable Multi-Head Attention》。在该论文中,彩云科技团队首次发布DCFormer架构,并在基于DCFormer打造的模型DCPythia-6.9B上,实现了在预训练困惑度和下游任务评估上都优于开源Pythia-12B。这意味着,DCFormer模型在性能上,实现了对Transformer模型1.7-2倍的提升。
沟通会现场,袁行远首先向参会者展示了一个ChatGPT o1的问答:“假设ChatGPT4每天响应用户约2亿个请求,消耗超过50万千瓦时的电力。假设全球网络都使用ChatGPT作为访问入口,ChatGPT每天消耗多少电力?另外按照这个速度发展下去,到2050年全球人工智能的耗电量会达到目前地球发电能力的多少倍?”ChatGPT o1给出的答案是,“到2050年,全球人工智能的耗电量可能会达到目前地球发电能力的8倍”。
彩云科技团队构建DCFormer框架,提出可动态组合的多头注意力(DCMHA),替换Transformer核心组件多头注意力模块(MHA),解除了MHA注意力头的查找选择回路和变换回路的固定绑定,让它们可以根据输入动态组合,从根本上提升了模型的表达能力,由此实现了对Transformer架构1.7—2倍的性能提升。
袁行远表示:我们的工作表明,Transformer架构距离“理想模型架构”还有很大的提升空间,除了堆算力堆数据的“大力出奇迹”路线,模型架构创新同样大有可为。往小了说,在大模型领域,利用效率更高的模型架构,小公司也可以在与世界顶级人工智能企业的对抗中取得优势。往大了说,模型效率的提升,可以有效地降低人工智能升级迭代的成本,加速AI时代的到来。
“世界最强的小说续写通用模型。”沟通会上,袁行远向大家展示了首个基于DCFormer架构的通用大模型云锦天章。“这个成语是比喻文章极为高雅、华美,和我们的大模型想要实现的效果有共通之处。”袁行远介绍,云锦天章可以实现在虚构世界观的基础上,赋予小说人物编程、数学等基础能力,可以高速针对大量文字进行扩写、缩写,针对文章风格进行大容量更换,同时兼具其他模型的问答、数学、编程等基础能力。
而在应用端,拥有四百万用户的彩云小梦,也迎来了基于全新DCFormer架构的V.3.5版本。与之前的版本相比,彩云小梦V3.5整体流畅性和连贯性提升了20%,支持前文长度由2000字提升至10000字,故事背景设定最长长度高达10000字。“这意味着,在故事创作或者与人工智能对话中,人工智能能够记住之前发生的事情,记住之前故事里发生的细节,人物记得自己明确的目标,并且会根据剧情及时进行反思修正。在做到自主创作的同时,发散性收敛,不会天马行空,人物性格前后一致,故事逻辑性更强。”
谈到这段历史,陈知进觉得父亲一直在做黄埔同学的工作。“天下黄埔是一家”,陈知进说,当年黄埔学员为了“三民主义”聚在一起,后来为了抗日、为了民族解放,再后来为了国家的统一。“他们之间的友谊是经过历史考验形成的。现在,我们以及在台湾的黄埔同学、黄埔后代,也都有同一个目的,就是希望一个统一的中国,希望一个强大的中华民族。”
平安人寿党委书记、董事长兼临时负责人杨铮表示,此次获奖,充分体现了业界对于该平台风控覆盖全面性、体系完整性以及技术领先性的高度认可。未来,公司将继续坚持以人民为中心的价值取向,充分保障消费者合法权益,持续深化科技创新771771威尼斯.cm,探索先进技术在金融领域不同场景下的应用,全力写好金融“五篇大文章”,为金融消费者权益保护、行业高质量转型发展贡献平安力量。
针对上述行业痛点、难点,平安人寿“新单品质管理平台”通过搭建“1个全面品质管理系统、1套AI双录技术支持、N个智能品质风险识别模型”,全流程覆盖承保前、中、后各环节,从客户投保真实性、代理人展业品质等多类场景着手,拦截、化解新单品质风险,实现风险识别准、时效追踪快、前置风险管理、管控体系化,从而快速预警发现问题,提升新单保单品质,保护消费者权益。
承保前,平台通过风险标签实现代理人品质管理,根据情况进行风险预警,筑牢第一道防线;承保中,通过AI双录、实时拦截等,严格实现先质检再承保,累计拦截化解风险保单24万件;承保后,通过一键管控、原单识别等功能,对风险代理人、风险保单实现管控或溯源,并通过全渠道风险预警和体系771771威尼斯.cm,以及机构排查、品质约谈、处罚等一系列举措,高效管理、化解新单品质风险。截至目前,平台年使用人次超100万。
平安人寿“新单品质管理平台”在多领域实现技术创新。在技术架构上,该项目构建北斗大数据模型平台,实现模型开发自动化、模型服务专业化及模型响应快速化。单个模型开发时长由3至5天降到1天;从开发、测试到部署一体生成,年节省部署人力13%;多平台整合,显著减少交互IO耗时,模型服务实现毫秒级响应。在数据层,基于多元数据收集分析能力,通过 one-ID识别引擎实现信息整合,全方位构建品质风控标签体系。在AI双录数据层,基于数据存储云平台771771威尼斯.cm,通过分布式微服务实现数据流转,搭建安全可靠的智能质检服务。在工具层,通过数字化打造全面品质管理平台,覆盖风险预警、原单识别、一键管控、品质防线等功能,实现全渠道风险预警及管控,高效管理化解品质风险。截至目前,平台已上线12张报表,涵盖150多项监控指标;开发三大类共30+模型,累计迭代优化超200次;构建完整、敏捷的品质风控视图,共探索公司内外部结构化及非结构化标签高达5000多个。
此外,平台通过科技创新,解决样本少、追踪周期长和双录实时提醒难等难点,已获得13项国家专利。平台采用智能的AI模型与算法,构造事前、事中、事后模型体系,运用级联思想,基于NLP、图像等技术对代理人及客户文本图像识别,提升模型精度,并针对AI双录应用场景研发多梯度检测,实现身份核验、违规检测、视频异常核验等。同时,运用业界领先的并行计算技术,能在海量数据中迅速筛选、清洗、整合、分析并挖掘关键信息,实现高响应、高精度的数据处理。
中央金融工作会指出,坚持把防控风险作为金融工作的永恒主题,明确要求“对风险早识别、早预警、早暴露、早处置,健全具有硬约束的金融风险早期纠正机制”。国家金融监督管理总局于2023年发布《保险销售行为管理办法》,强化“三适当”原则,明确指出“保险销售行为应当遵循依法合规、平等自愿、公平适当、诚实守信等原则,尊重和保障投保人、被保险人、受益人的合法权益”。
平安人寿立足金融为民初心771771威尼斯.cm,深入贯彻落实政策及监管要求,依托“新单品质管理平台”加强保单销售品质风险管控,在规范保险销售行为、维护消费者合法权益的同时,有效助力公司、行业高质量转型发展,具备重要意义。具体而言,一是通过智能检测代理人行为的合规性,高效拦截不当销售行为,有力保障消费者权益;二是打造智能化一站式的新单品质管理模式,为行业新单管理树立了全新标杆;三是通过人工智能技术深入应用,把人从低技术、高重复劳动中解放出来,实现人力的优化与提升。
金融科技发展奖是国内金融领域唯一的部级科技奖项,也是金融科技领域的最高荣誉。该奖项由一行一局一会联合主办,从1992年设立至今,旨在表彰优秀金融科技成果,促进金融业科技发展水平提升。参与范围覆盖银行、证券、保险、支付等领域的头部机构771771威尼斯.cm,申报项目涵盖数字化转型、科技赋能、信息技术创新应用、安全风险防控等多方面内容。2023年度金融科技发展奖于2024年3月启动,经过对621个申报项目的初评、复评、金融科技发展奖评审领导小组会议审定,评定出257个获奖项目。