hth官网app登录入口
11月13日,彩云科技在北京总部与媒体进行一场主题为“From Paper to App”的沟通会。会上hth官网app登录入口,彩云科技CEO袁行远,就通用大模型未来进化之路,与人工智能的落地场景等热点话题进行了交流,并正式推出了首款基于DCFormer架构开发的通用大模型云锦天章,与此同时,彩云科技旗下AI RPG平台彩云小梦,也成为首款基于DCFormer架构开发的AI产品。
早在2017年,谷歌发布《Attention Is All You Need》论文,首次提出Transformer架构,掀开了人工智能自然语言处理(NLP)领域发展的全新篇章。Transformer架构作为神经网络学习中最重要的架构,成为后来席卷全球的一系列通用大模型如ChatGPT、Gemini的底层技术支撑。而提升Transformer的运行效率也成为人工智能领域的研究热点,2024年4月,谷歌最近一次更新了Transformer架构,提出了Mixture-of-Depths(MoD)方法,使得训练后采样过程中提速50%,成为Transformer架构提速升级的又一重要事件。
同样在今年,一家来自国内的人工智能企业彩云科技,在国际机器学习领域的顶级会议ICML(国际机器学习大会)上,发布全新大模型论文《Improving Transformers with Dynamically Composable Multi-Head Attention》。在该论文中,彩云科技团队首次发布DCFormer架构hth官网app登录入口,并在基于DCFormer打造的模型DCPythia-6.9B上,实现了在预训练困惑度和下游任务评估上都优于开源Pythia-12B。这意味着,DCFormer模型在性能上hth官网app登录入口,实现了对Transformer模型1.7-2倍的提升。
沟通会现场,袁行远首先向参会者展示了一个ChatGPT o1的问答:“假设ChatGPT4每天响应用户约2亿个请求,消耗超过50万千瓦时的电力。假设全球网络都使用ChatGPT作为访问入口,ChatGPT每天消耗多少电力?另外按照这个速度发展下去,到2050年全球人工智能的耗电量会达到目前地球发电能力的多少倍?”ChatGPT o1给出的答案是,“到2050年,全球人工智能的耗电量可能会达到目前地球发电能力的8倍”。
彩云科技团队构建DCFormer框架,提出可动态组合的多头注意力(DCMHA),替换Transformer核心组件多头注意力模块(MHA),解除了MHA注意力头的查找选择回路和变换回路的固定绑定hth官网app登录入口,让它们可以根据输入动态组合,从根本上提升了模型的表达能力,由此实现了对Transformer架构1.7—2倍的性能提升。
袁行远表示:我们的工作表明,Transformer架构距离“理想模型架构”还有很大的提升空间,除了堆算力堆数据的“大力出奇迹”路线,模型架构创新同样大有可为。往小了说,在大模型领域,利用效率更高的模型架构,小公司也可以在与世界顶级人工智能企业的对抗中取得优势。往大了说,模型效率的提升,可以有效地降低人工智能升级迭代的成本,加速AI时代的到来。
“世界最强的小说续写通用模型。”沟通会上,袁行远向大家展示了首个基于DCFormer架构的通用大模型云锦天章。“这个成语是比喻文章极为高雅、华美hth官网app登录入口,和我们的大模型想要实现的效果有共通之处。”袁行远介绍,云锦天章可以实现在虚构世界观的基础上,赋予小说人物编程、数学等基础能力,可以高速针对大量文字进行扩写、缩写,针对文章风格进行大容量更换hth官网app登录入口,同时兼具其他模型的问答、数学、编程等基础能力。
而在应用端,拥有四百万用户的彩云小梦,也迎来了基于全新DCFormer架构的V.3.5版本。与之前的版本相比,彩云小梦V3.5整体流畅性和连贯性提升了20%,支持前文长度由2000字提升至10000字,故事背景设定最长长度高达10000字。“这意味着,在故事创作或者与人工智能对话中,人工智能能够记住之前发生的事情,记住之前故事里发生的细节,人物记得自己明确的目标,并且会根据剧情及时进行反思修正。在做到自主创作的同时,发散性收敛,不会天马行空hth官网app登录入口,人物性格前后一致,故事逻辑性更强。”
广州海关所属广州邮局海关关员在对1件进境邮件进行查验时,发现邮包内有一些零食和2盒境外品牌的胶原蛋白肽粉。现场关员发现该批胶原蛋白肽粉外包装粗劣,存在明显重新封装的痕迹,且内容物与外包装标重不符。经清点,该批粉末共有40袋、重971克。经送技术机构鉴定,确认上述粉末为氯胺酮、亚甲二氧甲基苯丙胺等毒品的混合物,又称“开心粉”。
新京报讯(记者慕宏举)近日,新京报记者从北京互联网法院获悉了一起网络侵权责任纠纷案。该案中,原告祁某某的手机号弃用后未解除手机号与社交软件账号的绑定,导致其社交账号被他人“盗用”,祁某某起诉平台及盗用者要求对方注销账号并赔偿,最终法院判决盗用者注销账号,驳回其他诉讼请求。原告祁某某诉称,其于2015年在被告北京某网络公司运营的某社交平台注册了账号,输入个人认证信息,并且与诸多同学朋友互相关注,发布大量个人日常。2019年,祁某某发现该社交平台账号被他人“盗用”并转载了包括怀孕、妇科疾病等信息,却保留了原告在使用该账号中形成的个人信息。原告多次要求被告北京某网络公司披露实际侵权人信息,均未得到回复。经审理查明,目前该社交软件账号由原告使用手机号“188XXXX6768”注册,后原告停止使用该手机号,但未及时解除该手机号与账号的绑定,后该手机号机主变更为被告姚某。原告认为,二被告的行为严重损害了原告的个人信息权益,请求判令姚某注销账号、赔偿损失hth官网app登录入口,判令北京某网络公司承担连带责任。被告北京某网络公司辩称,其运营的社交平台上某个账号的实际注册使用人须根据账号绑定身份信息和注册手机号机主信息综合确定。涉案账号的注册手机号为“188XXXX6768”,原告未提供其是注册手机号机主的证据,应承担举证不能的不利后果。被告姚某辩称,其于2017年实名购得涉案手机号“188XXXX6768”,并通过官方短信验证码登录涉案微博账号,而非采取非法途径,不应承担责任。法院审理认为,结合原告提供的短信验证截图、涉案社交平台内容截图、实名认证信息等证据,可以认定涉案社交平台账号为原告实名注册且长期使用。被告姚某虽然使用购买的涉案手机号码采取短信验证的方式登录并使用了涉案社交平台账号,但未因此获得该账号的使用权。《中华人民共和国民法典》第一千一百六十五条规定:“行为人因过错侵害他人民事权益造成损害的,应当承担侵权责任。”本案原告作为涉案社交平台账号的初始申请注册人,虽然对账号注册及使用中形成的个人信息享有权益,但自身应该妥善保管其账号及注册信息,在明确不使用涉案社交平台账号后应及时注销,避免个人信息的泄露。法院认为,被告姚某登录案涉社交账户后未对祁某某发布内容进行任何使用、处理,且在收到本案材料后及时与法院、原告进行沟通,将祁某某发布的内容予以删除,尽到了谨慎的注意义务,未侵犯祁某某的个人信息权益等合法权益。被告北京某网络公司因履行审核义务的必要要求原告提交证明材料,原告并未提供,不利后果应由原告承担,并且,被告北京某网络公司已采取必要措施hth官网app登录入口,不构成对原告个人信息权益等合法权益的侵害。法院判决被告姚某注销涉案社交平台账号,驳回原告的其他诉讼请求。一审判决作出后,当事人均未上诉,判决已发生法律效力。法官表示,用户注册及使用社交平台账号过程中形成的个人信息权益受法律保护。行为人不应通过购买手机号码登录他人社交平台账号并有使用行为,而获得该账号的使用权。编辑 甘浩校对 张彦君