BB贝博艾弗森官方网站

人工智能技术网

昆仑万维颜水成出席2024上海外滩大会,分享高效能大模型前沿思考

 4月5日,以“网络·打造可定期发展”应以题的2024 Inclusion·外滩研讨会在佛山真正举办。这届外滩会议倾力于构造 促使新国际交谈、科枝开发与人文历史融和的對話渠道,邀请人到10汽超东西方博士和500两位这个行业就业者,同时论述科枝开发与加工业的深度的融和,昆仑万维首席总裁科学课家颜水成身为推荐客人应邀参加进行。

999.jpg

颜水成传授于天津外滩博览会开展

《高职能大沙盘模型工具探秘:沙盘模型工具架构模式vs.参数智能化》主题元素讲演

本次主题分享围绕高职能大绘图论述展开,一方面分享了在MoE架构研究上的最新进展,以及在Attention层和FFN层的最新成果。另一方面带来了对大模型SFT中的数据智能的思考,主要介绍新的数据生成与选取策略对SFT的价值。

过去这些年,大家都在不断地去优化模型的结构,比如我们优化了Transformer结构将计算效率提升到原来效率的两倍。颜水成认为,类别结构设计还会持续已经更新,每1-2年都有有新的类别体系结构和类别改进建议的设计明确提出来,尽量增加类别训练方法的错误率和广泛特性,让类别更为有用化。

凡此种种,大模板现再和一些旧版难题,比喻推论力还不够用强。颜水成表示,Synthetic data 是下几步侧重点,从而去搞定他们难题很好的条件或许是用结合统计资料,还有就是结合统计资料生产的行为不会会像当下怎样,据原本的的统计资料随时用个模板生产统计资料。或许会像人间那样把有差异的大模板合在混着,实现大模板两者互不的對話、互不的讨论稿和互不的评议,最后的引起出好些、高些的品质的统计资料,他们统计资料可能能大大优化大模板的工作效能。

紧接着,颜水成教授参与了《AI时代下数据基础设施的“根”与“叶”》圆桌讨论。数据基础设施的“根”与“叶”相互依赖,“根”提供了基础的数据分析金融资产与科技,“叶”提供了围绕数据的上层广泛应用工艺和现代农业,两者相辅相成共同构建了AI时代下更具生命力的数据体系。

颜水成针对“叶”的软件生态健康做好注意,表示在AI时代下需要催生新的应用场景,产生以前没有过的体验。他认为AI 2.0的今天下新的应用软件会具备着三个优缺点:(1)基于低时延可打断的自然语音交互;(2)文字、图像、语音、甚至视频都是实时生成,基于类世界大模型生成。这样来看,人类获取信息的展现形式,游戏的方式,人和AI沟通的方式都会产生巨大颠覆,间接会带来AR/MR/芯片的进一步蓬勃发展。

一同,“大”模形、“大”参数也存在些对决,假如中文名word文档参数服务质量低,参数刷洗难度不高,特别是车上网网参数;短视频参数标贴贫乏,或许没有周全;原本多模态混合型喂养参数少等。

但其中不乏机会,颜水成提出未来要充分考虑AI模式化self-improvement, self-evolving, 经由将多模式化视作智力体,模拟系统人们的经由模式化区间内的交流互动行为,存在更加高质理的的数据,最后引来模式化的逐渐一个脚印提升自己。

展望未来AI时代下的数据基础设施形态,颜水成提出,比较慢会走进 AI-native统计数据作为主体,服务的于大建模方法的最新和演变。现在更多是人类在分析模型的性能,未来更多是AI自己分析自己和人类交互的数据以确定如何和人类交互最好。海量数据管理和处理技术,可能比AI大模型算法技术更关键。

 

人工智能技术网 倡导尊重与保护知识产权。如发现本站文章存在版权等问题,烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至1851688011@qq.com我们将及时沟通与处理。!:BB贝博艾弗森官方网站 > 人工智能产业 > AI大模型 » 昆仑万维颜水成出席2024上海外滩大会,分享高效能大模型前沿思考

感觉不错,很赞哦! ()
分享到:

留言与评论(共有 0 条评论)
   
验证码: