2021年,ai大模型会给人们带来哪些惊喜?( 四 )
悟道:大模型变得更加好用、易用 。
北京智源人工智能研究院自2020年10月启动大模型研究 , 2021年3月发布我国首个超大规模智能信息模型“悟道1.0” , 训练出包括中文、多模态、认知、蛋白质预测在内的系列模型 , 并在模型预训练范式、规模和性能扩增技术、训练语料数据库建设等方面取得了多项国际领先的技术突破 。
2021年6月参数规模高达1.75万亿“悟道2.0”推出 。智源正在做的即是将悟道的应用门槛降下来 , 将AI的效率和情商提起来 , 给更多人带来便利 。
无论是降低AI大模型开发门槛的悟道开发平台 , 还是“一卡顶四卡”的高效推理工具包、4倍提速4倍清晰的AI文图绘画、最大中文对话模型等技术创新 , 都让悟道大模型变得更加好用、易用 。
04克服挑战 , 预训练大模型往哪儿走?
那么 , 在预训练大模型发展中 , 面临最大问题是什么 , 未来的发展方向又在哪儿呢?
随着模型规模扩大的是训练对资源的消耗越来大 , 而参数数量增加所带来的性能提升与消耗提升不成比例 。
在这方面 , 不少研究开始对“模型参数越多 , 性能也越好”是否始终成立提出了质疑 。
例如 , 谷歌的研究人员开发了一个参数量远小于GPT-3的模型——微调语言网络(fine-tunedlanguagenet,FLAN) , 这个1370亿个参数的模型在许多有难度的基准测试中性能都大幅超过GPT-3 。
阿里达摩院在发布的报告里认为 , 未来大模型的参数规模发展将进入冷静期 , 大模型与相关联的小模型协同将是未来的发展方向 。
其中 , 大模型沉淀的知识与认知推理能力向小模型输出 , 小模型基于大模型的基础叠加垂直场景的感知、认知、决策、执行能力 , 再将执行与学习的结果反馈给大模型 , 让大模型的知识与能力持续进化 , 形成一套有机循环的智能系统 。参与者越多 , 模型进化的速度也越快 。
大模型正在诞生不同应用领域的小模型或者应用 。
阿里达摩院预测 , 在未来的三年内 , 个别领域将以大规模预训练模型为基础 , 对协同进化的智能系统进行试点探索 。
在未来的五年内 , 协同进化的智能系统将成为体系标准 , 让全社会能够容易地获取并贡献智能系统的能力 , 向通用人工智能再迈进一步 。
对预训练大模型的性能优化仍在持续推进中 。
相对而言 , 大量研究在预训练模型的落地能力上将持续努力 , 压缩、剪枝、蒸馏的工作仍起到重要作用 。不止于算法本身 , 编译、引擎、硬件等方面的优化也在大步迈进 。
整体而言 , 现在大规模预训练模型的研究 , 包括模型结构的演进和落地仍处在探索阶段 , 各家的持续探索正在不断扩大对大规模预训练模型的认知边界 。
毫不讳言 , AI超大模型应该成为普惠性的科技进步力量 , 让行业用户甚至是中小用户也能使用超大模型寻求深度创新 , 促进业务可持续健康发展 。
这一成果的取得必须依靠更多的产、学、研、用机构和开发者 , 从技术创新、场景融合、应用开发等不同维度 , 共同促进AI超大模型的健康发展与产业落地 。
- 人类与AI如何共处?诺奖科学家、将棋天才、“低欲望社会”提出者的不同解答
- 2022首场工业数字化供需对接大会举办
- canalys公布2021年全球个人电脑市场数据
- oppo在2021年第三季度真无线耳机销量突破千万
- 年会礼品怎么选?不妨看看讯飞智能录音笔SR702、人体工学椅
- 2021年度中国互联网辟谣优秀作品即将发布
- “会省钱”成了当代青年的阶层分界线
- qq绿钻能同时登录几个人(qq绿钻会员类别详细讲解)
- 微软、动视暴雪并购电话会实录:元宇宙、云游戏,开启新一轮全球硬科技战事
- 投票啦!第六届中国文旅IP大会“IP有光”评选全面启动
