阿里巴巴开源1100亿参数版通义千问人工智能模型 模型推理时更加高效 – 蓝点网
阿里巴巴旗下通用人工智能研究团队目前已经推出参数高达 1100 亿的阿里通义千问人工智能模型,和此前推出的巴巴同样相同,Qwen1.5-110B 版模型依然是开源开源免费提供的,任何人都可以获取该模型并根据需要进行微调和使用。亿参
通义千问团队称近期开源社区陆续出现千亿参数规模以上的数版时更大型语言模型,这些模型都在各项评测中取得了杰出的通义推理成绩,通义千问现在也推出千亿规模参数的千问开源模型。

Qwen1.5-110B 是人工基于通义千问 1.5 系列训练的模型,在基础能力评估中与 Meta-Llama3-70B 版媲美,模型模型在 Chat 评估中表现出色,加高包括 MT-Bench 和 AlpacaEval 2.0 测试。效蓝
该模型采用 Transformer 解码器架构,点网但包含分组查询注意力 (GAQ),阿里模型在推理时将会更加高效;110B 版模型支持 32K 上下文、巴巴支持英语、开源中文、法语、西班牙语、德语、俄语、日语、韩语、阿拉伯语、越南语等多种语言。
基准测试显示 Qwen1.5-110B 在基础能力方面与 Meta-Llama3-70B 版媲美,由于在这个模型中通义千问团队并没有对预训练方法进行大幅度改变,因此现在基础能力提升应该就是得益于增加模型 (参数) 规模。

另一项测试似乎也证实这个观点,在与 Llama3-70B-Chat 以及 Qwen1.5-72B-Chat 相比,Qwen1.5-110B-Chat 能力都有提升,这表明在没有大幅度改变预训练方法的情况下,规模更大的基础语言模型也可以带来更好的 Chat 模型。

有兴趣的用户可以阅读 Qwen1.5 博客了解该系列模型使用方法,包括 Qwen1.5-110B 的下载和使用等:https://qwenlm.github.io/blog/qwen1.5/
- ·《光哭是不够的》配置要求公布 最低I5+GTX660
- ·妖相·天狗讲《决斗!安稳京》大年夜天狗齐新大年夜妖皮肤即将上架
- ·《已知天下》08月28号开启内测 天下没有雅大年夜掀秘
- ·冒险游戏《伊甸门:逝世命鸿沟》新预报 10月出售
- ·Steam星际夏日特卖活动开启 最低折扣降价84%
- ·担当豪杰的意志!《启龙战纪》豪杰史诗副本详解
- ·《恐龙危急》气势新做《复开骨开》真机预报片赏
- ·网易《Ashfall》借将登岸足机 截图战观面图公开
- ·两只小懒熊买西瓜的故事
- ·2015上半年彩电线上销量增幅达65% 占比达25%
- ·少安大年夜劫案《水王》新弄法去袭!
- ·PCE典范RPG游戏《宇宙胡念》移植Switch
- ·华为鸿蒙最新增强版发布 开发者及先锋用户Beta测试招募开启
- ·彩电市场线上线下提前发力 呈分流十一销售之势
- ·Gearbox战Riot开辟者组建新工做室 获550万好圆投资
- ·LG Display韩相范:OLED是显示技术的未来
