国产模型开源纪录，又被刷新了！上海AI实验室等机构开源的InternLM-20B，竟然能和Llama2-70B打个平手？
就在刚刚，国内开源模型参数量纪录，又被刷新了！
9月20日，上海人工智能实验室（上海AI实验室）与商汤科技联合香港中文大学和复旦大学，正式开源了200亿参数的InternLM-20B模型。
项目地址：https://github.com/InternLM/InternLM
魔搭社区：https://modelscope.cn/organization/Shanghai_AI_Laboratory
这次的200亿参数版书生·浦语大模型，可以说是「加量不加价」，参数量还不到三分之一，性能却可以剑挑当今开源模型的标杆——Llama2-70B。而当前主流的开源13B模型们，则在所有维度上都被InternLM-20B甩在身后。
不仅如此，面向大模型研发与应用的全链条工具体系也同时升级。
从开源模型本身，再到全链条的开源工具，这一次，上海AI实验室把自身研发大模型所沉淀的压箱底的宝藏，全都拿了出来，希望帮助广大研究者、机构、社会从业者，都能以极低成本和门槛，参与大模型带来的这场技术革命。
性能「同级领先」，门槛「开箱即用」，InternLM-20B，就是大模型走向千行百业的催化剂和新支点！
这股大模型的浪潮，将惠及每个人。我们用的，全部开源
众所周知，在大模型的整个研发体系中，有串在一起的多个环节，这是十分复杂的一套闭环。
如何用更规范的代码方式去组织？拿到基座模型该怎么用？落地到应用的一步步过程中，有哪些注意事项？到处都是问题。
在经过日常工作中真正的实践后，上海AI实验室的团队沉淀出来一套宝贵经验。
现在，他们为了繁荣开源生态，干脆把模型从数据准备，到预训练、部署，再到评测应用，这整套流程中会涉及到的工具，全部开源了。
解密「独家配方」
数据，之于大模型重要性，就好比生产的原材料，没有动力来源，无法驱动智能AI系统运转。尤其，高质量的数据更是大模型产业化的关键要素之一。
在收集上，不仅需要有效地过滤和清洗从网页、书籍、专业报告论文等各种渠道中爬取的原始素材，还需要充分利用模型内测用户提供的反馈。
不过，要想让LLM能够获取关键能力，比如理解、编程、逻辑推理，成为真正的「六边形战士」，更重要的是自己去构建数据。
在这一方面，学术界的研究也是非常活跃，比如微软「Textbooks Are All You Need」，通过构建数据训练后的模型phi-1，能够在基准上取得相对领先优势。
