全球最大的预训练模型悟道2.0发布

近日，北京智源人工智能研究院正式对外发布超大规模智能模型“悟道2.0”。据悉，其参数规模达1.75万亿，是AI模型GPT-3的10倍，打破了之前由Google Switch Transformer预训练模型创造的1.6万亿参数记录，是目前中国首个、全球最大的万亿级模型。

与悟道1.0相比，“悟道2.0”不仅在模型规模上实现了万亿级参数的跨越，还在世界公认的9项 Benchmark 上达到了世界第一，在多项基准测试中超越OpenAI GPT-3、DALL·E以及Google ALIGN等先进模型。

智源人工智能研究院是在科技部和北京市委市政府的指导支持下成立的新型研究机构。“悟道”是国内首个超大预训练语言模型系统，由来自北大、清华、人大、中科院等高校院所，以及阿里等诸多企业的100余位AI专家共同研发。