文心（ERNIE）

百度文心ERNIE系列知识增强大模型，在语言理解与生成、跨语言理解、跨模态理解与生成等领域取得众多技术突破。文心ERNIE在累积100余个典型 NLP 任务取得SOTA效果，并在GLUE、SuperGLUE、VCR、XTREME、DocVQA、SROIE、SemEval 等国际权威评测上斩获十余项冠军。文心ERNIE核心技术荣获2020年世界人工智能大会最高荣誉SAIL奖及中国人工智能学会优秀科技成果奖、相关创新成果也被国际顶级学术会议AAAI、ACL、EMNLP、IJCAI、NAACL收录。文心ERNIE通过百度飞桨平台陆续对外开源开放，并已大规模应用于百度搜索、信息流、智能音箱等互联网产品，同时通过百度智能云赋能工业、能源、金融、通信、媒体、教育等各行各业，助力产业智能化升级。2021年，文心ERNIE最新开源了多粒度语言知识增强模型ERNIE-Gram、长文本理解模型ERNIE-Doc、融合场景图知识的跨模态理解模型ERNIE-ViL、语言与视觉一体的模型ERNIE-UNIMO、多语言预训练模型ERNIE-M。此外，百度联合鹏城实验室发布了全球首个知识增强千亿大模型鹏城-百度·文心（ERNIE 3.0 Titan），模型参数规模达到2600亿，是目前全球最大中文单体模型，大幅刷新零样本任务和小样本任务基准。