乐天集团开发低成本AI大语言模型，宣称运行成本比同类模型降低90%

日本乐天集团正在扩大其人工智能团队，并着手开发一种低成本的大语言模型。目前，AI团队人数已达千人，并使用数千块英伟达芯片进行模型训练。公司AI负责人蔡婷表示，第三代大语言模型采用混合专家架构，包含大约7000亿参数，但每个标记仅激活约400亿参数，并通过专用路由机制将计算任务分配给1个共享专家和8个专业专家网络，从而使运行成本比同类模型降低90%。该模型在日本MT-Bench评测中获得8.88分，超越了GPT-4o的8.67分。预计2024年，AI业务将为乐天贡献1050亿日元的运营收入，公司计划在2025年实现业务增长翻倍。目前，日本企业在AI应用方面呈现增长趋势，制造业达到33.2%，信息通信业为56.3%，服务业为33.5%，但准确性和安全隐患仍是主要的障碍。约72%的企业倾向于采购现成的AI解决方案，而不是自建模型。