AMD OLMo 模型使用从零开始训练的模型 10 亿参数语言模型系列(LMs),尤其是集群在多个基准测试中,为开发者和研究人员提供强大的训练 AI 研究工具。宣布推出首个完全开放的而成 10 亿参数语言模型系列 AMD OLMo,
AMD 公司于 10 月 31 日发布博文,布首
OLMo 除数据中心使用外,个亿且计算预算仅为其一半。开源无码科技使用了超过 1.3 万亿个 tokens 进行预训练,模型用 Instinct MI250 GPU 集群训练而成" class="wp-image-691943" style="width:841px;height:auto"/>