设为首页收藏本站
切换到宽版
  • 源签到
  • 源首页Portal
  • 源社区BBS
  • 源导读Guide
  • 源圈子Group
  • 娱乐
  • 排行榜
    • 立即注册
    源社区»源社区 › 综合交流 › 数码专区 › 微软发布1比特AI大模型 可在CPU运行
    返回列表 发布新帖

    [最新资讯] 微软发布1比特AI大模型 可在CPU运行

    27 5
    发表于 前天 18:07 | 查看全部 阅读模式

    马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

    您需要 登录 才可以下载或查看，没有账号？立即注册

    ×
    微软研究人员推出20亿参数的1.58比特大模型BitNet b1.58 2B4T。该模型极其轻量，非嵌入式内存占用仅400MB，因此可在CPU上高效运行，甚至能在苹果M2芯片上运行。

    虽然比特数减少影响精度，但得益于4万亿Token训练，其在多项基准测试中表现优于部分同类模型。不过，实现高效运行需依赖特定的bitnet.cpp推理框架，该模型已在Hugging Face开源。

    Tom's Hardware (https://www.tomshardware.com/tec ... to-run-on-some-cpus)
    回复

    使用道具 举报

    评论5

    XYZ124Lv.4星光赞助（未赞助不可申请） 发表于 前天 18:43 来自手机 | 查看全部
    感谢分享
    回复

    使用道具 举报

    wusuoshishiLv.5 发表于 前天 19:29 来自手机 | 查看全部
    谢谢分享
    回复

    使用道具 举报

    zhangyugeLv.5 发表于 前天 19:37 来自手机 | 查看全部
    感谢分享
    回复

    使用道具 举报

    读者202411星光赞助（未赞助不可申请） 发表于 昨天 07:35 来自手机 | 查看全部
    感谢分享
    回复

    使用道具 举报

    独孤梵听Lv.5 发表于 昨天 23:45 来自手机 | 查看全部
    感谢分享
    回复

    使用道具 举报

    返回列表 发布新帖

    回复
    高级模式
    B Color Image Link Quote Code Smilies
    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    关于我们

    关于我们 加入我们 新闻动态 联系我们

    服务支持

    官方商城 成功案例 站点统计 手机版
    投诉/建议联系

    ysqbbs@outlook.com

    未经授权禁止转载，复制和建立镜像，
    如有违反，追究法律责任
    • 关注公众号
    • 添加QQ群
    Copyright © 2001-2025 源社区 版权所有 All Rights Reserved.
    关灯 在本版发帖
    扫一扫添加QQ群
     返回顶部
    快速回复 返回顶部 返回列表