AMD 推出自家首款小语言模型“Llama-135m”_科技动态

创始人

2024-09-29 20:00:45

0次

IT之家 9 月 29 日消息，AMD 在 Huggingface 平台公布了自家首款“小语言模型”AMD-Llama-135m，该模型具有推测解码功能，拥有 6700 亿个 token，采用 Apache 2.0 开源许可，IT之家附模型地址如下（点此访问）。

据介绍，这款模型主打“推测解码”能力，其基本原理是使用小型草稿模型生成一组候选 token，然后由更大的目标模型进行验证。这种方法允许每次前向传递生成多个 token，而不会影响性能，从而显著减少 RAM 占用，实现效率提升。

AMD 表示，这款模型在四个 AMD Instinct MI250 节点训练了六天，其“编程专用版本”变体 AMD-Llama-135m-code 则额外耗费了四天时间进行微调。

vivo钱包遭用户投诉贷款利率... 文：WEMONEY研究室随着移动互联网时代到来，智能手机已经成为了生活的必需品。目前，很多手机如...

gta5加载慢怎么办 gta5... 许多玩家在GTA5游戏过程中都会遇到加载速度慢的问题，那么gta5加载慢怎么办？今天加游加速器就来告...

原创苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别？该选择哪一款更好？各自...

iPhone 16系列手机网速... 在智能手机的世界里，网速往往是衡量一部手机性能的重要指标之一。尤其是随着5G时代的到来，用户对于高...

舒福德智能床S300 Pro面... 8月13日，以“一键入眠世界领先”为主题的舒福德智能床新品发布会在浙江嘉兴举行。中国睡谷的首次对外...

第五轮学科评估对比：西安交大突... 在之前的文章中，我们已经提及西安交通大学第五轮学科评估的表现可圈可点，新晋的3个A+学科：机械工程、...

小米怎么去除抖音水印保存？分享... 随着抖音的普及，越来越多的人喜欢在抖音上分享和观看短视频。当我们想要保存一些喜欢的视频时，往往会被视...

小米14T Pro海外定档9月... 【ITBEAR】9月23日消息，小米今日在X平台上宣布，旗下新款手机小米14T Pro定于9月26日...

邓宏魁、张涛、李亚栋、孙斌勇获... 出品 | 搜狐科技作者 | 周锦童 8月16日上午10时，2024未来科学大奖新闻发布会在北京、香...

如何规划小红书矩阵号内容并一键... 小红书矩阵号内容规划与抖音多账户同步攻略在当前社交媒体时代，内容营销已成为品牌推广和个人IP打造的...