AMD 平台现支持本地运行 LLM 和 AI 聊天机器人
IT 之家 3 月 7 日消息，AMD 公司今天发布公告，表示用户可以本地化运行基于 GPT 的大语言模型（LLM），从而构建专属的 AI 聊天机器人。
AMD 表示用户可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU，以及内置 AI 加速核心的 Radeon RX 7000 系列 GPU 设备上，本地运行 LLM 和 AI 聊天机器人。
AMD 在公告中详细介绍了运行步骤，例如运行 70 亿参数的 Mistral，搜索并下载 "TheBloke / OpenHermes-2.5-Mistral-7B-GGUF"；如果运行 70 亿参数的 LLAMA v2，搜索并下载 "TheBloke / Llama-2-7B-Chat-GGUF"。
AMD 并不是第一个这样做的公司，英伟达（NVIDIA）最近也推出了 "Chat with RTX"，这是一个由 GeForce RTX 40 和 RTX 30 系列 GPU 支持的人工智能聊天机器人。它采用 TensorRT-LLM 功能集进行加速，基于本地化数据集提供快速生成的人工智能结果。
张柏芝穿紧身露背长裙亮相 卷发造型显气质
娱乐热点 张柏芝 造型 长裙 紧身 气质 新闻 资讯 直播 视频 美图 社区 本地 热点 2023-09-23
《繁花》：神秘大佬A先生究竟是谁？
娱乐热点 梁朝伟 留学生 双胞胎 股市 张国荣 新闻 资讯 直播 视频 美图 社区 本地 热点 2024-01-13
巴黎时装周成“照妖镜”，蹭咖位、无修图，明星的真面目出来了
娱乐热点 明星 巴黎 时装周 真面目 刘亦菲 新闻 资讯 直播 视频 美图 社区 本地 热点 2024-03-08
故宫博物院：禁止穿拖鞋参观！
热点 博物馆 微信公众号 拖鞋 网友 新闻 资讯 直播 视频 美图 社区 本地 热点 2023-07-23
大S被曝跟具俊晔婚后两年未买新衣？曾坦言对方生活节俭
娱乐热点 大s 节俭 新衣 对方 汪小菲 新闻 资讯 直播 视频 美图 社区 本地 热点 2024-03-05
曾被卖出19万美元高价！这台初代iPhone太猛了
热门赛事
苹果首次允许欧盟用户从网站安装应用/雷军称对汽车价格战做好准备/微博上线热搜投诉入口
科技热搜 2024-03-13
在游戏里搞政治正确的幕后黑手，快被外国网友冲烂了。
科技热搜 2024-03-13
苹果 MacBook 新专利获批：可录制3D 图像/视频、追踪空中手势
科技热搜 2024-03-13
芯片代工营收排行榜公布：台积电独占六成，狂揽近200亿美元
科技热搜 2024-03-13
手机进水放米缸？苹果说这招没用。
科技热搜 2024-03-13
TikTok以“美式”反击“美式”
科技热搜 2024-03-13
消息称暴雪国服回归将在一个月内官宣，网易雷火营销/互娱运营
科技热搜 2024-03-13
从“放生”农夫山泉开始，这事算是彻底成互联网闹剧了。
科技热搜 2024-03-13
苹果获得适用于折叠设备和MacBook的摄像头系统专利
科技热搜 2024-03-13
消息称现代汽车将研发5纳米车用半导体，有望由三星、台积电代工
科技热搜 2024-03-13