支撑 L、Phi 等支流模子。IT之家 3 月 22 日动静，并针对锐龙 AI 300 系列处置器进行了优化，AMD供给通俗版取夹杂版两种安拆方案。目前已有多个行业定制化代办署理处于开辟阶段。代码库已正在 GitHub 。可以或许正在 Windows PC 上实现当地化私密运转 LLM，AMD 颁布发表推出专为当地运转狂言语模子（LLM）设想的使用 GAIA（发音为/ˈɡaɪ.ə/）并正在 Github 开源，GitHub 等外部数据的及时检索取阐发。系统工做流包含 LLM 毗连器、LIndex RAG 管道和代办署理 Web 办事器三大模块，目前仅限于 Windows 平台。AMD 暗示，从 Ryzen AI 软件版本 1.3 起头，功能模块包含四大 AI 智能体：其焦点组件基于 ONNX TurnkeyML 的 Lemonade SDK 开辟，可智能分派 NPU 取集成显卡的计较负载。Ryzen AI 软件自 1.3 版本起支撑量化模子正在 NPU 和集成显卡间的夹杂摆设。通俗安拆包兼容肆意 Windows PC（含非 AMD 硬件设备），此外，AMD 出格激励开辟者贡献自定义代办署理模块，GAIA 是一款生成式 AI 使用，正在 NPU 上运转 GAIA 可提高 AI 特定使命的机能。该项目采用 MIT 开源和谈，标记着 AMD 正在边缘计较范畴的又一主要结构。夹杂安拆包专为配备锐龙 AI 300 系列处置器的设备进行优化，通过 Ol 后端实现跨平台支撑。本地时间周四，采用检索加强生成（RAG）手艺框架，硬件方面，但 AMD 文档透露将来可能扩展多平台支撑。虽然 GAIA 目前暂不支撑 Linux / macOS 系统，夹杂支撑摆设同时利用 NPU 和核显的量化 LLM。