Product Overview
Gefran 与 40Factory 合作开发了新的生成式 AI 平台 GAIA，并将其引入工业自动化市场。
GAIA 是一组基于自然语言界面的聊天机器人，通过集成大型语言模型 (LLM)（如 ChatGPT）来实现。
因此，GAIA 能够以 LLM 支持的所有语言进行书面或口头对话，就目前的 ChatGPT 而言，支持 58 种语言。
GAIA 的显著特点是其可直接应用于工业流程，这得益于它能够整合机械制造商和制造企业的独特专业知识，并且可在机器端、监控层面或后台层面使用。
检索增强生成
检索增强生成 (RAG) 是一种将生成式语言模型 (LLM) 与文档检索系统相结合的技术。
在生成过程中，该模型会查询 LLM 外部的知识库，以实时检索相关信息。
这些信息随后会被整合到响应中，确保内容的准确性和时效性。
在需要使用管理与用户沟通的 LLM 中未包含的最新数据或专业数据来进行响应时，RAG 非常有用。
特别是，GAIA 配备了一个专门的文档上传环境，以支持 RAG。该环境允许根据请求的性质（例如营销、技术、法规等）对文档库进行专门化处理，以便提供相关且准确的响应。
GAIA 还允许检索每个响应背后的原始文本，以便在必要时能够立即对其进行核查。
核心技术：基于 ChatGPT 的 40Factory 解决方案或基于 Llama 的边缘模型
GAIA 的模块化特性使其能够基于各种大型语言模型 (LMM) 进行模块化部署。
标准部署采用 ChatGPT，从而能够利用其不断推出的新功能以及全网络模型所提供的强大算力。
只需想想，ChatGPT 4 据信基于 8 个专用模型，每个模型都包含约 2000 亿个参数（权重）。
也可以采用“全边缘”模式部署 GAIA，即完全依靠 PLC 或工业 PC 的资源，无需访问网络。
这种架构基于 LLaMA（Meta AI 大型语言模型）系列的语言模型，该系列模型即使在没有专用图形处理器的机器上也能运行。
作为参考，一个拥有 10 亿权重的 LLaMA 模型占用的本地内存约为 1 GB。
此外，还需要提供在本地实现 RAG 所需的空间。
这意味着 GAIA 的全边缘部署必须专注于特定任务，才能达到与网络版本相当的性能和效果（例如，为解决机器停机问题提供技术支持，包括将机器技术文档和维护工单历史数据库纳入 RAG 中）。
然而，GAIA 的模块化特性允许根据查询类型和离线使用需求，同时使用云端和全边缘聊天机器人。
GAIA 与 G-Mation 的集成
G-Mation 平台特别适合支持 GAIA 在云端和全边缘两种模式下的部署。
首先，容器架构使得 GAIA 的容器化应用易于部署和更新，即使是在已投入使用的机器上。
此外，G-Mation 的网络服务器架构借助 NGINX 技术，除了 PLC 中集成的用于机器控制和配置的后端外，还能管理其他的后端。
特别是，GAIA 容器中包含的后端允许基于网络技术在 G-Mation 操作员面板上直接调用该应用。
这就像在个人电脑的浏览器中打开一个新窗口一样简单。
至于基于云端的部署，G-Mation PLC 上直接配备的容器化 VPN 能够完全安全地访问 GAIA 云平台，而无需通过额外的网关。
至于全边缘部署，8 GB 内存和多核 CPU 架构允许执行众多操作员支持任务 ，且绝不会影响机器控制。
相关内容
