GSI科技Gemini-I芯片以98%更低能耗媲美Nvidia A6000 GPU:AI推理市场迎来重大变革
据@godofprompt报道,GSI科技推出的Gemini-I芯片在康奈尔大学的研究中被验证,能以仅2%的能耗实现与Nvidia A6000 GPU相同的AI推理性能(来源:康奈尔大学,Twitter)。Gemini-I采用计算存储一体化(Compute-in-Memory)架构,将计算单元直接集成在存储阵列中,大幅减少数据搬运导致的能耗。在真实AI工作负载(如用于聊天机器人的检索增强生成任务)测试中,Gemini-I比标准CPU快5倍,同时能耗仅为GPU的1-2%(来源:康奈尔大学研究)。这一突破有望极大降低数据中心电力消耗,使边缘AI设备(如无人机、物联网设备)低功耗运行,并显著减少AI带来的碳排放。全球千亿美元AI推理市场将因此被颠覆,GSI方案以极低能耗带来GPU级性能(来源:Twitter,Nature)。联发科等行业巨头也在采用类似的存算一体技术,推动AI硬件向高能效方向发展。
原文链接详细分析
God of Prompt
@godofpromptAn AI prompt engineering specialist sharing practical techniques for optimizing large language models and AI image generators. The content features prompt design strategies, AI tool tutorials, and creative applications of generative AI for both beginners and advanced users.