关于 大模型推理 的快讯列表
| 时间 | 详情 |
|---|---|
|
2025-12-10 10:30 |
先加载AI上下文再推理:@balajis称中途切换上下文会让模型混乱——交易AI的实用要点
根据@balajis的说法,实用AI工作的关键在于先加载完整上下文,再让系统进行推理,这凸显了稳定提示的重要性(来源:@balajis 于2025年12月10日发布的X帖子)。根据@balajis的说法,像人类一样,AI在中途切换上下文时会产生混乱,从而降低推理质量与输出可靠性(来源:@balajis 于2025年12月10日发布的X帖子)。根据@balajis的说法,这只是一个比喻,人类大脑可能不同,但对AI系统的操作要点仍然是保持上下文一致(来源:@balajis 于2025年12月10日发布的X帖子)。基于@balajis的这一点,在加密交易工作流中部署AI时应保持提示与分析链条一致,以避免因混乱导致的错误(来源:@balajis 于2025年12月10日发布的X帖子)。 |
|
2025-12-02 15:04 |
Tether(USDT)开源“边缘优先”LLM推理与LoRA微调框架,支持异构GPU——加密交易要点
据@paoloardoino,Tether已开源面向异构GPU的边缘优先通用LLM推理与LoRA微调框架,为可验证的AI基础设施发布,供交易者参考。来源:@paoloardoino 的X帖子:https://twitter.com/paoloardoino/status/1995871771875283434 据@paoloardoino,此次公告未提及任何代币、定价或上链集成信息,短期估值信号有限,但体现USDT发行方在AI基础设施上的实际推进。来源:@paoloardoino 的X帖子:https://twitter.com/paoloardoino/status/1995871771875283434 据@paoloardoino,帖子将其定位为“AI普及时代”的开端,显示Tether围绕边缘AI算力与通用模型推理的布局,供交易者进行叙事监测与信息筛选。来源:@paoloardoino 的X帖子:https://twitter.com/paoloardoino/status/1995871771875283434 |
|
2025-09-13 16:08 |
Andrej Karpathy 提及 GSM8K(2021):AI基准信号与加密交易者的观察要点
根据 @karpathy 的说法,他在2025年9月13日的X帖子中提到了2021年的GSM8K论文段落,强调对大模型推理评估的持续关注(来源:Andrej Karpathy,2025年9月13日X帖子)。GSM8K是一项用于评估语言模型多步推理能力的小学数学文字题基准,被用作量化推理进步的核心指标(来源:Cobbe 等,GSM8K 论文,2021年)。由于该帖子未宣布任何新模型、数据集或基准分数,目前对AI概念加密资产没有直接且可验证的交易催化(来源:Andrej Karpathy,2025年9月13日X帖子)。交易者应等待可测的GSM8K分数提升或发布说明再进行布局,因为GSM8K专门用于量化推理提升(来源:Cobbe 等,GSM8K 论文,2021年)。 |
|
2025-08-21 20:12 |
Hyperbolic Labs 案例:LLoCO 实现 128k 上下文,减少 30 倍 Token,推理提速 7.62 倍,基于 H100 GPU
据 @hyperbolic_labs 披露,伯克利天空计算实验室研究员谭思俊开发的 LLoCO 技术可在处理 128k 上下文的同时将 Token 使用量减少 30 倍。来源:Hyperbolic Labs 于 X 该案例报告显示推理速度提升至 7.62 倍。来源:Hyperbolic Labs 于 X 该项目由 Hyperbolic Labs 的英伟达 H100 GPU 提供算力支持。来源:Hyperbolic Labs 于 X |