LLM
-
前 FTX 美国总裁炮轰 LLM:AI 根本不懂交易,人类专家才是王道
前 FTX 美国总裁 Brett Harrison 发文指出,大型语言模型(LLM)本质上不适合构建高频交易系统,因为市场数据并非语言。他强调,尽管 LLM 在代码生成等辅助任务中有用,但核心交易模型仍须依靠人类专业知识和传统量化方法。
-
给Transformer变个形,LLM竟能变得更聪明
文章介绍 Tapered Language Models 研究,说明在不增加参数的前提下重新分配 Transformer 各层参数,可能提升语言模型效率和表现。
-
给Transformer变个形,LLM竟能变得更聪明
LLM 的效率提升不一定只能依赖更多参数和更大算力,重新分配 Transformer 各层参数,把模型“脑容量”放到更关键的位置,也可能让模型在相同规模下变得更聪明。