EN
www.zqysoft.com

http://www.51cao.gov.cnLLM进入「拖拽时代」!只靠Prompt,几秒定制一个大模型,效率飙升12000倍

【新智元导读】最近,来自NUS、UT Austin等机构的研究人员创新性地提出了一种「拖拽式大语言模型」(DnD),它可以基于提示词快速生成模型参数,无需微调就能适应任务。不仅效率最高提升12000倍,而且具备出色的零样本泛化能力。 刚刚,包括尤洋教授在内的来自新加坡国立大学、得克萨斯大学奥斯汀分校等机构的研究人员,提出了一种全新的「拖拽式大语言模型」——Drag-and-Drop LLMs! 通过一个轻量级文本编码器与一个级联超卷积解码器的组合,DnD能在数秒内,仅根据无标签的任务提示词,生成针对该任务的LoRA权重矩阵。 通过观察,研究人员发现,LoRA适配器无非是其训练数据的一个函数:梯度下降会将基础权重「拖拽」至一个特定任务的最优状态。 为了赋予模型「拖拽」的能力,团队将这些数据集的提示词与收集到的LoRA权重进行随机配对,构成DnD模型的训练数据——即「提示词-参数」对。 在推理阶段,团队只需将来自全新数据集(训练中未见过)的提示词输入DnD,仅需一次前向传播,即可获得为该任务量身定制的参数。 实验结果表明,在零样本测试集上,团队的方法相较于训练所用的LoRA模型的平均性能,取得了惊人的提升,并且能够很好地泛化到多种真实世界任务和不同尺寸的LLM。 此前,他在中国科学技术大学获得人工智能学士学位。并曾在北卡罗来纳大学教堂山分校Huaxiu Yao教授的指导下进行实习,以及在中国科学技术大学数据科学实验室跟着导师Xiang Wang度过了两年的时光。 Zhangyang Wang目前是德克萨斯大学奥斯汀分校钱德拉家族电气与计算机工程系的终身副教授,并荣膺坦普尔顿基金会第7号捐赠教席。 他于2016年获伊利诺伊大学厄巴纳-香槟分校电气与计算机工程博士学位,师从计算机视觉泰斗黄煦涛(Thomas S.Huang)教授;并于2012年获中国科学技术大学电子工程与信息科学学士学位。 核心目标是创建结构化、模块化的模型表示:1)在过参数化模型空间中实现高效、鲁棒的学习;2)与符号知识及推理进行无缝连接。 此前,他在新加坡国立大学获得数据科学与机器学习博士学位,在中国科学院深圳先进技术研究院获得计算机技术硕士学位,在北京师范大学珠海校区获得学士学位。

http://www.51cao.gov.cn
http://www.51cao.gov.cn成员C: 我的意思是,趋势一直是上下文变得越来越长。注意力机制非常擅长利用长上下文,但是,你也知道,代价也越来越高。在技术层面,我认为长上下文一个非常有趣的方向是,如何保持成本的降低?如何在多个提示词中复用缓存的上下文?这与最新的、能力比以往更强的模型尤其相关。但是,如果你没有巧妙地缓存和使用上下文,总成本可能会非常高。而且,当你开始研究专业的代码库时,对于你想要做的事情来说,存在着大量的相关上下文。我认为这在某种程度上对代码来说可能是特殊的,因为,如果你是ChatGPT,或者你是Plot应用,在大多数情况下,用户带来的上下文并不多。他们有一个问题,通常是100个token。因此,你主要关心的是如何将人类知识的总和压缩成权重,然后用它来为问题提供一个好的答案。你不太关心如何获取一百万个token,并从中获得可以有效利用的有用信息。因为这并非你的大多数用户所关心的事情。虽然前两人目前已经付出代价,很久不在镜头前露脸了,但那尔那茜在风波发生后迟迟不给出回应,还继续参与《长安的荔枝》宣传活动,看样子根本没有将舆论放在眼里啊。http://www.51cao.gov.cn免费观看已满十八岁播放电视剧蒋蓝分享他的写作经验,“我之前和一个写作机器人pk,写同一个主题,它从逻辑推理的角度,整合了很多资料。但是我敢肯定它没有我写得好,因为我对这个问题有切身的感受。也就是说,AI能高效整合资料,打开全新的资料空间,但它写不出切肤的感受。”北京时间6月21日,在世俱杯小组赛第2轮切尔西对阵弗拉门戈的比赛中,切尔西球员雅克松被红牌罚下。这也是他在近4场俱乐部比赛中的第2张红牌。
20250813 🍓 http://www.51cao.gov.cn“如果以手机的发展历程来看,机器人正处在‘大哥大’时刻。”6月26日,在领益智造(002600.SZ)机器人战略发布会现场,领益智造董事长曾芳勤对于当下机器人发展阶段给出了这样一个判断。女的高潮过后第二次需要多久恢复根据前同曦男篮、现宁波男篮总经理刘家成和ESPN选秀专家Jonathan Givony,在播客节目中谈到杨瀚森。刘家成在节目中透露,杨瀚森在快船进行了2次试训。
http://www.51cao.gov.cn
📸 郭东红记者 宋金柔 摄
20250813 🍆 http://www.51cao.gov.cn事态不仅有升级的可能性,而且这种可能性很大。伊朗必将报复,以色列定会反击,美国将被迫以更强火力再次介入。问题不在于是否升级,而在于升级的幅度与规模。更糟的是,目前袭击真实后果尚无确凿信息:是否存在辐射风险?部分武器是否已转移?破坏程度究竟多广?ysl水蜜桃86满十八岁还能用吗中国新闻周刊了解到,伊万科维奇在18强赛初期便提出了“以拼补拙,拼出生天”的带队思路,并持续大胆启用新人,但即便如此仍然能看到,国足目前在亚洲和对手们存在的真实差距。
http://www.51cao.gov.cn
📸 范首珍记者 刘培明 摄
🔞 而在 Spotlight 聚焦(搜索)功能方面,现在用户可以使用自然语言和短语来快速启动各种功能,同时兼容第三方 App 中的特定二级三级子功能,例如执行某个 App 中的“移除图片背景”功能等。床上108种插杆方式
扫一扫在手机打开当前页