大型语言模型

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论
  • 解读丨苹果为何「死磕」自研 AI ?
    苹果与中国企业合作训练大语言模型,加速AI策略转型,但仍坚持自研基础模型,以保障隐私与系统控制。
  • AI Agent 到底是什么?一文分清 LLM、Harness、Skill
    本文介绍了AI产品中常见的名词及其作用,并通过论文转专利的具体业务实例详细解释了LLM、Agent、Harness和Skill的概念和运作机制。文章强调了这些概念在构建高效AI系统中的重要性,并提供了实际应用场景中的应用指南。
    AI Agent 到底是什么?一文分清 LLM、Harness、Skill
  • 世界模型不是更大的多模态大模型
    大语言模型和世界模型解决的问题不同,前者聚焦于语言和知识的统计结构,而后者关注环境本身的感知、状态、动力学和行动。尽管世界模型面临更多挑战,如数据收集、目标函数复杂性和商业化难题,但随着垂直领域的突破和融合创新,其潜力逐渐显现。
    世界模型不是更大的多模态大模型
  • LLM 杀进芯片后端:Copilot 已上线,"全自动 P&R"还差几口气?
    大模型在芯片设计中的应用正在迅速发展,尤其是强化学习(RL)工具已经在实际项目中取得显著成效,而大型语言模型(LLM)则主要集中在脚本生成和问题解答方面。尽管AI在某些环节展现出潜力,但在全流程自动化和高精度优化方面仍面临挑战。未来,AI将在后端设计中扮演重要角色,但需要持续改进和优化才能全面替代人类工程师的角色。
  • WAIC中的“不和谐”声音
    AI领域的多位顶尖专家对当前的人工智能技术提出了不同的观点和批评,认为现有的AI模型存在局限性和不足之处。Richard Sutton指出当前的大型语言模型只是“人类知识搬运工”,而真正的智能应具备理解和适应环境的能力。John Hopcroft则强调AI的发展最终取决于人才而非算力,高校的评价体系是创新的关键因素。此外,Yann LeCun认为大规模语言模型在通往人类水平智能的路上是一条死路,并提出了一系列替代方案,如世界模型、强化学习、类脑计算和神经符号混合AI等。这些专家们的观点表明,尽管现有技术取得了显著进展,但距离真正的通用人工智能仍有很长的路要走。
    420
    07/23 09:36
    WAIC中的“不和谐”声音
  • 香橙派(Orange Pi AI Pro,昇腾NPU)本地跑DeepSeek等LLM
    本文介绍了如何在香橙派上快速部署DeepSeek1.5B、QWen0.5B和TinyLLama三个轻量级大语言模型(LLM)。首先,使用balenaEtcher将Ubuntu 22.04镜像写入SD卡,并连接开发板。然后,进行环境配置,包括检查CANN版本、安装MindSpore、配置swap空间、安装gradio和mindnlp等。接着,分别部署DeepSeek1.5B、QWen0.5B和TinyLLama模型,但在实际运行时发现推理速度较慢,特别是昇腾处理器对LLM推理引擎的支持不足。
    香橙派(Orange Pi AI Pro,昇腾NPU)本地跑DeepSeek等LLM
  • 大型语言模型中的情感智能:从认知科学到技术实践的深度探索
    情感智能是区分人类与其他物种的关键特征之一,尤其在人工智能领域,大型语言模型(LLMs)逐渐具备了理解和处理人类情感的能力。本文综述了情感智能的基本概念及其在LLMs中的实现途径。 首先,LLMs的核心技术基础是Transformer架构,它通过自注意力机制有效地捕捉情感表达的复杂性和上下文依赖性。其次,LLMs通过预训练和微调的方式学习情感信息,不仅能识别情感标签,还能理解情感的细微差别和情感表达的上下文依赖性。此外,LLMs还将情感表示映射到高维向量空间,形成了情感的多维表示。 认知科学理论为理解人类情感认知提供了理论框架,LLMs在情感感知、知觉、想象、记忆、回忆、问题解决和思维等方面面临诸多挑战。为了应对这些挑战,LLMs需要整合来自语音、图像、视频等多模态数据的情感信息,提示工程成为这一阶段的核心技术。 在情感智能评估方面,EmotionBench框架通过情境触发情感变化,评估模型的理解和反应能力。多维度、情境化的情感评估指标体系涵盖了效价、唤醒度、情感强度和情感一致性等多个维度,使情感智能评估更为全面。 最后,本文介绍了多个开源项目和资源,包括emotion2vec+系列、WavLM、EmoLLMs系列、DialogueLLM、EmotionBench等,这些项目覆盖了语音情感识别、情感分析、多模态情感分析等多个领域,为情感智能研究提供了丰富的资源和技术支持。 总之,情感智能技术在LLMs中的应用前景广阔,未来有望在智能客服、教育、医疗、娱乐和媒体等行业发挥重要作用。
  • 大语言模型赋能的6G通信技术
    IEEE通信学会发布的白皮书指出,《电信领域大规模AI应用——创新、规模化落地与数字体验升级路线图》强调了融合生成式AI与电信大模型(LTMs)的重要性。白皮书详细介绍了强化学习在通信技术中的应用,包括网络接入与速率控制、缓存与计算卸载、网络安全与连接保持等方面。此外,大语言模型在6G通信技术中的优化与资源管理、协议理解、生成与设计解决方案、网络配置生成、故障排查方案推荐、预测性分析等多个方面的应用也被深入讨论。最后,白皮书还展示了大语言模型如何增强强化学习的过程,提供了丰富的应用场景和技术细节。
    大语言模型赋能的6G通信技术
  • 基础模型即服务(FMaaS)——大语言模型与联邦学习的协同融合
    IEEE通信学会(ComSoc)发布的《电信领域大规模AI应用——创新、规模化落地与数字体验升级路线图》(LARGE-SCALE AI IN TELECOM——Charting the Roadmap for Innovation, Scalability, and Enhanced Digital Experiences)白皮书,为行业指明了一条融合生成式AI与电信大模型(LTMs)的革命性路径。
  • 边缘侧的电信大模型
    IEEE通信学会发布《电信领域大规模AI应用——创新、规模化落地与数字体验升级路线图》白皮书,指出电信大模型与边缘计算的融合是计算与网络技术领域的范式变革。通过将大语言模型与边缘计算结合,可以解决资源受限问题,提高实时处理能力和隐私安全性。大语言模型的优化技术和云边协同架构有助于实现高性能与资源节约的平衡。在自动驾驶、医疗健康、工业物联网等领域,这种融合技术展现出巨大潜力。未来,微型机器学习和联邦多任务学习等技术也将推动边缘增强型微型机器学习的发展。
  • AI对物联网的两面性:除了正向赋能,也可能形成"技术债务"
    大语言模型为代表的AI新技术在物联网系统研发和实施中的应用,给物联网系统带来前所未有的效率提升,将AIoT推进到新的阶段。不过,AI和物联网的融合,带来正向赋能的同时,也存在一些潜在的风险。近日,一位长期从事工业物联网的专家撰文指出,人工智能工具加速物联网开发,但在接近硬件的层面,一些看似正确的代码可以悄无声息地同时破坏数千台设备,人工智能可能会给物联网形成大量“技术债务”,需高度重视这一现象并提前采取措施。
    523
    05/12 09:50
    AI对物联网的两面性:除了正向赋能,也可能形成"技术债务"
  • 10美元板子,45MB内存,跑10亿参数大模型——PicoLM把LLM推理拉到嵌入式极限
    PicoLM项目展示了如何在一个仅10美元的板子上使用256MB内存运行一个10亿参数的大模型。通过巧妙的内存管理和优化,实现了高效的推理性能,并且强调了小型化和离线使用的可能性。
  • LLM推理的硬件危机,比你想的严重得多
    Google DeepMind的两位工程师发布了一篇关于大模型推理硬件的论文,指出当前硬件架构不适合推理任务,尤其是在解码阶段。论文提出四种解决方案:高带宽闪存(HBF)、近存计算(PNM)、3D内存逻辑堆叠和低延迟互连。这些方案旨在解决内存带宽、容量和通信延迟等问题,而非单纯增加算力。研究者呼吁学术界和产业界合作,共同推动推理硬件的发展。
    LLM推理的硬件危机,比你想的严重得多
  • 电信行业大模型产业洞察:当前趋势、市场驱动因素与壁垒
    IEEE通信学会(ComSoc)发布的《电信领域大规模AI应用——创新、规模化落地与数字体验升级路线图》(LARGE-SCALE AI IN TELECOM——Charting the Roadmap for Innovation, Scalability, and Enhanced Digital Experiences)白皮书,为行业指明了一条融合生成式AI与电信大模型(LTMs)的革命性路径。
    电信行业大模型产业洞察:当前趋势、市场驱动因素与壁垒
  • KULAAI上线:聚合多家语言模型,提供统一AI工具入口
    随着大模型应用场景不断扩展,AI工具也变得越来越多。对不少用户来说,问题已经不只是“有没有AI工具”,而是“该用哪个、怎么切换、怎么更高效地用”。在这样的背景下,聚合式AI工具平台开始受到更多关注。 KULAAI(k.kulaai.cn)近日上线,主打聚合多家语言模型,尝试把分散的AI能力整合到一个平台中,为用户提供更统一的调用入口和使用体验。对于需要频繁使用AI的人来说,这类平台的价值,往往不只
  • AI API中转安全隐患:恶意中转注入代码、窃取密钥、盗走 ETH 实测
    研究人员调查发现,许多付费和免费的AI中转服务存在安全隐患,包括恶意代码注入、密钥泄露等问题,导致用户数据可能被窃取并用于非法用途。尽管多个主流AI代理框架均未能有效防护此类攻击,已有部分防御措施提出,但其实际效果和普及程度仍有待提高。
    6793
    04/13 10:57
  • 腾讯面试官:“Agent不就是LLM加点工具?”我:“ReAct、MCP、Skills、A2A …”
    本文介绍了Agent及其相关概念,包括LLM、Agent、Workflow、Function Call、MCP、Skills和A2A协议。主要内容如下:LLM:大语言模型,能够生成文本,但不具备执行操作、记忆历史、使用工具和规划任务的能力。Agent:在LLM的基础上增加了工具、记忆和规划能力,能够自主完成任务。常见的工作模式包括ReAct、Plan-and-Execute、Reflection和Multi-Agent。
  • 智能驾驶真的需要语言模型吗?
    语音控制系统在汽车中的应用引发了关于软件定义汽车时代安全性的讨论。尽管语音助手能够提高便利性,但也存在误解指令的风险,尤其是在高速行驶环境下。语音助手依赖于语音识别和自然语言理解,但在极端情况下可能会做出不当回应。因此,为了确保安全,需要在系统架构上采取措施,例如硬件冗余和语义校验机制,以防止潜在的安全隐患。最终,语音助手应当作为助手而非主宰,确保在危急时刻提供可靠的响应。
    智能驾驶真的需要语言模型吗?
  • 之江实验室薛贵荣:当AI开始做科研,我看到了大语言模型的天花板
    2023年12月12日,第八届GAIR全球人工智能与机器人大会在深圳举行。之江实验室科学模型总体组技术总师薛贵荣博士介绍了科学基础模型的概念及其在科学领域的应用前景。
    之江实验室薛贵荣:当AI开始做科研,我看到了大语言模型的天花板
  • 基于大语言模型的AI智能设备管理实践
    在当今工业领域,设备管理正经历一场深刻的智能化变革。如何利用大语言模型等AI技术,从硬件驱动、软件重构、数据激活三大方向对传统体系进行颠覆性升级?如何实现由数据和智能驱动的精准、高效、无人化的新一代管理模式?
    基于大语言模型的AI智能设备管理实践

正在努力加载...