Taalas

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论
  • 复盘AI芯片技术路线 专用芯片复刻矿机历程
    Taalas展示了将Llama 3.1 8B模型直接硬连线到芯片中的非传统AI硬件路线,解决了传统GPU架构的内存墙问题,实现了极低延迟和高能效。此方案通过硬件定制,直接固化模型参数,跳过数据搬运步骤,显著提高了推理速度和能效比。虽然目前仅限于4bit量化版本,但其工程流程和潜在应用前景表明,这种“模型即硬件”的方法在未来AI算力市场中具有重要潜力。
    804
    03/09 13:36
    复盘AI芯片技术路线 专用芯片复刻矿机历程
  • Taalas,把大模型“焊死”在芯片里,这家公司可能是2026年最疯狂的存在
    Taalas公司推出了一款专门针对大模型的专用芯片,实现了硬件与模型的高度融合,相比传统软件模型提高了1000倍的效率。该芯片能够在Llama 3.1 8B模型上每秒为每个用户提供超过17k个tokens,且能耗仅为Cerebras芯片的十分之一。尽管存在高昂的研发成本和较长的设计周期,但随着AI模型稳定性的提高,这种专用芯片可能会成为未来的主流选择。