显卡
英伟达市值一度突破2万亿美元
英伟达市值在上周五前市一度突破2万亿美元,仅次于微软和苹果公司。但股价随后回落,当日收盘上涨0.4%,报788.17美元。
上海交大新框架大幅提速:4090显卡轻松驱动70B级大模型,LLM推理速度提升11倍
原本需要一张16万元的80G A100干的活,现在只需要一张不到2万元的24G 4090就够了!
上海交大IPADS实验室推出的开源推理框架PowerInfer,让大模型推理速度加快了11倍。而且不用量化,就用FP16精度,也能让40B模型在个人电脑上运行;如果加入量化,甚至2080 Ti也能流畅运行70B模型。英伟达CEO仍计划在中国销售高端芯片
在美国商务部长警告企业不要试图规避芯片出口限制的数天后,英伟达CEO黄仁勋表示,公司现在的计划是持续与美国政府合作,以便拿出一套符合相关新规定的新产品。
英伟达股价下挫,中国AI芯片发布延期传闻
英伟达股价周五盘前下跌。此前有报道称,这家科技巨头将推迟推出一款面向中国市场的新型AI芯片。
英伟达 RTX 4500 Ada 专业显卡上市:搭载 24GB 显存,17000 元
RTX 4500 Ada的相对性能约等于RTX3090