当前热议!分析师称 ChatGPT 每天运行开销达 70 万美元,微软开发自主芯片尝试降低成本

工人日报 2023-04-21 14:18:02


(相关资料图)

北京时间4月21日早间消息,据报道,芯片行业研究公司SemiAnalysis首席分析师迪伦?帕特尔(DylanPatel)表示,由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元(当前约481.6万元人民币)。帕特尔指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”此外,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。对此,OpenAI尚未对此做出回应。帕特尔和SemiAnalysis的另一位分析师阿夫扎尔?艾哈迈德(AfzalAhmad)表示,此前外界已经注意到,训练ChatGPT背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT的推理成本超过了训练成本。”过去几年,使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克?沃尔顿(NickWalton)表示,运行该模型,以及相应的购买亚马逊AWS云服务器的费用2021年达到每月20万美元(当前约137.6万元人民币)。因此,沃尔顿最终决定改用AI21Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月10万美元(当前约68.8万元人民币)。沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的GPU芯片。目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。
x

资讯

从“美丽”向“美好”嬗变——嘉泽镇晨山村的乡村振兴之路

2022-06

海南推动农贸市场全面落实禁塑 加强违禁塑料制品源头治理

2021-12

柴犬登登拍卖记:动物是如何被司法拍卖的

2021-12

江西:到2025年鄱阳湖区断面水质优良比例达到50%以上

2021-12

西藏森林消防:锻造雪域救援尖兵 打造高海拔山岳救援队伍

2021-12

加强人才融通发展 第10届海峡两岸水利青年工程交流营成功举办

2021-12

四川:空手夺刀救人的“95后”女民警捐献万元奖金传递爱心

2021-12

中国食品名市临沂坚持“三化融合” 争做“食安”守望者

2021-12

上海闵行一幼儿园教职工殴打幼儿 2名涉事人员已被行拘

2021-12

受贿1414万元 江西万载县委原书记胡全顺获刑11年6个月

2021-12

动态

当前热议!分析师称 ChatGPT 每天运行开销达 70 万美元,微软开发自主芯片尝试降低成本

2023-04

大利空!4500亿巨头突然宣布:清仓减持

2023-04

三好学生奖状免费兑换草莓!苏州吴中界路村数字积分兑换不负春光好时节

2023-04

西门子温控阀(西门子调节阀)

2023-04

市市场监管局发布行政提示函

2023-04

德信地产集团10亿元中票注册项目状态已更新为“反馈中”

2023-04

【天天报资讯】ps连续复制快捷键不好使_ps连续复制快捷键

2023-04

环球今日报丨第五届中新金融峰会开幕 四川担任主宾省

2023-04

全球观热点:广州:多方聚力共创知识产权协同保护新局面 全面支撑创新高质量发展

2023-04

当前快看:章源钨业上调2023年4月下半月长单报价

2023-04