推广 热搜: 京东  联通  iphone11  摄像头  企业存储  iPhone  XSKY  京东智能采购  网络安全  自动驾驶 

DeepMind联合创始人透露:GPT-5秘密训练中,规模或大过GPT-4百倍

   日期:2023-09-04     作者:itcg    浏览:969    我要评论    

IT采购网9月3日消息,近日,有关人士透露,DeepMind的联合创始人Suleyman在接受采访时表示,目前正在秘密训练GPT-5,预计该模型的规模将比目前的GPT-4大100倍。

据了解,尽管之前OpenAI的CEO SamAltman否认了GPT-5的训练计划,但有消息人士指出,OpenAI可能已经为该模型起了一个新的名称,这也解释了他们此前的否认。

Suleyman目前担任InflectionAI的CEO,该公司正在致力于建造世界上最大的超级计算机之一。他表示,在未来的18个月内,他们有可能会进行一次比制造GPT-4时规模大10倍甚至100倍的语言模型训练运行。

今年3月份,GPT-4正式发布,其相比最初的GPT-3.5模型,在几个方面取得了重大进展。该模型不仅在识图能力方面取得了强大的突破,还将文字输入限制提升至2.5万字,回答准确性也得到显著提升。此外,GPT-4还能够生成歌词、创意文本,并实现多样的风格变化。

DeepMind联合创始人:GPT-5正在训练中 比当前模型大100倍

根据分析,GPT-4拥有约1.8万亿的参数,相当于GPT-3.5的10倍规模,其中包括16个专家模型,每个MLP专家模型拥有约1110亿个参数。而据估计,如果按照相同的比例来提升,GPT-5可能将突破10万亿的参数规模,成为迄今为止最大规模的人工智能大模型,超越其他竞争对手。

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
0相关评论

头条阅读
推荐图文
相关资讯
网站首页  |  物流配送  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  京ICP备14047533号-2
Processed in 0.158 second(s), 11 queries, Memory 1.48 M