登录 注册 返回主站
F10资料 推荐产品 炒股必读

ChatGPT是建立在InstructionGPT

  • 作者:林肯之路
  • 2023-02-01 13:09:52
  • 分享:
ChatGPT是建立在Instruction GPT(GPT-3的分支模型)上的语言模型,依托于Transformer模型,与上一代RNN模型相比,在处理速度和多任务处理上实现革新。

ChatGPT的语言模型在预训练阶段,被填鸭式塞进了过滤前容量达45TB的压缩文本,且过滤后也有570GB的海量数据,然后再通过多次的举一反三来增加准确率。

在ChatGPT的逻辑里,“你”后面可以跟的字有不同的概率,可以是“你好”,也可以是“你们”等等,它需要做的是,就是回溯上文来推导下一个字最可能跟哪一个字。

而以前的RNN模型则是通过标记海量的数据集,先教会人工智能什么是对的,再让其进行判断。如果说RNN模型是严格按照原文做阅读理解,那么GPT则做到了完形填空。

温馨提醒:用户在赢家聊吧发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。本文中出现任何联系方式与本站无关,谨防个人信息,财产资金安全。
点赞1
发表评论
输入昵称或选择经常@的人
聊吧群聊

添加群

请输入验证信息:

你的加群请求已发送,请等候群主/管理员验证。

时价预警 查看详情>
  • 江恩支撑:10.3
  • 江恩阻力:11.59
  • 时间窗口:2024-07-28

数据来自赢家江恩软件>>

本吧详情
吧 主:

虚位以待

副吧主:

暂无

会 员:

19人关注了该股票

功 能:
知识问答 查看详情>