你也说过，大部分时候求稳，但当机会出现的时候，该赌就得赌。”
赵立明被气笑了：“我是让你该赌的时候就赌，但你看看他背景，唯一有可信度的背景是来自伊戈尔·巴布什金的背书，还只是远程聊过。
他没有去硅谷，没有在deepmind工作，也没有在推特工作。
背书力度太弱了，你明白吗？
另外，你以为用gpt的数据来训练是什么很了不起的方案，是什么天才的灵光一闪。
那是因为你了解的太少，你没有从事这一行，你在江城科技大学学的是四十年前的数据结构和c语言。
你没有关注开源社区的前沿动态。
华盛顿大学和艾伦人工智能研究所在chatgpt发布的第一时间就发表了论文，论文名字叫self-instruct。
你所谓的用gpt数据训练只是一句话，人家已经写成论文，并且进行了实验。
self-instruct的核心内容就是让大模型自己生成自己的训练数据。
他们把方法都公布了，一个迭代的过程。
先准备一小批人工写的指令，这些作为例子来引导模型生成新任务。
用当前模型提示它生成新的、更多样的指令。
比如给它几个种子例子，让它发明新任务。
为每个新指令生成输入和输出。
对生成的指令，再让模型生成对应的input和 output。
这样就得到一条完整的instruction、input和output三元组。
过滤低质量数据，用启发式规则自动过滤无效的任务、与已有任务重复度太高的、输出质量差的。
