制，加上ChatGPT的横空出世，导致整个华国，H100都格外少。
也就是腾讯云在海外也有数据中心，他们可以把卡买到海外，然后国内研发海外训练。
赵立明只觉得自己的女儿被忽悠瘸了。
赵佩璇开口道：“爸，第一，我也没说要H100啊，A100也行啊。
另外陈曦他给了一个非常具有可行性的方案。
直接拉GPT的数据来作为训练集，这是现成的数据，能够大大节约时间。
我觉得这是非常具备可行性的方案，给他一点机会未尝不可。
你也说过，大部分时候求稳，但当机会出现的时候，该赌就得赌。”
赵立明被气笑了：“我是让你该赌的时候就赌，但你看看他背景，唯一有可信度的背景是来自伊戈尔·巴布什金的背书，还只是远程聊过。
他没有去硅谷，没有在DeepMind工作，也没有在推特工作。
背书力度太弱了，你明白吗？
另外，你以为用GPT的数据来训练是什么很了不起的方案，是什么天才的灵光一闪。
那是因为你了解的太少，你没有从事这一行，你在江城科技大学学的是四十年前的数据结构和C语言。
你没有关注开源社区的前沿动态。
华盛顿大学和艾伦人工智能研究所在ChatGPT发布的第一时间就发表了论文，论文名字叫Self-Instruct。
你所谓的用GPT数据训练只是一句话，人家已经写成论文，并且进行了实验。
Self-Instruct的核心内容就是让大模型自己生成自己的训练数据。
他们把方法都公布了，一个迭代的过程。
先准备一小批人工写的指令，这些作为例子来引导模型生成新任务。
用当前模型提示它生成新的、更多样的指令。
比如给它几个种子例子，让它发明新任务。
为每个新指令生成输入和输出。
对生成的指令，再让模型生成对应的Input和 Output。
这样就得到一条完整的Instruction、Input和Output三元组。
过滤低质量数据，用启发式规则自动过滤无效的任务、与已有任务重复度太高的、输出质量差的。
把过滤后的高质量数据加回任务池，可以继续迭代生成更多数据。
本章未完，请点击下一页继续阅读！