，然后点击“添加到主屏幕” 飘天文学 www.piaotian.tw，绝对掌控无错无删减全文免费阅读！
，爬虫一旦跑起来，海量数据就会被传回，这些数据至少也是T级的。
在计算机领域，数据大小的单位是1o24进制的，一个字节为byte，1o24字节为kB，1o24k为m，1o24m为g，1o24g为T.
比如我们手机的存储容量可能是4g，笔记本的存储容量可能是4oog，而一台笔记本的4oog大概相当于一千部电影。
而股神通过爬虫搜集来的数据肯定是海量的，至少是T级别的，就是跑到p级别也不算是什么大事。比如1p的数据，它大概相当于25o万部电影。人的一生也不过3万天，每天看十部电影，也足够看十辈子的了。
在如此大量的数据面前，莫回必然面临一个带宽问题，很容易想象，出租屋里的小区宽带肯定是不好使的。
现在级本的运算能力已经获得验证了，应该是比较常的，但是它的存储能力还未测试，如果存储能力不成的话，莫回还必须为这海量数据寻找一个存储空间。
诸如此类的问题还有很多，如果莫回想要把股神完成，并且上线运行，那么他必须像是老黄牛一样，勤勤恳恳的往前走，把这些挡路石一个个的全部处理掉。
本来这些事就是交给一个公司处理，一个成熟的团队来处理，都未必能够处理得很好，现在莫回需要一个人搞定，并且很可能必须不显山不漏水的一个人搞定，这里面的难度就可想而知了。
想想未来的前路，莫回感觉好像是登珠峰一样，好高啊~~~
好在莫回多少算是业内人士，这些事基本算得上是本职工作，无非就是项目经理、产品经理、主程、架构一肩挑了。难是难了点，工作量大是大了点，但是好歹还算有解决办法，只要沿着道路一步步走，总会有完成的那一天。
工作量不小，不过也不是没有捷径可走，莫回点开网页，开始搜集他需要的开源软件。他去开源之家搜了一下，开源的爬虫就有有一百多个，里面估计会有合用的。
五大模块他都简单的搜了一下，大多数都还有类似的可替代软件，现在他需要做的就是在里面找到最合适的哪一款，然后修改后进行组装。
先需要选择开语言，各种语言都有自己的适用范围和优缺点，一旦选定了，那么五大模块都需要是同一个语言开出来的才行，这样也方便组装和拓展开。
莫回想了想，他最终选定了c++，因为这种语言更加靠近底层和汇编，整体执行效率和度比较好。
莫回开始在网上寻找和筛选合用的开源软件，将那些基本符合要求的c++开的软件全部下载下来，各自先归类存储起来。
等莫回将合用的三十多个各类爬虫全部下载下来的时候夜已经深了，莫回揉揉僵硬的脖颈，伸伸懒腰，不由得为今后的日子哀叹：要拼老命了啊，上班拼命回家也要拼命，这是要把自己当驴使唤啊~~~
，爬虫一旦跑起来，海量数据就会被传回，这些数据至少也是T级的。
在计算机领域，数据大小的单位是1o24进制的，一个字节为byte，1o24字节为kB，1o24k为m，1o24m为g，1o24g为T.
比如我们手机的存储容量可能是4g，笔记本的存储容量可能是4oog，而一台笔记本的4oog大概相当于一千部电影。
而股神通过爬虫搜集来的数据肯定是海量的，至少是T级别的，就是跑到p级别也不算是什么大事。比如1p的数据，它大概相当于25o万部电影。人的一生也不过3万天，每天看十部电影，也足够看十辈子的了。
在如此大量的数据面前，莫回必然面临一个带宽问题，很容易想象，出租屋里的小区宽带肯定是不好使的。
现在级本的运算能力已经获得验证了，应该是比较常的，但是它的存储能力还未测试，如果存储能力不成的话，莫回还必须为这海量数据寻找一个存储空间。
诸如此类的问题还有很多，如果莫回想要把股神完成，并且上线运行，那么他必须像是老黄牛一样，勤勤恳恳的往前走，把这些挡路石一个个的全部处理掉。
本来这些事就是交给一个公司处理，一个成熟的团队来处理，都未必能够处理得很好，现在莫回需要一个人搞定，并且很可能必须不显山不漏水的一个人搞定，这里面的难度就可想而知了。
想想未来的前路，莫回感觉好像是登珠峰一样，好高啊~~~
好在莫回多少算是业内人士，这些事基本算得上是本职工作，无非就是项目经理、产品经理、主程、架构一肩挑了。难是难了点，工作量大是大了点，但是好歹还算有解决办法，只要沿着道路一步步走，总会有完成的那一天。
工作量不小，不过也不是没有捷径可走，莫回点开网页，开始搜集他需要的开源软件。他去开源之家搜了一下，开源的爬虫就有有一百多个，里面估计会有合用的。
五大模块他都简单的搜了一下，大多数都还有类似的可替代软件，现在他需要做的就是在里面找到最合适的哪一款，然后修改后进行组装。
先需要选择开语言，各种语言都有自己的适用范围和优缺点，一旦选定了，那么五大模块都需要是同一个语言开出来的才行，这样也方便组装和拓展开。
莫回想了想，他最终选定了c++，因为这种语言更加靠近底层和汇编，整体执行效率和度比较好。
莫回开始在网上寻找和筛选合用的开源软件，将那些基本符合要求的c++开的软件全部下载下来，各自先归类存储起来。
等莫回将合用的三十多个各类爬虫全部下载下来的时候夜已经深了，莫回揉揉僵硬的脖颈，伸伸懒腰，不由得为今后的日子哀叹：要拼老命了啊，上班拼命回家也要拼命，这是要把自己当驴使唤啊~~~