关于std::sort函数 开源可见的版本是否是跑的最快的版本。

https://godbolt.org/z/jxoYx7

我们可以很清楚的看到都是call 函数。我看到的源码有用intro sort 实现的gnu libcxx 也有分桶排序 的llvm 的版本,可是linux distro都是出厂自带,且每个公司都会对自己的代码进行魔改。今天被dhz的问题问到了,我还是cpp学艺不精。

zlw 曾经问过我一个问题。是std::sort 非常快,且看不到源码,这和我看到的好像不太一致,我从来没调试过glibc 和libcxx.so 源码和自带的不一样,谁知道呢?

如果glibc可以插一些奇怪的东西,那就太棒了。

linux team's motto: make our guest quicker

Parallel Computing Final Project FineTunedHashML Spring 2020

The final repo is stored at gitlab, added some hash function to the original algorithm.

Dear Professor,
I’m Yiwei Victor Yang 2018533218 from your parallel computing class.
My teammate and I are struggling in selecting the project. I proposed to set up a projects transplant of a CPU LSH-Deep learning (https://github.com/keroro824/HashingDeepLearning/tree/master/SLIDE), which is a technique newly proposed by Rice University and Intel co, ltd to utilize the avx512 instruction set and huge pages intrinsic in locality sensitive hashing which is the main overhead of the project. ( https://arxiv.org/pdf/1903.03129.pdf)

SLIDE is a project to reimplement BP on the CPU. After the LSH pre-processing, the paper proposed to utilize maximum inner product search (MIPS) which mainly do the Sparse matrix operations- Sparse Backpropagation or Gradient Update.

After the update of weight stored in CSR format Spmv, the paper do the Batch computing by OpenMP.

As research in the paper, we can see that the main overhead is pre-processing on CPU avx512 with huge pages cache-heap optimization on, which gained around 30% faster than the raw GPU Tesla V100. If we transplant that part(dynamic hashing) in GPU which is said not applicable by the author from intel, I think it may have a 50 percent chance to be faster than the current CPU version.
As the paper’s reference paper puts it: it gains something like 2 times faster after porting to Cuda, which triggers conflicts. https://github.com/src-d/minhashcuda

Our proposal is to make a comparison amid the raw Tensorflow on GPU, SLIDE on avx512, and SLIDE on GPU using the dataset mentioned in the paper.

My question is whether the transplant of the CPU dynamic cuckoo in the SLIDE do you think can have real speed up than the original version and if we attempted to transplant the program and get little speed up, will we eventually get the score?

Thanks a lot!

Intro to geekpie

GeekPie_ is a student association that debuted when the first batch of ShanghaiTech undergraduates entered this school. Since the inception of our association, it has been collecting EECS-related geeks in Schools of Information and Science Technology (SIST) in ShanghaiTech and nurturing enthusiasts towards gorgeous masters.
Four of the team member, Zijun, Tianyuan, Kaiyuan, and Yixuan is from the Laboratory of I/O System and Data Science (L.I.O.N.), SIST advised by Prof. Shu Yin, who is also our greatest team advisor. They have different roles in the lab, from parallel file systems to I/O optimization and scientific computing. One of the team members, Yiwei is from System and Software Security lab, SIST, focusing on symbolic execution. Longwen is among the ACM-ICPC algorithm team and has won several silver awards in Nationwide competition.

As the youngest section of GeekPie_, GeekPie_HPC is growing steadily. Inspired by the success in ASC18, ISC18, and SC19 student cluster competitions, newcomers influx, endowed with courage, eagerness, and full devotion. We are grateful to the School of Information Science and Technology (SIST) and the Library and Information Center for supporting us with comprehensive HPC resources. With fresh blood injected into this vigorous team and more advanced HPC resources this year,  GeekPie_HPC is sure to become one of the most influential student supercomputing teams in SC20.

德扑总结

赌博的艺术

作为一个还没学会概率论的妓院学生,我可能是找死军团。孙老板和Toby 都是Jane Street 大师培训过的任务,就有点瑟瑟发抖的感觉。

还好之前看过GTO的实现,并抄写了一遍强化学习德州Agent,DeepStack: Expert-level artificial intelligence in heads-up no-limitpoker, by Moravcik et al, Science, 2017 。 主体都是先博弈论盲猜一波,再MCTS。

再稍稍学了下后就开始跟各位大脑决战了。 下午5点开始,大概过了半点之后就大概知道各位是什么套路了。卢老板很会bluff,但总会盲猜胜利。雷(然苒)挺女生学霸范的,确实牛逼.

我在明知道赔率大很多的情况下还是输给了邓hz 100 一盘。

什么是无所匹敌的牛逼

终于在朋友圈里能找到几个数学竞赛的一等奖了。一个是2016 福建省集训队的,还有一个是高考上的北大数院。可是quick math 不是很好,现在屈居做了一个optiver 的quant intern。 我感觉在这里的所有知识都是为了更好的赚钱而不是为了世界产生更好的影响做的。但如果无路可走,一定要在这个领域深耕也不是不行。只是感觉未来某一天就就被科技超越。不过如果市场还在,这种职业就不会

之前的比赛让我对高频交易有了比较naive的了解,无论是看book pressure 还是market making。 可以说是有一套没有成为显学的技术在。孙老板就是那种学这个学了数年的经验老狗,可是如果有实践经验的话,也确实感觉孙老板挺有前途的。孙老板是个挺会做人的人,确实是我人生失败的部分。

交友篇

女生的评价体系

对于我最近碰到的四个女生,可以很清晰的看出哪些是乖乖女与世无争感觉的,哪些是有强烈个人意志的。或许是英美基因当中那种冲劲和国内的风气不太一样吧。这和当年的“上海学生圈“很不一样。她们都是有权有势的人,而她们确实是靠自己的聪明才智。至少都能混上北大,牛津,复旦。芒果虽然号称富婆,可是生活脾性感觉不像大富大贵,可至少看上去大家闺秀,还是杭州的,确实不错。如果找不到好男人,没有想法在quant 继续,我觉得很难在上海买房。事实就是这么残酷。

女生在申请上有很大的优势,尤其是那种娇小的女生,可能迎合美国身份政治的想法,我觉得无可厚非,谁不想组里面有个漂亮的,每天认真打扮的,可是要看做什么了,我感觉她们事业线拉不长。

就申请来说,复旦的管院女生就是比清华数学系申请的MFE好很多,一个是UCB的Hauss,还有是哥大的,高下立判,可是卢老板确实看上去很强。就我在B站关注的扁脸猫与午后红茶withLaura. 大概就是两校所在地区的区别。

男士能有多强

虽然quant 给的多,但我觉得给的还不算多,而且确实竞争挺大的,一个数学竞赛金牌进jump这种公司多学个几年,做个好QR不是问题。但他们的薪水能否支持他们在上海买房,大概需要十到二十年吧。人也不傻,为什么不出国混呢。

在一个人所擅长的地方和一个人喜欢的地方努力是有意义的,可是也容易被蒙蔽,为何我爸当时的大学同学打工的现在基本比不过他的原因也在此。

对我的兴趣

我挺菜的,在别人的饭局上都属于最菜的,鄙视链的最底端,被大多数人当成无关紧要的人,我现在在做的事大概就是为这个学校争点名气,可是被又龙哥当成”对自己无用的事“了。大家都不想浪费青春好好学习的时间。确实,我有的时候挺自卑的,也很久没有和女生说话超过十句话,但这种也不算是宅。就是一种对自己菜的表现,我需要认证对我的技术护城河拥有数10w小时的刻意训练。

可是感觉现在的女生眼界都有点高,也许是我表现的不太明显,确实脑残。不过我带的女生第二天就被偷师被三个男的约去cj了,牛逼。有的时候我确实不太近人情吧,不过我已经确定要一生努力奋斗了,不然也不会像小扎一样更新博客了。

work work study study life balance

作为一个超级对学习有持续激情的人,想搞点事情,不满于现状,你也可以说是革命。至少若无return,还是在HPC和sybolic execution 上深耕下去。

不知道在国外的人在show什么

看到之前国外的人show 自己的见闻还是有点小羡慕的,毕竟我已经20年在这个破城市了。我内心还是有想在新地方多走走的想法,可是能力不足以我这么干。

可是疫情开始后的show 就有点作秀了,口罩不带,还在封城的阶段,知道你又要送钱,又要付出生命代价了。

不知道我的知识有多封闭

我之前对欧美文学的观察太少了,连漫威这种描绘美国历史的剧本都没好好看,认真看解读,我觉得是我太闭塞了,还有孟德斯鸠,哈耶克,犹太共产党人的一系列东西,我觉着是自己太傻逼。有点自以为是了。

Approaching GRE

我好像一点都不紧张。

for 芒果

如果还有缘分,我会追上的,可是我还没有钱和资本,也不知道他看不看得上我。也许是我想要有艺术气息,顾家,且被富养的人吧,真没觉得他对我这种中产有什么压力,可是我确实感受到了向上的动力,让身边的人变得更精致,这大概就是我家国情怀的体现。

在我心里有一个更大的picture,只是现在尚不明朗,”待到山花烂漫时,她在丛中笑。“

for 学神

她和我专业有点相近,她有点母胎单身,但却想奋斗的感觉,有点过于激进的表达自己的想法,却总是有点不成熟,这种小局carry不来,可能是年纪比较小吧。

我倒觉得家常便饭,只是有个人在说话的时候我只会在一旁,觉得dhz说的很多时候有点太没有大脑思考了,感觉有点思考的东西,其实是看别人的想法,其实孙老板也是。可能人缘好的人都有这种想法。

所有的关系不过就是利益交换

我还是少参加点这种sb聚会了,浅尝辄止。现在还不是显形的时候,还没有任意增长完我呢。

如果人生也是德扑,需要基本面判断,需要博弈论,需要赌博。我还没有到翻盘的瞬间。如果脑袋好使,比较鸡贼,运气比较好,拿到的再差的牌也能多拿很多钱。