ML_DM
学术科技 · 当前来自首页固化板块目录。
Spark的.cache()函数是将缓存存到内存中,我总是害怕如果用.cache()会撑爆内存,每次只敢用.persist(StorageLevel.DISK_ONLY)
我看网上经常有人喜欢在自己的博客里写一句”Spark cache后面不能跟action“。 我研究了半天也没弄明白为什么不能这样。再说cache属于transformation, 如果后面没有action,岂不是永远不会执行吗?
小白本人,想问一下,spark能不能实现这样的shuffle。 输入是一个乱序数组,然后用一个RDD表示这个数组,每个partition存数组的一部分,能不能实现一个shuffle: shuffle后的RDD的每个partition中的数字之和要差不多。 (效果就和这差不多: ```对整个数组做排序,然后每个分片轮流取…
各位大佬,训练集上还没过拟合,验证集上损失却一直在升,是什么原因,怎么处理?
求助学长学姐 咱们北邮有买有做RL的大佬 或者实验室呢
怎么在服务器上安装caffe(没有root权限),有没有大神安装成功过,请教一下
技术渣渣 做强化学习毕设 在openai平台用到ppo、icm算法 https://github.com/openai/baselines https://github.com/openai/large-scale-curiosity#installation-and-usage 有偿请教大佬帮忙解决问题 或者有熟悉g…
研一菜狗,计算机视觉方面几乎0基础,想水个毕业,想学一下目标检测方面的网课,求各路大神推荐,并想请教一些速成论文的方法,只求毕业
rt
最近在学习一个目标识别的工程:https://github.com/YunYang1994/tensorflow-yolov3 更换数据集之后对GPU的存储要求更高的,我电脑GPU是有15G的,然后tensorflow只能找到3G,网上找了找没找到问题所在,学长学姐们碰到过类似问题吗orz
再更新: 今天leader做了一些实验。 1.同一个词,在输入句子和单独输入这个词,产生的embedding计算了余弦相似度。相似度在0.5-0.6之间。 2.利用相似词,来验证embedding的质量。对比了Glove和BERT产生的embedding,用点积计算相似度。 根据产生的top5近邻来看,Glove的效果…
老师让自学相关内容...
Spark shuffle时,是写到一个executor memory里,还是写到磁盘里? 还有那个Spark spill是怎么回事?我的理解是Spark shuffle时如果写到一个executor memory里写不下,就写到磁盘里 另外Spark经常有参数调executor memory的大小,为什么没有调Loc…
大家好啊,我是19届毕业的老学姐,NLP方向,现在在百度做NLP算法~由于读研的时候比较放羊,深感上学的时候NLP学的很艰辛。现在总算跳出坑了,想尽自己的力量帮助一下我邮的对自然语言处理感兴趣的师弟师妹们,所以我组织了一个【斯坦福CS224n学习计划】,组队学习经典NLP入门课程,大家一起组队学习感觉会更容易坚持下去~…
dgl里异质图都是结点分类的例子……