Towards Data Science· Utkarsh Mangal·· 4 小时前AI 评分56
复现子意识学习实验:共享初始权重的神经网络从纯噪声中学会识别手写数字
A Neural Network Learned to Read Digits From Pure Noise
AI 导读
作者复现了Anthropic等机构提出的子意识学习实验,构建了一个教师-学生网络结构:教师在真实MNIST数字上训练,学生仅在随机噪声上训练并模仿教师的3个辅助输出,二者共享初始权重。
来源:Towards Data Science · towardsdatascience.com