计算机做很多事。计算机看图片。计算机读文字。计算机听声音。这些事需要智能。我们让计算机学习智能。这就是人工智能。人工智能的一个分支叫机器学习。机器学习让计算机自己找规律。研究生常研究这个方向。他们写论文需要选题目。题目是论文的眼睛。好题目很重要。好的题目不能太大。题目太大写不完。好的题目不能太小。题目太小没意义。好的题目要新。新的题目有价值。新的题目别人没做过。我们可以改进别人的方法。我们可以用新方法解老问题。我们可以发现新问题。这是选题的思路。

计算机处理图像。图像是像素组成的。像素有很多数字。数字代表颜色。计算机理解图像很难。人一眼看懂图片。计算机需要学习。卷积神经网络帮助计算机。它像人的视觉系统。它一层层提取特征。底层特征比如边缘。中层特征比如形状。高层特征比如物体。这个技术很成熟。研究生可以找新方向。小样本学习是一个方向。我们只有很少图片。我们想让计算机认识物体。这很困难。数据增强是一个方法。我们把图片旋转。我们把图片变色。我们生成新图片。这样数据就多了。生成对抗网络可以生成图片。一个网络生成假图片。一个网络判断真假。两个网络一起训练。假图片越来越真。这能解决数据少的问题。

另一个方向是模型轻量化。大模型需要强算力。手机和手表算力弱。我们需要小模型。小模型速度快。小模型耗电少。知识蒸馏是一个方法。大模型是老师。小模型是学生。老师教学生。老师把自己的知识传给学生。学生模型小但能力强。剪枝和量化也是方法。剪枝去掉不重要的连接。量化把浮点数变整数。这样模型就小了。这些方法很有用。现实世界需要小模型。

自然语言处理是热门方向。计算机理解人类语言。人类语言很复杂。一词多义很常见。苹果是水果。苹果是手机。计算机要结合上下文。循环神经网络处理序列。它记忆之前的信息。但它有梯度消失问题。长短期记忆网络解决这个问题。它有三个门。输入门控制记住什么。遗忘门控制忘记什么。输出门控制输出什么。这样能记更长的序列。注意力机制很重要。它让计算机关注重点。比如翻译句子。每个词对翻译的贡献不同。注意力机制分配权重。Transformer模型只用注意力。它并行处理序列。它训练速度快。BERT模型基于Transformer。它双向理解语言。它预测被遮住的词。它在很多任务上表现好。

研究生可以研究预训练模型。我们在大数据上训练一个模型。这个模型学会通用知识。我们在小任务上微调。这样即使数据少也能做好。多语言模型是一个方向。一个模型处理多种语言。低资源语言数据少。高资源语言帮助低资源语言。模型跨语言迁移知识。这很有意义。情感分析可以应用。计算机判断文本的情绪。正面情绪还是负面情绪。这对企业有用。企业看用户评论。用户喜欢产品吗。用户讨厌产品吗。计算机自动分析。这节省人力。问答系统也能研究。计算机回答用户问题。比如智能客服。用户问问题。计算机找答案。这需要理解问题和知识库。开放域问答更难。问题可以是任何话题。计算机需要很多知识。

语音识别让计算机听声音。声音是声波。声波变数字信号。计算机找声音特征。梅尔频率倒谱系数是常用特征。深度学习直接学特征。端到端系统是趋势。声音直接转文字。中间步骤少了。错误就少了。但现实环境有噪音。街道有车声。家里有电视声。计算机要克服噪音。多麦克风阵列有帮助。多个麦克风一起工作。它们能定位声源。它们能抑制噪音。远场识别很难。说话人离麦克风远。声音衰减了。回声也是个问题。设备自己发声。比如智能音箱放音乐。音乐干扰识别。这些是实际问题。研究生可以做实际系统。

推荐系统无处不在。购物网站推荐商品。视频网站推荐电影。推荐系统猜你喜欢什么。它看你的历史行为。你买过什么。你看过什么。它找相似用户。相似用户喜欢什么。你可能也喜欢。协同过滤方法很经典。但它有冷启动问题。新用户没有历史。新商品没有记录。混合模型解决这个问题。它结合多种信息。商品描述。用户画像。上下文信息。时间信息也很重要。冬天推荐羽绒服。夏天推荐短袖。节日推荐礼物。深度学习让推荐更准。神经网络学习复杂模式。序列推荐是前沿。用户行为是序列。上一次点击影响下一次。模型捕捉序列动态。这更符合现实。

计算机安全很重要。网络攻击很多。黑客想偷数据。黑客想搞破坏。防御技术要研究。恶意软件检测是方向。软件是恶意的吗。静态分析看代码。动态分析看行为。机器学习分类软件。正常软件和恶意软件。对抗样本是个问题。黑客稍微改恶意软件。机器学习模型就认不出。这很危险。研究鲁棒的模型。模型不受小干扰影响。这很重要。隐私保护也要研究。数据包含隐私。我们不想泄露隐私。联邦学习是一种方法。数据不离开本地。本地训练模型。只传模型参数。中心服务器聚合参数。这样隐私就保护了。差分隐私加噪声。加噪声保护个人数据。数据可用性还在。但分不清具体个人。这平衡了隐私和效用。

图形学生成美丽图像。电影特效用图形学。游戏画面用图形学。三维模型是基础。模型由顶点和面组成。渲染把模型变图像。光照影响外观。光线追踪模拟真实光线。光线从光源出发。光线碰到物体。光线反射折射。最后到眼睛。这很真实但很慢。实时渲染需要快。光栅化是常用方法。它速度很快。效果也不错。深度学习加速图形学。神经网络学渲染。训练时用慢方法。运行时用快网络。这平衡质量和速度。三维重建从图片变模型。多张图片拍物体。计算机恢复三维形状。这在VR和AR有用。虚拟现实需要三维场景。增强现实把虚拟物体放真实世界。这需要定位和建模。这些都是研究点。

量子计算是新领域。量子比特和经典比特不同。经典比特是0或1。量子比特可以同时是0和1。这叫叠加态。量子计算并行性很强。一些问题上量子计算快很多。比如分解大数。经典计算很慢。量子计算很快。这影响密码学。现在密码基于大数分解难。量子计算能破解。我们需要新密码。抗量子密码研究很重要。量子机器学习结合两者。量子计算加速机器学习。机器学习帮助量子计算。这个方向很新。需要物理和计算机知识。

选论文题目看兴趣。兴趣是最好的老师。对图像感兴趣就选图像。对语言感兴趣就选语言。也要看导师。导师有经验。导师有项目。导师指导你。还要看条件。实验室有GPU吗。数据好找吗。时间够吗。两年或三年要完成。题目要可行。太难了做不出。太简单了没价值。要找平衡点。多看论文。看别人做什么。看最新会议。CVPR是计算机视觉会议。ACL是自然语言处理会议。ICML是机器学习会议。看论文找想法。想法可以改进。可以组合。可以应用新领域。动手做实验。想法好不好靠实验。实验有结果。结果好就继续。结果不好就调整。写论文讲清楚问题。讲清楚方法。讲清楚实验。贡献要说明白。哪里新。哪里好。让别人看懂。

论文是研究生阶段成果。它代表你的工作。它展示你的能力。好论文带来好工作。好论文带来深造机会。认真选题目。认真做研究。认真写论文。这个过程很长。会遇到困难。实验失败是常事。代码有bug。模型不收敛。数据有问题。坚持很重要。一步一步走。问题总能解决。同学可以讨论。导师可以请教。最终会有收获。你学会了研究。你学会了思考。你解决了问题。这是研究生的意义。