本次专访的受访者是中国科学技术大学2010级校友、NVIDIA高级工程师高翔学长。他于2019年博士毕业后加入NVIDIA，深度参与了PyTorch核心模块的开发，是nvFuser编译器的核心开发者之一。在2024年12月25日的华夏计算机英才班系列讲座中，高翔学长以《大模型深度学习编译：行业见闻以及nvFuser实例分析》为主题作报告。在讲座开始之前，我们有幸对高学长进行了一对一专访，探讨了他的职业成长经历、技术洞见以及对学弟学妹们的建议。以下为采访实录。
采访时间：2024年12月25日 下午13:40
采访地点：高新校区GT-C102
采访主持：郭东昊
问题一：关于讲座的期待
主持人：
学长，您的讲座主题涵盖了深度学习编译器领域的行业观察与技术实践。您能否简单分享一下今天报告的核心内容？同时，您希望大家听完这场讲座，能从中收获哪些启发呢？
高翔：
这次讲座的主要内容就是我这几年在PyTorch工作的一些经历。我已经在PyTorch这边工作了大概五年，这几年见证了很多变化，包括一些行业里的趋势和技术性内容。我主要会分享这些感受，比如PyTorch的一些发展情况以及行业里的变化。我希望大家能够从中了解到深度学习编译的一些挑战和技术细节。
问题二：职业经历与行业见闻
主持人：
您从博士毕业后加入NVIDIA，深度参与了PyTorch核心模块的开发，并在深度学习编译器领域做出了重要贡献。从您的职业经历来看，深度学习编译器这一领域在过去几年有哪些显著变化或趋势值得我们关注？
高翔：
我的见闻主要是围绕PyTorch官方生态，但整个行业也有很多趋势。我觉得过去几年一个显著的变化是，大家从探索逐渐形成了一些共识，比如在PyTorch的开发中，我们更倾向于尽可能在Python层完成任务，而不是过早地切换到C++层。这种趋势让我觉得更像是踩过坑之后逐渐明确了正确的路线，而不是一开始就有清晰的方向。
问题三：求学经历与成长感悟
主持人：
学长，作为中科大的校友，您一定对母校的学习经历有深刻的感触。您觉得中科大的学习环境和培养体系对您的成长有哪些特别的帮助？能不能分享一个您在科大求学印象中最深刻的一个点？
高翔：
我觉得科大的基础教育让我受益匪浅。我本科是物理专业，但现在从事深度学习编译器的工作。物理系的理论训练和数学背景让我在转向计算机方向时并没有太多困难。科大特别注重培养扎实的基础，这种教育让我在面对复杂问题时，总能从根本上去分析，抓住关键点。
至于深刻的印象，就是科大的环境特别注重研究和学习的纯粹性。你会感受到一种深入探究事物本质的氛围，这对我的职业发展帮助很大。
问题四：对学生的建议
主持人：
如今深度学习领域发展迅猛，很多学生可能会感到方向多、选择难。您有没有一些建议，帮助学弟学妹们更好地规划学术发展或职业道路？
高翔：
深度学习变化非常快，没有人能准确预料到它的未来。我的建议是不要完全死磕一个方向，而是要多元化、保持开放心态。比如，前几年大家都在做CNN，但后来Transformer火了，很多公司和研究机构都开始转向。如果你过于专注某一个技术，可能很快就会被淘汰。所以，拥抱变化，拓宽知识面，让自己随时做好应对行业变化的准备。鸡蛋不要放在一个篮子里，这很重要。
问题五：对未来的展望
主持人：
深度学习编译器的技术潜力巨大，而您作为nvFuser的核心开发者之一，对这一领域有深刻的理解。未来，您个人在技术或职业发展上还有哪些目标或规划？同时，您对深度学习编译器的发展有哪些期待？
高翔：
我个人希望能够在深度学习编译器领域做出一些贡献，希望未来行业能达成共识，找到更标准化的开发路径。目前，编译器领域的进展很慢，比如摩尔定律的更新很快，但编译器的性能提升周期却可能长达18年。我期待这个领域能更快地“稳定”下来，形成更清晰的方向，为行业发展提供更多支撑。
结束语
主持人：
非常感谢高学长的真诚分享，也再次感谢您的时间！预祝您的讲座取得圆满成功！
