第二届中国研究生操作系统开源创新大赛

亚军团队专访

01、团队介绍

首先，热烈祝贺你们获得亚军！这是一个非常了不起的成绩。你们的队名很有特色，背后有什么故事吗？团队成员是如何集结在一起的？

我们团队名叫RISC-V Extreme，当初选题的时候是因为我之前做过算子优化相关工作，然后团队成员王明伟在北京开源芯片研究院做RISC-V开源生态共建的工作，侯文轩也具有RISC-V开发经验，于是我们几个一起报名了大模型在RISC-V上的算子优化这个题，而Extreme则代表了我们团队的目标是做极致的性能优化。

02、惊喜与认可

获得亚军，你们的心情如何？是否达到了赛前的预期？在比赛中，你们觉得自己哪个环节的表现最为出色，赢得了评委的青睐？

获得亚军我们非常惊喜，其实能获一等奖进入路演评比也在我们意料之外，在决赛中，台下的评委其实指出了一些我们的作品存在的不足，也给了一些切实的意见，比如在优化算子的单元测试部分，专家提出需要更准确的标准化测试，不能自己想当然，我们也对此做了优化。表现最出色的环节我们觉得还是路演的时候，通过团队成员一起努力，得到了评委的肯定。

03、独特亮点

虽然与冠军失之交臂，但你们的项目必然有独到的创新之处。你认为你们项目中最“酷”、最值得称道的亮点是什么？

和团队名RISC-V Extreme一致，我们希望做到也确实在我们的能力范围内做到了极致的性能优化，体现在为了解决量化数据的不连续问题，我们手写了内联汇编来做精确的数据加载和计算的控制。

04、开发实战体验

在openKylin上进行项目开发时，你们遇到的最大的适配性或开发效率上的挑战是什么？又是如何利用社区资源来解决的？可以分享一个具体事例吗？

当时为了找出大模型推理场景下的关键算子，我们需要使用性能事件抓取工具perf做profile，但是openKylin当前系统自带的软件源对此的支持不太完善，因此我们通过翻看社区文档，求助社区开发者，从源码进行编译，包括整个llama.cpp项目的编译，同时也因为本地编译会遇到一些问题所以采用了交叉编译。

05、细节定成败

回顾决赛，如果现在有机会对项目进行一项优化或改进，你们会选择哪里？这是否就是你们认为与冠军团队最关键的差距所在？

除了作品实现方面，可能还有呈现作品的方式，在最后PPT的讲演上，我们确实不如冠军团队专业，以及ppt讲演时由于临时决定团队成员全部参与，导致最后上台的时候大家还不能完全熟悉自己那部分ppt内容。

06、团队凝聚力

在这次比赛中，你们团队内部最感动或最有趣的一件事是什么？这次经历让团队成员间的默契达到了怎样的新高度？

最后我们决定路演一起上场，分内容每个人都参与，原本是打算共用一个话筒，但是后来都换上随身麦，只交接翻页笔，其实交接过程也挺体现细节的，有时候可能会忘了交接前往边上走交给下一个同学，可能因此浪费一些时间，但是大家总体还是完成得不错。

07、收获与蜕变

除了奖项，这次大赛带给你们最宝贵的财富是什么？

我觉得还是最后的路演环节，对我们三个来说，都是第一次站在这样大的舞台上作汇报，对我们都是很难得也很宝贵的经历，我们积累了这样的经验，最重要的是都迈出了这一步。

08、开源初体验

通过这次比赛，你们对开源开发、对openKylin社区有了怎样新的认识？这会如何影响你们未来参与开源的方式？

在学校的时候虽然也会用git，但是相对还是少，通过开源开发我们可能更多的了解团队开发经验，怎么提pr，怎么样融新的feature，如何进行开源共建，其中的一些基本流程，都让我们受益良多。我们也从社区中汲取营养，来丰富我们自己以及反过来共建社区。

09、新星宣言

对于项目的未来，你们有什么具体的规划？会继续迭代吗？对于你们自己的未来，又有什么样的期待和梦想？

目前可能还是算力水平受限吧，RISC-V仍然很难实际落地于大模型推理，但是随着软硬件的发展，包括此次比赛中所看到的RISC-V的可扩展性都让我们相信未来RISC-V一定会越来越壮大，其开源生态也会吸引更多人加入，未来我们仍会在大模型推理加速领域继续做研究，随着RISC-V扩展和矩阵扩展的成熟，我相信其中的优化机会和提升空间会很大，我们也将会在这个方向上继续探索和努力！