芯感未来科技公司是一家专注于前沿人工智能技术的企业,致力于高性能、易用性和成本效益的创新。随着人工智能和计算机架构的发展,需要系统级解决方案来应对新的挑战。我们的技术团队从零开始开发高性能AI芯片,并热衷于构建超高效率的人工智能平台。我们正在扩大团队,寻找各种技能背景的贡献者。
我们欢迎不同经验的候选人申请此职位。在面试过程中,候选人将被评估以确定适当级别,并对薪酬进行匹配,可能与本招聘启事有所不同。
工作职责
1. 针对custom ISA实现AI算子
2. 对ML多种并行方案与定制芯片进行推理性能优化
3.对定制芯片架构进行算子下发优化
4.与架构师紧密合作,对ML算子在定制芯片中的ISA,计算利用率,带宽需求等定制方案。
岗位要求
1.硕士及以上学历,专业背景为集成电路、电子工程、计算机科学或相关领域
2.熟练使用Python、C++语言
3.熟练使用Pytorch框架,具备基于Pytorch搭建大模型的能力
4.对典型大模型训练、推理流程有着清晰的认知,对其中典型算子,包括但不限于MHA、GQA、MLA、FA、MoE、FFN、LayerNorm、RoPE等,明白其基本原理并能够手推其具体的计算流程
5. 熟悉大模型的训练、推理流程中各种并行化策略,包括但不限于PP、TP、DP、SP等,能够结合不同应用场景下的需求、不同硬件架构的约束,推导出最合适的并行策略组合;同时需要了解常见的集合通信算法,不同并行策略下如何进行矩阵切分方式,不同切分下的优劣势等
6.对于硬件架构有基本的了解,包括片上互联网络、多级内存等
优选经验
具备大模型训练、推理建模和仿真能力和项目经验的人才优先
「芯感未来招聘」-BOSS直聘 (zhipin.com)链接:https://www.zhipin.com/web/geek/jobs?query=%E8%8A%AF%E6%84%9F%E6%9C%AA%E6%9D%A5&city=101210100