Engenheiro de Pesquisa, Infraestrutura, Sistemas de Treinamento

<div class="content-intro"><p data-pm-slice="1 1 []"> A missão do Laboratório de Máquinas de Pensar é capacitar a humanidade através do avanço da inteligência geral colaborativa. Estamos construindo um futuro onde todos têm acesso ao conhecimento e ferramentas para fazer a IA funcionar para suas necessidades e objetivos únicos. <p>Somos cientistas, engenheiros e construtores que criaram alguns dos produtos de IA mais usados, incluindo ChatGPT e Character.ai, modelos de pesos abertos como Mistral, bem como projetos populares de código aberto como PyTorch, OpenAI Gym, Fairseq e Segment Anything.</p></div><h2>Sobre o Papel</h2> Estamos procurando um engenheiro de pesquisa de infraestrutura para projetar e construir os sistemas principais que permitam treinamento escalável e eficiente de grandes modelos para implantação e pesquisa. Seu objetivo é tornar a experimentação e o treinamento em Máquinas de Pensamento rápidos e confiáveis para garantir que nossas equipes de pesquisa possam se concentrar na ciência, não em gargalos do sistema.</p> <p> Este papel é ideal para alguém que mistura sistemas profundos e experiência de desempenho com uma curiosidade para aprendizado de máquina em escala. Você se apropriará da pilha de treinamento de ponta a ponta, garantindo que cada ciclo da GPU conduza o progresso científico.</p> <p><em> Nota: Este é um "papel sempre verde" que mantemos aberto numa base contínua para expressar interesse. Recebemos muitas aplicações, e pode nem sempre haver um papel imediato que se alinha perfeitamente com sua experiência e habilidades. Ainda assim, encorajamos você a se candidatar. Revisamos continuamente os pedidos e contatamos os candidatos como novas oportunidades abertas. Você é bem-vindo para reaplicar se você tiver mais experiência, mas por favor evite aplicar mais de uma vez a cada 6 meses. Você também pode descobrir que colocamos postagens para papéis singulares para necessidades específicas separadas, projeto ou equipe. Nesses casos, você é bem-vindo para aplicar diretamente, além de um papel evergreen.</em></p> <h2>O que você vai fazer</h2> <ul> <li>Desenhe, implemente e otimize sistemas de treinamento distribuídos que escalem milhares de GPUs e nós para cargas de trabalho de treinamento em larga escala.</li> Desenvolver otimizações de alto desempenho para maximizar o rendimento e a eficiência. <li>Desenvolva frameworks e bibliotecas reutilizáveis para melhorar a reprodutibilidade, confiabilidade e escalabilidade do treinamento para novas arquiteturas de modelos.</li> Estabeleça padrões de confiabilidade, manutenção e segurança, garantindo que os sistemas sejam robustos sob rápida iteração.</li> Colaborar com pesquisadores e engenheiros para construir infraestrutura escalável. <li>Publicar e compartilhar aprendizagens através de documentação interna, bibliotecas de código aberto ou relatórios técnicos que avançam no campo da infraestrutura de IA escalável.</li> </ul> <h2>Competências e Qualificações</h2> <p>Qualificações mínimas:</p> <ul> <li> Grau de bachelor ou experiência equivalente em ciência da computação, engenharia elétrica, estatística, aprendizagem de máquinas, física, robótica ou similar.</li> Competências de engenharia fortes, capacidade de contribuir com o desempenho, código mantendível e depuração em bases de código complexas</li> <li>Compreensão das estruturas de aprendizagem profunda (por exemplo, PyTorch, JAX) e suas arquiteturas de sistema subjacentes.</li> <li> Em um ambiente altamente colaborativo envolvendo muitos, diferentes parceiros interfuncionais e especialistas em assuntos.</li> <li> Um viés para a ação com uma mentalidade para tomar iniciativa para trabalhar em diferentes pilhas e diferentes equipes onde você vê a oportunidade de se certificar de algo navios.</li> </ul> <p>Qualificações preferenciais — encorajamo-lo a candidatar-se se encontrar algumas, mas não todas estas:</p> <ul> <li> Experiência passada trabalhando em treinamento distribuído para os maiores modelos do mundo para torná-los estáveis, confiáveis e performantes.</li> <li> Track registro de melhoria da produtividade da pesquisa através de projeto de infraestrutura ou melhorias de processo.</li> <li>Contribuições para a infraestrutura ML de código aberto, como PyTorch, XLA, Megatron-LM ou DeepSpeed.</li> </ul> <h2>Logística</h2> <ul> Localização: Este papel é baseado em São Francisco, Califórnia. <li>Compensação: Dependendo de antecedentes, habilidades e experiência, a faixa salarial anual esperada para esta posição é de $350,000 - $475.000 USD.</li> <li>Visa patrocínio: Nós patrocinamos vistos. Embora não possamos garantir sucesso para cada candidato ou papel, se você é o ajuste certo, estamos comprometidos em trabalhar através do processo de visto juntos.</li> Benefícios: A Thinking Machines oferece benefícios de saúde, odontologia e visão generosos, PTO ilimitado, licença parental paga e apoio de relocação conforme necessário. </ul><div class="content-conclusion"><p><em> Conforme estabelecido na política de igualdade de oportunidades de emprego das Máquinas de Pensar, não discriminamos com base em qualquer estatuto de grupo protegido ao abrigo de qualquer lei aplicável. </em></p> <p><em> O Laboratório de Máquinas de Pensar considerará para candidatos qualificados para o emprego com histórico criminal de uma forma consistente com os requisitos da lei de chance justa da Califórnia, a Portaria de chance justa de São Francisco, e qualquer outra lei ou lei de chance justa aplicável do estado ou local.</em></p></div>