Engenheiro de Software, Segurança

<div class="content-intro"><p data-pm-slice="1 1 []"> A missão do Laboratório de Máquinas de Pensar é capacitar a humanidade através do avanço da inteligência geral colaborativa. Estamos construindo um futuro onde todos têm acesso ao conhecimento e ferramentas para fazer a IA funcionar para suas necessidades e objetivos únicos. <p>Somos cientistas, engenheiros e construtores que criaram alguns dos produtos de IA mais usados, incluindo ChatGPT e Character.ai, modelos de pesos abertos como Mistral, bem como projetos populares de código aberto como PyTorch, OpenAI Gym, Fairseq e Segment Anything.</p></div><h2>Sobre o Papel</h2> Estamos à procura de um engenheiro de software focado em tornar os nossos produtos seguros por padrão, apoiando a iteração rápida e ambiciosa do produto. Você vai incorporar equipes de produtos e pesquisas para criar segurança no design e desenvolvimento e construir ferramentas e automação que mantenham os sistemas seguros em escala.</p> <p><em> Nota: Este é um "papel sempre verde" que mantemos aberto numa base contínua para expressar interesse. Recebemos muitas aplicações, e pode nem sempre haver um papel imediato que se alinha perfeitamente com sua experiência e habilidades. Ainda assim, encorajamos você a se candidatar. Revisamos continuamente os pedidos e contatamos os candidatos como novas oportunidades abertas. Você é bem-vindo para reaplicar se você tiver mais experiência, mas por favor evite aplicar mais de uma vez a cada 6 meses. Você também pode descobrir que colocamos postagens para papéis singulares para necessidades específicas separadas, projeto ou equipe. Nesses casos, você é bem-vindo para aplicar diretamente, além de um papel evergreen.</em></p> <h2>O que você vai fazer</h2> <ul> <li> Parceiro com equipes de produtos e pesquisas para incorporar segurança no ciclo de vida do desenvolvimento: modelagem de ameaças, revisões de design e padrões seguros para novos recursos.</li> <li>Projete e implemente controles de segurança em nossa pilha de produtos (autenticação, autorização, gerenciamento de sessão, validação de entrada, etc.).</li> <li> Crie e mantenha ferramentas de segurança e automação para engenheiros: frameworks e modelos seguros, verificações CI/CD, gerenciamento de dependência e detecção de vulnerabilidade.</li> Colaborar com pesquisadores para identificar e mitigar riscos de produtos específicos de IA, como abuso de modelo, injeção rápida, vazamento de dados ou uso indevido de capacidades.</li> <li> Melhorar a observação e detecção de eventos relevantes para a segurança: anomalias de acesso, padrões de abuso e comportamento suspeito na produção.</li> </ul> <h2>Competências e Qualificações</h2> <p>Qualificações mínimas:</p> <ul> <li> Grau de bachelor ou experiência equivalente em ciência da computação, engenharia ou similar.</li> <li>Proficiência em pelo menos uma linguagem de infraestrutura (nós usamos Python ou Rust).</li> <li>Engenharia de software generalista forte e capacidade de rever o código de produção para riscos de segurança.</li> <li> Experiência prática garantindo aplicativos e APIs web especialmente fluxos de autenticação, controle de acesso, gerenciamento de segredos, validação de entrada e proteção de dados.</li> <li>Familiaridade com classes de vulnerabilidade comuns e quadros de prevenção; experimentar protótipos de endurecimento na produção.</li> Confortar com a infraestrutura moderna da nuvem e entender como a aplicação se relaciona com a infraestrutura.</li> <li>Comfort operando através da pilha e possuindo projetos de ponta a ponta.</li> <li> Em um ambiente altamente colaborativo envolvendo muitos, diferentes parceiros interfuncionais e especialistas em assuntos.</li> <li> Um viés para a ação com uma mentalidade para tomar iniciativa para trabalhar em diferentes pilhas e diferentes equipes onde você vê a oportunidade de se certificar de algo navios.</li> </ul> <p>Qualificações preferenciais — encorajamo-lo a candidatar-se se encontrar algumas, mas não todas estas:</p> <ul> <li>Experienciar a segurança de produtos movidos por IA ou trabalhar com APIs ML/LLM e seus modelos de ameaça únicos.</li> <li> Antecedentes na interação humano-computador, especialmente quando segurança ou confiança desempenha um papel central na experiência do usuário.</li> <li> Fortes habilidades em prototipagem rápida e iteração, com o hábito de transformar correções ad-hoc em padrões e ferramentas reutilizáveis.</li> <li>Open-source trabalho de segurança, bug write-ups recompensa, ou ferramentas publicadas.</li> </ul> <h2>Logística</h2> <ul> Localização: Este papel é baseado em São Francisco, Califórnia. <li>Compensação: Dependendo de antecedentes, habilidades e experiência, a faixa salarial anual esperada para esta posição é de $350,000 - $475.000 USD.</li> <li>Visa patrocínio: Nós patrocinamos vistos. Embora não possamos garantir sucesso para cada candidato ou papel, se você é o ajuste certo, estamos comprometidos em trabalhar através do processo de visto juntos.</li> Benefícios: A Thinking Machines oferece benefícios de saúde, odontologia e visão generosos, PTO ilimitado, licença parental paga e apoio de relocação conforme necessário. </ul><div class="content-conclusion"><p><em> Conforme estabelecido na política de igualdade de oportunidades de emprego das Máquinas de Pensar, não discriminamos com base em qualquer estatuto de grupo protegido ao abrigo de qualquer lei aplicável. </em></p> <p><em> O Laboratório de Máquinas de Pensar considerará para candidatos qualificados para o emprego com histórico criminal de uma forma consistente com os requisitos da lei de chance justa da Califórnia, a Portaria de chance justa de São Francisco, e qualquer outra lei ou lei de chance justa aplicável do estado ou local.</em></p></div>