Chercheur.se en sécurité de l'IA (spécialisation apprentissage automatique)

Nous recherchons un.e chercheur.se en sécurité de l'IA avec une spécialisation en apprentissage automatique (ML) pour rejoindre notre équipe travaillant sur le programme "Scientist AI". Dans ce rôle, vous contribuerez à notre plan en utilisant votre expertise en sécurité de l'IA ainsi que vos connaissances et votre expérience en apprentissage automatique. Responsabilités principales  Aider à clarifier les questions de recherche en sécurité de l'IA qui sont centrales pour le programme "Scientist AI". Analyser les solutions proposées à ces questions de recherche et développer de nouvelles idées de solutions. Proposer, concevoir et implémenter de nouveaux algorithmes et expériences ML visant à résoudre ou à tester des problèmes complexes de sécurité de l'IA. Évaluer le programme  "Scientist AI" et son intégration dans une vision stratégique plus large pour l'atténuation des risques liés à l'IA, afin de guider et de prioriser efficacement les expériences visant à répondre aux questions de sécurité critiques. Communiquer des résultats complexes à d'autres chercheurs et développeurs. Compétences et qualifications requises Un doctorat dans un domaine pertinent est préféré mais non requis si le candidat démontre des capacités exceptionnelles ou une expérience équivalente. Expérience de recherche en sécurité technique de l'IA, idéalement avec un accent sur la sécurité de l'AGI (Intelligence Artificielle Générale). Expérience dans la proposition, la conception et l'exécution d'expériences ML. Maîtrise des frameworks ML tels que PyTorch ou TensorFlow. Enthousiasme à contribuer et à façonner le programme "Scientist AI". Capacité à travailler dans un environnement collaboratif et à contribuer aux objectifs de recherche collectifs. Capacité à échanger sur des résultats complexes avec des collaborateurs de différentes spécialisations. Compétences et qualifications souhaitées  Expérience dans certains des domaines de recherche suivants en sécurité de l'IA : fondations d'agents, contrôle de l'IA, sécurité de l'IA de pointe, extraction de connaissances latentes, raisonnement externalisé, schémas d'alignement ambitieux. Publications de recherche en apprentissage automatique dans des revues de premier plan (par exemple, NeurIPS, ICML, ICLR, etc.). Expérience dans le raffinement et le post-entraînement de modèles de langage. Ce que nous offrons L’occasion de contribuer à une mission unique avec un impact important. Des avantages santé complets. Un minimum de 20 jours de vacances dès l’embauche. Un contribution d'épargne retraite de l’employeur d'un minimum de 4%. Des avantages généreux et flexibles conçus pour contribuer à votre bien-être. Une équipe d’experts de leur domaine, des gens passionnés et passionnants. Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun. À propos de LoiZéro LoiZéro est une organisation à but non lucratif dédiée à ...