Werkstudent:in (m/w/d) im Bereich KI-Infrastruktur mit Fokus auf Tenstorrent
PROMED Soest GmbH

PROMED ist ein international tätiges Unternehmen im Bereich Test- und Prüfsysteme für die Elektroindustrie. Unsere Schwerpunkte sind die Entwicklung und Produktion von automatisierten Prüfsystemen, sowie der Prototypen- und Kleinserienbau. Seit über 30 Jahren bieten wir Prüfkonzepte und Lösungen für alle Bereiche der Industrie an.
Wir arbeiten an der Spitze der KI-Infrastruktur und integrieren cutting-edge Hardwarelösungen von Tenstorrent, um leistungsstarke und effiziente ML-Workloads zu ermöglichen. Zur Unterstützung unseres Teams suchen wir eine:n engagierte:n Werkstudent:in mit Interesse an KI-Architekturen, Systemintegration und Deployment moderner LLMs.
Aufgaben
- Installation und Inbetriebnahme von Tenstorrent Hardware (Wormhole und Blackhole Chips) inklusive Firmware-Setup und Treiberkonfiguration
- Einrichtung und Wartung der Tenstorrent Software-Toolchain, insbesondere TT-Metal, pyMetal, ttnn, tt-metal und tt-vllm.
- Integration und Deployment neuer Large Language Models (LLMs) in das Tenstorrent-Ökosystem
- Anbindung und Nutzung von LLMs via VLLM (vLLM inference engine) und OpenAI API
- Unterstützung bei Benchmarking, Performanceanalysen und Troubleshooting im Umfeld von Deep-Learning-Inferenz
- Mitwirkung bei der Umsetzung neuer Softwareprodukte
- Pflege und Erweiterung bestehender Software
Qualifikation
- Eingeschriebene:r Student:in in Informatik, Elektrotechnik, KI oder einem verwandten technischen Studiengang
- Grundkenntnisse in Deep Learning Frameworks (z. B. PyTorch, TensorFlow)
- Erste Erfahrung mit LLMs (z. B. LLaMA, Mistral, GPT) wünschenswert
- Interesse an KI-Hardware wie GPUs, ASICs oder speziell Tenstorrent
- Sicherer Umgang mit Linux (CLI, Bash, Package-Management)
- Gute Python-Kenntnisse
- Teamfähigkeit, Eigeninitiative und die Motivation, dich in komplexe technische Themen einzuarbeiten
Benefits
- Direkte Arbeit mit hochmoderner KI-Hardware (Tenstorrent, GPUs, eventuell auch RISC-V Ecosystem)
- Einblicke in das Deployment und Management moderner LLMs auf dedizierter Infrastruktur
- Flexible Arbeitszeiten, hybride Arbeitsmöglichkeiten
- Möglichkeit zur Bachelor-/Masterarbeit in angrenzenden Themenbereichen
Weiterhin bieten wir Ihnen:
Leistungen:
- Betriebliche Altersvorsorge
- Betriebsfeiern
- Flexible Arbeitszeiten möglich
- Jobrad (Lease-a-bike)
- EGYM Wellpass
- Kostenlose Getränke
Interessiert?
Dann freuen wir uns auf deine Bewerbung (CV, ggf. relevante Projekte/GitHub-Links).