Sichere Codegenerierung mit LLMs (m/w/d)

Deine Tätigkeit bei uns KI-Assistenten schreiben inzwischen problemlos größere Mengen an Code, doch sicher ist dieser Code nicht automatisch. In einem Forschungsprojekt, an dem wir als Industriepartner beteiligt sind, werden LLM-gestützte Verfahren entwickelt, die Schwachstellen im Code erkennen, nachvollziehbar erklären und beheben. Wir bringen dabei die Praxis ein, und genau dort setzt Dein Praxissemester an. Zuerst verschaffst Du Dir einen Überblick über typische Schwachstellen in KI-generiertem Code sowie über bestehende Prüfwerkzeuge. Danach baust Du eine Pipeline auf, die Code aus agentischen KI-Entwicklungswerkzeugen automatisch analysiert und mithilfe von LLMs Schwachstellen markiert, begründet und Korrekturen vorschlägt. Diese Pipeline integrierst Du in CI/CD-Prozesse und wendest sie auf realistische Szenarien an. Aus den Ergebnissen stellst Du außerdem praxisnahe Testfälle und Benchmarks zusammen, die direkt in die Forschung einfließen.