Opis stanowiska
Osoba zatrudniona na tym stanowisku będzie prowadzić zespół badawczy w obszarze badań nad zachowaniem dużych modeli językowych (LLM), ze szczególnym uwzględnieniem ich zdolności perswazyjnych, potencjału do generowania dezinformacji oraz reprodukowania toksycznych wzorców językowych. Badania będą miały charakter analityczno-eksperymentalny, a ich celem będzie rozwój narzędzi do wykrywania i ograniczania niepożądanych zachowań modeli AI w kontekstach społecznych i komunikacyjnych.
Od kandydatki/kandydata oczekuje się samodzielności, inicjatywy w rozwiązywaniu problemów badawczych, zaangażowania w realizację zadań projektowych, aktywnego udziału w seminariach i konferencjach naukowych oraz gotowości do przygotowania publikacji i wniosków grantowych dla młodych badaczy.
Lider Zespołu Badawczego – należy przez to rozumieć naukowca pełniącego obowiązki lidera grupy badawczej w Jednostce realizującej MAB odpowiedzialnego za prace merytoryczne danego zespołu.
Nasze wymagania
- posiadanie stopnia naukowego doktora (lub równoważne doświadczenie badawcze) w dziedzinie psychologii, matematyki, nauk przyrodniczych lub pokrewnej;
- udokumentowane doświadczenie w pracy badawczej nad modelami AI;
- umiejętność prowadzenia niezależnych badań oraz pracy zespołowej, w tym gotowość do współpracy interdyscyplinarnej i wspierania młodszych badaczy;
- bardzo dobra znajomość języka angielskiego.
Zakres obowiązków
- prowadzenie grupy badawczej zgodnie z wnioskiem i agendą badawczą MAB
- projektowanie i realizacja eksperymentów testujących modele LLM pod kątem generowania treści perswazyjnych, manipulacyjnych lub szkodliwych;
- opracowywanie wskaźników i procedur oceny toksyczności, stronniczości, tendencyjności poznawczej oraz zgodności z faktami;
- rozwijanie metod diagnozowania i kontrolowania zachowań modeli (np. przez analizę promptów, fine-tuning, metody alignmentu lub filtrowanie danych);
- analiza danych tekstowych generowanych przez modele w różnych językach i kontekstach kulturowych;
- dokumentowanie wyników badań w formie publikacji naukowych, benchmarków i raportów ewaluacyjnych;
- współpraca z zespołami zajmującymi się aspektami etycznymi, społecznymi i regulacyjnymi rozwoju AI;
- udział w przygotowaniu i realizacji projektów badawczych finansowanych ze źródeł krajowych i międzynarodowych (np. NCN, Horizon Europe, NASK, UNESCO).
Oferujemy
- https://www.bip.pw.edu.pl/Praca-w-Politechnice/Pracuj-z-nami-w-PW/Informator-o-benefitach-dla-kandydatow-do-pracy
Dokumenty wymagane do rekrutacji
- Dokumenty według załącznika
Załączniki
Dodatkowe informacje dla kandydata
Kompetencje kandydatów na liderów grup badawczych będą oceniane na podstawie:
-jakości i oryginalności do 3 osiągnięć naukowych kandydata (uzyskanych w ostatnich 10 latach) w dziedzinie, w której mają być prowadzone badania w projekcie na tle osiągnięć w tej dziedzinie w najlepszych ośrodkach naukowych na świecie
-doświadczenia kandydata w kierowaniu zespołem badawczym lub jego potencjał do bycia liderem.
-byciu kierownikiem projektu lub jego wykonawcą
-doświadczenia kandydata w komercjalizacji wyników badań i współpracy z gospodarką
-udziału kandydata w realizacji prac dyplomowych jako promotor lub promotor pomocniczy prac doktorskich
-rezultaty badań naukowych, które kandydat uzyskał w ramach wskazanych we wniosku projektów finansowanych ze źródeł zewnętrznych i zakończonych w okresie ostatnich 3 lat oraz wpływ tych wyników na dziedzinę, której dotyczy agenda badawcza we wniosku
Oferowane wynagrodzenie roczne 255 tys.-320 tys. PLN brutto
Zatrudnienie będzie finansowane z projektu