Opis stanowiska
Osoba zatrudniona na tym stanowisku będzie odpowiedzialna za prowadzenie badań nad zachowaniem dużych modeli językowych (LLM), ze szczególnym uwzględnieniem ich zdolności perswazyjnych, potencjału do generowania dezinformacji oraz reprodukowania toksycznych wzorców językowych. Badania będą miały charakter analityczno-eksperymentalny, a ich celem będzie rozwój narzędzi do wykrywania i ograniczania niepożądanych zachowań modeli AI w kontekstach społecznych i komunikacyjnych.
Nasze wymagania
- Stopień naukowy doktora (lub równoważne doświadczenie badawcze) w dziedzinie psychologii, matematyki, nauk przyrodniczych lub pokrewnej;
- Udokumentowane doświadczenie w pracy badawczej nad modelami AI;
- Umiejętność prowadzenia niezależnych badań oraz pracy zespołowej, w tym gotowość do współpracy interdyscyplinarnej i wspierania młodszych badaczy.
- Bardzo dobra znajomość j. angielskiego.
Zakres obowiązków
- projektowanie i realizacja eksperymentów testujących modele LLM pod kątem generowania treści perswazyjnych, manipulacyjnych lub szkodliwych;
- opracowywanie wskaźników i procedur oceny toksyczności, stronniczości, tendencyjności poznawczej oraz zgodności z faktami;
- rozwijanie metod diagnozowania i kontrolowania zachowań modeli (np. przez analizę promptów, fine-tuning, metody alignmentu lub filtrowanie danych);
- analiza danych tekstowych generowanych przez modele w różnych językach i kontekstach kulturowych;
- dokumentowanie wyników badań w formie publikacji naukowych, benchmarków i raportów ewaluacyjnych;
- współpraca z zespołami zajmującymi się aspektami etycznymi, społecznymi i regulacyjnymi rozwoju AI;
- udział w przygotowaniu i realizacji projektów badawczych finansowanych ze źródeł krajowych i międzynarodowych (np. NCN, Horizon Europe, NASK, UNESCO).
Dokumenty wymagane do rekrutacji
- podanie do prorektora ds. ogólnych;
- życiorys;
- kwestionariusz osobowy dla kandydata;
- kopie dyplomu ukończenia studiów wyższych i uzyskanie tytułu zawodowego magistra lub tytułu równorzędnego;
- odpis dyplomu doktorskiego
- wykaz dorobku naukowego, dydaktycznego i organizacyjnego
- inne dokumenty potwierdzające posiadanie dodatkowych kwalifikacji;
- oświadczenie o uznaniu PW jako podstawowego miejsca pracy, w rozumieniu ustawy - Prawo o szkolnictwie wyższym i nauce;
- oświadczenie o pełnej zdolności do czynności prawnej,
- oświadczenie o korzystaniu z pełni praw publicznych,
- oświadczenie o nieskazaniu prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe,
- oświadczenie o nieukaraniu karą dyscyplinarną, o której mowa w art. 276 ust. 1 pkt 7 i 8 ustawy;
Załączniki
Dodatkowe informacje dla kandydata
Więcej o projekcie można przeczytać na stronie projektu http://credibleai.eu/