
Aurelius
NOK 8.09

NOK 8.09
Aurelius er en decentraliseret platform, der fokuserer på at skabe data til forbedring af AI-sikkerhed. Platformen undersøger sprogmodeller for at identificere sikkerhedsbrister og uventet adfærd.
Platformen genererer data ved systematisk at teste sprogmodeller. Den evaluerer derefter modellernes svar ud fra flere etiske og sikkerhedsmæssige dimensioner. Dette gøres ved hjælp af open source-modereringsværktøjer, LLM-baserede bedømmere og specialudviklede metrikker for AI-sikkerhed.
Hovedformålet med Aurelius er at etablere et gennemsigtigt og verificerbart grundlag for forskning i AI-sikkerhed. Platformen sigter mod at opbygge et langsigtet økosystem, hvor forskellige perspektiver bidrager til at definere, måle og forbedre sikkerheden af stadig mere avancerede AI-systemer.