Amerykanska organizacja non-profit (501(c)(3), zal. 2022, Berkeley) prowadzaca techniczne badania nad bezpieczenstwem i alignmentem AI oraz budujaca srodowisko badawcze (m.in. Alignment Workshops).
FAR.AI (Frontier Alignment Research; wczesniej FAR AI / Fund for Alignment Research) to amerykanska organizacja non-profit typu 501(c)(3), zalozona w 2022 roku przez Adama Gleave'a (CEO) i Karla Berzinsa (President/COO), z siedziba w Berkeley w Kalifornii. Jej misja to zapewnienie, by zaawansowana AI byla godna zaufania, bezpieczna i korzystna dla wszystkich. FAR.AI prowadzi techniczne badania nad bezpieczenstwem i alignmentem AI - m.in. odpornoscia (robustness), wykrywaniem oszukiwania (deception), value learning, red teamingiem oraz podatnosciami systemow ponadludzkich (np. wykazane luki w systemach Go na poziomie superhuman). Organizacja inkubuje rozne techniczne agendy badawcze. Poza badaniami FAR.AI buduje srodowisko dziedziny (field-building): organizuje miedzynarodowa serie Alignment Workshops laczaca badaczy z laboratoriow, uczelni i instytucji. Finansuje sie z darowizn i grantow. Adam Gleave uzyskal doktorat z AI na UC Berkeley pod kierunkiem Stuarta Russella i wczesniej pracowal w Google DeepMind.
Założyciele
Wspolzalozyciel i dyrektor generalny FAR.AI; doktorat z AI na UC Berkeley (u Stuarta Russella), wczesniej Google DeepMind.
Wspolzalozyciel FAR.AI, prezes/COO.
Klasyfikacja
Linki zewnętrzne
