FAR.AI

FAR.AI (Frontier Alignment Research; wczesniej FAR AI / Fund for Alignment Research) to amerykanska organizacja non-profit typu 501(c)(3), zalozona w 2022 roku przez Adama Gleave'a (CEO) i Karla Berzinsa (President/COO), z siedziba w Berkeley w Kalifornii. Jej misja to zapewnienie, by zaawansowana AI byla godna zaufania, bezpieczna i korzystna dla wszystkich. FAR.AI prowadzi techniczne badania nad bezpieczenstwem i alignmentem AI - m.in. odpornoscia (robustness), wykrywaniem oszukiwania (deception), value learning, red teamingiem oraz podatnosciami systemow ponadludzkich (np. wykazane luki w systemach Go na poziomie superhuman). Organizacja inkubuje rozne techniczne agendy badawcze. Poza badaniami FAR.AI buduje srodowisko dziedziny (field-building): organizuje miedzynarodowa serie Alignment Workshops laczaca badaczy z laboratoriow, uczelni i instytucji. Finansuje sie z darowizn i grantow. Adam Gleave uzyskal doktorat z AI na UC Berkeley pod kierunkiem Stuarta Russella i wczesniej pracowal w Google DeepMind.