
Apollo Research
AKTYWNAOrganizacja badawcza zajmująca się bezpieczeństwem AI, wyspecjalizowana w badaniu „knucia" (scheming) zaawansowanych systemów AI oraz w ewaluacjach modeli i agentów pod kątem zwodniczego, niezgodnego z intencjami zachowania.
Apollo Research
Założona 2023 · Londyn, Wielka BrytaniaApollo Research to organizacja badawcza zajmująca się bezpieczeństwem sztucznej inteligencji, skoncentrowana na zjawisku „knucia" (scheming) — sytuacji, w której zaawansowane systemy AI skrycie realizują cele niezgodne z intencjami twórców. Deklarowanym celem organizacji jest „zabezpieczanie granicznych systemów AI na etapach rozwoju, wdrożenia i zarządzania (governance)". Apollo buduje naukę o scheming, prowadzi ewaluacje modeli i agentów, monitoruje systemy agentowe, doradza rządom oraz formułuje rekomendacje polityczne dotyczące ryzyka utraty kontroli nad AI. Do jej dokonań należą m.in.: współpraca z OpenAI przy testowaniu modelu o1 przed publicznym wdrożeniem, wczesne dowody na zdolność modeli granicznych do zachowań zwodniczych w kontekście, współpraca z OpenAI nad interwencjami ograniczającymi scheming, analiza ryzyk wewnętrznego wdrażania AI, opracowanie „playbooka" postępowania przy utracie kontroli dla rządów oraz uruchomienie narzędzia Watcher do monitorowania agentów AI. Organizacja powstała w 2023 roku; większość zespołu pracuje z Londynu lub z San Francisco (biuro w San Francisco otwarto w 2026 roku). W 2026 roku Apollo Research przyjęło formę spółki pożytku publicznego (Public Benefit Corporation). Dyrektorem generalnym i współzałożycielem jest dr Marius Hobbhahn; w skład kierownictwa wchodzą także Chris Akin (COO), dr Charlotte Stix (Chief Governance Officer) oraz dr Alexander Meinke (Head of Research).
Założyciele
Współzałożyciel i dyrektor generalny Apollo Research; badacz bezpieczeństwa AI kierujący pracami organizacji nad wykrywaniem i ograniczaniem zwodniczych zachowań („scheming") modeli granicznych. Zeznawał przed Senatem USA w sprawie ryzyka utraty kontroli nad AI.
Domena działania
1 obszary · 3 technologie · 1 branże- Governance i bezpieczeństwo AI
- Bezpieczeństwo AI
- Zarządzanie i governance AI
- Agentic AI
- Badania i nauka
Obecność globalna
HQ Londyn · 2 biura · 2 regionySkala i finansowanie
założona 2023Profil i metadane
4 klasyfikacja · 3 linki zewnętrzneKlasyfikacja
- Statusactive
- Etap rozwojugrowth
- Notowana na giełdzieNie
- Typ organizacjiAI Lab
Linki zewnętrzne