Robocikowo>ROBOCIKOWO

Apollo Research

AKTYWNA
AI LabInstytut badawczy
ApolloApollo Research AI

Organizacja badawcza zajmująca się bezpieczeństwem AI, wyspecjalizowana w badaniu „knucia" (scheming) zaawansowanych systemów AI oraz w ewaluacjach modeli i agentów pod kątem zwodniczego, niezgodnego z intencjami zachowania.

Założona2023Wielka Brytania
HQLondynWielka Brytania
01 · O firmie

Apollo Research

Założona 2023 · Londyn, Wielka Brytania

Apollo Research to organizacja badawcza zajmująca się bezpieczeństwem sztucznej inteligencji, skoncentrowana na zjawisku „knucia" (scheming) — sytuacji, w której zaawansowane systemy AI skrycie realizują cele niezgodne z intencjami twórców. Deklarowanym celem organizacji jest „zabezpieczanie granicznych systemów AI na etapach rozwoju, wdrożenia i zarządzania (governance)". Apollo buduje naukę o scheming, prowadzi ewaluacje modeli i agentów, monitoruje systemy agentowe, doradza rządom oraz formułuje rekomendacje polityczne dotyczące ryzyka utraty kontroli nad AI. Do jej dokonań należą m.in.: współpraca z OpenAI przy testowaniu modelu o1 przed publicznym wdrożeniem, wczesne dowody na zdolność modeli granicznych do zachowań zwodniczych w kontekście, współpraca z OpenAI nad interwencjami ograniczającymi scheming, analiza ryzyk wewnętrznego wdrażania AI, opracowanie „playbooka" postępowania przy utracie kontroli dla rządów oraz uruchomienie narzędzia Watcher do monitorowania agentów AI. Organizacja powstała w 2023 roku; większość zespołu pracuje z Londynu lub z San Francisco (biuro w San Francisco otwarto w 2026 roku). W 2026 roku Apollo Research przyjęło formę spółki pożytku publicznego (Public Benefit Corporation). Dyrektorem generalnym i współzałożycielem jest dr Marius Hobbhahn; w skład kierownictwa wchodzą także Chris Akin (COO), dr Charlotte Stix (Chief Governance Officer) oraz dr Alexander Meinke (Head of Research).

  • Marius Hobbhahn

    CEO i współzałożyciel

    Współzałożyciel i dyrektor generalny Apollo Research; badacz bezpieczeństwa AI kierujący pracami organizacji nad wykrywaniem i ograniczaniem zwodniczych zachowań („scheming") modeli granicznych. Zeznawał przed Senatem USA w sprawie ryzyka utraty kontroli nad AI.

02 · Co robią

Domena działania

1 obszary · 3 technologie · 1 branże
Co robią1Obszary
  • Governance i bezpieczeństwo AI
Czym to robią3Technologie
  • Bezpieczeństwo AI
  • Zarządzanie i governance AI
  • Agentic AI
Dla kogo1Branże
  • Badania i nauka
03 · Geografia

Obecność globalna

HQ Londyn · 2 biura · 2 regiony
EuropaUSA
04 · Metryki

Skala i finansowanie

założona 2023
2023założona
growthetap rozwoju
Prywatnanienotowana
activestatus
07 · Klasyfikacja

Profil i metadane

4 klasyfikacja · 3 linki zewnętrzne

Klasyfikacja

  • Statusactive
  • Etap rozwojugrowth
  • Notowana na giełdzieNieprywatna
  • Typ organizacjiAI Lab+ Instytut badawczy