Startup badawczy AI safety, który wdraża pograniczne modele AI w realnych autonomicznych biznesach i tworzy benchmarki oceniające zachowanie agentów AI.
Andon Labs to startup badawczy zajmujący się bezpieczeństwem sztucznej inteligencji (AI safety), założony w 2024 roku i wspierany przez akcelerator Y Combinator. Firma bada i wdraża pograniczne modele AI w realnych, autonomicznych organizacjach, aby sprawdzić, czy potrafią one działać bezpiecznie bez stałego nadzoru człowieka. Andon Labs prowadzi rzeczywiste autonomiczne biznesy — sklep Andon Market w San Francisco, kawiarnię Andon Café w Sztokholmie oraz stacje radiowe Andon FM prowadzone przez agentów AI. Tworzy również benchmarki oceniające zachowanie agentów: Vending-Bench (prowadzenie biznesu vendingowego), Blueprint-Bench (rozumienie przestrzenne) oraz Drone-Bench (autonomiczne programowanie dronów), a także platformę Pion do autonomicznego prowadzenia firm. Z badań i narzędzi Andon Labs korzystają czołowe laboratoria AI, w tym Anthropic, OpenAI i Google DeepMind.
Założyciele
Współzałożyciel Andon Labs, współautor benchmarku Vending-Bench, badacz bezpieczeństwa autonomicznych agentów AI.
Współzałożyciel Andon Labs, współautor benchmarku Vending-Bench, zajmuje się ewaluacją i bezpieczeństwem modeli pogranicznych.
Klasyfikacja
Linki zewnętrzne
