OpenAI ogłosiło 21 września powołanie niezależnej Advisory Group on Mathematics and Artificial Intelligence — dziewięcioosobowego ciała przy Institute for Advanced Study w Princeton. Grupa ma oceniać wagę wyników matematycznych generowanych przez modele firmy i koordynować ich publikację, ale nie ma żadnego wpływu na to, jak szybko OpenAI pracuje.
Najważniejsze w skrócie
- Dziewięciu członków, gospodarz — Institute for Advanced Study w Princeton
- Grupa nie doradza w sprawie tempa wewnętrznych prac OpenAI nad matematyką
- OpenAI twierdzi, że jego wewnętrzny model rozwiązał ponad 100 otwartych problemów
- Wśród nich rozwiązanie Navier–Stokesa z listy Problemów Milenijnych
- Wcześniej 25 laureatów Medalu Fieldsa podpisało list krytyczny wobec wyścigu laboratoriów AI
Co grupa może, a czego nie
Rola nowego ciała jest wąska i precyzyjnie zakreślona — jak podaje TechCrunch, obejmuje także prawo do udzielania rad, o które nikt nie prosił.
| Grupa może | Grupa nie może |
|---|---|
| Oceniać wagę wyników matematycznych modeli | Doradzać w kwestii tempa wewnętrznych prac |
| Koordynować ogłaszanie wyników | Podejmować decyzji w jakiejkolwiek firmie AI |
| Wypowiadać się publicznie bez zaproszenia | — |
[Grupa] nie będzie odpowiedzialna za doradzanie nam w kwestii tempa naszych wewnętrznych postępów w matematyce.
OpenAI, komunikat o powołaniu grupy doradczej.
Sam Institute for Advanced Study dopowiada to dosadniej: „nie mamy władzy decyzyjnej w żadnej firmie AI".
Sto problemów bez recenzji
Deklaracja, wokół której zbudowano całą konstrukcję, jest mocna: wewnętrzny model OpenAI miał rozwiązać ponad 100 otwartych problemów z większości działów matematyki, w tym Navier–Stokesa — jeden z siedmiu Problemów Milenijnych?Problemy Milenijne: Siedem otwartych problemów matematycznych ogłoszonych w 2000 roku przez Clay Mathematics Institute, z nagrodą miliona dolarów za rozwiązanie każdego.. Żaden z tych wyników nie przeszedł jeszcze niezależnej recenzji i to właśnie ta luka tłumaczy powstanie grupy.
Tło: list 25 medalistów Fieldsa
Nowe ciało nie powstaje w próżni. Wcześniej 25 laureatów Medalu Fieldsa?Medal Fieldsa: Najwyższe wyróżnienie w matematyce, przyznawane co cztery lata matematykom poniżej 40. roku życia. podpisało otwarty list krytykujący sposób, w jaki laboratoria AI ścigają się o słynne problemy matematyczne. Z dziewięciu członków grupy tylko jeden — Camillo De Lellis z IAS — figuruje również pod tamtym listem. OpenAI nie zaprosiło więc do stołu najgłośniejszych krytyków, lecz środowisko szersze i mniej zaangażowane w spór.
Dlaczego to ważne?
Instytucja recenzencka powołana przez podmiot recenzowany zawsze stoi na wąskiej grani. Tu granicę wytyczono wprost: grupa mówi o wynikach, nie o tempie. To rozsądne z punktu widzenia OpenAI i niewygodne dla matematyków, którzy domagali się czegoś odwrotnego. Wartość układu zależy więc od jednej rzeczy — czy dziewięć osób zechce korzystać z prawa do niewygodnych opinii, gdy wyniki okażą się słabsze, niż zapowiadano.
Co dalej?
- Wyniki, w tym rozwiązanie Navier–Stokesa, czekają na niezależną weryfikację — to ona rozstrzygnie wartość deklaracji o ponad 100 problemach
- Grupa ma prawo wypowiadać się publicznie bez zaproszenia ze strony OpenAI, więc pierwszym testem będzie jej stanowisko przy najbliższej publikacji wyników
