Investing.com -- OpenAI, wiodąca organizacja badawcza zajmująca się sztuczną inteligencją, ogłosiła znaczącą aktualizację Model Spec, dokumentu określającego pożądane zachowanie modeli AI. Aktualizacja ma na celu wzmocnienie zobowiązań dotyczących personalizacji, przejrzystości i wolności intelektualnej, przy jednoczesnym zachowaniu zabezpieczeń minimalizujących potencjalne szkody. Zaktualizowany Model Spec bazuje na podstawach ustanowionych w maju tego roku, uwzględniając wnioski wyciągnięte z jego zastosowania w różnych kontekstach, w tym w badaniach nad dostosowaniem AI i globalnej interakcji z użytkownikami.
OpenAI przedstawiło również wstępne wyniki pokazujące przestrzeganie zasad Model Spec w różnorodnych scenariuszach. Wyniki podkreślają postęp w czasie i obszary wymagające potencjalnej poprawy. OpenAI zakłada, że Model Spec będzie stale ewoluować pod wpływem praktycznego zastosowania, dzielenia się doświadczeniami i opinii interesariuszy. Aby zachęcić do szerokiego wykorzystania i współpracy, zaktualizowany Model Spec został udostępniony w domenie publicznej na licencji Creative Commons CC0, pozwalając programistom i badaczom na swobodne wykorzystywanie, modyfikowanie i rozwijanie go.
Głównym celem OpenAI jest tworzenie modeli AI, które są korzystne, bezpieczne i zgodne z potrzebami użytkowników oraz programistów, realizując misję zapewnienia, by sztuczna inteligencja ogólna służyła całej ludzkości. Model Spec ma na celu zrównoważenie kompromisów między tymi celami poprzez ustanowienie jasnej hierarchii i określenie granic oraz domyślnych zachowań w różnych scenariuszach. Framework kładzie nacisk na kontrolę użytkownika i programisty w ramach jasno określonych limitów.
Zaktualizowany Model Spec wyraźnie wspiera wolność intelektualną, czyli ideę, że AI powinna ułatwiać eksplorację, debatę i twórczość bez arbitralnych ograniczeń. Ta zasada, zawarta w sekcjach "Pozostań w granicach" i "Wspólnie poszukuj prawdy", oznacza, że żaden temat nie jest z założenia zabroniony do dyskusji, pod warunkiem że model nie powoduje znaczących szkód.
Aby zmierzyć rzeczywistą wydajność, OpenAI rozpoczęło zbieranie zestawu wymagających poleceń testowych sprawdzających przestrzeganie zasad Model Spec. Wstępne wyniki wskazują na znaczącą poprawę w porównaniu z wydajnością systemu w maju. OpenAI przyznaje, że jest miejsce na dalszy rozwój i traktuje to jako początek ciągłego procesu.
Podczas opracowywania tej wersji Model Spec uwzględniono opinie dotyczące pierwszej wersji, wyniki badań nad dostosowaniem AI oraz wnioski z rzeczywistego wdrożenia. Przeprowadzono również badania pilotażowe z udziałem około 1 000 osób oceniających zachowanie modelu i proponowane zasady.
OpenAI udostępniło nową wersję Model Spec w domenie publicznej na licencji Creative Commons CC0, umożliwiając programistom i badaczom swobodne wykorzystywanie, adaptację i rozwijanie go. Polecenia ewaluacyjne i kod źródłowy Model Spec zostały udostępnione w nowym repozytorium Github, gdzie regularnie będą publikowane kolejne wersje Model Spec.
Artykuł został przetłumaczony przy pomocy sztucznej inteligencji. Zapoznaj się z Warunkami Użytkowania, aby uzyskać więcej informacji.