Brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji (AISI) pozyskał kluczowych partnerów do swojego flagowego projektu. OpenAI i Microsoft zadeklarowały wsparcie finansowe dla “Alignment Project”, międzynarodowej inicjatywy badawczej mającej na celu zapewnienie, że zaawansowane systemy AI działają bezpiecznie i zgodnie z intencjami twórców. Decyzja ogłoszona na szczycie AI Impact Summit w Indiach ma umocnić pozycję Zjednoczonego Królestwa jako lidera w dziedzinie bezpiecznego rozwoju sztucznej inteligencji.
- OpenAI przekaże 5,6 mln funtów, a Microsoft dodatkowe wsparcie na rzecz brytyjskiego “Alignment Project”. Łączna pula dostępnych środków na badania przekracza już 27 mln funtów.
- Projekt koncentruje się na tzw. “alignmencie AI” – kluczowej dziedzinie badań, która ma zapewnić, że systemy sztucznej inteligencji działają w przewidywalny i bezpieczny sposób, budując zaufanie publiczne.
- Pierwsza runda grantów trafiła już do 60 projektów badawczych z ośmiu krajów. Kolejna tura finansowania ma zostać otwarta latem tego roku.
Na czym polega “alignment” AI?
Alignment, czyli “wyrównanie” lub “dostosowanie”, to obszar badań nad sztuczną inteligencją, którego celem jest sprawienie, by zaawansowane systemy AI działały w sposób wierny intencjom i wartościom swoich ludzkich twórców. Chodzi o zapobieganie nieprzewidzianym lub szkodliwym zachowaniom, które mogą pojawić się w miarę, jak modele AI stają się coraz potężniejsze i bardziej autonomiczne. Eksperci podkreślają, że postęp w tej dziedzinie jest niezbędny dla globalnego bezpieczeństwa i długoterminowej, odpowiedzialnej adopcji AI w służbie zdrowia, administracji publicznej czy przemyśle.
Miliardy inwestycji i globalna koalicja
Dołączenie gigantów technologicznych, OpenAI i Microsoft, do projektu kierowanego przez brytyjski AISI jest znaczącym wzmocnieniem międzynarodowych wysiłków. Inicjatywa gromadzi już szeroką koalicję, w której znajdują się m.in. kanadyjski CIFAR, australijski instytut bezpieczeństwa AI, Schmidt Sciences, Amazon Web Services (AWS), Anthropic oraz szereg funduszy filantropijnych i venture capital. Nad merytyczną stroną projektu czuwa rada doradcza złożona z czołowych światowych naukowców, takich jak Yoshua Bengio czy Shafi Goldwasser.
Jak podkreśliła Mia Glaese, wiceprezes ds. badań w OpenAI, najtrudniejszych problemów nie rozwiąże żadna organizacja działająca w odosobnieniu. Wsparcie dla brytyjskiego projektu ma uzupełniać wewnętrzne prace firmy i wzmacniać szerszy ekosystem badawczy skupiony na utrzymaniu kontroli nad zaawansowanymi systemami.
Dlaczego to ważne dla Wielkiej Brytanii i świata?
Dla rządu brytyjskiego ogłoszenie to jest potwierdzeniem strategicznej roli kraju w kształtowaniu przyszłości AI. Jak stwierdził wicepremier David Lammy, AI oferuje ogromne możliwości, ale kluczowe jest, by bezpieczeństwo było w nią “wypieczone” od samego początku. Minister ds. AI, Kanishka Narayan, dodał, że zaufanie jest jednym z największych barier w adopcji tej technologii, a badania nad alignmentem bezpośrednio się z tym problemem mierzą.
Projekt łączy w sobie granty badawcze, dostęp do infrastruktury obliczeniowej oraz mentoring naukowy ze strony ekspertów AISI. Ma to przyspieszyć postęp w kluczowej, a wciąż rozwijającej się dziedzinie, od której zależy, czy potencjał AI zostanie wykorzystany dla powszechnego dobra, czy też przyniesie nieprzewidziane ryzyka.
Więcej informacji na temat projektu oraz szczegóły dotyczące aplikowania o granty można znaleźć na oficjalnej stronie Alignment Project.
Źródło: Department for Science, Innovation and Technology / gov.uk