Gridworld: Inżynieria pomaga odkrywać zagrożenia związane ze sztuczną inteligencją

Czasoprzestrzeń to model pojęciowy, który integruje trzy wymiary przestrzeni (długość, szerokość i szerokość) z czwartym wymiarem czasu. W ten sposób tworzony jest obiekt geometryczny 4D. Naukowcy zastosowali ostatnio podobny sposób myślenia do badania środowisk sztucznej inteligencji, co zaowocowało unikalnym ponownym spojrzeniem na problemy sztucznej inteligencji z punktu widzenia inżynierii.

Doktor Thomas Burns, absolwent studiów doktoranckich i pracownik naukowy w Okinawa Institute of Science and Technology (OIST) oraz dr Robert Tang, matematyk na Uniwersytecie Xi'an Jiaotong w Liverpoolu i były pracownik naukowy ze stopniem doktora w OIST, chcieli studiować systemy sztucznej inteligencji z inżynierskiego punktu widzenia, aby dokładniej odzwierciedlać ich właściwości. Odkryli, że wystąpienie „defektu geometrycznego”, czyli awarii tak zwanego stanu korelacji Gromowa, koreluje dokładnie z prawdopodobieństwem kolizji pomiędzy poruszającymi się agentami AI. Wyniki ich badań opublikowano w czasopiśmie Transakcje dotyczące badań nad uczeniem maszynowym.

Modelowanie scenariuszy ze świata rzeczywistego przy użyciu światów sieciowych

Świat siatki składa się z kwadratowych komórek ułożonych w siatkę, przy czym komórki mogą być zajęte przez pojedynczego agenta, takiego jak koala, lub obiekt, taki jak piłka plażowa (jak pokazano na poniższym filmie). Agentów w świecie sieci można zaprogramować do rozwiązywania zagadek i zdobywania nagród. Mogą przemieszczać się pomiędzy sąsiednimi kwadratami siatki, a badacze często badają ich ruchy, planowanie i strategie, gdy wyznacza się im określone cele, takie jak dotarcie do określonego miejsca w świecie siatki.

Gridworlds od dawna jest wykorzystywane w badaniach nad sztuczną inteligencją, zwłaszcza w uczeniu się przez wzmacnianie, które było wykorzystywane do pokonywania mistrzów świata w grach wideo i planszowych, takich jak szachy i Go. Zapewniają proste, ale skalowalne modele do potencjalnych zastosowań w świecie rzeczywistym, na przykład bezpiecznej koordynacji ruchów pojazdów autonomicznych lub robotów magazynowych.

Rozpoczynanie od wybranego stanu w świecie siatki – Specyficzne rozmieszczenie agentów i obiektów – Dozwolone są dwie akcje: Ruch – umożliwiająca agentowi przejście do sąsiedniej pustej komórki oraz Push/Pull – pozwalająca środek do pchania lub ciągnięcia przedmiotu po linii prostej.

Jeśli proces ten powtórzy się wystarczającą liczbę razy, może powstać „kompleks państwowy”. Kompleksy stanów reprezentują wszystkie możliwe konfiguracje układu jako pojedynczą bryłę geometryczną, co oznacza, że ​​możemy je badać za pomocą narzędzi matematycznych z geometrii (dotyczącej dokładnego kształtu rzeczy), topologii (właściwości przestrzeni zachowanych pod wpływem odkształceń, takich jak zginanie, rozciąganie, i zamawianie) oraz kombinatoryka (liczenie i układanie rzeczy). Do tworzenia i analizowania kompleksów przypadków stworzonych w tym badaniu badacze wykorzystali kombinację matematyki pisanej piórem i na papierze oraz niestandardowy program komputerowy.

„To przypomina starą grę zręcznościową, ale możesz dodać najróżniejsze rzeczy, takie jak drzwi, przyciski i wrogów, a następnie pomyśleć o geometrii i topologii dowolnego z tych bardziej złożonych scenariuszy” – wyjaśnił dr Burns. „Możesz intuicyjnie myśleć o kompleksie państwowym jako o fizycznym zestawie Lego składającym się z kostek, kwadratów i patyków sklejonych ze sobą, z których każdy reprezentuje specyficzną rekonfigurację świata sieciowego”.

Chwila przed kolizją

Kiedy dwóch agentów zbliży się do siebie zbyt blisko, istnieje duże prawdopodobieństwo, że wpadną na siebie. Okazuje się, że ta potencjalna awaria wskazuje na usterkę techniczną i za każdym razem, gdy ma to miejsce w świecie połączonym siecią, istnieje prawdopodobieństwo kolizji.

Co ciekawe, matematycy dążą przede wszystkim do udowodnienia, że ​​taki obiekt nie zawiera żadnych defektów geometrycznych. Dzieje się tak, ponieważ brak tych defektów nadaje obiektowi pożądane właściwości matematyczne. W przypadku pojedynczej wady inżynieryjnej cały kompleks państwowy traci te korzyści.

„Na początku chcieliśmy pokazać, że nie ma żadnych usterek technicznych, ale potem znaleźliśmy mnóstwo tych drobnych irytacji i pomyśleliśmy, że może nie są one aż tak denerwujące, a może są powiązane z czymś ważnym. I okazuje się, że tak. są – są powiązane z czymś ważnym” – podkreślił dr Burns. Podstawowe względy bezpieczeństwa.

Naukowcy udowodnili również, że te defekty geometryczne występują w złożonym przypadku, gdy dwóch agentów oddziela ruch rycerza lub ruch biskupa o dwa kroki w grze w szachy. „Są to jedyne przypadki, w których występują takie defekty. Na przykład w prawdziwym świecie roboty mogą potencjalnie zderzyć się ze sobą w magazynie lub samochody autonomiczne mogą zderzyć się na skrzyżowaniu. Nie chodzi o punkt kolizji, lecz o chwilę przed zderzeniem.” ”. „Ważne jest zderzenie”.

Praktyczne zastosowania sztucznej inteligencji

Wady inżynieryjne i ogólnie metody inżynieryjne mogą pomóc w lepszym zrozumieniu obecnych systemów sztucznej inteligencji. Na przykład badacze mogliby zastosować system sztucznej inteligencji przeszkolony w zakresie unikania kolizji między obiektami i spróbować wykryć, gdzie występują te defekty geometryczne. Może to pomóc naukowcom skuteczniej wykrywać potencjalne kolizje w systemach sztucznej inteligencji, takie jak scenariusze życia wspomaganego, w których ludzie i roboty często wchodzą w interakcje.

„Wyniki te zapewniają nowy sposób wyszukiwania gwarantowanych ograniczeń bezpieczeństwa w środowiskach sztucznej inteligencji z wieloma agentami – i nie muszą to być koale, mogą to być roboty pomagające w pracach domowych, eksplorujące strefy katastrof lub autonomiczne pojazdy do usług dostawczych .” Zauważył doktor Burns.