Nowy sposób na rozwiązanie „najtrudniejszych” problemów z komputerem

Columbus, Ohio – Stosunkowo nowy rodzaj obliczeń, który naśladuje sposób działania ludzkiego mózgu, już zmienił sposób, w jaki naukowcy radzą sobie z niektórymi z najtrudniejszych problemów związanych z przetwarzaniem informacji.

Teraz naukowcy znaleźli sposób na zrobienie tzw obliczanie zbiornika Pracuj od 33 do 1 miliona razy szybciej, przy znacznie mniejszych zasobach obliczeniowych i mniejszych wymaganiach dotyczących wprowadzania danych.

W rzeczywistości w jednym teście tej nowej generacji obliczeń rezerwuarowych naukowcy byli w stanie rozwiązać złożony problem obliczeniowy w mniej niż sekundę na komputerze stacjonarnym.

Wykorzystując najnowszą technologię, ten sam problem wymaga superkomputera do rozwiązania i nadal trwa dłużej, Daniel Gautier, główny autor opracowania i profesor Fizyka na Uniwersytecie Stanowym Ohio.

„Możemy wykonać bardzo złożone zadania związane z przetwarzaniem informacji w ułamku czasu, wykorzystując znacznie mniej zasobów komputerowych w porównaniu z tym, co obecnie potrafią obliczenia w złożach” – powiedział Gauthier.

„A przetwarzanie rezerwuarowe było naprawdę ogromnym ulepszeniem w stosunku do tego, co było wcześniej możliwe”.

Badanie zostało opublikowane dzisiaj (21 września 2021 r.) w czasopiśmie Połączenia z naturą.

Gauthier powiedział, że obliczenia zbiornikowe to algorytm uczenia maszynowego opracowany na początku XXI wieku, który służy do rozwiązywania „trudniejszych” problemów obliczeniowych, takich jak przewidywanie ewolucji dynamicznych systemów, które zmieniają się w czasie.

Powiedział, że trudno jest przewidzieć układy dynamiczne, takie jak pogoda, ponieważ tylko jedna drobna zmiana w jednym stanie może mieć ogromne skutki w przyszłości.

Jednym znanym przykładem jestEfekt motylaGdzie – na jednej metaforycznej ilustracji – zmiany dokonane przez motyla machającego skrzydłami mogą w końcu wpłynąć na pogodę kilka tygodni później.

Wcześniejsze badania wykazały, że obliczenia w złożach dobrze nadają się do uczenia się systemów dynamicznych i mogą dostarczać dokładnych przewidywań dotyczących ich zachowania w przyszłości, powiedział Gauthier.

Robi to za pomocą pliku sztuczna sieć nerwowaTrochę jak ludzki mózg. Naukowcy przesyłają dane z dynamicznej sieci do „zbiornika” losowo połączonych sztucznych neuronów w sieci. Sieć generuje przydatne wyniki, które naukowcy mogą zinterpretować i wrócić do sieci, tworząc dokładniejsze prognozy dotyczące ewolucji systemu w przyszłości.

Im większy i bardziej złożony system, tym dokładniejsze prognozy chcą naukowcy, tym większa musi być sieć sztucznych neuronów i tym więcej zasobów obliczeniowych i czasu potrzeba do wykonania zadania.

Jednym z problemów było to, że rezerwuar sztucznych neuronów był „czarną skrzynką”, powiedział Gauthier, a naukowcy nie wiedzieli dokładnie, co dzieje się w środku – wiedzieli tylko, że to działa.

Gauthier wykazał, że sztuczne sieci neuronowe będące podstawą obliczeń w zbiornikach są oparte na matematyce.

„Poprosiliśmy matematyków, którzy spojrzeli na te sieci i zapytali: Ile naprawdę potrzebujemy, aby wszystkie te bity były w maszynie?” – powiedział. „

W tym badaniu Gauthier i współpracownicy zbadali to pytanie i odkryli, że cały system obliczeniowy zbiornika można znacznie uprościć, co znacznie zmniejsza zapotrzebowanie na zasoby obliczeniowe i pozwala zaoszczędzić znaczną ilość czasu.

Przetestowali swoją koncepcję w zadaniu przewidywania obejmującym system pogodowy opracowany przez Edwarda Lorenza, którego praca doprowadziła do zrozumienia efektu motyla.

Obliczenia zbiornikowe nowej generacji okazały się wyraźnym zwycięzcą nad najnowszą technologią w tej misji predykcyjnej Lorenza. W stosunkowo prostej symulacji przeprowadzonej na komputerze stacjonarnym nowy system był 33-163 razy szybszy niż obecny model.

Ale kiedy celem było uzyskanie dużej dokładności przewidywania, obliczenia w złożach nowej generacji były około milion razy szybsze. Gauthier powiedział, że obliczenia nowej generacji osiągnęły taką samą dokładność przy ekwiwalencie zaledwie 28 neuronów, w porównaniu do 4000 potrzebnych w modelu obecnej generacji.

Ważnym powodem przyspieszenia jest to, że „mózg” stojący za nową generacją obliczeń magazynowych potrzebuje znacznie mniej rozgrzewki i szkolenia niż obecna generacja, aby osiągnąć te same wyniki.

Rozgrzewka to dane treningowe, które należy dodać jako dane wejściowe do komputera czołgu, aby przygotować go do rzeczywistej misji.

„W przypadku nowej generacji obliczeń w złożach prawie nie ma potrzeby rozgrzewania” – powiedział Gauthier.

Obecnie naukowcy muszą umieścić 1000, 10 000 lub więcej punktów danych na ciepło. I to wszystkie brakujące dane, które nie są potrzebne do rzeczywistej pracy. „Musimy tylko wprowadzić jeden, dwa lub trzy punkty danych” – powiedział.

Gdy badacze są już gotowi do przeszkolenia komputera czołgu do wykonywania prognoz, w systemie nowej generacji potrzeba znacznie mniej danych.

W swoim teście zadania przewidywania Lorenza naukowcy mogli uzyskać te same wyniki z 400 punktami danych, co bieżąca generacja wygenerowana z 5000 lub więcej punktów danych, w zależności od wymaganej dokładności.

„Ekscytujące jest to, że nowa generacja obliczeń w złożach wykorzystuje to, co już było dobre, i czyni je znacznie bardziej wydajnymi” – powiedział Gauthier.

Wraz z kolegami planuje rozszerzyć tę pracę, aby zająć się trudniejszymi problemami obliczeniowymi, takimi jak przewidywanie dynamiki płynów.

„To bardzo trudny problem do rozwiązania. Chcemy sprawdzić, czy możemy przyspieszyć proces rozwiązywania tego problemu, korzystając z naszego uproszczonego modelu obliczania zbiorników”.

Współautor badania Eric Bolt, profesor inżynierii elektrycznej i komputerowej na Clarkson University. Aaron Griffiths, doktor fizyki ze stanu Ohio; oraz Wendson Barbosa, doktorant z fizyki w stanie Ohio.

Prace były wspierane przez Siły Powietrzne Stanów Zjednoczonych, Biuro Badań Armii i Agencję Zaawansowanych Projektów Badawczych Obrony.

#