GPT-3 zmienia badania chemiczne | Wiadomości o Mirażu

Sztuczna inteligencja staje się kluczowym narzędziem w badaniach chemicznych, oferującym nowe podejścia do rozwiązywania złożonych wyzwań stojących przed tradycyjnymi podejściami. Jednym z podtypów sztucznej inteligencji, który znajduje coraz większe zastosowanie w chemii, jest uczenie maszynowe, które wykorzystuje algorytmy i modele statystyczne do podejmowania decyzji na podstawie danych i wykonywania zadań, do których nie zostało wyraźnie zaprogramowane.

Aby jednak dokonać wiarygodnych przewidywań, uczenie maszynowe wymaga również dużych ilości danych, które nie zawsze są dostępne w badaniach chemicznych. Małe zbiory danych chemicznych po prostu nie dostarczają wystarczających informacji, aby algorytmy mogły się na nich uczyć, co ogranicza ich skuteczność.

W nowym badaniu naukowcy z zespołu Berenda Smita w EPFL znaleźli rozwiązanie w dużych modelach językowych, takich jak GPT-3. Modele te są wstępnie szkolone na ogromnych ilościach tekstu i są znane ze swoich szerokich możliwości w zakresie rozumienia i generowania tekstów przypominających ludzkie. GPT-3 stanowi podstawę najpopularniejszego oprogramowania do sztucznej inteligencji ChatGPT.

Badanie, opublikowane obecnie w czasopiśmie Nature Machine Intelligence, ujawnia nowe podejście, które radykalnie upraszcza analizę chemiczną przy użyciu sztucznej inteligencji. Wbrew początkowym podejrzeniom metoda ta nie zadaje bezpośrednich pytań chemicznych na temat GPT-3. „GPT-3 nie przeglądał większości literatury chemicznej, więc jeśli zadajemy pytanie z chemii na ChatGPT, odpowiedzi zwykle ograniczają się do tego, co można znaleźć w Wikipedii” – mówi Kevin Jablonka, główny badacz badania. „Zamiast tego udoskonaliliśmy GPT-3 za pomocą małego zbioru danych, który przekształcono w pytania i odpowiedzi, tworząc nowy model zdolny zapewnić precyzyjne spostrzeżenia chemiczne”.

Proces ten polega na przekazaniu GPT-3 sformatowanej listy pytań i odpowiedzi. „Na przykład w przypadku stopów o wysokiej entropii ważne jest, aby wiedzieć, czy stop występuje w jednej fazie, czy w wielu fazach” – mówi Smit. Lista sformatowanych pytań i odpowiedzi typu: S= „Czy to jest jeden etap?” A= „Tak/Nie”.

Kontynuuje: „W literaturze znaleźliśmy kilka stopów, na które odpowiedź była znana, i wykorzystaliśmy te dane do dostrojenia GPT-3. Otrzymaliśmy ulepszony model sztucznej inteligencji, który został przeszkolony, aby odpowiedzieć właśnie na to pytanie. Tak lub nie .”

W testach model wyszkolony przy stosunkowo niewielkiej liczbie pytań i odpowiedzi poprawnie odpowiedział na ponad 95% bardzo różnorodnych problemów chemicznych, często przekraczając dokładność współczesnych modeli uczenia maszynowego. „Chodzi o to, że jest to tak proste, jak przeszukanie literatury, co sprawdza się w przypadku wielu problemów chemicznych” – mówi Smit.

Jednym z najbardziej uderzających aspektów tego badania jest jego prostota i szybkość. Tradycyjne modele uczenia maszynowego wymagają miesięcy opracowania i rozległej wiedzy. Natomiast podejście opracowane przez Jabłonkę zajmuje pięć minut i nie wymaga żadnej wiedzy.

Konsekwencje badania są głębokie. Oferuje metodę tak łatwą, jak przeszukiwanie literatury, mającą zastosowanie do różnych problemów chemicznych. Umiejętność formułowania pytań typu „Czy A [chemical] Zrobione z tym [recipe] „Wysoki?” i uzyskanie dokładnych odpowiedzi może zrewolucjonizować sposób planowania i przeprowadzania badań chemicznych.

„Oprócz przeszukiwania literatury, kwestionowania podstawowego modelu” – piszą autorzy w artykule [e.g., GPT-3,4] „Może stać się rutynowym sposobem rozpoczynania projektu poprzez wykorzystanie zbiorowej wiedzy zakodowanej w tych podstawowych modelach”. Lub, jak to zwięźle ujął Smit: „To zmieni sposób, w jaki robimy chemię”.

Inni współpracownicy

• Laboratorium EPFL Sztucznej Inteligencji Chemicznej
• Instytut Helmholtza ds. Polimerów w Zastosowaniach Energetycznych (Helmholtz Center Berlin i FSU Jena)

odniesienie

Kevin Mike Jablonka, Philipp Schwaller, Andrés Ortega Guerrero, Berend Smit. Czy GPT to wszystko, czego potrzebujesz do odkrywania niewielkiej ilości danych w chemii? Inteligencja maszyn natury 2023. DOI:10.1038/s42256-023-00788-1