Zachowaj spokój i kontynuuj

Etyka sztucznej inteligencji była łatwa do zrozumienia. Nie krzywdź ludzi.

Przed rokiem 2020 etyka sztucznej inteligencji skupiała się wokół grup znajdujących się w niekorzystnej sytuacji. Etycy obawiali się, że skrajna automatyzacja, którą umożliwia sztuczna inteligencja, stworzy luki, przez które ludzie będą mogli wpaść.

Największą etyczną porażką Australii jest skandal dotyczący robotów debetowych Centrelink. Robodebt był zautomatyzowanym systemem sztucznej inteligencji, który prześladował Australijczyków otrzymujących Centrelink za swoje długi, co ostatecznie doprowadziło do nałożenia prowizji królewskiej.

Jednak dyskusja na temat etyki skierowała się w nowym kierunku po pojawieniu się ChatGPT i innych dużych modeli językowych.

Istnieje wiele obaw związanych z pojawieniem się sztucznej inteligencji ogólnej (AGI). Koncepcja ta czerpie bezpośrednio inspirację z science fiction i jest ucieleśnieniem pomysłów z filmów takich jak apreter Lub Dowolnego robotaAle bez ciała robota.

Pomysł jest taki, że modele takie jak ChatGPT mogą wkrótce stać się tak ogólne, że będą miały tę samą inteligencję co człowiek. Oznacza to, że radzi sobie równie dobrze lub lepiej od człowieka przy każdym zadaniu, a nie tylko konkretnym. Ponieważ inteligencja AGI zależy od liczby komputerów, do których ma dostęp, istnieje obawa, że ​​AGI przewyższy inteligencję ludzką i stanie się niekontrolowana.

Te obawy science fiction często prowadzą do oczywistego logicznego wniosku: że te roboty sztucznej inteligencji chcą zniszczyć wszystkich ludzi.

Jednak w przeciwieństwie do wyraźnych dowodów na to, że wielkoskalowe systemy automatyzacji, takie jak Robodebt, mogą w rzeczywistości szkodzić ludziom, nie ma jeszcze sztucznej inteligencji, która byłaby bliska AGI.

A nawet gdyby tak było, mogła nie przejmować się ludźmi na tyle, by chcieć ich kontrolować. Istnieją inne historie science fiction, które omawiają możliwości sztucznej inteligencji ogólnej.

Autor science fiction Ian Banks opisuje przyszłość zwaną „Kulturą”, w której sztuczna inteligencja zwana „mózgami” pomaga ludzkości żyć w obfitości.

Jeśli było apreter Przyszłość jest możliwa dzięki AGI, więc dlaczego kultura nie miałaby być możliwa również?

Nadal istnieją ogromne bariery techniczne uniemożliwiające przekształcenie systemów takich jak ChatGPT w AGI.

Systemy te wciąż nie mają pojęcia przyczyny i skutku. Nie mogą siedzieć i medytować. Kiedy duży model językowy (LLM) próbuje odpowiedzieć na pytanie, musi użyć tej samej ilości obliczeń, niezależnie od tego, czy zapytanie brzmi „Daj mi wiersz o kocie”, czy „Wyjaśnij fizykę kwantową”.

Wyobraź sobie, że wracasz do szkoły średniej, a nauczyciel języka angielskiego wskazuje na ciebie i prosi o szybką odpowiedź na pytanie. Nie ma czasu na myślenie. Po prostu wymyśl coś, co wydaje się prawdopodobne. To właśnie robi ChatGPT za każdym razem, gdy z nim rozmawiasz.

W październiku 2023 roku Sam Altman, ówczesny dyrektor generalny OpenAI, skomentował na Twitterze/X, że sztuczna inteligencja będzie zdolna do nadludzkiej perswazji, zanim stanie się sztuczną inteligencją, i że doprowadzi to do dziwnych rezultatów.

Następnie w połowie listopada został zwolniony i powołany nowy dyrektor generalny. W odpowiedzi 95 procent firmy, w tym członek zarządu, który zwolnił Altmana, zagroziło rezygnacją, jeśli nie zostanie ponownie zatrudniony.

W następny wtorek pan Altman został ponownie mianowany na stanowisko dyrektora generalnego, a cały zarząd został wymieniony. Istnieje wiele spekulacji na temat przyczyn zwolnienia dyrektora generalnego (nikt tak naprawdę nie wie), ale uważam, że zwolnienie i ponowne mianowanie dyrektora generalnego przez nienotowaną na giełdzie spółkę non-profit w weekend to bardzo dziwny wynik.

Jakie więc wnioski powinniśmy z tego wyciągnąć, jako przedsiębiorcy z Perth? Radzę zachować spokój, ponieważ AGI jest jeszcze bardzo daleko. Możemy zignorować dramat zarządu OpenAI i zamiast tego czerpać korzyści z partnerstwa z Microsoftem.

Firma Microsoft wdraża obecnie programy LLM w systemie Windows i pakiecie Office.

Narzędzia te pomogą naszym pracownikom stać się mądrzejszymi i bardziej produktywnymi, tak jak Google i Internet pomogły w okresie boomu internetowego.

Uważam, że budując sztuczną inteligencję w oparciu o te narzędzia, nie powinniśmy zapominać o starej definicji etyki sztucznej inteligencji.

Nie krzywdź ludzi.

Wykorzystaj sztuczną inteligencję do automatyzacji, nie buduj systemu przypominającego robot-dług i postępuj etycznie.

• John Veal ma doktorat z robotyki i przez ostatnie kilka lat kierował zespołami w dużych firmach w Perth zajmującymi się sztuczną inteligencją i robotyką