Google przyznaje, że „Przegląd sztucznej inteligencji” wymaga pracy, ale wszyscy pomagamy mu w testach beta

Google też jest zawstydzony swoimi recenzjami AI. Po powodzi Wsady i memy z ostatniego tygodnia, którego celem była niska jakość i jawna dezinformacja wynikająca z nowej funkcji wyszukiwania opartej na sztucznej inteligencji, która nie została opracowana przez giganta technologicznego, firma opublikowała w czwartek swego rodzaju błąd. Google – firma, której nazwa jest synonimem wyszukiwania w sieci – a której branding skupia się na „organizowaniu informacji o świecie” i udostępnianiu ich użytkownikowi w zasięgu ręki – właściwie – napisał w poście na blogu Że „z pewnością pojawiły się dziwne, niedokładne lub nieprzydatne przeglądy sztucznej inteligencji”.

To delikatnie mówiąc.

the Przyznanie się do porażkinapisany przez wiceprezes Google i szefową działu wyszukiwania Liz Read, wydaje się świadectwem tego, jak dążenie do integrowania technologii sztucznej inteligencji we wszystkim w jakiś sposób pogorszyło wyszukiwarkę Google.

W poście zatytułowanym „O zeszłym tygodniu” (Czy to wykraczało poza PR?) Reid opisuje wiele błędów popełnianych przez sztuczną inteligencję. Chociaż nie mają „halucynacji” ani nie zmyślają rzeczy tak jak inne osoby z wykształceniem wyższym, mogą popełniać błędy „z innych powodów”, np. „błędnie interpretując zapytania lub błędnie interpretując niuanse języka na ekranie”. Sieć, czyli niewiele świetnych informacji.

Reed zauważył również, że niektóre zrzuty ekranu udostępnione w mediach społecznościowych w ciągu ostatniego tygodnia były fałszywe, a inne zawierały bezsensowne zapytania, takie jak „Ile kamieni powinienem zjeść?” – Coś, czego nikt wcześniej nie szukał. Ze względu na brak merytorycznych informacji na ten temat sztuczna inteligencja Google skierowała użytkownika do treści satyrycznych. (W przypadku skał treść miała charakter satyryczny.) opublikowany Na stronie internetowej dostawcy oprogramowania geologicznego.)

Warto zauważyć, że jeśli wpiszesz w Google „ile kamieni powinienem zjeść?” Podano kilka bezużytecznych linków, a nawet artykuł satyryczny, więc nie będziesz zaskoczony. „Ludzie reagują na pewność, z jaką sztuczna inteligencja na to zareagowała”.Geolodzy zalecają spożywanie co najmniej jednego małego kamienia dziennie„Jakby to była prawdziwa odpowiedź. Technicznie rzecz biorąc, może nie jest to „halucynacja”, ale użytkownika końcowego to nie obchodzi. To szaleństwo”.

Historia trwa

Niepokojące jest również to, że Red twierdzi, że Google „dokładnie przetestował tę funkcję przed jej uruchomieniem”, w tym „agresywne wysiłki czerwonego zespołu”.

Czy w takim razie nikt w Google nie ma poczucia humoru? Czy nikt nie pomyślał o twierdzeniach, które generowałyby złe skutki?

Dodatkowo Google bagatelizował zależność funkcji AI od danych użytkowników Reddita jako źródła wiedzy i prawdy. Chociaż ludzie regularnie dołączają „Reddit” do swoich wyszukiwań tak długo, jak Google Wreszcie uczyniłem go wbudowanym filtrem wyszukiwaniaReddit nie jest źródłem wiedzy opartej na faktach. Jednak sztuczna inteligencja odwołuje się do postów na forum Reddit, aby odpowiedzieć na pytania, nie rozumiejąc, kiedy bezpośrednia znajomość Reddita jest przydatna, a kiedy nie – lub, co gorsza, kiedy jesteś trollem.

Dzisiejszy Reddit taki jest Tworzenie banku Udostępniając swoje dane firmom takim jak Google, OpenAI I Inni trenować swoje modele, ale to nie znaczy, że użytkownicy chcą, aby sztuczna inteligencja Google decydowała, kiedy szukać odpowiedzi na Reddicie, ani nie sugerowała, że ​​czyjaś opinia jest faktem. Nauczenie się, kiedy szukać na Reddicie, ma pewne niuanse, a sztuczna inteligencja Google jeszcze tego nie rozumie.

Jak przyznaje Reed: „Fora są często doskonałym źródłem prawdziwych, prostych informacji, ale w niektórych przypadkach mogą prowadzić do niezbyt pomocnych porad, takich jak użycie kleju, aby ser przylgnął do pizzy” – mówi, odnosząc się do jednej ze wskazówek . Jedna z najbardziej uderzających porażek AI ostatniego tygodnia.

https://platforma.twitter.com/widgets.js

Jeśli ostatni tydzień był katastrofą, Google przynajmniej szybko się odwraca – a przynajmniej tak twierdzi.

Firma twierdzi, że przyjrzała się przykładom przeglądów sztucznej inteligencji i zidentyfikowała wzorce, w których mogłyby one działać lepiej, w tym stworzenie lepszych mechanizmów wykrywania nielogicznych zapytań, ograniczenie wykorzystania treści generowanych przez użytkowników w odpowiedziach, które mogą zawierać wprowadzające w błąd porady, oraz dodanie ograniczeń wyzwalania zapytań gdzie Przegląd AI nie był pomocny, ponieważ nie prezentował przeglądu AI ważnych tematów informacyjnych, „gdzie ważna jest świeżość i realizm” oraz dodał dodatkowe ulepszenia motywacyjne do zabezpieczeń wyszukiwań zdrowotnych.

Ponieważ firmy zajmujące się sztuczną inteligencją tworzą coraz lepsze chatboty, pytanie nie brzmi, czy przewyższą wyszukiwarkę Google, jeśli chodzi o zrozumienie informacji o świecie, ale czy wyszukiwarka Google będzie w stanie dotrzymać kroku sztucznej inteligencji, aby rzucić im wyzwanie w przyszłości. Z powrotem.

Chociaż błędy Google mogą być głupie, jest jeszcze za wcześnie, aby wykluczyć je z wyścigu — zwłaszcza biorąc pod uwagę ogromną liczebność ekipy Google zajmującej się testowaniem wersji beta, w skład której wchodzi w zasadzie każdy, kto korzysta z wyszukiwarki.

„Nie ma nic lepszego niż miliony ludzi korzystających z tej funkcji w przypadku ton nowych wyszukiwań” – mówi Reed.