Narzędzie zmieniające twarz Google Pixel budzi kontrowersje wokół manipulacji sztuczną inteligencją

Kamera nigdy nie kłamie. Tyle że oczywiście tak się dzieje i wydaje się, że z każdym dniem zdarza się to coraz częściej.

W dobie smartfonów powszechne stały się szybkie cyfrowe korekty poprawiające jakość obrazu, począwszy od poprawiania kolorów po dostosowywanie poziomu oświetlenia.

Teraz nowa generacja narzędzi do smartfonów zasilanych sztuczną inteligencją (AI) wnosi wkład do debaty na temat tego, co to znaczy fotografować rzeczywistość.

Najnowsze smartfony Google, które ukazały się w zeszłym tygodniu, Pixel 8 i Pixel 8 Pro, idą o krok dalej niż urządzenia innych firm. Wykorzystują sztuczną inteligencję, aby zmienić wyraz twarzy ludzi na zdjęciach.

To doświadczenie, którego wszyscy doświadczyliśmy: na zdjęciu grupowym jest jedna osoba, która odwraca wzrok od aparatu lub nie uśmiecha się. Telefony Google mogą teraz przeszukiwać Twoje zdjęcia, aby łączyć i dopasowywać poprzednie wyrażenia, korzystając z systemów uczących się, aby narysować buźkę z innego obrazu na zdjęciu. Google nazywa to „Best Take”.

Urządzenia pozwalają także użytkownikom usuwać, przenosić i zmieniać rozmiar niechcianych elementów obrazu – od ludzi po budynki – „wypełniając” pozostałą przestrzeń za pomocą tzw. Magic Editora. Wykorzystuje to tak zwane głębokie uczenie się, czyli potężny algorytm sztucznej inteligencji, który określa, które tekstury powinny wypełnić lukę, analizując otaczające je piksele, które widzi, i wykorzystując wiedzę zdobytą z milionów innych obrazów.

Zdjęcia nie muszą być robione na urządzeniu. Na Pixelu 8 Pro możesz zastosować tak zwany edytor magiczny lub najlepsze ujęcie do dowolnych zdjęć w bibliotece Zdjęć Google.

„Złe i straszne”

Dla niektórych obserwatorów rodzi to nowe pytania dotyczące sposobu robienia zdjęć.

Komentatorzy i recenzenci technologii określają nową technologię sztucznej inteligencji Google jako potencjalną „słaby” (krawędź), „Podejrzany” (Tech Radar) i ma taką możliwość „Publikuj poważne zagrożenia dla (i tak już kruchego) zaufania ludzi do treści online”. (CNET).

Andrew Pearsall, profesjonalny fotograf i starszy wykładowca dziennikarstwa na Uniwersytecie Południowej Walii, zgadza się, że manipulowanie sztuczną inteligencją wiąże się z ryzykiem.

„Prosta manipulacja, nawet ze względów estetycznych, może sprowadzić nas na ciemną ścieżkę” – stwierdził.

Powiedział, że ryzyko jest wyższe w przypadku osób korzystających ze sztucznej inteligencji w kontekście zawodowym, ale istnieją konsekwencje, które każdy powinien wziąć pod uwagę.

„Musisz bardzo uważać na pytanie: «Kiedy przekroczysz granicę?»”

„To bardzo niepokojące, że teraz możesz zrobić zdjęcie i natychmiast usunąć coś z telefonu. Myślę, że wkraczamy w rodzaj fałszywego świata”.

W rozmowie z BBC Isaac Reynolds z Google, który kieruje zespołem opracowującym systemy kamer w smartfonach firmy, powiedział, że firma poważnie podchodzi do kwestii etycznych związanych z technologiami konsumenckimi.

Szybko zauważył, że funkcje takie jak Best Take nie są niczym „fałszywym”.

Jakość aparatu i oprogramowania ma kluczowe znaczenie dla firmy konkurującej z Samsungiem, Apple i innymi firmami, a funkcje sztucznej inteligencji są postrzegane jako wyjątkowy atut.

Wszyscy recenzenci, którzy wyrazili wątpliwości dotyczące tej technologii, chwalili jakość obrazu systemu kamer.

„W końcu możesz zrobić takie ujęcie, na którym wszyscy wyglądają tak, jak chcesz, a to coś, czego od jakiegoś czasu nie udało się osiągnąć żadnym aparatem w smartfonie” – powiedział Reynolds.

„Jeśli istnieje kopia [of the photo you’ve taken] Gdzie ta osoba się uśmiecha, pokażę ci. „Ale jeśli nie ma wersji, w której się uśmiechają, to tak, nie zobaczysz tego” – wyjaśnił.

Dla pana Reynoldsa ostateczny obraz staje się „reprezentacją chwili”. Innymi słowy, ten konkretny moment mógł nie mieć miejsca, ale to obraz, który chciałeś, aby się wydarzył, powstał z wielu prawdziwych momentów.

„Ludzie nie chcą rzeczywistości”

Profesor Rafał Mantioc, ekspert ds. grafiki i wyświetlaczy na Uniwersytecie w Cambridge, powiedział, że należy pamiętać, że wykorzystanie sztucznej inteligencji w smartfonach nie ma na celu nadawania obrazom realizmu.

„Ludzie nie chcą uchwycić rzeczywistości” – powiedział. „Chcą robić piękne zdjęcia. Cały proces przetwarzania obrazu w smartfonach ma na celu tworzenie dobrze wyglądających zdjęć, a nie prawdziwych zdjęć”.

Fizyczne ograniczenia smartfonów powodują, że polegają one na uczeniu maszynowym w celu „uzupełniania” informacji, których nie ma na obrazie.

Pomaga to poprawić przybliżanie, ulepszyć zdjęcia przy słabym oświetleniu, a w przypadku funkcji Google Magic Editor – dodać elementy do zdjęć, których nigdy nie było, lub zamienić elementy z innych zdjęć, na przykład zastępując zmarszczenie brwi uśmiechem.

Manipulacja obrazem nie jest niczym nowym, jest tak stara jak sama forma sztuki. Ale skalowanie w rzeczywistości nigdy nie było łatwiejsze dzięki sztucznej inteligencji.

Wcześniej w tym roku Samsung spotkał się z krytyką Za sposób, w jaki wykorzystywał algorytmy głębokiego uczenia się do poprawy jakości zdjęć Księżyca robionych smartfonami. Testy wykazały, że niezależnie od tego, jak złe było zdjęcie, które początkowo zrobiłeś, zawsze dawało zdjęcie nadające się do użytku.

Innymi słowy – Twoje zdjęcie Księżyca niekoniecznie było zdjęciem Księżyca, na który patrzyłeś.

Firma przyjęła do wiadomości krytykę, twierdząc, że pracuje nad „zmniejszeniem wszelkich potencjalnych nieporozumień, które mogą wystąpić między zrobieniem zdjęcia prawdziwego księżyca a zdjęciem księżyca”.

Jeśli chodzi o nową technologię Google, Reynolds twierdzi, że firma dodaje do swoich zdjęć metadane — cyfrowy odcisk palca obrazu — korzystając ze standardu branżowego, aby wskazać, kiedy zastosowano sztuczną inteligencję.

„To kwestia, o której rozmawiamy wewnętrznie. I rozmawialiśmy o tym szczegółowo. Ponieważ pracujemy nad tym od lat. To rozmowa, podczas której słuchamy, co mówią nasi użytkownicy” – mówi .

Google ma całkowitą pewność, że użytkownicy się z tym zgodzą, ponieważ funkcje sztucznej inteligencji w nowych telefonach stanowią centralny element jego kampanii reklamowej.

Czy istnieje zatem granica, której Google nie przekroczy, jeśli chodzi o manipulację obrazem?

Reynolds powiedział, że debata na temat wykorzystania sztucznej inteligencji jest tak zniuansowana, że ​​nie można po prostu wskazać linii na piasku i powiedzieć, że jest za daleko.

„Kiedy zagłębisz się w tworzenie funkcji, zaczniesz zdawać sobie sprawę, że czcionka jest pewnym nadmiernym uproszczeniem, co ostatecznie okazuje się bardzo trudną decyzją dla każdej funkcji” – mówi.

Choć te nowe technologie budzą wątpliwości etyczne dotyczące tego, co jest rzeczywistością, a co nie, profesor Mantioc stwierdził, że musimy także wziąć pod uwagę ograniczenia nałożone na nasze oczy.

„Fakt, że widzimy ostre, kolorowe obrazy, wynika z tego, że nasz mózg może rekonstruować informacje i wnioskować nawet o brakujących informacjach” – powiedział.

„Można więc narzekać, że kamery robią fałszywe rzeczy, ale ludzki mózg w rzeczywistości robi to samo w inny sposób”.