Adobe o tym, jak stworzyć platformę AI bez kradzieży pracy artystów

W tym tygodniu firma Adobe ogłosiła swoją wyprawę do generatywnej sztucznej inteligencji za pomocą Adobe Firefly. Z monitów tekstowych może generować obrazy, audio, wideo i nie tylko. Ale być może najciekawsze jest to, że firma Adobe jasno określiła, do czego szkoli się Firefly.

Firma Adobe ogłosiła wielkie ogłoszenie na dorocznym szczycie w Las Vegas w tym tygodniu, mówiąc Firefly będzie dostępny Za pośrednictwem Adobe Experience Cloud, Document Cloud, Creative Cloud i Express.

Podczas przemówienia firma ujawniła, że ​​Firefly został przeszkolony w zakresie otwartych licencji i treści należących do domeny publicznej, a także obrazów Adobe Stock.

Wiele zrobiło w dążeniu do niewykorzystywania własności intelektualnej artystów czy twórców, którzy nie wyrazili na to zgody. Jest to ogromny problem w przestrzeni artystycznej stworzonej przez sztuczną inteligencję. Aplikacje takie jak Lensa spotkały się z dużym sprzeciwem w związku z tą praktyką.

Co ciekawe, firma chce również pozwolić artystom trenować system na własnej pracy, aby mogli szybko tworzyć treści we własnym stylu. Może to oczywiście doprowadzić do tego, że ktoś przeszkoli sztuczną inteligencję do generowania pracy w stylu innego artysty. Firma Adobe przyznała, że ​​warto się temu przyjrzeć.

Ale z drugiej strony Adobe oświadczyło również, że w przyszłości rozważy opłacanie twórców, którzy przekażą swoją pracę do biblioteki Adobe Stock w celu szkolenia.

” Alexandru Kostin, wiceprezes Generative AI System i Sensei ML w Adobe, powiedział w wywiadzie dla Inteligentna firma.

„Wszystkich rzeczy, które są zeskrobywane, nie dotykamy, ponieważ naprawdę nam zależy. To są nasi klienci… nie chcemy wpływać na nich w negatywny sposób.”

Według Costina Adobe Stock ma do dyspozycji 300 milionów zasobów, z których każdy jest przeglądany przez ludzkich kuratorów w celu zatwierdzenia i upewnienia się, że do biblioteki nie zostaną dodane żadne materiały związane z marką.

„w celu Nowe rzeczy, które wnosimy, domena publiczna z muzeów itp., budujemy systemy filtrów, aby upewnić się, że wszystko, co tworzymy, sprawdzamy pod kątem niektórych z tych obaw”.

Oprócz własności intelektualnej i treści oznaczonych znakami towarowymi, system ten sprawdza również treści pornograficzne.

„To daje nam pewność, że szablon będzie nie tylko wysokiej jakości, ale zmniejszy ryzyko nieumyślnego tworzenia treści chronionych znakami towarowymi lub prawami autorskimi”.

Adobe rozwija także swoją inicjatywę Content Originality Initiative, która dodaje podpis kryptograficzny do fragmentu treści w celu śledzenia wszelkich zmian i zapewnienia autentyczności.

Wszystko, co stworzy Firefly, będzie teraz oznaczane jako treści generowane przez sztuczną inteligencję, aby użytkownicy mogli podejmować świadome decyzje dotyczące wykorzystania tego zasobu.

„ANastępnie w tym samym świetle ogłosiliśmy tag „Nie ćwicz”, który będzie zawierał w treści fragment metadanych, który zawiera deklarację artysty, czy zgadza się z innymi firmami próbującymi ich treści” – powiedział Costin.

Ograniczenia i błędy były jednymi z największych problemów, z którymi szybko borykała się sztuczna inteligencja. Według Costina Adobe stosuje rygorystyczne, rygorystyczne wewnętrzne informacje zwrotne dotyczące Firefly, aby upewnić się, że działa dobrze i nie wpada w stereotypowe pułapki generatywnej sztucznej inteligencji.

„Budujemy również detektory, aby upewnić się, że przechwytujemy odchylenia, a następnie zmieniamy router, aby je zmniejszyć, powiedział Costin.

„Jeśli wpiszesz „zmywarka do naczyń” lub „pielęgniarka”, po prostu nie dostaniesz tego, czego można się spodziewać po stereotypie. Masz różne odcienie skóry, jesteś w różnym wieku, masz różne płcie, ponieważ tak właśnie powinno być. Nie wolno nam utrwalać szkodliwych stereotypów”.

Costin przyznał również, że dla Firefly będzie to ciągła podróż.

Te modele są duże, mają osobowość i uczą się na podstawie danych. Będą aspekty, których nie będziemy w stanie kontrolować, ćwiczyć ani testować. Właśnie dlatego mamy niesamowity mechanizm natychmiastowej informacji zwrotnej ze społecznością beta i naszym personelem” – powiedział Costin.

„Mamy odpowiedzialny zespół z tyłu systemu, który bierze wszystkie te opinie i stale udoskonala algorytmy, aby upewnić się, że naprawdę nadal eliminujemy te uprzedzenia”.

Autor udał się do Las Vegas jako gość firmy Adobe.