Odpor genAI: Měly by kreativní typy otrávit studnu?

Je možná pravda, že tradiční základní uživatelé Applu jsou pravděpodobně mezi těmi, na které má generativní umělá inteligence (genAI) největší vliv, protože tyto nástroje se zdokonalují ve vytváření obrázků, filmů, příběhů a dalších. Tento druh automatizace zasáhne srdce kreativních trhů, takže je téměř nevyhnutelné, že dojde k potlačení.

Ale opravdu chtějí kreativní typy klást překážky před parním válcem genAI?

Proč by nedošlo k odporu?

Vzhledem k tomu, že ChatGPT a generativní umělá inteligence vstoupily na scénu a staly se nejrychleji rostoucí technologií letošního roku, již jsme viděli případy, kdy tyto nástroje využily kreativní práci lidí. Byli jsme svědky vznesení nároků na autorská práva, úniku informací a posunu, jak noví hráči vstupují na trh směrem k školení AI pomocí kreativních prostředků, které nejsou chráněny autorským právem.

Společnost Adobe se svými vlastními kořeny na kreativních trzích v této věci udělala velkou věc a trénuje AI používanou k rozšíření lidských tvůrčích procesů pomocí aktiv, která má práva k použití.

Vyhoďte odpadky s malým Nightshade

Toto právo profitovat z práce, kterou děláte, je pro kreativní průmysly zásadní. Jistě, můžete to sdílet, pokud chcete, a ano, zůstává velký rozdíl mezi stranami debaty „vše by mělo být zdarma“ a „umělci si zaslouží živobytí“.

Je to diskuse stará jako autorská práva sama a rovnováha mezi přístupem a využíváním se pravidelně obnovuje. Jeden relativně nedávný příklad je zpět, kdy sdílení souborů a Napster téměř zabily hudební byznys a iTunes zachránily průmysl.

Nyní se zdá, že je čas na nový reset a vypadá to, že se možná objevuje technologie, která kreativcům pomůže chránit jejich práci před zneužitím ze strany genAI (nebo přesněji společností, které vlastní nástroje). Nightshade je nástroj, který otráví tréninková data umělé inteligence tím, že je přiměje k falešným závěrům. Skládá se z neviditelných pixelů vetkaných do kreativních děl, které AI zjistí, když se z těchto děl učí.

Tyto jedové pixely pak podkopávají proces učení, což způsobí, že AI generuje zbytečná data. MIT Technology Review vysvětluje, že výsledky mohou znamenat, že se ze psů stanou kočky, z koček krávy.

Dalším způsobem, jak tomu porozumět, je, že to znamená, že naprosto legitimní kreativní podklady nesou tajný náklad odpadu navržený tak, aby všechny nástroje genAI používající obrázek jako trénovací data přinášely nesmyslné výsledky. “Odpadky dovnitř, odpadky ven,“ jak říkají.

Posílení kreativních průmyslů

Zpráva vysvětluje, že vynálezci Nightshade doufají, že dají kreativním lidem více síly k ochraně jejich práce. „Navrhujeme použití Nightshade a podobných nástrojů jako poslední obranu pro tvůrce obsahu proti webovým scraperům, které ignorují příkazy opt-out/do-not-crawl, a diskutujeme o možných důsledcích pro trenéry modelů a tvůrce obsahu,“ píší vývojáři ve svém bílém. dokument s podrobnostmi o výzkumu.

Dočkáme se dalších nástrojů tohoto druhu? Téměř jistě, vzhledem k tomu, že tvůrci obsahu a vydavatelé všude se již snaží obnovit rovnováhu svých podniků proti dopadu neomezeného, ​​neregulovaného používání genAI.

Právní a etické úvahy týkající se autorství, autorských práv, vlastnictví a pravosti jsou nyní považovány za zásadní pro úspěšné používání genAI, poznamenává analytik Gartner Issa Kerramans.

Obchodní případ protekcionismu

Vědí – stejně jako my všichni –, že jakmile se všechny informace na světě stanou daty, jedinými vítězi budou ti, kteří vlastní nástroje umělé inteligence, přičemž hodnota obsahu je vykuchána pro zisk několika málo lidí. To je skutečný problém pro jednotlivé kreativy, ale týká se to i jakéhokoli velkého vydavatele kreativ. Noviny například tlačí na výplatu, když jejich články slouží k výcviku těchto modelů.

Jinými slovy, ve hře jsou jak morální, tak finanční motivy, což znamená, že firmy genAI musí nakonec očekávat, že zaplatí za kreativní aktiva, která používají.

Je také snadné tvrdit, že zabrzdit neomezené využívání kreativních prostředků školicími systémy umělé inteligence je nezbytné pro zachování toho mála, co zbylo z rozmanitého kreativního vyjádření.

Dát lidi na první místo

Vraťme se k původnímu bodu: je zajímavé, že tradiční základní uživatelská základna společnosti Apple je těmito novými technologiemi tak hluboce ovlivněna. Jedním z příspěvků, které mohou vývojové týmy AI této kongregaci přispět, by mohlo být vyvinout systémový přístup k ochraně kreativních aktiv. Představte si to jako Nightshade na systémovém základě, aplikované na obsah při jeho ukládání. \

To by mohla být oblíbená funkce pro nás ostatní….

Prosím, sledujte mě na Mastodon, nebo se ke mně přidejte do skupin AppleHolic’s bar & grill a Apple Diskuze na MeWe.