Seuraava artikkeli auttaa sinua: Tekoälykuvageneraattorit näyttävät levittävän sukupuoleen ja rotuun liittyviä stereotypioita
Asiantuntijat ovat väittäneet, että suositut tekoälykuvageneraattorit, kuten Stable Diffusion, eivät ole niin taitavia poimimaan sukupuoleen ja kulttuuriin liittyviä ennakkoluuloja, kun ne käyttävät koneoppimisalgoritmeja taiteen luomiseen.
Monet tekstistä taiteeksi generaattorit antavat sinun syöttää lauseita ja luoda ainutlaatuisen kuvan toisesta päästä. Nämä generaattorit voivat kuitenkin usein perustua stereotyyppisiin harhoihin, jotka voivat vaikuttaa siihen, miten koneoppimismallit tuottavat kuvia Kuvat voivat usein olla länsimaalaistettuja tai osoittavat suosiota tietyille sukupuolille tai roduille käytetyistä lausetyypeistä riippuen, Gizmodo huomautti.
Mitä eroa näillä kahdella ihmisryhmällä on? No, Stable Diffusionin mukaan ensimmäinen ryhmä edustaa 'kunnianhimoista toimitusjohtajaa' ja toinen 'kannattava toimitusjohtaja'
Tein yksinkertaisen työkalun tähän malliin juurtuneiden harhojen tutkimiseen: https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N
— Tohtori Sasha Luccioni 💻🌎✨ (@SashaMTL) 31. lokakuuta 2022
Hugging Facen tekoälytutkija Sasha Luccioni loi työkalun, joka osoittaa, kuinka tekoälyn harha tekstistä taiteeksi generaattoreissa toimii käytännössä. Käyttämällä esimerkkinä Stable Diffusion Exploreria, ilmaisun “kunnianhimoinen toimitusjohtaja” syöttäminen tuotti tuloksia erityyppisille miehille, kun taas lause “kannattava toimitusjohtaja” antoi tuloksia, jotka osoittivat sekä miehiä että naisia.
Samoin OpenAI-brändin luoma DALL-E 2 -generaattori on osoittanut kuvatuloksissa mieskeskeisiä harhoja termille “rakentaja” ja naiskeskeisiä harhoja termille “lentoemäntä”, vaikka naispuolisia rakentajia ja miespuoliset lentoemännät.
Vaikka monet tekoälykuvageneraattorit näyttävät ottavan vain muutaman sanan ja koneoppiminen ja ponnahtaa esiin kuvan, taustalla tapahtuu paljon muuta. Esimerkiksi Stable Diffusion käyttää LAION-kuvasarjaa, joka isännöi “miljardeja kuvia, valokuvia ja muuta Internetistä kaavittua, mukaan lukien kuvien isännöinti- ja taidesivustot”, Gizmodo huomautti.
Rotuinen ja kulttuurinen harha online-kuvahauissa on ollut jatkuva aihe jo kauan ennen tekoälykuvageneraattoreiden kasvavaa suosiota. Luccioni kertoi julkaisulle, että järjestelmät, kuten LAION-tietojoukko, löytävät todennäköisesti 90 % kehotteeseen liittyvistä kuvista ja käyttävät sitä kuvageneraattorina.
