A Google kirúgta az egyik kutatóját, aki bírálta a cég algoritmusait

A kutató egy tanulmányt készült éppen publikálni, amelyben bírálta a Google algoritmusait is. 

A kollégák kiálltak mellette

Dr. Timnit Gebru köztiszteletben álló mesterséges intelligencia kutatót, aki elsősorban etikával és a faji megkülönböztetés témáival foglalkozik, kirúgta a Google, írja a BBC. Gebru a tech-óriás etikus mesterséges intelligencia kutatócsapatának egyik vezetőjeként dolgozott, és egy friss kutatását készült publikálni. Azzal vádolja egykori munkáltatóját, hogy cenzúrázta és elhallgattatta a kisebbségek hangjait. A Google vitatja ezt a narratívát, közben többezer kollégája állt ki a kutatónő mellett. 

Timnit Gebru Google Mesterseges Intelligencia
Dr. Timnit Gebru / Fotó: Getty Images

Gebru az algoritmusok torzításaival kapcsolatos munkáival, főleg az arcfelismerő technológiák bírálatával szerzett hírnevet a szakmájában. 2018-ban Joy Buolamwinivel írt egy tanulmányt, amely bebizonyította, hogy a mesterséges intelligencia jóval nagyobb arányban téved a színesbőrű emberek arcfelismerésében, mint a világosabb bőrűeknél. Ennek oka, hogy az algoritmusokat elsősorban fehér emberekről készült képekkel tanítják be.

A mostani tanulmánya is a Google számára ehhez hasonlóan kényes kérdéseket feszeget – például megtesznek-e mindent a nagy tech-cégek azért, hogy eltűnjenek ezek a faji különbségek. A dolgozatot szemléző MIT Technology Review szerint ezenkívül felhívja a figyelmet a kiterjedt nyelvi modellek kockázataira is. Ez utóbbi téma a képfelismerés után a mesterséges intelligencia egyik legújabb és legnépszerűbb alkalmazási területe, amelyben a Google is élen jár. 

Az, hogy elüldözték Timnitet, amiért fel mert szólalni a kutatómunka tisztasága mellett, súlyosan megkérdőjelezi, mennyire hihetünk a Google MI kutatásainak etikusságában és az algoritmusok hitelességében

– mondta Buolamwini.

Kapcsolódó cikk
Megosztás itt: twitter
Megosztás itt: facebook
Megosztás itt: email

Dr. Gebru állítása szerint a Google-nél behívták egy megbeszélésre, amelyen felszólították, hogy vonja vissza publikálásra beadott tanulmányát. Ezután Gebru írt egy emailt az egyik belső céges levelezőlistára, amelyben bírálta a cég nőkkel kapcsolatos és a kisebbségeket elnyomó politikáját. Majd Gebru főnöke is kapott egy levelet, amelyben kikötötte, hogy milyen feltételekkel hajlandó a cégnél maradni. Ezek nem teljesülésével megkezdi a felmondási idejét. Ezt a vezetőség úgy vette, hogy Gebru felmondott.

Nem felmondott, kirúgták

„Tiszteletben tartjuk a döntést és elfogadjuk a felmondást. Ugyanakkor úgy véljük, hogy az utolsó munkanapja még hamarabb jön el, mint a levélben megjelölt dátum. A levelezőlistára küldött üzenete olyan magatartást tükröz, amely nem egyeztethető össze egy Google-vezetőtől elvártakkal” – érkezett a vezetőség válasza.

Dr. Gebru tagadta, hogy felmondott volna: a Twitteren azt írta, hogy Jeff Dean, a mesterséges intelligencia kutatási részleg egyik felsővezetője rúgta ki.

No Title

Apparently my manager's manager sent an email my direct reports saying she accepted my resignation. I hadn't resigned-I had asked for simple conditions first and said I would respond when I'm back from vacation. But I guess she decided for me 🙂 that's the lawyer speak.

Felmondása óta már közel kétezren írták alá a Google-nél és a területen dolgozó kollégái közül a Gebru mellett kiálló petíciót, amelyben méltatták tudományos és vezetői kvalitásait. Az sem a cég mellett szólt, hogy akkor értesült a közvélemény a felmondás tényéről, amikor egy amerikai munkaügyi iroda azzal vádolta a Google-t, hogy szakszervezeti tevékenység miatt rúgott ki munkavállalókat. 

A Google részéről Dean azt állította, hogy Gebru tanulmányát egy nappal a határidő előtt nyújtotta be, így a Google részéről már nem volt elég idejük arra, hogy átnézzék. Hozzátette, hogy a kutatás nem vett figyelembe fontos korábbi eredményeket. A munkatársaknak azt írta, hogy a kutatás színvonala nem felelt meg a cég követelményeinek.

Kapcsolódó cikk
Megosztás itt: twitter
Megosztás itt: facebook
Megosztás itt: email

Emily M. Bender, a Washingtoni Egyetem számítógépes nyelvészeti professzora viszont cáfolta az indoklást: a szóban forgó tanulmányt hat kutató készítette, és 128 referenciát soroltak fel. 

Nyáron az MSN portálján történt meg a Gebru által jelzett hiba: a cikkeket szerkesztő mesterséges intelligencia nem ismerte fel az egyik színesbőrű énekesnőt. A mesterséges intelligenciát rengetegféle területen lehet alkalmazni: megtudhatjuk, milyen szagok terjengtek régen Európában, Banksy vagy akár klasszikus stílusú képeket is tud festeni.

Ez is érdekelhet

Top sztorik a rovatból