Rangkaian neural mengenali lelaki hitam buruk dan wanita

sistem pengecaman wajah sudah agak padat dimasukkan ke dalam hidup kita. Ia digunakan dalam pengimbas seperti Face ID dan juga digunakan untuk mencari penjenayah. Tetapi, seperti yang dilaporkan oleh penerbitan Sains harian, sepasukan penyelidik dari Massachusetts Institute of Technology (MIT) dan Universiti Stanford, setelah mengkaji beberapa algoritma AI komersial untuk pengecaman wajah, mendedahkan dalam mereka tanda-tanda seksisme dan perkauman.

Rangkaian neural mengenali lelaki hitam buruk dan wanita

Kajian mendapati bahawa analisis gambar algoritma orang putih tidak betul menentukan jantina hanya 0, 8% kes, dan dalam kes wanita hitam peratusan ralat purata kira-kira 30%. Untuk mengenal pasti corak pekerja MIT Joy Buolamvini dikumpul 1200 gambar-gambar orang yang berbeza (yang, wanita bagaimanapun, kebanyakannya digambarkan dengan kulit gelap). Kemudian dia berpaling kepada skala Fitzpatrick, mengikut mana terdapat 6 jenis kulit, di mana saya - adalah yang paling ringan, dan VI - yang paling gelap.

Akibatnya, ia menjadi jelas bahawa bagi wanita yang mempunyai kulit gelap dengan penilaian IV, V atau VI mengikut kadar Fitzpatrick ralat sebanyak 20, 8%, 34, 5 dan 34%, 7%, masing-masing. Oleh itu didapati bahawa jenis kulit yang lebih gelap - semakin besar kemungkinan bahawa algoritma membuat kesilapan. Apabila mengenal pasti lelaki dengan kadar kesilapan kulit cahaya tidak melebihi 0, 8%. Selain itu, Joy (yang terdiri dari seorang wanita Afrika-Amerika) cuba menganalisis foto anda sendiri, dan ia ternyata bahawa sistem sama ada tidak mengecam wajah beliau, atau tidak betul mengesan lantai. Malah, kajian itu boleh dilayan berbeza. Tetapi meletakkan mengetepikan semua jenaka dan prasangka mengenai toleransi, kajian ini menimbulkan satu soalan yang sangat penting: Adakah muka algoritma pengiktirafan benar-benar bekerja dengan betul? Lagipun, dengan bantuan mereka, di China sama telah cuba untuk mendakwa. Di samping itu, penyelidikan baru lemah dikaitkan dengan pernyataan salah satu syarikat perisian yang mencipta perisian untuk rangkaian neural dan berhujah bahawa perisian mereka mengiktiraf muka dengan ketepatan sebanyak 97% daripada kes-kes. Apa yang anda fikir? Telah menyampaikan pendapatnya dalam baru sembang-Telegram kami.