Нейромережі погано справляються з распознанием жінок і чорношкірих (3 фото)

Ідентифікація особистості за допомогою функції розпізнавання осіб набуває все більшу популярність.Багато флагманські смартфони і ноутбуки вже зараз використовують цю технологію. Однак точність роботи таких алгоритмів, як виявилося, ще потребує суттєвого доопрацювання. Як нещодавно з’ясувалося, на результат роботи програми розпізнавання особистості впливає колір шкіри і статева приналежність користувачів.

Експерт Джой Буоламвини з MIT Media Lab при Массачусетському технологічному інституті провів експеримент, в ході якого перевірив правильність розпізнавання вибірки з 1200 фотографій відомих особистостей, зайнятих у політиці, з країн, де влада активно залучають жінок. Обрані особи були продемонстровані трьох найбільш популярним алгоритмам по розпізнаванню осіб: Microsoft, IBM і Megvii з Китаю. Системи, що базуються на штучному інтелекті, помилилися при визначенні 0,8% чоловіків і 7% жінок європеоїдної раси. Серед чорношкірих чоловіків розпізнано неправильно 12% осіб, а у жінок негроїдної раси відхилення досягло недозволенних 34,7%.

Проте в алгоритмах розпізнавання осіб не закладається расове або гендерна нерівність. Проблема полягає у базі, на якій проходить навчання штучного інтелекту. Так, наприклад, найбільша база фотографій, пропонована для навчання програмами ідентифікації особистості, містить 75% зображень чоловіків і на 80% з цих знімків відображені світлошкірі люди. Також, оцінивши колір шкіри всіх людей з фотознімків, задіяних в експерименті, по шкалі відтінків шкіри Фіцпатріка, дослідники помітили, що чим темніше відтінок шкірного покриву, тим складніше ІІ впоратися з распознанием.

Таким чином, виробникам слід розширити кругозір своїх нейромереж і надати їм для вивчення фотоматеріали людей з різних регіонів Землі з урахуванням їх расових, етнічних і статевих відмінностей.

Джерело: sciencedaily.com