После сообщений в 2018 году о том, что ведущие алгоритмы анализа лица менее точны на людях с более темным оттенком кожи, такие компании, как Google и Meta, использовали измерения цвета кожи, чтобы проверить эффективность своего программного обеспечения искусственного интеллекта. Новое исследование Sony предполагает, что эти тесты не учитывают важный аспект разнообразия цвета кожи человека.
Исследователи Sony говорят, что в настоящее время широко используемые методы измерения цвета кожи используют только скользящую шкалу от самого светлого к самому темному или от белого к черному для представления цвета кожи, тем самым игнорируя влияние желтых и красных оттенков на диапазон цвета кожи человека. Они обнаружили, что системы генеративного искусственного интеллекта, алгоритмы очистки изображений и инструменты анализа фотографий особенно плохо справляются с желтой кожей. Та же самая слабость может относиться к различным технологиям, точность которых, как было доказано, зависит от оттенка кожи, таким как программное обеспечение искусственного интеллекта для распознавания лиц, отслеживания тела и обнаружения дипфейков, или гаджеты, такие как мониторы сердечного ритма и детекторы движения.
Элис Сян, главный научный сотрудник и глобальный руководитель отдела этики искусственного интеллекта в Sony, сказала: «Если продукты оцениваются таким необычным способом, существует множество предвзятостей, которые остаются незамеченными и не смягчаются. Мы надеемся, что работа, которую мы здесь делаем, может помочь заменить некоторые из существующих шкал телесных тонов, которые на самом деле фокусируются только на светлых и темных цветах».
Но не все убеждены, что существующих вариантов недостаточно для оценки систем ИИ. Эллис Монк, социолог из Гарвардского университета, сказал, что цветовая палитра из 10 цветов, которую он запустил вместе с Google в прошлом году, предлагает варианты от светлого до темного, но она не одномерна. «Должен признаться, меня немного сбивает с толку предположение о том, что оттенки и оттенки игнорировались в предыдущих исследованиях по этому вопросу», — сказал Монк. «Исследовательские усилия были направлены на то, чтобы решить, каким оттенкам кожи следует отдать приоритет на шкале и в каких точках. Он выбрал 10 оттенков кожи на своей шкале на основе своего собственного исследования колоризма и после консультаций с другими экспертами и людьми из недостаточно представленных сообществ».
X. Айе, генеральный директор консалтинговой фирмы по этике искусственного интеллекта Malo Santo и основатель исследовательской группы Google по цвету кожи, заявил, что шкала Мунка никогда не задумывалась как окончательное решение, и назвал работу Sony важным достижением. Но Eyeé также предупреждает, что расположение камеры может повлиять на значения цвета CIELAB в изображениях, что является одной из нескольких проблем, которые делают стандарт потенциально ненадежным ориентиром. «Прежде чем мы сможем применить измерения тона кожи к реальным алгоритмам искусственного интеллекта, таким как фильтры камер и видеоконференции, необходимо проделать дополнительную работу, чтобы обеспечить согласованность измерений», — сказал Айе.
Споры о масштабах носят не только академический характер. Поиск подходящей меры того, что исследователи ИИ называют «справедливостью», является главным приоритетом для технологической отрасли, поскольку законодатели в странах, включая Европейский Союз и США, обсуждают требование к компаниям проверять свои системы ИИ и отмечать риски и недостатки. Исследователи из Sony заявили, что слабые методы оценки могут подорвать некоторые практические преимущества правил.
Что касается цвета кожи, Сян сказал, что усилия по разработке дополнительных улучшений оправданы: «Нам нужно продолжать добиваться прогресса. В зависимости от ситуации могут оказаться полезными различные меры. Я рад, что интерес к этой области растет после того, как ее так долго игнорировали».
Представитель Google Брайан Габриэль заявил, что компания приветствует новое исследование и рассматривает его.
Цвет кожи человека возникает в результате взаимодействия света с белками, клетками крови и пигментами, такими как меланин. Стандартный способ проверить, зависит ли алгоритм от оттенка кожи, — это изучить, как он работает с различными оттенками кожи, с шестью вариантами от самого светлого до самого темного, известными как шкала Фитцпатрика. Эта шкала была первоначально разработана дерматологами для оценки реакции кожи на УФ-лучи. В прошлом году исследователи искусственного интеллекта в мире технологий высоко оценили запуск шкалы Мунка от Google, заявив, что она более инклюзивна.
CIELAB, международный стандарт цвета для редактирования и производства фотографий, обеспечивает более точный способ представления широкого спектра кожи, заявили исследователи Sony в исследовании, представленном на этой неделе на Международной конференции по компьютерному зрению в Париже. Когда они применили стандарты CIELAB для анализа фотографий разных людей, они обнаружили, что их кожа различалась не только по оттенку (глубине цвета), но и по оттенку (т. е. градации цвета).
Неспособность шкалы тонов кожи правильно уловить красные и желтые тона человеческой кожи, по-видимому, помогла некоторым ошибкам остаться незамеченными в алгоритме визуализации. Исследователи Sony протестировали системы искусственного интеллекта с открытым исходным кодом, в том числе программу захвата изображений, разработанную Twitter, и пару алгоритмов генерации изображений, и обнаружили, что алгоритмы отдают предпочтение красной коже, а это означает, что большое количество людей с желтоватой кожей было недостаточно представлено в окончательных изображениях, выводимых алгоритмами. Это может поставить в невыгодное положение различные группы населения, включая Восточную Азию, Южную Азию, Латинскую Америку и Ближний Восток.
Исследователи Sony придумали новый способ представления тона кожи, чтобы уловить ранее упускаемое из виду разнообразие. Их система использует две координаты вместо одного числа для описания оттенков кожи на изображениях. Он определяет, где оттенки кожи меняются от светлого к темному и от желтого к красному, что в косметической промышленности иногда называют теплым или холодным оттенком.
Новый метод работает путем изоляции всех пикселей на изображении, показывающем кожу, преобразования значения цвета RGB каждого пикселя в код CIELAB, а затем расчета среднего оттенка и оттенка совокупности пикселей кожи. Один из примеров исследования показал очевидные фотографии профиля бывшей звезды НФЛ Террелла Оуэнса и покойной актрисы Евы Гарбо с одинаковым оттенком кожи, но разными тонами: изображение Оуэнса выглядело более красноватым, а изображение Гарбо - более желтоватым.
Цветовые шкалы, которые неправильно передают красные и желтые тона человеческой кожи, помогают необнаружить ошибки в алгоритмах визуализации.
Когда команда Sony применила свой подход к системам данных и искусственного интеллекта в Интернете, они обнаружили серьезные проблемы. Исследователи обнаружили, что CelebAMask-HQ, популярный набор данных с лицами знаменитостей, используемый для обучения распознаванию лиц и других программ компьютерного зрения, имел 82% изображений с уклоном в сторону красных тонов кожи, в то время как другой набор данных, разработанный NVIDIA, FFHQ, имел 66% смещение в сторону красного цвета. Две генеративные модели искусственного интеллекта, обученные на FFHQ, воспроизвели это смещение: примерно четыре из каждых пяти изображений, сгенерированных ими, были смещены в сторону красных тонов.
На этом проблема не заканчивается. Согласно исследованию Sony, когда программам искусственного интеллекта ArcFace, FaceNet и Dlib было предложено определить, соответствуют ли два портрета одному и тому же человеку, они лучше справились с красной кожей. Дэвис Кинг, разработчик Dlib, сказал, что его не удивила предвзятость, поскольку модель в основном обучалась на фотографиях американских знаменитостей.
Облачные инструменты искусственного интеллекта, предлагаемые Microsoft Azure и Amazon Web Services для обнаружения улыбок, также лучше работают с более красными тонами. Сара Берд, руководитель отдела разработки искусственного интеллекта в Microsoft, заявила, что компания увеличивает инвестиции в честность и прозрачность. Представитель Amazon Патрик Нейхорн заявил: «Мы приветствуем сотрудничество с исследовательским сообществом и тщательно изучаем это исследование». NVIDIA отказалась от комментариев.
Будучи человеком с желтой кожей, Сян очень обеспокоен выявлением ограничений современных методов тестирования искусственного интеллекта. Sony будет использовать новую систему для анализа своих собственных человеко-ориентированных моделей компьютерного зрения по мере их поступления на рассмотрение, сказала она, отказавшись уточнить, какие именно. «У всех нас разные оттенки кожи. Это не должно использоваться для нашей дискриминации», — сказала она.
У подхода Sony есть еще одно потенциальное преимущество. Такие измерения, как Monkscale от Google, требуют от людей классифицировать, где кожа конкретного человека попадает в спектр. Разработчики ИИ говорят, что это разная задача, поскольку на восприятие людей может влиять их местоположение или восприятие собственной расы и идентичности.
Подход Sony полностью автоматизирован и не требует человеческого решения. Но Монк из Гарварда задается вопросом, лучше ли это. Методы объективного измерения, подобные методам Sony, могут в конечном итоге упрощать или игнорировать другие сложности человеческого разнообразия. «Если наша цель — устранить предвзятость, а предвзятость — это социальное явление, то я не уверен, что нам следует исключать из анализа то, как люди воспринимают цвет кожи в обществе», — сказал он.