Интернет-пользователи пожаловались на приложение ImageNet
Roulette, которое даёт им обидные названия,
Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит "косоглазая". Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Ещё одна девушка пришла в ярость после того, как приложение назвало её "мулаткой".
Корреспондент Mail Online ради эксперимента тоже выложил в приложение своё селфи, и нейросеть назвала его "подозреваемым в изнасиловании". Стоит упомянуть ещё одну фотографию — изображённый на ней мужчина выяснил, что программа считает его "впервые совершившим преступление".
Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения
Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных
Из сообщения на
Комментарии