Реверсивный поиск Google не распознает горилл. Да-да, из-за обвинений в расизме

Поисковик отключил автоматическое распознование образов горилл, шимпанзе и других больших приматов.

Реверсивный поиск Google не распознает горилл. Да-да, из-за обвинений в расизме

У Google есть интересная функция, которая называется реверсивный поиск картинок. Работает она следующим образом: ты загружаешь картинку, а поиск пытается найти сайты, на которых она опубликована, и похожие по смыслу картинки.

Обычные пользователи редко пользуются этой функцией, но для журналистов эта функция стала священной для поиска контекста к какой-либо картинке.

За создание базы данных картинок отвечает искусственный интеллект, в работе которого, само собой, не обошлось без казусов.

В 2015 году разгорелся скандал: алгоритм упорно включал в подборку горилл темнокожих людей. Поисковик заявил, что «немедленно примет меры». Но скандал как-то замяли и забыли.

Позже этот же алгоритм начали использовать в Google Photos для поиска объектов на фотографии. Если у тебя Android и ты хранишь фотографии в этом сервисе, то сам можешь поискать фотографии по изображенному на ней объекту.

Такой же эксперимент провели и журналисты Wired: в подборке из 40 тысяч картинок алгоритм отлично находил пуделей и панд, но почти на все виды обезьян, включая слова monkey и ape выдавал 0 результатов.

Что фактически означает, что алгоритм так и не научился отличать темнокожих людей от обезьян и остался каноническим расистом.

Журналисты пошли дальше и стали тестировать алгоритмы других сервисов: оказалось, что Flickr (принадлежащий Yahoo!) провернул тот же трюк и отказывается выдавать какие-либо результаты по «обезьяньим» запросам.

Комментарии

1