Алгоритм Twitter обвинили в расизме

Пользователи соцсети обнаружили интересную тенденцию при выборе превью фото.

Twitter начал проверять функциональность алгоритма после того, как пользователи выступили с обвинениями в расизме. Они выяснили, что алгоритм порой отдает предпочтение выбора в превью фото с представителями европеоидной расы.

Юзеры Twitter заметили, что при выборе двух фотографий, одна из которых содержит портрет темнокожего человека, а вторая — белого, в превью чаще отображается только портрет белого человека.

Также пользователи предположили, что на работу алгоритма влияет не цвет кожи, а фон снимка. Они считают, что алгоритм выбирает в превью фотографию с более светлым фоном.

В Twitter уже отреагировали на обвинения пользователей. Там отметили, что тестировали алгоритм соцсети на предмет расовой или гендерной предвзятости. Однако подчеркнули, что учитывая жалобы, разработчикам необходимо провести более тщательную проверку алгоритма.

«Мы провели анализ нашей модели прежде, чем ее вводили, однако она требует постоянного улучшения», — сообщили в Twitter.

В августе сообщалось, что Twitter разрабатывает функцию цитат, которая заменит ретвиты с комментариями.