Алгоритм повышает справедливость результатов поиска

Когда вы ищете что-то в интернете, прокручиваете ли вы страницу за страницей предложений или выбираете из первых нескольких вариантов?

Поскольку большинство людей выбирают из верхней части этих списков, они редко видят подавляющее большинство вариантов, что создает потенциал для предвзятости во всем, начиная с приема на работу и заканчивая освещением в средствах массовой информации и электронной коммерцией.

Справедливость онлайн-рейтинга

В новой статье исследователи компании Cornell представляют инструмент, разработанный ими для улучшения справедливости онлайн-рейтинга, не жертвуя при этом своей полезностью и актуальностью.

Подписывайтесь на наш youtube канал!

Если бы вы могли в равной степени изучить все варианты, а затем решить, что выбрать, это можно было бы считать идеальным". Но поскольку мы не можем этого сделать, рейтинги становятся важнейшим интерфейсом для навигации по этим выборам", - говорит доктор компьютерных наук Ашудип Сингх (Ashudeep Singh), соавтор книги "Управление справедливостью и беспристрастностью в динамическом обучении", которая была удостоена награды за лучшую работу на конференции SIGIR Ассоциации компьютерной техники по исследованиям и разработкам в области поиска информации, проходившей практически 25-30 июля.

"Например, многие ютуберы выложат видеозаписи одного и того же рецепта, но некоторые из них увидят гораздо больше, чем другие, даже если они могут быть очень похожими", - сказал Сингх. И это происходит благодаря тому, как результаты поиска представляются нам". Обычно мы линейно опускаемся вниз по рейтингу, и наше внимание быстро падает".

Метод исследователей, называемый FairCo, дает примерно равное воздействие на одинаково релевантный выбор и позволяет избежать преференциального отношения к предметам, которые уже находятся на высоком месте в списке. Это может исправить несправедливость, присущую существующим алгоритмам, которая может усугубить неравенство и политическую поляризацию, а также ограничить личный выбор.

"Системы ранжирования позволяют распределить воздействие. Как же нам добиться того, чтобы все получили свою справедливую долю экспозиции?" - говорит Торстен Йоахимс, профессор информатики и вычислительной техники и старший автор статьи. "То, что представляет собой справедливость, вероятно, очень отличается, скажем, от системы электронной коммерции и системы, которая ранжирует резюме при приеме на работу". Мы придумали вычислительные инструменты, которые позволяют задавать критерии справедливости, а также алгоритм, который доказывает их соблюдение".

Изначально онлайн-системы ранжирования были основаны на библиотечной науке 1960-х и 70-х годов, которая стремилась облегчить пользователям поиск книг, которые они хотели. Но такой подход может быть несправедливым на двухсторонних рынках, где одна организация хочет что-то найти, а другая - быть найдена.

"Большая часть работы по машинному обучению при оптимизации рейтинга все еще сосредоточена на максимизации полезности для пользователей", - сказал Йоахимс. "То, что мы сделали за последние несколько лет, - это придумали понятия о том, как максимизировать полезность, оставаясь при этом справедливыми по отношению к объектам, которые находятся в поиске".

Алгоритмы, ставящие во главу угла более популярные объекты, могут быть несправедливыми, потому что чем выше в списке появляется выбор, тем больше вероятность того, что пользователи нажмут на него и отреагируют на него. Это создает феномен "богатство становится богаче", когда один выбор становится все более популярным, а другие остаются невидимыми.

Алгоритмы также ищут наиболее релевантные объекты для поиска, но поскольку подавляющее большинство людей выбирают один из первых нескольких объектов в списке, небольшие различия в релевантности могут привести к огромным расхождениям в экспозиции. Например, если 51% читателей новостного издания предпочитают материалы, которые искажают консервативное мнение, а 49% предпочитают более либеральные эссе, то все топовые материалы, выделенные на главной странице, могут, по мнению газеты, быть скромными консервативными.

"Когда небольшие различия в релевантности приводят к усилению одной стороны, это часто вызывает поляризацию, когда одни люди склонны доминировать в разговоре, а другие мнения отбрасываются без их справедливой доли внимания", - сказал Иоахимс. "Возможно, вы захотите использовать его в системе электронной коммерции, чтобы убедиться, что если вы производите продукт, который нравится 30% людей, вы получаете определенное количество воздействия на основе этого". Или, если у вас есть база данных резюме, вы можете сформулировать меры предосторожности, чтобы убедиться, что он не дискриминирует по расовому или половому признаку". опубликовано econet.ru по материалам uk.motor1.com

Подписывайтесь на наш канал Яндекс Дзен!

P.S. И помните, всего лишь изменяя свое потребление - мы вместе изменяем мир! © econet