Шум в суждениях и предвзятость в решениях людей и нейросетей
А — точность; В — шум; С — предвзятость; D — шум + предвзятость
Когда разработчиков ПО просили в два разных рабочих дня оценить время выполнения задачи по одному и тому же ТЗ, часы, которые они прогнозировали, отличались в среднем на 71%.
Два одинаково опытных врача могут поставить одному и тому же больному два разных диагноза, два компетентных кадровика пригласить на одну и ту же должность двух совершенно разных кандидатов, два эксперта дать заметно отличающиеся прогнозы о показателях продаж в следующем квартале два судьи назначить разный срок подсудимым. И даже один и тот же человек в разные дни недели может решать одну и ту же задачу совершенно по-иному.
Причина — «шум» в суждениях, то есть разброс в решениях, которые по всем правилам должны были бы быть одинаковыми.
Об этом очень наглядно рассказал Даниель Канеман — нобелевский лауреат-2002.
Канеман — один из главных современных экономистов, хотя сам он это активно отрицает. Он разрушил кучу теоретических представлений о том, как люди принимают решения, и создал поведенческую экономику.
И даже больше. Оказалось, что принципы, которые Канеман описал в своих книгах и научных работах, справедливы не только для человеческого мышления, но и для искусственного интеллекта. И они уже вовсю используются при обучении нейросетей.
Сегодня поговорим о рациональности, ошибках в суждениях, способах уменьшения «шума» и «единороге» экономики — Даниеле Канемане.
