
108 Глава 3
Однако примесь Джини будет способствовать разделению по сценарию B (IG
G
= 0.16)
который действительно чище по сравнению со сценарием A (IG
G
= 0.125):
Критерий энтропии тоже будет отдавать предпочтение сценарию B (IG
H
= 0,31) по
сравнению со сценарием A (IG
H
= 0,19):
Для более наглядного сравнения трех различных критериев примесей, которые мы об-
суждали ранее, построим график индексов примесей для диапазона вероятностей [0, 1]
для класса 1. Обратите внимание, что мы добавляем на график масштабированную вер-
сию энтропии (энтропия/2) чтобы показать, что примесь Джини является промежуточ-
ной мерой между энтропией и ошибкой ...