Калькулятор разбиения на train, validation и test

Как пользоваться

1. Введите число примеров.
2. Введите доли теста и валидации в процентах (0 — без валидационной выборки).
3. Введите число фолдов и размер батча.
4. Смотрите размеры выборок, фолдов и число батчей за эпоху.

Формулы

• Тест = ⌈N × доля теста⌉, валидация = ⌈N × доля валидации⌉, обучение = N − тест − валидация
• Пул для кросс-валидации P = N − тест
• Размеры фолдов ⌊P ÷ k⌋ и ⌈P ÷ k⌉; больший размер у P mod k фолдов
• Обучение за раунд = P − размер фолда
• Батчей за эпоху = ⌈обучение ÷ размер батча⌉; в последнем батче — остаток

Пример

1000 примеров, 20 % тест, 10 % валидация, 5 фолдов, батч 32:

• тест 200, валидация 100, обучение 700;
• пул для кросс-валидации: 1000 − 200 = 800, значит, в каждом из 5 фолдов по 160 примеров, а в каждом раунде обучение идёт на 640;
• 700 ÷ 32 = 21,875, поэтому эпоха — это 22 батча, а в последнем 700 − 21 × 32 = 28 примеров.

Советы

• Перемешивайте данные перед разбиением, а для классификации используйте стратифицированное разбиение, чтобы в каждой выборке сохранились доли классов.
• Делите по группам, если примеры связаны — несколько строк на пациента или пользователя, — иначе оценка на тесте выйдет слишком оптимистичной.
• Если последний батч совсем маленький, подумайте о drop_last или о размере батча, на который обучающая выборка делится ровнее.