Проверка прогноза

Прогноз проверяется прибором, а не другим прогнозом

Сайт обещает погоду и сам же считает, насколько промахнулся. Сравниваем не с чужим прогнозом, а с показаниями приборов.

загружается…

Что такое одна проверка

Берём прогноз, выпущенный за 6 часов, за сутки или за трое суток до нужного часа. Смотрим, что в этот час показал прибор. Разница и есть промах.

Температуру, ветер, порывы и давление считаем в тех же единицах, что и саму величину: на сколько градусов или метров в секунду источник ошибался в среднем. Осадкам нужна другая мера.

Почему осадкам нужна другая мера

Дождь либо был, либо нет, а прогноз называет вероятность. По среднему промаху всегда побеждал бы источник, который вечно обещает «дождя не будет»: в сухой день он прав целиком, а в мокрый ошибается один раз.

Поэтому осадкам ставим оценку Брайера — средний квадрат промаха названной вероятности мимо факта, нуля или единицы. Она наказывает и за уверенно обещанный дождь, которого не случилось, и за пропущенный ливень. В обоих случаях меньше значит лучше.

Чем меряем

Источников факта четыре, и они не равны. Сначала приборы: наземная станция Росгидромета, сводки из аэропортов, автоматическая станция. Каждую величину сверяем со своим прибором. Если за какой-то час прибора не нашлось, в дырку идёт ERA5: это не измерение, а погода, пересчитанная задним числом.

В карточках видно, сколько часов дал каждый, то есть чем измерено всё, что ниже.

Почему у автостанции часов всегда меньше

Она отдаёт только последние сутки. Истории у неё нет, поэтому её часы копятся вперёд, начиная со дня, когда мы её подключили. За прошлые месяцы выгружать нечего. Это не поломка.

Почему этому можно верить

Проверка ломается тихо: цифры остаются правдоподобными, а смысла в них уже нет. У нас так было трижды.

Таблица показывала одно и то же: ECMWF лучший по ветру, давлению и осадкам. Дело было не в модели. Сравнивали её с ERA5, а ERA5 делает сам ECMWF: модель проверяли по её же собственной работе, и она сходилась сама с собой. Стоило вернуть приборы, и ECMWF съезжал с первого места на последнее, пятое.

Видно это было по одной цифре ещё до разбирательства: промах по ветру на 6 часов вперёд 0.246 м/с, у следующей модели 0.565. Больше чем вдвое точнее ближайшего соперника настоящий прогноз погоды не бывает.

Отсюда правило чтения. Если в карточках выше часы ERA5 растут, а приборные стоят на месте, таблице ниже верить нельзя.

Кто насколько промахнулся

Меньше значит лучше.

Источник Ошибка За всё время Проверок
Visual Crossing0.75—1836
ICON (DWD)0.84—1848
ECMWF IFS0.91—1848
ECMWF AIFS (нейросеть)0.91—1848
Tomorrow.io0.95—1824
MET Norway (Норвегия)0.96—1848
GFS (NOAA)0.97—1848
Pirate Weather0.98—1836
WeatherAPI1.08—1824
GEM (Канада)1.11—1848
UKMO (Британия)1.12—1848
Météo-France1.14—1848
JMA (Япония)1.20—1848
GRAPES (Китай)1.40—1848
7Timer!1.69—610
OpenWeather2.14—610
Средняя ошибка прогноза температуры на сутки вперёд по показаниям приборов, за последние 7 суток. Впереди Visual Crossing: 0.75 °C. Город: Москва.

Что обещали против того, что вышло

На светлой линии не один источник, а их общая середина. Проведите курсором, чтобы посмотреть конкретный час.

Температура · консенсус источников, прогноз за сутки
показания прибора что обещали сутки назад размер промаха

Что идёт прямо сейчас

Единственное место на сайте, где число берётся прямо с прибора, а не из расчёта. В строке ниже написано, чем измерено и какого размера ячейка, на которые разбито небо: чем мельче, тем ближе показание к тому, что над вами.

Почему подпись не говорит «радар», если радара нет

Над Москвой это сеть метеорадаров ДМРЛ-С Росгидромета, склеенная в одну картинку с ячейкой 2.2 км. Радар посылает импульс в тучу и слушает эхо, поэтому отражаемость здесь именно измерена, а не посчитана моделью.

Где радара нет, ступенью ниже стоит спутниковая оценка: спутник видит облако сверху и по его виду прикидывает, идёт ли из него дождь. Это два разных утверждения об одном и том же дожде, поэтому подпись всегда называет то, что было на самом деле. Подменить здесь одно слово ради краткости — и страница начнёт врать ровно тем способом, против которого затевалась.

Почему считаем именно так

Три решения, на которых держатся числа выше.

Почему порог мокрого часа не подбирается по оценке

Оценкой Брайера нельзя выбирать порог, с которого час считается мокрым. Подняв порог, мы делаем событие более редким, и оценка улучшается сама, без единого улучшения в прогнозе.

Сравнимая между порогами величина — насколько прогноз лучше простой многолетней доли мокрых часов. Её и считает калибровочный скрипт проекта.

Откуда берётся итоговое число

Не среднее по источникам. Для температуры, ветра и давления считается распределение: середина — линейная поправка к среднему по моделям, ширина — линейная функция того, насколько модели разошлись. Это метод EMOS/NGR. Когда модели спорят между собой, коридор шире, и ровно этого среднее сказать не умеет.

Четыре коэффициента на срез «город — величина — срок» подбираются на скользящем окне в 90 суток. Скорость ветра не бывает отрицательной, поэтому её распределение усечено нулём слева: иначе часть вероятности уходила бы на ветер медленнее нуля. Осадки сюда не идут — на событии «мокро или сухо» тот же приём не выигрывает у монотонной кривой поправки, которая там уже стоит.

Как источник получает вес

Вес обратен ошибке, но берётся осторожно. Сама ошибка измерена по конечной выборке и шумит, а от шума такой вес раздувается вверх: источник, промолчавший в трудные часы, выглядел бы лучшим по горстке удачных замеров.

Поэтому вес вообще не считается раньше 47 разных суток истории, полное доверие оценка получает к 90 суткам, а между этими границами вес подтянут к равному. Это не перестраховка: если веса случайны, комбинация прогнозов оказывается смещённой даже когда каждый её участник несмещён.

И всё это имеет смысл ровно настолько, насколько верна мерка. Потому прогноз и сверяется с показаниями приборов, а не с другим прогнозом.