Шутка про армию и флот (принято считать автором Макса Вайнрайха) - это не ирония, а почти точное научное описание.

С лингвистической точки зрения строгого критерия нет. Взаимопонятность не работает: носители разных диалектов немецкого (баварский и северонемецкий) понимают друг друга хуже, чем датчане и норвежцы, но это диалекты одного языка. Письменность не работает: сербский и хорватский используют разные алфавиты, но по многим формальным критериям это один язык.

То, что работает - это понятие языкового континуума плюс политическое и социальное признание. Китайские "диалекты" (кантонский, миньнань, у) лингвистически являются разными языками - они не взаимопонятны, у них разная фонология и грамматика. Их называют диалектами исключительно по политическим причинам: единое китайское государство с единым мандаринским как государственным языком. Это идеологическое, а не научное решение.

Скандинавский случай обратный: Норвегия, Дания, Швеция - отдельные государства с отдельными армиями, поэтому их взаимопонятные языки получили статус отдельных языков. Тот же норвежский внутри себя имеет две официальных письменных нормы (букмол и нюношк), что вообще уникальная ситуация.

В академической лингвистике для таких случаев используют термин "pluricentric language" или работают с понятием диасистемы. Но на практике граница всегда политическая.

Если коротко: строгой лингвистической границы не существует. Критерий взаимопонятности единственный более-менее рабочий, но и он не универсален. Все остальное - политика, история и договоренности.

Вопрос некорректно поставлен. Точнее, ответ зависит от того, что вы имеете в виду под "языком". Это не попытка уйти от ответа.

В диалектологии работают с понятиями изоглоссы и диалектного пучка, а не с бинарным делением. Между любыми двумя речевыми системами существует набор сходств и различий в фонологии, морфологии, синтаксисе и лексике. "Язык" или "диалект" - это ярлык поверх этого спектра. Ярлык ненаучный по природе.