Информационная энтропия как критерий правдоподобности реконструкций праязыков

Что касается фонемного инвентаря, то он также может увеличиваться при массовом двуязычии. При этом миноритарный язык А заимствует большое количество слов из доминирующего языка B, при чем фонетический облик их не сильно изменяется, так как все носители языка А владеют языком B на хорошем уровне. В итоге количество фонем в языке А может сильно увеличиваться. При этом даже при прекращении языкового контакта (например при переселении носителей языка А) заимствованные фонемы в языке остаются. Какого-то резкого изменения структуры (например сокращения длины слов) при этом обычно не происходит. Интересно, что этот процесс (двуязычие с массовыми заимствованиями при хорошем владении обоими языками) противоположен креолизации, при которой владение осваиваемым языком обычно плохое, и которое часто ведет в фонетическому упрощению.

Введение количественной оценки информации, содержащейся в словах, позволяет сформулировать некоторые вероятные закономерности языковых изменений: если слова в языке «закодированы» в среднем слишком избыточно, то принцип экономии усилий будет провоцировать упрощающие фонетические изменения, такие как слияние двух фонем в одну, редукция гласных, выпадение согласных и упрощение консонантных групп. Напротив, если избыточность недостаточна, короткие слова будут заменяться более длинными синонимами, обрастать аффиксами, замещаться композитами и т. д. Эти процессы и их связь со структурой слова в языке давно известны, однако, как правило, характер этого процесса не был предметом точного формального анализа. Количественные оценки избыточности кодирования могут позволить создать более точную модель процессов изменения языка.