Первые представители данной породы появились около 4 тысяч лет назад. Как появилась порода, точно неизвестно. Считается, что алабаи — потомки тибетского мастифа. Существует мнение, что сначала эта порода появилась в Китае, потом оказалась в Монголии, а затем его перевезли в Среднюю Азию. После скрещивания мастифа с другими породами он стал приобретать черты современного алабая. В 11 веке появились первые упоминания об алабае как об отдельной породе. В 1935 году породу стали развивать в результате возрастания интереса со стороны кинологов. Во время войны алабаю нашли применение: они охраняли пленных. В эти времена погибло много не только людей, но и собак. Поэтому в послевоенные годы порода оказалась на грани вымирания. Для ее сохранения в это время отравлялись экспедиции в Азию. Главная цель — найти как можно больше выживших представителей породы. Благодаря этим попыткам спустя несколько лет популяция была восстановлена. Интересно, что примерно в 1938 году алабай получил современное название породы — среднеазиатская овчарка. Однако туркмены новое название не признают и по-прежнему называют представителей породы алабаями.