В основе распределения изданий по отделениям, поступавших в Императорскую Публичную библиотеку, были шрифты (кириллица, латиница и восточная графика) и языки. Уже в 1810 г. в отчете Библиотеки сообщалось, что имеется 175 томов не разобранных книг на восточных языках, в том числе старопечатных книг на армянском, татарском и грузинском языках, в 1814 г. – 668 книг. На еврейских языках было 539 томов. Организованное специальное Отделение восточных писателей, объединившее издания восточной графики, пополнялось обязательным экземпляром, а также за счёт приобретения и поступавших в дар богатых коллекций от востоковедов и разных ученых.
Работа с этими изданиями представляла определенные трудности, она требовала специалистов, знающих восточные языки. В 1841 г. на должность библиотекаря Восточного отделения был взят И.Ф. Готвальд, востоковед-арабист, специалист по персидскому языку. Он привел в порядок фонд, собрал издания на восточных языках, находившиеся в других отделениях, описал 1048 книг, более чем на 30 языках, значительная часть фонда была им каталогизирована. В составе отделения находились и рукописи, которыми занимался он, а также другие сотрудники, работавшие в дальнейшем. В течение двух лет, 1842-1843 гг., М.И. Броссе приводил в порядок китайские и манчьжурские книги, описывал все грузинские и армянские рукописи. Значительный вклад в организацию фонда внесли востоковеды Б.А. Дорн, который работал с 1844 г., Ф.Н. Попов – с 1848 г., К.А. Коссович – с 1853 г. и др. Отделение было очищено от дублетов, непрофильные издания были переданы в другие отделения, отобраны книги, относящие к России, для Отделения Россика, инкунабулы и т.д. Был составлен каталог на 2 тысячи изданий, налажена целенаправленная работа по пополнению фонда справочными изданиями, иностранными журналами по востоковедению и др. Отдельное хранение было организовано для книг на еврейских языках и для них составлен каталог. В особый фонд было выделено и собрание рукописей. 14 апреля 1850 г., согласно Правилам Библиотеки, Отделение восточных книг получило устойчивую административную самостоятельность. В то же время, как и в других отделениях в нём находились разные виды изданий.
В середине ХIХ в. возрастание интереса к изданиям на языках народов Востока было связано с политикой России, завоеваниями на Кавказе и Крымской войной, с колонизаторскими войнами в Закавказье и Средней Азии, с национально-освободительным движением на Балканах. Для Восточного отделения были сделаны многочисленные приобретения по истории и этнографии Востока, редких изданий, словарей, грамматик и др. Как по количеству, так и по содержанию состав отделения периодически подвергался изменениям. Часть изданий из него изымалась, менялся порядок направления книг, издания на еврейских языках то организовывались в самостоятельное отделение, то присоединялись. Другие издания на восточных языках, выявленные в разных отделениях, передавались на хранение. Расширению состава фонда способствовало начало изучения культурно-исторического наследия народов Африки в области академической науки и высшего образования. К 1913 г. объём фонда составлял 54,8 тыс. томов.
После Октябрьской революции 1917 г., с образования к 1922 г. нового Советского государства, созданием сети издательств в союзных республиках, в Восточное отделение стали поступать в преобладающем большинстве издания на языках народов СССР (кроме русского, белорусского и украинского). С марта 1925 г. Библиотека стала получать экземпляр всех изданий, опубликованных в СССР. Восточное отделение по организации документов было самым сложным, издания более чем на 200 языках народов СССР и стран Азии и Африки, более чем на 50 алфавитах. Во главе отделения стоял директор Библиотеки (1924-1930 гг.), востоковед, лингвист, академик Н. Я. Марр. Преобразования отделения были неизбежны. Для предполагаемого Сектора национальностей началась работа по объединению изданий из разных отделений, которая растянулась на несколько лет. Она привела к преобразованию Восточного отделения в Отделение национальностей СССР (с 1931 г. — Отдел национальностей, Отдел национальных литератур). В 1932 г. в состав фонда были включены издания Еврейского отделения.
После Великой Отечественной войны в 1949 г. было принято решение о преобразовании Отдела национальных литератур в самостоятельные отделы литературы на языках народов СССР и литературы на языках народов зарубежного Востока. Среди причин подобного разделения назывались распад колониальной системы, национально-освободительное движение в странах Азии и Африки, развитие советского востоковедения, науки, техники в союзных республиках, возрастание количества выпускаемых изданий и др.
Работы по организации самостоятельных фондов велись наиболее активно с конца 1951 г. и в течение 1952 г. На основании распоряжения № 96 от 27 ноября 1952 г. Отдел национальной литературы был разделен на два самостоятельных, комплексных отдела: Отдел литературы на языках народов СССР и Отдел литературы народов Зарубежного Востока (в 1964 получил название Отдела литературы на языках (народов) стран Азии и Африки). В одном месте было сосредоточено обслуживание специалистов, а темпы пополнения фонда стали беспрецедентными в истории Библиотеки. За 10 лет он увеличился более чем в три раза: с 12,4 тыс. экз. на основных восточных языках (не считая еврейского) до 41,5 тыс. экз.
Формированию как уникального фонда, так и его популярности, способствовало создание специальных государственных и военных учреждений, занимающихся изучением стран Азии и Африки, кафедр и институтов, изучающих их историю, культуру, языки и литературу, открытие музеев, военные экспедиции в эти регионы, миссионерская деятельность в этих странах, которые сопровождались приобретением как древних рукописей, так и современной литературы, появлением трудов отечественных ученых-синологов, гебраистов, арабистов, египтологов и т.д.