Он вернулся в Москву. В феврале 1919 года вместе с Инессой Арманд в составе миссии Российского Красного Креста поехал в Париж, где занимался возвращением русских солдат из экспедиционного корпуса на родину. После возвращения Давтяна командировали в Киев уполномоченным Совета обороны, на Южном фронте он был начальником политотдела 1-й Кавказской кавалерийской дивизии.

В начале 1920 года Давтяна назначили первым секретарем полпредства в Эстонии, затем он был секретарем делегации, которая во главе с заместителем главы советского правительства Львом Борисовичем Каменевым отправилась в Англию договариваться об урегулировании спорных вопросов.

В конце года Давтяна вернули в наркомат по иностранным делам и назначили заведовать отделом Прибалтики и Польши. Одновременно Инесса Арманд рекомендовала его председателю ВЧК. А Феликсу Эдмундовичу нужен был образованный человек, знающий заграничную жизнь.

12 ноября 1920 года по просьбе Дзержинского оргбюро ЦК, ведавшее распределением партийных кадров, перевело Давтяна из наркоминдела в ВЧК.

30 ноября ему поручили исполнять обязанности начальника еще не созданного иностранного отдела. Яков Давтян продолжал совмещать работу в двух ведомствах, благо они находились рядом друг с другом — наркоминдел располагался тогда в доме бывшего страхового общества «Россия» на пересечении Кузнецкого моста и Лубянки (теперь это площадь Воровского). Дипломаты несколько иронически называли чекистов «соседями». Это словечко прижилось и употребляется до сих пор.

Победа в Гражданской войне показала, что советское правительство твердо контролирует всю территорию России. Противники большевиков бежали и превратились в эмигрантов. При всей симпатии к ним западные правительства больше не могли игнорировать реальность — Россия слишком большая страна, чтобы вовсе не поддерживать с ней отношения.

Правда, процесс признания Советской России растянулся на десятилетие. Основная часть мирового сообщества не желала иметь дело с коммунистическим правительством.