그러나 유일당운동은 진전이 있어 도산이 미주에 있는 동안 상해 중심의 임시정부· 한국노병회·흥사단원동위원부·의열단 등 청년들이 1924년 4월 5일 <상해청년동맹>을 창립하여 유일당 운동의 후원을 선언하였다. 그리고 임시정부도 1925년 4월 7일에 헌법개정안을 통과시키고, 만주의 지도부를 임시정부 내각진으로 끌어들여 재만 한인사회의 국민적·군사적 기반을 임시정부의 영향권 안으로 끌어들이고자 하였다. 그래서 흥사단원이며 임시정부 내무총장인 이유필(李裕弼)이 임무를 띠고 만주에 파견되었다.

이유필은 정의부의 이탁과 김동삼·오동진 등을 만나 개헌의 취지를 설명하고, 임시정부 각료 취임을 요청하였다. 그리고 이같은 의사를 신민부에 전달해 줄 것을 요청한 뒤 참의부를 방문하고 6월 중순경 상해로 귀환하였다. 이와 같은 물밑작업 끝에 1925년 9월 17일 재만 한인들의 지도자이며 서간도 한인사회의 지도자인 이상룡이 상해에 도착하여 9월 23일에 국무령에 취임하였다.

그러나 이러한 통합의 움직임에도 불구하고 1926년 무렵 임시정부는 혼란에 빠져 있었다. 이상용이 국무령으로 취임 얼마 후 국무령 자리를 그만두었고, 후임으로 임명된 양기탁마저 취임을 거부했던 것이다. 이어 국무령에 내정된 홍진이 취임하지 않은 상태에서 임시정부는 재정적으로 큰 어려움에 빠졌다. 건물 임대료를 지불하지 못할 정도로 궁색함이 극에 달하자 임시정부 존립에 대한 논란이 종종 제기되었다.

1926년 5월 8일 임시의정원에서는 도산이 상해로 돌아가기도 전에 도산을 국무령으로 임명하였다. 그러나 도산은 취임을 사양하고 자연인의 자격으로 임시정부 유지와 대혁명당 조직의 결성을 위해 심혈을 기울일 것을 공언하였다. 상해로 돌아온 도산은 5월 22일 환영회 석상에서 주의를 초월하여 역할분담하여 혁명을 진행시킬 것을 호소하였다. 이어 1926년 7월 8일 삼일당에서 개최된 연설회에서도 도산은 임시정부가 ‘조선은 독립국임을 선언'한 종지(宗旨) 위에 건설한 역사적 관계를 설명하고, 임시정부는 독립운동 방략상 절대로 없어서는 안 되며 임시정부가 집세조차 내지 못하고 국무령할 사람을 임명하지 못함을 모두의 책임이라고 통탄하였다. 그리고 전 민중이 중심이 될 통일기관으로서, 임시정부 유지에 대한 확고한 의지를 천명하였다.

도산은 임시정부의 존립과 대독립당 결성을 위해 무엇보다도 북경을 유력시하였다. 당시 북경은 독립운동계의 통합과 대동단결을 도모하고자 여러 흥사단 단원들이 파견되어 활약하고 있었다. 도산이 유일당의 출발점을 북경으로 삼은 것은 그만큼 독립운동의 통합을 위해서는 반임정 세력이 집결되어 있는 북경 지역을 중시했기 때문이었다. 유일당 결성을 위한 노력은 성과를 거두어 1926년 10월 16일 유일당 북경촉성회가 결성되었고, 이어 남경(南京)·광동(廣東)·무한(武漢) 등 각 지역 촉성회가 결성되었다. 그리고 이들 촉성회 대표들이 모여 1927년 11월에 <한국독립당관내촉성회연합회(韓國獨立黨關內促成會聯合會)>를 결성하고 만주·미주·노령 지역의 촉성회 결성을 촉구하였다.

북경의 운동 세력을 유일당 촉성회로 결집시킨 도산은 1927년 1월 14일경 만주 길림으로 들어갔다. 일제는 만주에서의 도산의 활동에 대하여 예의 주목하고 안동현 일본영사관을 중심으로 도산 체포를 위하여 각 방면으로 동정을 살폈다. 이즈음 도산은 만주 각 현에 소재한 단체 대표들을 소집하여, 3부의 지도자들과 함께 만주 독립운동에 대한 기본 강령을 세우고, 의견을 일치시켜 나갔다.

민족의 대단결을 호소하며 경제적 발전을 역설한 도산은 대중의 호응을 얻기 위하여 순회 강연회를 기획하였다. 길림 지역 한인들의 움직임을 계속 정찰하였던 길림 일본영사관 경찰서와 조선총독부 경무국 특파원은 이러한 정황을 위급 상황으로 판단하였다.

1927년 1월 27일에 최명식(崔明植)이 경영하는 정미소인 길림성 동대문 밖 대동공사(大東公司)에서 도산은 「조선독립운동의 과거와 현재, 미래」라는 제목으로 열렸다. 이 자리에는 당시 길림에서 3부통합의 협의가 진행되고 있던 때였으므로, 남·북만주 각 운동단체의 주요간부 및 군인들과 민간 유지들 약 500명이 참석하였다. 그러나 연설이 시작된 지 30분이 지나자 20여 명의 중국경찰이 연설장으로 뛰어들었고, 도산을 비롯한 연설회에 참가한 독립지사들을 무장한 200여 명의 중국경찰이 연행해 갔다.

길림경찰청 당국은 길림집회가 공산당을 선전하는 집회라는 일본 관헌의 신고를 받고 출동한 것이었다. 길림 일본영사관측에서는 연행된 42명의 신원을 즉시 인도해 줄 것을 요구하였으나, 중국당국은 체포인원 대다수가 길림주민이기 때문에 취조가 일단락되기 전에는 인도할 수 없다고 거절하였다.

도산이 피체되자 길림의 한인들은 길림관청과 봉천 당국에 항의서를 제출하고 시위행진을 하였고, 각처 언론기관을 통해 여론을 일으켰다. 이 소식이 상해로 전해지자 임시정부를 비롯하여 흥사단, 노병회 등 각 단체에서는 북경정부와 길림 당국에 석방을 요청하였다. 이러한 기민한 대처로 도산은 석방될 수 있었다.

석방 후에도 도산은 재만 동포들과 혁명운동의 방침을 토의하고, 이를 조직으로 결성하기 위해 진력하였다. 그 결실은 1927년 4월 1일에 길림사건의 현장인 대동공사 내에서 협동조합적인 <농민호조사(農民互助社)>의 결성으로 나타났다. 길림사건이 발생한 후 1개월 뒤였다. 1925년에 설립된 <만주농업사>가 외적 압박으로 제대로 역할을 하지 못하자 도산은 다시금 재만 한인사회를 민족혁명의 기초가 될 수 있도록 재건설하고자 한 것이었다. 양기탁 등 만주지역의 혁명 거두들은 한계에 빠진 유일당 운동의 활로를 개척하고 비참한 한인사회를 구제하는 데는 먼저 경제혁명이 있어야 한다고 보고 다시 동맹하였다.

길림에서 상해로 돌아온 도산은 1927년 8월 16일 상해 삼일당에서 열린 환영회 석상에서 재만 동포들의 비참한 상황을 보고하였다. 즉 중국인들에 의하여 학교가 폐쇄되고 빈민이 400만 명에 달하며, 중국인 토지경작의 소작료가 과거 2할에서 6할로 인상되었고 독립군들도 먹을 것이 없어 곤란함이 막심하다는 보고로 울분을 터뜨렸다. 이 연설을 통해 도산은 “우리에게 불평을 주는 자는 오직 하나이니 곧 일본 제국이다. … 민족주의자니 사회주의자니 하는 분별이 혁명운동에게서 없을 것이다.…”라고 하며 민족 전체가 일본에 대항하여 분투해야만 함을 강조하였다.
1927년 7월 13일에 중국공산당과 국민당의 합작이 깨어져 중국 내의 공산주의운동이 치열해지면서 독립운동계의 좌우 분열은 더욱 심각해 졌다. 이러한 가운데 1927년 11월에 5개 촉성회 대표들이 상해에 집합하여 <한국독립당관내촉성회>가 결성되었고, 동연합회는 대표 2인을 만주로 파견하여 만주에 유일당 결성을 협의하였다. 그러나 조직방법론에서 견해차이가 드러나 유일당운동은 공전을 거듭하였다.

이에 도산은 한인 내부의 문제로만 전선통일을 이루는 것이 어렵다는 현실에 직면하였다. 이미 <중한호조사> 결성 등 한인 혁명세력과 중국 혁명세력간의 친분관계를 유지하고 광동정부를 상대로 한인독립운동의 진상을 선전하는 둥 중국인을 상대로 한 선전활동을 지속해 왔던 도산은 단순한 선전활동 차원이 아닌 공동의 적 일본을 향한 동지적 관계임을 중국 측에 강조함으로써 확실한 한·중의 항일공동전선을 구축하고자 하였던 것이다.
그러나 국제적 정세의 흐름은 유일당운동을 더욱 어려운 지경에 빠뜨렸다. 즉 1928년 12월 10일의 코민테른에서는 「12월테제」를 통해 좌파 중심의 협동전선론의 영향을 받아 그나마 참여하였던 사회주의 세력들이 유일당운동에서 이탈해 갔다.

도산은 과연 나라를 잃은 한민족에게 주적(主敵)인 일본을 두고 계급문제가 어떤 의미를 갖는지 회의하였다. 또한 도산의 의도와는 달리 사회주의자들은 흥사단을 부르조아 계급의 결집체로 매도하고 있었다. 이에 도산은 그간 독립운동과 민족국가 건설을 위한 기초단체로서, 일정하게 정치운동을 배제하였던 입장을 떠나 1929년에 국내 및 미주에 있는 모든 흥사단원들에게 흥사단이 ‘수양단체'가 아닌 ‘혁명훈련단체'임을 천명하였다.

1929년 2월 9일 도산은 현지 한인들의 초청으로 필리핀을 방문하였다. 필리핀에 있는 동안 도산은 대한인국민회 지부를 결성하였고, 각지를 답사하였다. 상해로 돌아온 도산은 모범촌 후보지를 조성하고자 북경 부근 서산(西山) 일대·남경 부근 하촉(下蜀) 일대·만주 길림성 송화강 연안 일대를 물색, 답사하였지만 정치적 혼란에 빠진 중국 일대에 횡행하는 비적(匪賊)떼들 때문에 안정된 지역을 확보할 수 없었다. 사업 착수는 점차 지연되었고 양자강 연안 진강 부근의 토지를 차입했다고 하나 이것도 중도에 무산된 것으로 보인다.

1929년 11월의 광주학생운동 소식에 접한 도산은 이때를 독립운동단체 규합의 적기로 보고, 유일당 원칙에 찬동하는 각 단체만을 규합하여 1930년 1월 25일 <한국독립당>을 결성하였다. 그리고 3월말에 천진으로 가서 그곳에서 남·북만주와 미국·노령에 산재한 사상단체의 각파 대표회의를 개최하고자 4월 5일자로 장문의 선언서를 배포하고 아울러 통신원을 파견하였다. 천진에서 <대한대독립당주비회(大韓大獨立黨籌備會)>를 구성한 도산은 동회의 명의로 6월 15일에 기관지 《조선지혈(朝鮮之血)》을 창간하였다. 도산은 “민족주의의 목적은 제국주의를 타도하여 민족평등 실현을 기하는 데 있고”, “일본제국주의는 중한혁명의 공통의 적”으로 규정하여 한국과 중국의 동반 관계를 재삼 강조하였다.

일제의 정보에 의하면 도산은 4월 10일에 천진에서 다시 북경으로, 그리고 이후 다시 천진으로 이동하는 등 분주한 움직임을 보인다. 그러나 일제가 만주에서 영향력을 확대해 나가면서 만주의 한인들은 더욱 더 어려운 지경에 빠지게 되었다. 그간 공동의 적을 가진 동지적 관계로 보았던 한인들을 일제의 주구배로 인식하게 된 중국인들에게 더욱 배척받았던 것이다.

도산은 중국과의 관계를 한층 공고히 해야 할 필요를 절감하고 임시정부 명의로 12일에 「동삼성한교문제(東三省韓僑問題)」라는 중국어 팜플렛을 작성하여 만주 각 현의 관공서에 배부하고, 한인과 중국인들은 공존공영해야 함은 물론, 공동으로 일제를 물리쳐야 할 것을 호소하였다.

또한 도산은 중국의 혁명동지들과 공동의 항일전선을 구축하고자 노력하였다. 도산은 중국 당국과의 교섭을 위해 1931년 7월 10일 <한인각단체연합회>의 재결성을 주도하였다. 이들 여러 단체의 대표들은 중국 당국 인사들과 항일연합전선 구축을 위한 교섭을 진행하였다.

도산은 중국 국민당 정부와 한중합작의 항일투쟁기구를 조직하고자, 1931년 10월 27일 중국 동북대표들을 초대하였다. 이 자리에서 도산은 시국대책에 관한 연설을 하고 아울러 한중합작을 통해 일본을 타도시킬 것을 호소하는 「중국동포에 경고한다」는 문서를 배포하여 한중연합투쟁을 제안하였던 것이다. 그리고 그 결실로 11월부터 우선 민족진영만으로 중국측과 항일공동전선을 형성할 조직체인 <대일전선통일동맹>을 결성하였다.

1932년 4월 도산은 피체되었으나, 유일당운동과 중국과의 대일전선통일운동은 한국독립당의 이유필·송병조, 북경·천진 지역의 민족운동가 대표 김규식, 만주 조선혁명당의 최동오에 의해 계속 진행되어 1932년 10월에는 <한국대일전선통일동맹>, 11월에는 <중한민중대동맹>으로 결성되었다.