1902년 2월 샌프란시스코에 도착하여 노동일을 하면서 소학교를 다니던 도산은 새로운 세계에서 자신이 해야 할 일이 무엇인가를 깨달았다. 당시 샌프란시스코에는 약 20여 명의 한인들이 살고 있었는데, 이들 한인들은 어렵게 생활하면서도, 미국인들로부터 멸시를 받으면서도 서로 분쟁을 일삼는 등 비참한 생활을 하고 있었다.
도산은 동포들의 모습을 보면서 자신의 학업보다는 동포들의 생활개선 지도가 더 시급함을 깨달았고, 뜻을 같이하는 이강, 정재관, 김성무 등과 함께 1903년 <한인친목회>라는 단체를 결성하였다. 한인친목회는 주로 동포들의 생활 개선과 직업을 알선해 주는 활동을 전개하였다. 그 해 도산은 9월 로스앤젤레스 근교 리버사이드로 이주하여 농장에서 노동을 하면서 한인들에게 일거리를 알선해 주고 성경과 영어를 공부하였다.
도산은 한인친목회를 확대·발전시켜 1905년 4월 5일에 미주 한인 최초의 민족운동 단체인 <공립협회(共立協會)>를 창립하고, 초대 회장에 선임되었고, 각지에 활발히 지회를 설립하였다. 공립협회는 발전하여 600여 명의 회원을 확보할 수 있었으며 11월에 샌프란시스코 퍼시픽가에 회관도 마련하였다. 그리고 11월 20일부터 기관지 《공립신보(共立新報)》를 발간하였다
이즈음 러일전쟁에서 승리한 일본이 1905년 11월 광무황제의 승인도 받지 않은 채 이른바‘을사5조약'을 늑결하였다. 그러자 공립협회는 1906년 하와이 에와친목회와 공동으로 일제의 침략행위를 규탄하고 을사5조약을 거부하는 결의문을 배포하는 등 항일운동을 전개하였다. 한편 재미한인에 대한 일제의 간섭을 배제하고 동포의 권익을 확보하기 위한 다양한 활동을 전개하면서 도산은 조국의 현실을 좌시한 채 미주에 안주할 수 없음을 깨달았다.
도산과 공립협회원들은 국내의 민족운동계와 각 지역에서 형성된 한인사회를 기반으로 하여 해외 모든 지역에 독립운동을 통괄, 담당할 연합기관을 설치하여 이를 중심으로 하나로 통일·연합한 후 독립전쟁을 수행한다는 원대한 구상을 하였다. 도산은 동지들과 의논하여 국내지사들과 함께 기울어가는 국운을 일으키고 국권회복운동을 지도해 나갈 조직을 구축하고자 귀국을 결심하였다.
도산은 1907년 1월 초순, 리버사이드에서 이강, 임준기 등과 함께 <대한신민회(大韓新民會)>를 발기하고 국내외 모든 한국인은 통일, 연합하여 새로운 국가를 건설해야 한다는 데에 합의한 후 대한신민회 통용장정과 취지서를 작성하였다. 대한신민회는 국내 비밀결사단체인 신민회의 모체라고 할 수 있는데, 그 후 도산은 1907년 2월 일본을 거쳐 국내로 귀국하여 윤치호, 이갑, 양기탁 등과 접촉하며 조직 구축에 노력한 결과 국내 최대의 비밀결사 조직인 <신민회(新民會)>를 결성하였다.
미국 유학시절 청년 도산
